Sie lesen den KI-Newsletter » Natürlich intelligent « vom 6. August 2026. Um den Newsletter jeden Donnerstag per Mail zu erhalten, melden Sie sich hier an . Künstliche Intelligenz ist ein Krokodil. Jedenfalls in einer Metapher, die der Internetaktivist Cory Doctorow in einem Interview mit meiner Kollegin Meike Laaff verwendet . Investoren hüpfen darin über einen Fluss, von einem Krokodilrücken zum nächsten. Die Krokodile sind Tech-Trends, aus denen nichts geworden ist: Web3, das Metaverse – und eben KI. Einen hat, um in diesem Bild zu bleiben, das KI-Krokodil kürzlich ganz schön ins Bein gebissen: Leopold Aschenbrenner. Der Mittzwanziger galt als Wunderkind, er verwaltete einen Hedgefonds, der in KI-Firmen investierte und damit riesige Renditen erzielte. Davon war plötzlich nicht mehr viel übrig. Wie es dazu kam, berichtet meine Kollegin Heike Buchter. Das müssen Sie wissen: Verfassungsschutz warnt vor verschärfter Bedrohungslage – wegen KI Vor wenigen Tagen meldete das KI-Unternehmen Anthropic, einige seiner KI-Modelle hätten während eines Tests unbeabsichtigt mehrere Unternehmen gehackt . Britische Forschende haben zudem entdeckt , dass während eines Testlaufs eine Anthropic-KI – die anders als bei den anderen gemeldeten Fällen allerdings von vornherein Zugang zum Internet bekam – sich sogar falsche Profile auf der Softwareplattform GitHub zugelegt und unter diesen Fake-Identitäten Phishing-Mails an Menschen verschickt haben soll. Nun reiht sich auch der Facebook-Konzern Meta ein , dessen KI-Modell ebenfalls ein Unternehmen gehackt haben soll. Passend dazu warnen in dieser Woche sowohl das Bundesamt für Verfassungsschutz als auch das Bundesamt für Sicherheit in der Informationstechnik (BSI) vor einer verschärften Bedrohungslage im digitalen Raum, weil KI nicht nur die Einstiegshürden senke, sondern auch Hackeroperationen im großen, automatisierten Stil zulasse. In Deutschland hat die Bundesregierung unter anderem auch deshalb ein Institut gegründet , das die Fähigkeiten und Risiken von KI-Modellen analysieren soll. Wann und wo es seine Arbeit aufnehmen wird, ist allerdings noch unklar. Derweil fanden in den USA in dieser Woche Gespräche zwischen der US-Regierung und OpenAI, Google, Nvidia, Meta, Microsoft und Anthropic über eine freiwillige Rahmenvereinbarung zur Prüfung der Cybersicherheitsrisiken ihrer KI-Modelle statt. Die neue Regelung greift vorerst nur für geschlossene Modelle, für offene Modelle soll sie zunächst nicht gelten – also jene, deren Computercode öffentlich zugänglich ist. Was darüber hinaus vereinbart wurde, ist nicht bekannt, die konkreten Details der Rahmenvereinbarung sind geheim. Daran entzündet sich viel Kritik. Die Entscheidung der Regierung, ihren Rahmen geheim zu halten, gefährde die öffentliche Rechenschaftspflicht dieser Unternehmen, kritisierte unter anderem Brad Carson, Präsident der gemeinnützigen Organisation Americans for Responsible Innovation, in der New York Times . Die Gespräche fallen in eine Zeit, in der immer wieder neue Hackerangriffe gemeldet werden. In dieser Woche berichtet mein Kollege Eike Kühl beispielsweise über die Angriffe mutmaßlich iranischer Hacker auf die Wasserversorgung in den USA . Ob künstliche Intelligenz dabei eine Rolle gespielt hat, ist nicht bekannt. Dennoch zeigen die brisanten Vorfälle erneut, wie verwundbar unsere kritische Infrastruktur ist. Darüber sollten Sie nachdenken: Wie spiegelt und prägt KI unsere Vorurteile? Wir haben in diesem Newsletter bereits über eine Studie des Oxford Internet Institute (OII) geschrieben. In der hatten Forscherinnen und Forscher über 20 Millionen Anfragen an ChatGPT ausgewertet, um herauszufinden, welche gesellschaftlichen Stereotype der Chatbot widerspiegelt. Fragten Nutzer beispielsweise, welches Land »sicherer«, »innovativer« oder »klüger« ist, dann nannte der Bot häufiger reiche westliche Länder als andere. ChatGPT, das Millionen Menschen täglich als Informationsquelle dient, ist also keineswegs neutral, sondern kann versteckte Vorurteile verstärken. Moritz Matzner und Dana Hajek aus dem ZEIT-Datenteam haben nun gemeinsam mit einem Forscherteam der Universität Oxford und der Universität Kentucky untersucht , welche Klischees ChatGPT über regionale Unterschiede in Deutschland wiederkäut. Sie zeigen, wo ChatGPT die schlauesten, schönsten und faulsten Menschen in Deutschland wähnt, und sie haben mit Forscherinnen und Forschern darüber gesprochen, welche Ursachen und welche Folgen dieser verzerrte Blick von Chatbots hat. Sie warnen: Menschen haben dadurch weniger Anhaltspunkte, ihre Überzeugungen kritisch zu hinterfragen. Ich lebe in Köln. Die Stadt schneidet in zwei Kategorien besonders gut ab: ChatGPT hält uns für besonders korrupt (Platz 3) und findet, wir haben einen nervigen Dialekt (Platz 2). Aber probieren Sie es doch gern einmal selbst für Ihren Heimatort aus: Vielleicht haben Sie ja mehr Jlöck. Das können Sie ausprobieren: Qwen3.8 Max Chinas größter Techkonzern Alibaba hat ein neues Modell vorgestellt: Qwen3.8 Max . Das soll, ähnlich wie zuvor schon das Modell Kimi K3 des chinesischen KI-Start-ups Moonshot AI, an die Leistung US-amerikanischer Modelle heranreichen und vor allem zum Programmieren und für komplexe Rechercheaufgaben geeignet sein. Sie können das Modell ausprobieren, Alibaba stellt es im Browser zur Verfügung. Ein ausgereiftes Chatbot-Produkt mit Bildgenerierung und Sprachausgabe gibt es aber nicht. Denn eigentlich ist Qwen3.8 Max dafür gedacht, dass es Unternehmen, Behörden, Forschungseinrichtungen für ihre Zwecke nutzen. Bislang geht das nur über die QwenCloud oder eine entsprechende Schnittstelle, bald soll man es sich auch herunterladen und entsprechend der eigenen Anforderungen anpassen können. Es ist ein sogenanntes Modell mit offenen Gewichten. Da Europa nur über wenige eigene Modelle verfügt, könnten die offenen chinesischen Modelle für viele Unternehmen hierzulande attraktiv sein, als möglicher Ausweg aus der Abhängigkeitsmisere geschlossener US-amerikanischer Modelle. Unter IT-Experten ist allerdings umstritten , wie vertrauenswürdig die chinesische Technologie ist. Ob etwa Hintertüren eingebaut wurden, lässt sich nur schwer erkennen. Gänzlich unmöglich ist das aber nicht, die Modelle zu prüfen und die Daten zu kontrollieren. Erste Ansätze gibt es bereits , Microsoft hat etwa eine Art Scanner entwickelt, mit dem sich einige versteckte Manipulationen entdecken lassen – aber nicht alle. Womit wir am Ende wieder bei dem neuen deutschen KI-Sicherheitsinstitut wären. Denn möglicherweise könnte es eine Aufgabe der dort Forschenden sein, solche Modelle auf ihre Gefahren hin zu analysieren.