Angela Gruber, SPIEGEL:
Beim Thema Künstliche Intelligenz warnen die einen gerade vor dem Ende der Menschheit.

Javoib Coxon, ehemaliger Anthropic-Mitarbeiter:
»Die Leute, die KI entwickeln, glauben ernsthaft, dass sie uns bis zum Ende des Jahrzehnts alle töten könnten.«

Die anderen sagen: Nein zu mehr Regeln.

Donald Trump, US-Präsident:
»Es gibt eine kranke Verschwörung gegen KI und Rechenzentren.«

Angela Gruber, SPIEGEL:
»Warum eskaliert die Krise gerade jetzt? Und was ist dran an den ganzen Untergangsszenarien? Die KI-Modelle werden immer leistungsfähiger. Sie programmieren, sie planen, sie führen Aufgaben immer selbstständiger aus. Manche Systeme werden wahrscheinlich bald ihre eigenen Nachfolger entwickeln können. Das führt dazu, dass sie auch immer schwerer kontrollierbar sind. Das zeigen auch Sicherheitsvorfälle aus dem Sommer. Bei OpenAI hat ein Schwarm von KI-Agenten das Start-up Hugging Face angegriffen, ohne dass die Firma von Sam Altman das zunächst überhaupt bemerkt hat. Ähnliche Vorfälle gab es auch beim Konkurrenten Anthropic. Diese KI-Agenten sind kleine, selbstständige Softwareprogramme. Dass sie sich so schnell auf Abwege begeben können, zeigt, wie leicht die Kontrolle entgleitet. Mehr Vorsicht und Langsamkeit bei der Entwicklung wären gut, aber genau daran hapert es. Die Unternehmen liefern sich ein Wettrennen untereinander, auch mit China.«

Donald Trump, US-Präsident:
»Wer bei KI gewinnt, gewinnt alles.«

Angela Gruber, SPIEGEL:
»Jetzt fordern ausgerechnet die KI-Chefs eine Notbremsung.«

Sam Altman, OpenAI-Chef:
»Wir müssen so handeln, dass wir gar keine solchen Risiken eingehen.«

Angela Gruber, SPIEGEL:
»Aber wie realistisch ist es überhaupt, dass KI die Menschheit auslöscht? Da gibt es zunächst einmal verschiedene Szenarien. Zum einen ist KI natürlich ein neutrales Werkzeug. Das bedeutet aber auch, dass Menschen es missbrauchen können, zum Beispiel für Biowaffen oder für Cyberangriffe. Das schlimmste Szenario sieht so aus, dass eine gemeine Superintelligenz die Menschheit gezielt auslöscht. Wenn die KI-Branche jetzt von Weltuntergang spricht, dann kursieren schnell auch Prozentzahlen und Wahrscheinlichkeiten. Das klingt quasi wissenschaftlich, ist aber meistens nur ein Bauchgefühl. Andere halten es auch für komplette Panikmache. Es geht jetzt aber nicht darum, um Prozentpunkte zu feilschen. Wir sind gerade an einem entscheidenden Punkt: Wir sehen einen realen Kontrollverlust, und es reicht nicht, dass die Firmen nur vor ihren Entwicklungen warnen. Die KI-Firmen müssen jetzt Lösungen entwickeln, wie sie Produkte auf den Markt bringen, die sicher sind und die uns Menschen dienen. Das geht aber nicht allein. Staaten wie die USA müssen jetzt Gesetze machen, und es braucht auch mehr internationale Zusammenarbeit, zum Beispiel mit China. Eine Chance gibt es zum Beispiel Ende September: Da trifft Trump auf Chinas Staatschef. Das Thema KI steht zumindest auf der Agenda.«