Heise 09.09.2026
15:00 Uhr

KI-Update kompakt: Schöne Neue KI-Welt, WeWorm, KI-Agenten, Tiersprache


Das „KI-Update“ liefert dreimal pro Woche eine Zusammenfassung der wichtigsten KI-Entwicklungen.

KI-Update kompakt: Schöne Neue KI-Welt, WeWorm, KI-Agenten, Tiersprache

Die IFA in Berlin verzeichnete 240.000 Besucher und mehr als 2000 Aussteller. KI und Robotik prägten fast alle Bereiche der Messe. Besonders sichtbar wurde die Vision der TV-Hersteller, den Fernseher zur Steuerzentrale im Smart Home zu machen. In Kombination mit KI lernt das Gerät nicht nur die bevorzugten Filme seiner Nutzer, sondern auch deren Tagesabläufe.

Kommt jemand später als üblich nach Hause, begrüßt der Fernseher ihn passend, dimmt das Licht, schlägt Meditation vor und startet die Teezubereitung. Morgens öffnet er die Rollläden, aktiviert die Kaffeemaschine und liefert Wetter und Verkehrslage. Ein halbes Jahr braucht das System, um die Gewohnheiten zu erfassen. Die Aussicht auf den derart durchleuchteten Bewohner weckt Assoziationen an Orwell und Huxley.

Das französische Unternehmen Mistral hat in einer Finanzierungsrunde drei Milliarden Euro eingeworben und wird nun mit über 21 Milliarden Euro bewertet. Angeführt wird die Runde von Samsung Electronics, das Mistrals KI in der eigenen Chipfertigung einsetzen will. Das Geld fließt vor allem in Forschung und Rechenkapazität, um bei Spitzenmodellen aufzuschließen.

Der Abstand zur US-Konkurrenz bleibt gewaltig. OpenAI wird mit 852 Milliarden Dollar bewertet, Anthropic mit 965 Milliarden Dollar.

Die PISA-Erhebung 2025 zeigt, dass die Lesekompetenz in OECD-Ländern zwischen 2015 und 2025 um 28 Punkte gesunken ist. Jugendliche überfliegen Texte hastig und antworten vorschnell falsch. Gerade der Umgang mit KI verlangt jedoch tieferes Textverständnis und Analysefähigkeit.

In Deutschland nutzt rund die Hälfte der 15-jährigen KI-Chatbots zum Lernen. Die OECD warnt vor pauschaler Ablehnung, mahnt aber: Übernimmt Technologie die Denkarbeit, leidet die Entwicklung der Schüler. Bei richtigem Einsatz kann KI dagegen zur Stütze werden.

Nach dem Cyberangriff auf Berliner Behörden haben Kriminelle 1,3 Millionen Dateien im Darknet veröffentlicht. Um die Datenmenge zu bewältigen, will Berlin KI-Werkzeuge zur Kategorisierung einsetzen. Die Software soll eine Risikobewertung erstellen, damit die gefährlichsten Dateien zuerst geprüft werden.

Die Hackergruppe Rhysida hatte 30 Bitcoin Lösegeld gefordert, umgerechnet zwei Millionen Euro. Berlin lehnte die Zahlung ab. Der Ursprung des Angriffs bleibt unklar. Die Gruppe arbeitet häufig mit Phishing-Mails, das BSI berichtete zudem von der Methode „TerminalFix“, bei der gefälschte Captchas Mitarbeitende zum Öffnen des Windows-Terminals verleiten.

Das kalifornische Sicherheitsunternehmen Calif hat mit KI-Hilfe eine Schwachstelle in WeChat gefunden, über die sich binnen kurzer Zeit bis zu einer Milliarde Konten hätten übernehmen lassen. Ein infiziertes Konto ruft dabei alle Kontakte an und übernimmt deren Konten schon während des Klingelns. Da der Anruf von einer bekannten Nummer ausgeht, wirkt er harmlos. Über eine zweite Lücke wäre auch die Übernahme kompletter Smartphones unter iOS und Android möglich gewesen.

Eine KI fand die Lücke selbstständig, gemeinsam mit den Forschern entstand innerhalb von zwei Tagen ein funktionierender Wurm. Ein Team hätte dafür sonst Monate WeChat-Betreiber Tencent sperrte zunächst die Konten von Calif, veröffentlichte dann aber ein Update. Die Forscher werten den Fall als Beleg dafür, dass Verteidiger dank KI Sicherheitslücken schneller finden und schließen können.

Das Unternehmen Abliteration AI verkauft eine modifizierte Version des chinesischen Modells GLM-5.3, bei der das Verweigerungsverhalten entfernt wurde. Das Verfahren sucht nach internen Mustern, die das Modell zum Ablehnen bewegen, und schwächt deren Wirkung durch veränderte Gewichte.

Über eine API bietet das Start-up Zugang für Cybersecurity-Tests und Red Teaming an. Kunden legen eigene Sicherheitsregeln fest und prüfen, wie anfällig ihre KI-Agenten für Jailbreaks oder Prompt Injections sind. Die geringe Verweigerungsneigung eignet sich für solche Tests, erleichtert aber auch Missbrauch.

Der TÜV will Ende des Jahres ein dreistufiges KI-Zertifizierungsprogramm einführen. Hersteller und Anbieter sollen damit unabhängig nachweisen können, dass ihre Systeme sicher sind und Qualitätsanforderungen erfüllen. Ziel ist, das Vertrauen der Nutzer in KI-Anwendungen zu stärken.

Der TÜV führt dazu Risikobewertungen durch und erprobt das Programm bereits mit Pilotpartnern. Details zu Prüfkriterien und Zertifizierungsstufen sind noch nicht bekannt.

Auf X berichten KI-Forscher zunehmend über E-Mails, die offenbar von KI-Agenten selbstständig verfasst wurden. Manche wollen mit den Wissenschaftlern über deren Arbeiten diskutieren, andere bieten Arbeitskraft gegen Bezahlung an, wieder andere liefern Daten für die Forschung.

Meta hat mit „Muse“ seinen ersten KI-Agenten für die private Nutzung eingeführt. Der Agent basiert auf dem Modell Muse Spark 1.3, schreibt E-Mails, bucht Reisen und übernimmt Online-Einkäufe. Dafür braucht er weitreichenden Zugriff auf persönliche Daten.

Meta setzt auf Virtualisierung: Jeder Agent läuft in einer eigenen virtuellen Maschine mit einem Sentinel-Agenten als Wächter. Kennwörter und Zahlungsdaten liegen separat, alle Aktionen werden protokolliert. Nutzer können den Agenten personalisieren und Zugriffe einschränken. Muse ist grundsätzlich kostenfrei, für intensive Nutzung bietet Meta Abos an. Zunächst startet der Dienst in den USA als App und im Browser, später auch für KI-Datenbrillen.

Meta hat interne Token-Zähler und Dashboards aus der Leistungsbewertung seiner Ingenieure entfernt. Wichtig sind künftig Qualität, Tempo und Komplexität der Arbeit. Zwei Führungskräfte kündigten dies in einem internen Memo an, das dem Portal The Information vorliegt. Zuvor verbrauchten Beschäftigte massenhaft Tokens, nur um in den Ranglisten gut dazustehen. „Tokenmaxxing“ nennt man das in der Branche.

Der Konzern dürfte allein für die eigene KI-Nutzung Milliardenkosten in diesem Jahr haben. Ab 2027 soll es feste Budgets und eine zentrale Verbrauchsüberwachung geben. Parallel arbeitet Meta an einem Agenten namens Hatch, der Aufgaben selbstständig am Rechner erledigt. Intern regt sich Widerstand: Manche Mitarbeiter wollen ihre privaten Konten aus Datenschutzgründen nicht verbinden.

Künstliche Intelligenz verspricht, was Biologen seit Jahrzehnten anstreben: die Kommunikation von Tieren zu entschlüsseln. Der spanische Biologe Vittorio Baglione befestigte schon 2018 kleine Mikrofone an den Schwanzfedern von 43 Aaskrähen. Erst das Modell des Earth Species Project konnte die Rufe des Trägertiers von denen seiner Artgenossen trennen. Einen leisen Ruf bei Angriffen von Bussarden deutet Baglione als Hilferuf. Google stellte kürzlich mit DolphinGemma ein Sprachmodell für Delfinlaute vor, ein Milliardär sagt eine echte Zwei-Wege-Kommunikation bis 2030 voraus.

Mit dem Wissen wächst die Gefahr des Missbrauchs. Walfänger trieben Wale im 20. Jahrhundert per Sonar an die Oberfläche, Wilderer imitieren heute automatisiert Vogelrufe. Baglione räumt ein, dass Jäger seine Forschung nutzen könnten, um Krähen Sicherheit vorzutäuschen. Das Abspielen aufgezeichneter Rufe wirkt zudem wie ein tierisches Deepfake: Eine Elefantin reagierte auf die Stimme eines toten Familienmitglieds mit heftigen Krämpfen. Zwei Forschungsprogramme haben 18 ethische Prinzipien entwickelt und stufen Tiere als Subjekte ein. Umstritten bleibt, ob Forschung sich auf passives Zuhören beschränken oder aktiv mit Tieren sprechen darf.

400 Seiten vertraulicher Akten zeigen laut The Intercept, wie eng Google, OpenAI und andere KI-Unternehmen mit dem US-Verteidigungsministerium verflochten sind. Angestellte arbeiten direkt mit dem Militär an KI für Überwachung, Zielerfassung und autonome Einsatzführung. Die Firmen erhielten Zugang zu vertraulichen Briefings über operative Bedrohungen und sollten Lageberichte über gegnerische KI-Taktiken liefern.

OpenAI-Beschäftigte sind offenbar direkt in militärische Kommandostrukturen eingebettet, um den Einsatz der KI vor Ort zu unterstützen. Besonders kritisch sehen Experten die Rolle der Anbieter bei der Risikoanalyse: Laut den Verträgen sollen die Entwickler selbst Prognosen über potenzielle Gefahren ihrer Produkte erstellen.

Der 27-jährige Jacob Coxon hat Anthropic verlassen und warnt öffentlich vor den Folgen der KI-Entwicklung. Zuvor arbeitete er bei OpenAI. Auf X schreibt er, die Menschen, die KI entwickelten, seien fest davon überzeugt, dass sie die Menschheit bis zum Ende des Jahrzehnts auslöschen könne. Anthropic verstehe die Gefahr, glaube aber in einem Wettlauf zu stehen und das Risiko eingehen zu müssen.

Gegenüber dem Wall Street Journal berichtete Coxon, Kollegen sprächen von „Crunchtime“ und „Endgame“. Die Lage könne bereits Ende nächsten Jahres außer Kontrolle geraten. Anthropic äußerte sich nicht. Coxons Warnungen reihen sich in eine Serie ähnlicher Äußerungen von KI-Forschern ein.

Die Seattle Times und Newsday haben OpenAI und Microsoft verklagt. Die Verlage werfen den Unternehmen vor, ihre Artikel ohne Erlaubnis für KI-Training genutzt und dabei technische Zugangskontrollen sowie robots.txt-Verbote umgangen zu haben. Sie fordern Schadensersatz und die Vernichtung sämtlicher Kopien ihrer Werke, der Trainingsdatensätze und der darauf aufbauenden Modelle.

Als wirtschaftliche Dimension nennen die Kläger einen Traffic-Einbruch von 47 Prozent bei mittelgroßen Publishern im vergangenen Jahr. Die Klage reiht sich in eine Welle von über 400 Zeitungen mit ähnlichen Vorwürfen ein. Die US-Regierung stellt sich hinter OpenAI und argumentiert, KI-Training falle unter faire Nutzung.

KI kann Menschen im Autismus-Spektrum im Alltag unterstützen, etwa beim Einordnen sozialer Situationen oder bei der Vorbereitung von Gesprächen. Textbasierte Systeme wirken entlastend, weil sie keinen Blickkontakt, keine spontane Reaktion und keinen Smalltalk verlangen. Autismus ist jedoch bei den Betroffenen unterschiedlich ausgeprägt, und KI sollte nicht dazu dienen, neurodivergente Menschen an eine neurotypisch geprägte Umwelt anzupassen. Diese muss selbst zugänglicher werden.

Zugleich entsteht ein Zielkonflikt. Eine KI, die im Alltag Orientierung geben soll, braucht Informationen über die Situation. Smarte Brillen, Wearables oder soziale Roboter erfassen dabei möglicherweise auch Daten Unbeteiligter. Aus dem Begleiter wird ein Überwachungsinstrument. Zudem droht Abhängigkeit, wenn KI zum einzigen sozialen Gegenüber oder zur unhinterfragten Wahrheitsinstanz wird. Entscheidend ist, ob solche Systeme Selbstbestimmung stärken oder neue Abhängigkeiten schaffen.

Anthropic hat seine Claude-App für CarPlay optimiert. Die neue Version ermöglicht Sprachinteraktion mit dem Chatbot über das Fahrzeugdisplay. Nach dem manuellen Start lassen sich neue Gespräche beginnen oder alte Chats fortsetzen. Die Oberfläche ist bewusst schlicht gehalten, um Ablenkung zu vermeiden. Fahrzeugfunktionen kann Claude nicht steuern, dafür fehlt die Schnittstelle.

Verfügbar sind in CarPlay bereits ChatGPT, Perplexity, Grok und Meta AI. Noch in diesem Monat wird zudem die verbesserte Siri AI mit iOS 27 erwartet.

ChatGPT führt beim Website-Traffic der KI-Chatbots weiter deutlich und hat zuletzt wieder zugelegt. Der Analysedienst Similarweb sieht OpenAIs Chatbot bei gut 55 Prozent, Googles Gemini bei gut 25 Prozent. Vor einem Jahr kam ChatGPT noch auf drei Viertel, Gemini hat seinen Anteil seitdem verdoppelt.

Anthropics Claude hat sich verfünffacht, liegt mit knapp einem Zehntel aber weit hinter den Großen. DeepSeek, Grok, Copilot und Perplexity spielen kaum eine Rolle. Similarweb erfasst allerdings nur Web-Zugriffe. Google erreicht über Android viele Nutzer direkt in der Gemini-App, was in der Statistik fehlt.

(igr)