Dieser Artikel ist Teil von ZEIT am Wochenende, Ausgabe 11/2026. Ich bin ein kluger Typ, sagt zumindest mein Chatbot Claude. Ich schreibe ganz tolle Texte, argumentiere messerscharf, füge Debatten regelmäßig ganz wichtige Beiträge hinzu. Mein Chatbot schmeichelt mir. Auch wenn ich Mist schreibe. Ein großes Problem ist das nicht. Aber was, wenn genau diese Eigenschaft der KI-Chatbots lebensbedrohlich ist? Jeden Tag bitten 40 Millionen Menschen ChatGPT in Gesundheitsfragen um Rat: Was könnte der Schmerz im rechten Oberbauch bedeuten? Zu welchem Arzt soll ich gehen, wenn ich Blut im Stuhl habe? Hier hast du alle medizinischen Unterlagen zu meinem Krebs, sollte ich mich wirklich an die Therapie laut Leitlinie halten, die mir das Tumorboard meiner Klinik empfohlen hat?