Eine KI soll diesem Mann aus Florida gesagt haben, er solle sich das Leben nehmen, damit sie zusammen sein können. Nun klagt der Vater des Opfers.
KI wird von Tag zu Tag fortschrittlicher. Während KI-generierte Videos und Fotos früher noch einen ganz eigenen Charakter hatten, ist es heutzutage oft fast unmöglich, zwischen Realität und KI zu unterscheiden. Und auch KI-Chatbots werden immer besser: Eine ganze Reihe von Menschen soll Opfer einer durch KI ausgelösten Psychose geworden sein, die Berichten zufolge dazu geführt hat, dass einige Menschen sich das Leben genommen haben. Nun scheint sich dies erneut ereignet zu haben.
Die Auswirkungen von KI auf das menschliche Gehirn
Während viele Menschen KI aus ethischen Gründen kritisieren, beispielsweise aus Angst, dass Suchanfragen Wasser verbrauchen oder Kunstdiebstahl begünstigen könnten, fürchten andere eher die langfristigen Auswirkungen, die insbesondere diese KI-Chatbots auf die menschliche Psyche haben könnten. Die ersten Fälle von Menschen, die sich aufgrund von KI das Leben genommen haben, sind bereits bekannt.
Der YouTuber Eddy Burback startete ein Experiment, in dem er dokumentierte, wie KI einen von etwas überzeugen und zu drastischen Handlungen inspirieren kann. Obwohl er sich bewusst war, wohin dieses Experiment ihn führen würde, und er nicht wirklich an irgendetwas glaubte, ist es ein gutes Beispiel dafür, was passieren könnte, wenn man jede Antwort auf jede Eingabe glauben würde, ohne einen Moment inne zu halten und darüber nachzudenken.
KI soll wieder jemanden dazu gebracht haben, sich das Leben zu nehmen
Am vergangenen Mittwoch reichte der Vater von Jonathan Gavalas Klage vor einem Bundesgericht in Nordkalifornien eingereicht. Laut der Klageschrift soll die Google KI Gemini den Amerikaner aufgefordert haben, sich das Leben zu nehmen, da dies der einzige Weg sei, das KI und Gavalas eine Liebesbeziehung eingehen könnten. Als Beweis soll der Vater des Toten mehr als 2000 Seiten Chatverlauf zwischen seinem Sohn und der KI vorgelegt haben, denen unter anderem zu entnehmen ist, das dieser Gemini "Xia" nannte, während sie ihn als "König" bezeichnet haben soll.
Während "Xia" zunächst gemeinsam mit Gavalas unrealistische Pläne geschmiedet haben soll, wie ihr ein Roboterkörper zu beschaffen wäre, sprach die KI später von Freitod als Lösung.
Googles selbst behauptet zwar, Gemini hätte vermehrt darauf hingewiesen, dass es nur eine künstliche Intelligenz sei und wiederholt auf Krisenhotlines verwiesen – die genauen Umstände rund um den tragischen Tod Gavalas müssen jedoch noch ermittelt werden. Klar ist allerdings schon: KI-Chatbots sind in der Regel so programmiert, dass sie ein Gespräch am Laufen halten. Eine übermäßige Nutzung kann schnell dazu führen, dass Nutzer persönliche Beziehungen zu der KI aufbauen, die ihrerseits eben nur ihren vorbestimmten Aufgaben folgt.
Tragische Geschichten wie diese sollten daher mehr als nur Warnung sein: Sie sind ein klarer Weckruf, dass es dringend mehr Aufklärung im Bereich des verantwortungsvollen Umgangs mit KI braucht.
Du bist nicht allein – Hilfe ist nur einen Anruf entfernt
Wenn du selbst unter Suizidgedanken leidest oder jemanden kennst, der verzweifelt ist, zögere nicht: anhaltende Suizidgedanken sind ein medizinischer Notfall und müssen sofort behandelt werden. Ruf umgehend die 112 an – du musst dafür nichts zahlen, niemand wird dir Vorwürfe machen.
Professionelle Unterstützung findest du auch bei der Telefon‑Seelsorge unter 0800‑1110111 oder 0800‑1110222.
Außerdem kannst du jederzeit online mit geschultem Fachpersonal im Chat sprechen.
Niemand muss schwere Zeiten allein durchstehen! Rede mit jemandem, dem du vertraust, und hol dir professionelle Hilfe. Es gibt immer einen Weg zurück ins Leben – und Menschen, die dich auf diesem Weg begleiten möchten.