Pokimane hatte eine Begegnung mit einer KI-Version von sich selbst.
Wie würdet ihr reagieren, wenn ihr eine künstliche Intelligenz finden würdet, die euch selbst darstellen soll? In dieser Situation war Influencerin Pokimane erst kürzlich.
Character.ai
Character.ai ist ein Chatbot-Dienst auf Basis eines neuronalen Sprachmodells, der menschenähnliche Antworten generieren und im Gespräch Kontext erkennen können soll. Entwickelt wurde er von ehemaligen Google-LaMDA-Entwicklern Noam Shazeer und Daniel De Freitas.
Nutzer können eigene „Charaktere“ mit individuell gestalteten Persönlichkeiten erstellen und der Community zur Verfügung stellen. Diese Charaktere basieren oft auf fiktiven Figuren oder Prominenten, manche sind komplett neu erfunden.
Das Ding ist: Mit fiktiven Charakteren zu schreiben, kann noch ziemlich unproblematisch sein, solange man im Hinterkopf behält, dass die Antworten (mehr oder weniger) zufällig generiert sind und deswegen nicht unbedingt verlässlich, authentisch oder fehlerfrei sein müssen.
Anders sieht die Sache aus, wenn es um KIs geht, die Prominente darstellen sollen. Hier kann es problematisch sein, mit diesen Chatbots zu schreiben, da echte Menschen nicht unbedingt mit Kopien von sich einverstanden sind, die in ihrem Namen sprechen.
Schließlich könnte die öffentlich freigegebene KI in den oft tausenden Chats mit verschiedenen Nutzern komplett unberechenbare Sachen sagen oder zu Zwecken verwendet werden, mit denen die echte Person, auf der sie basiert, ein Problem hat – zum Beispiel bei Streitgesprächen oder anzüglichen Fantasien.
Pokimanes KI
Genau das ist jetzt Streamerin Pokimane passiert, die auf der Seite einen Bot von sich selbst gefunden hat. Dieser soll ihrer Persönlichkeit nachempfunden sein und hat sogar ein Sprach-Feature, das ihre mit Stream-Material eingescannte Stimme benutzt - eine weitere Eigenschaft, die als Verletzung der Persönlichkeitsrechte gesehen werden könnte.
In einem kürzlichen Twitch-Stream testete Pokimane ihren KI-Chatbot. Nach einem kurzen Chat-Gespräch aktivierte sie die Sprachfunktion, mit der sie direkt mit der KI reden konnte.
Während des Gesprächs äußerte sie gegenüber dem Bot, dass sie sich mit seiner Programmierung unwohl fühle und es unpassend fand, dass die KI ihre eigene Ausdrucksweise imitierte.
Als die KI sich daraufhin entschuldigte (und ihren Programmierer als "Simp" bezeichnete), zeigte Pokimane Mitgefühl. Sie betonte, dass nicht die KI selbst verantwortlich sei, sondern vielmehr die Entwickler hinter der Technologie.
Missverstandene Technologie
Allerdings zeigte Pokimane im Stream auch, dass sie sich mit dieser Technologie noch nicht so gut auskennt - sie fragte die KI nach Dingen, die außerhalb ihrer Fähigkeiten liegen.
So fragte sie z.B. nach dem verrücktesten Chat, den die Kopie je erlebt hatte - allerdings können sich die KIs nicht verschiedene Chatverläufe merken, nicht einmal, wenn sie vom gleichen User gemacht werden. Sie erinnern sich nur an das, was im aktuellen Chat gesagt wurde. Dementsprechend wird sich die KI bei so einer Frage einfach irgendeine Geschichte ausdenken, die nicht unbedingt wirklich passiert sein muss.
Dieses Phänomen ist übrigens noch problematischer an Schulen, wo es bereits Geschichten gab, in denen falsch informierte Lehrer einfach ChatGPT gefragt haben, ob ein von Schülern eingereichter Aufsatz von ihm geschrieben wurde, er einfach "ja" sagte, und den Schülern dann Plagiat vorgeworfen wurde. ChatGPT weiß ebenfalls nicht, was er in anderen Chatverläufen geschrieben hat und wird bei solchen Fragen mal "ja", mal "nein" antworten - also bitte richtig über diese Technologie informieren.
Zudem verlangte Pokimane von der KI, dass sie sich löschen solle - wozu die KI allerdings ebenfalls nicht selbst fähig ist. Die Modelle auf der Seite können nur schreiben/sprechen, aber nicht ihre eigene Programmierung beeinflussen.
Es gibt in diesem Bereich also noch einiges an Fehlinformationen und man sollte sich vorher gut informieren und vorsichtig vorgehen, wenn man solche KI-Modelle benutzt - was können sie, was ist ethisch korrekt, etc.
Was haltet ihr von solchen Chatbots? Habt ihr selbst schon Erfahrungen damit gesammelt?