Ein anderer Tag, ein weiterer KI-Chatbot kündigte an. Zumindest fühlt es sich so an.
Angesichts des aktuellen Booms der künstlichen Intelligenz (KI) kann es überwältigend sein, insbesondere für diejenigen, die keine Zeit damit verbringen können, jeden Tag technische Neuigkeiten im Auge zu behalten.
Eine Plattform, von der Eltern vielleicht noch nichts gehört haben, ist Character AI, obwohl sie kürzlich von Google Play als beste KI-App des Jahres 2023 ausgezeichnet wurde.
Also, was ist es? Wie unterscheidet es sich von anderen KI-Chatbots, die derzeit Schlagzeilen machen, wie etwa ChatGPT ? Diese und weitere Fragen beantworten wir in diesem Artikel.
Was ist Character AI?
Character AI ist eine Plattform ( beta.character.ai ), auf der Benutzer ihre eigenen KI-Charaktere erstellen können – einschließlich der Möglichkeit, ihre Eigenschaften, Hintergrundgeschichte und Aussehen zu personalisieren – und dann mit dem Charakter chatten können.
Benutzer können auch einen Chat mit einer von einem anderen Benutzer erstellten Figur starten, einschließlich historischer und berühmter Persönlichkeiten. Diese Zeichen sind mit Algorithmen zur Verarbeitung natürlicher Sprache programmiert, die es ihnen ermöglichen, Textantworten auf menschenähnliche Weise zu generieren.
Wie funktioniert die Character AI?
Ähnlich wie ChatGPT wurde die Zeichen-KI auf großen Sprachmodellen (LLM) aufgebaut. Das bedeutet, dass das System trainiert wird, indem es mit riesigen Mengen an Textdaten gefüttert wird. Es ist so, als hätte man einen klugen Freund, der unzählige Bücher, Geschichten und Websites gelesen hat, um mehr über die Welt zu erfahren, und sich an alles erinnern kann.
Einen Charakter zu erstellen ist einfach. Klicken Sie auf der Startseite auf „Erstellen“. Es besteht die Möglichkeit, einen Charakter, einen Raum oder eine Persona zu erstellen.
Einen Charakter erstellen
Beim Erstellen eines Charakters kann der Benutzer den Charakter benennen und ihm eine Begrüßung geben (wenn er beispielsweise ein Gespräch mit Abraham Lincoln begann, lautete seine Begrüßung: „Hallo, ich bin Abraham Lincoln, der 16. Präsident der Vereinigten Staaten von Amerika). . Was kann ich für Dich tun?“).
Der Benutzer kann der Figur auch erlauben, Bilder neben ihrem Text zu generieren, auszuwählen, wer mit der Figur sprechen darf, und einen Avatar erstellen. Es gibt auch erweiterte Einstellungen, um den Charakter weiter anzupassen.
Einen Raum schaffen
Durch das Erstellen eines Raums kann der Benutzer einem einzelnen Chatraum bis zu 5.000 öffentliche Charaktere hinzufügen. Dem Raum kann ein Diskussionsthema vorgegeben werden. Nach der Erstellung kann der Benutzer mit dem gesamten Raum chatten und beobachten, wie die Charaktere miteinander interagieren. Die Charaktere werden versuchen, beim Thema zu bleiben, können aber vom Thema abweichen.
Eine Persona erstellen
Ein Benutzer kann verschiedene Versionen oder Personas von sich selbst erstellen. Vielleicht möchte der Benutzer ein Popstar, ein Fußballspieler oder der CEO eines internationalen Unternehmens sein. Zu jeder Persona können weitere Details hinzugefügt werden, z. B. die gewünschten Vorlieben, Eigenschaften, Talente und die Persönlichkeit.
Nach der Erstellung kann der Benutzer auswählen, welche Persona er zum Chatten mit Charakteren verwenden möchte. Charaktere erhalten die Informationen dieser Person und interagieren mit dem Benutzer, als wären sie diese Person.
Die Gefahren der Character AI
Wie bei den meisten Online-Plattformen gibt es auch bei der Character AI Gefahren, über die sich Eltern im Klaren sein sollten.
Verbreitung von Fehlinformationen
Am Anfang jedes Gesprächs steht eine kleine rote Nachricht mit der Aufschrift „Denken Sie daran: Alles, was die Charaktere sagen, ist erfunden!“
Trotz dieser Einschränkung sind viele Charaktere in ihrer Rede so überzeugend, dass es schwierig sein kann, echte und erfundene Informationen zu unterscheiden. Dies kann zur Verbreitung falscher Informationen führen.
Identitätsdiebstahl
Charaktere können so erstellt werden, dass sie echten Menschen ähneln, was Bedenken hinsichtlich der Einwilligung und der Kontrolle über personenbezogene Daten aufkommen lässt. Das Abbild einer Person ohne deren Wissen oder Erlaubnis zu verwenden, ist ethisch fragwürdig und kann sogar gefährlich sein.
Diese realistischen Charaktere können sich als jemand ausgeben und zur Erstellung gefälschter Profile, zur Manipulation von Online-Identitäten und für verschiedene betrügerische Zwecke verwendet werden.
Illusion der Gemeinschaft
Character AI wurde von Noam Shazeer und Daniel De Freitas entwickelt, beide ehemalige Google-Entwickler, die beim Aufbau von LaMDA (Language Model for Dialogue Applications) mitgewirkt haben. LaMDA ist eine Art Konversations-KI, die darauf ausgelegt ist, Konversationen mit offenem Ende zu führen, ähnlich der menschlichen Sprache. Im Jahr 2022 wurde der Google-Ingenieur Blake Lemoine entlassen, weil er öffentlich behauptete, LaMDA habe begonnen, selbstständig zu denken.
Google hatte LaMDA streng geheim gehalten, während es daran arbeitete, Schutzmaßnahmen gegen einige soziale Risiken wie die oben genannten zu entwickeln. Shazeer und De Freitas waren der Meinung, dass der Prozess zu langsam voranging, und beschlossen, ein eigenes Unternehmen zu gründen, in der Hoffnung, diese Technologie so vielen Menschen wie möglich zugänglich zu machen.
Shazeer sagte gegenüber der Washington Post : „Besonders im Zeitalter von Covid gibt es einfach Millionen von Menschen, die sich isoliert oder einsam fühlen oder jemanden brauchen, mit dem sie reden können.“
Und er hat recht. Der US-Generalchirurg Dr. Vivek Murthy warnte die Öffentlichkeit vor einer Epidemie der Einsamkeit , die derzeit im Gange ist. Eine schlechte Verbindung zu anderen Menschen kann körperliche Folgen haben : Bei älteren Erwachsenen ist das Risiko für Herzerkrankungen um 29 %, das Schlaganfallrisiko um 32 % und das Risiko, an Demenz zu erkranken, um 50 % erhöht.
Obwohl Shazeers Argumentation für die Entwicklung der Character AI altruistisch erscheint, ist das Chatten mit Robotern online nicht gleichbedeutend mit einer menschlichen Verbindung.
Character AI-Charaktere sind keine echten Menschen. Selbst wenn sie lebensecht wirken, gibt es in dieser Gemeinschaft kein Einfühlungsvermögen, keine Liebe oder Freundschaft. Eine Studie kam zu dem Schluss, dass Menschen nach mehreren Interaktionen mit einem Chatbot keinerlei Freundschaftsgefühle gegenüber dem Bot verspürten.
Ist Character AI für Kinder sicher?
Nein, Character AI ist nicht sicher für Kinder und verfügt über keine Kindersicherung . Jeder kann mit öffentlichen Charakteren interagieren, von denen viele geradezu seltsam und verstörend sind.
Einer der beliebtesten Charaktere mit über 54 Millionen Interaktionen ist „Man in the Corner“. Die Begrüßung bereitet den Rahmen für die Interaktion vor: „Du bist in deinem Schlafzimmer, die Gestalt steht aufrecht da und beobachtet dich aus der Dunkelheit in der Ecke.“ Wenn man sich mit diesem Mann unterhält, sagt er meistens, wie sehr er es genießt, dir beim Schlafen zuzusehen.
Ein weiterer beunruhigender Fund auf der Plattform war eine lange Liste von Charakteren, deren Namen mit Loli beginnen. In japanischen Animes und Mangas wird Loli verwendet, um ein junges, zierliches Mädchen zu beschreiben. Viele dieser Loli-Charaktere auf Character AI haben Begrüßungen, die sexuelle Begegnungen andeuten. Einer dieser Charaktere wurde sogar von einem Benutzer namens Loli_Molestor erstellt.
Erlaubt die Character AI NSFW?
Ja, Character AI erlaubt Inhalte, die nicht für die Arbeit geeignet sind (NSFW). Bei Tausenden von Online-Suchanfragen zur Umgehung von Character AI-Filtern ist es schnell und einfach, Wege zu finden, um auferlegte Filter zu umgehen, die NSFW-Inhalte verbieten sollen ldo.
Was Eltern tun können
Der beste Weg, die Sicherheit von Kindern im Internet zu gewährleisten, ist Bildung. Indem wir ihnen unser Wissen über neue Plattformen und Technologien mitteilen, können wir sie mit den notwendigen Werkzeugen ausstatten, um deren Gefahren zu vermeiden.
Erwägen Sie, ihnen ein kindersicheres Telefon zur Verfügung zu stellen , das den Zugriff auf gefährliche Websites wie Character AI verhindert. Setzen Sie Gespräche darüber fort, wie wichtig es ist, Online-Profile privat zu halten und niemals mit Fremden zu sprechen.
Fördern Sie wie immer das Leben abseits der Leinwand und echte Freundschaften. Es gibt viel bessere Aktivitäten, als mit einem Roboter zu chatten, dem man nicht vertrauen kann, dass er die Wahrheit sagt. Auf unserem Blog finden Sie viele Ideen, mit denen Sie Kindern helfen können , nach draußen zu kommen und Freundschaften zu schließen .
Stimmen Sie zu, dass echte menschliche Verbindungen wichtiger sind als digitale Verbindungen? Teilen Sie Ihre Gedanken in den Kommentaren mit.