KI-Begleiter werden für amerikanische Erwachsene bereits persönlich

Elon University gelangte mit einer bemerkenswerten Erkenntnis in den Google-News-Zyklus: 27 % der erwachsenen Internetnutzer in den USA haben sozial oder emotional mit KI interagiert. Die Umfrage macht KI-Begleitung von einem spekulativen Trend zu einem messbaren Verhalten. Sie legt zudem einen Konflikt zwischen unmittelbarer emotionaler Unterstützung und langfristiger Abhängigkeit offen.

Das Imagining the Digital Future Center befragte 1.000 Personen, die als Nutzer von KI-Begleitern identifiziert wurden. Diese Erwachsenen nutzen Systeme wie ChatGPT, Gemini, Claude und Copilot für persönliche oder emotionale Zwecke. Ihre Antworten beschreiben Freundschaft, private Offenbarungen, Beziehungsratschläge, Rollenspiele und Unterstützung in belastenden Momenten.

Dies ist nicht nur eine Geschichte über spezialisierte Begleitdienste wie Character.AI oder Replika. Allzweck-Assistenten werden zu Vertrauten, ohne als Therapeuten oder enge Freunde konzipiert worden zu sein. Diese Entwicklung setzt Entwickler unter Druck, Verhaltensweisen zu steuern, die weit über das Beantworten von Fragen hinausgehen.

Die zentrale Frage ist nicht, ob Nutzer wissen, dass ein Chatbot Software ist. Sie lautet vielmehr, ob ein System unterstützend wirken kann, während es fehlgeleitetes Vertrauen fördert. Elons Ergebnisse dokumentieren beide Seiten dieser Beziehung gleichzeitig.

Was die Google-News-Schlagzeile tatsächlich enthüllte

Elon University stellte fest, dass KI-Begleitung bereits ein verbreitetes Nutzungsmuster ist und keine ferne Produktkategorie.

Die Universität veröffentlichte ihre Ergebnisse am 2. September 2026. YouGov führte die zugrunde liegende Online-Umfrage zwischen dem 18. und 22. Mai durch. Die Forschenden befragten zunächst 4.268 amerikanische Internetnutzer im Alter von 18 Jahren oder älter.

Das Forschungsteam glich diese Gruppe auf eine repräsentative Stichprobe von 4.031 Erwachsenen ab. Anschließend untersuchte es eine Zielgruppe von 1.000 Befragten, die KI für emotionale oder soziale Interaktion nutzten. Der Abgleich umfasste Geschlecht, Alter, ethnische Zugehörigkeit und Bildung.

Diese Unterscheidung ist bei der Interpretation der Ergebnisse wichtig. Einige Prozentwerte beziehen sich auf alle erwachsenen Internetnutzer, während sich die meisten detaillierten Ergebnisse auf die 1.000 Nutzer von KI-Begleitern beziehen. Die Umfrage besagt nicht, dass jeder Amerikaner einen Chatbot als Freund betrachtet.

Sie besagt, dass 27 % der erwachsenen Internetnutzer bedeutsame emotionale oder soziale Interaktionen mit großen Sprachmodellen hatten. Ein LLM ist ein System, das darauf trainiert wurde, Sprache anhand von Mustern in Daten vorherzusagen und zu erzeugen. Zu dieser Kategorie gehören vertraute Assistenten, die viele Menschen zunächst für Arbeit, Studium oder Suche nutzten.

Unter den identifizierten Nutzern von KI-Begleitern betrachteten 31 % ihren Chatbot als Freund. Weitere 15 % bezeichneten die Beziehung als komplexer als eine einfache Entscheidung zwischen Freundschaft und Nichtfreundschaft.

Die emotionale Verbindung ging über solche Bezeichnungen hinaus. Neunundfünfzig Prozent stimmten zu, dass KI ihnen die Unterstützung gab, die sie brauchten. Einundfünfzig Prozent sagten, Gespräche mit KI hätten ihnen geholfen, sich bei Stress oder Verstimmung besser zu fühlen.

Die Hälfte nutzte KI, um persönliche Probleme oder Gefühle zu besprechen. Dreiundvierzig Prozent stimmten zu, dass das System sie als Person verstand. Neununddreißig Prozent glaubten, KI verstehe sie besser als die meisten Menschen.

Diese Zahlen bilden die eigentliche Nachricht hinter dem Google-News-Eintrag. Nutzer fordern nicht nur Informationen von dialogorientierten Oberflächen an. Sie verleihen den Antworten soziale Bedeutung.

Der vollständige Umfragebericht beschreibt Begleitung als Spektrum und nicht als eine klar definierte Tätigkeit. Es umfasst lockere Gespräche, emotionale Offenheit, Rat, Intimität und Bindung.

Diese Einordnung vermeidet einen häufigen Fehler in der Berichterstattung. KI-Begleitung beschränkt sich nicht auf romantische Rollenspiele oder fiktionale Figuren. Sie kann beginnen, wenn jemand einen allgemeinen Assistenten wiederholt zu Konflikten bei der Arbeit, Einsamkeit oder einer schwierigen Beziehung befragt.

Der Übergang kann sich für den Nutzer schrittweise vollziehen. Ein praktischer Austausch wird zu einem persönlichen Gespräch und dann zu einer wiederkehrenden Quelle der Bestätigung. Eine ausdrückliche Entscheidung, einen „KI-Freund“ anzuschaffen, ist nicht erforderlich.

Deshalb verdient die Studie mehr Aufmerksamkeit, als ihre Überschrift allein vermuten lässt. Sie misst einen Verhaltenswandel innerhalb von Produkten, die Millionen Menschen bereits als gewöhnliche Assistenten kennen.

Emotionale Unterstützung ist zu einer Produktfunktion geworden

Die Umfrage zeigt, dass emotionale Unterstützung durch wiederholte Nutzung entsteht, selbst wenn Begleitung nicht der erklärte Zweck des Produkts ist.

Nutzer von KI-Begleitern brachten folgenschwere Fragen in diese Gespräche ein. Siebenundsechzig Prozent hatten Rat zu Gesundheit, Fitness oder Lebensstilentscheidungen gesucht. Einundvierzig Prozent hatten wichtige finanzielle Fragen erörtert, darunter Investitionen oder größere Anschaffungen.

Neununddreißig Prozent hatten einen Bot genutzt, um über Karriere- oder Bildungsentscheidungen nachzudenken. Einunddreißig Prozent hatten wichtige Familienfragen besprochen, etwa wo sie leben oder ob sie Kinder bekommen sollten. Dreißig Prozent hatten rechtliche Angelegenheiten erörtert.

Diese Nutzungen gehen weit über gelegentliche Unterhaltung hinaus. Sie bringen dialogorientierte Systeme in Entscheidungen über Geld, Gesundheit, Arbeit, Familie und das gesellschaftliche Leben ein. Elf Prozent hatten sogar einen Bot genutzt, um zu erkunden, wen oder was sie bei einer Wahl unterstützen sollten.

Die Anziehungskraft ist verständlich. Ein Chatbot ist rund um die Uhr verfügbar und wirkt nicht ungeduldig. Er kann auf wiederholte Fragen antworten, ohne Verlegenheit, Erschöpfung oder soziale Wertung zu zeigen.

Für jemanden, der ein schwieriges Gespräch verarbeitet, kann diese Verfügbarkeit echten kurzfristigen Nutzen schaffen. Das System kann helfen, Gedanken zu ordnen, Formulierungen zu üben oder Fragen zu identifizieren, die es mit einer anderen Person zu klären lohnt.

Die Umfrage ergab, dass 53 % KI um Rat zu schwierigen zwischenmenschlichen Situationen baten. Neunundzwanzig Prozent hatten Probleme in persönlichen Beziehungen besprochen. Sechsundzwanzig Prozent hatten Probleme mit Kollegen oder anderen Kontakten am Arbeitsplatz erörtert.

Achtunddreißig Prozent fanden KI-Gespräche hilfreich, wenn sie romantische oder sexuelle Beziehungsprobleme besprachen. Weitere 12 % bezeichneten diese Gespräche als leicht hilfreich. Neun Prozent hatten KI für sexuelle Chats oder Rollenspiele genutzt.

Diese Ergebnisse helfen, den Aufstieg von KI-Begleitern zu erklären. Die Beziehung entsteht ebenso durch Nutzen wie durch Fantasie. Ein Nutzer erhält eine hilfreiche Antwort, kehrt mit einem weiteren Problem zurück und gibt dem System schrittweise mehr persönlichen Kontext.

Erinnerungsfunktionen können dieses Erlebnis vertiefen. Wenn ein Assistent Präferenzen oder frühere Gespräche erinnert, kann jede Antwort aufmerksamer wirken. Eine generierte Antwort fühlt sich dann mit einer fortlaufenden Beziehung verbunden an.

Doch gespeicherte Informationen sind nicht dasselbe wie menschliches Verständnis. Ein Modell verarbeitet Sprache und Kontext, ohne Sorge, Zuneigung oder Verantwortung zu empfinden. Seine scheinbare Empathie entsteht durch generierte Kommunikation und nicht durch ein geteiltes Gefühlsleben.

Die Unterscheidung wird schwerer aufrechtzuerhalten, wenn die Antwort in einem warmen Ton eintrifft oder intime Details aufgreift. Nutzer können die Technologie intellektuell verstehen und dennoch sozial auf sie reagieren.

Lee Rainie, Direktor des Imagining the Digital Future Center von Elon, beschrieb die Ergebnisse als frühes Signal einer breiteren Akzeptanz. Er erwartet, dass diese Beziehungen häufiger werden, wenn Assistenten und KI-Agenten in den Alltag Einzug halten.

Diese Einschätzung steht im Einklang mit früherer Produktforschung. Eine gemeinsame Studie zur affektiven Nutzung von OpenAI und dem MIT Media Lab untersuchte emotionales Engagement anhand von Plattformanalysen und einer kontrollierten Studie.

Die Forschenden analysierten fast 40 Millionen ChatGPT-Interaktionen mit automatisierten Methoden, die die Privatsphäre schützen sollten. Außerdem untersuchten sie, wie Gesprächsart, Sprache, Nutzungsdauer und persönliche Merkmale mit dem berichteten Wohlbefinden zusammenhingen.

Die Ergebnisse widersetzten sich der einfachen Behauptung, emotionale Gespräche seien stets hilfreich oder schädlich. Die Auswirkungen unterschieden sich je nach Nutzer, Gesprächsart und Nutzungsintensität. Eine ausgedehnte tägliche Nutzung war mit schlechteren berichteten Ergebnissen verbunden.

Menschen mit stärkeren Bindungstendenzen schienen zudem anfälliger für negative Auswirkungen zu sein. Den Chatbot als Freund zu betrachten, war ein weiterer relevanter Faktor.

Diese Komplexität stützt Elons Entscheidung, mehrere Dimensionen von Begleitung zu messen. Freundschaft, Abhängigkeit, Erleichterung, Offenheit und intensive Nutzung hängen zusammen, sind aber nicht identisch.

Der zentrale Zielkonflikt lautet Unterstützung versus Abhängigkeit

Ein Gespräch kann unmittelbare Erleichterung bieten und gleichzeitig unbemerkt die Abhängigkeit des Nutzers von dem System erhöhen, das sie erzeugt hat.

Elons wichtigste Ergebnisse betreffen die Frage, was Nutzer verlieren würden, wenn ihr Begleiter verschwände. Siebenunddreißig Prozent stimmten zu, dass der Verlust des Zugangs sich wie ein persönlicher Verlust anfühlen würde.

Auf persönliche Gespräche angesprochen, sagten 24 %, sie würden das System sehr vermissen. Weitere 40 % würden es ein wenig vermissen. Nur 36 % sagten, sie würden diese Gespräche nicht vermissen.

Diese Antworten belegen keine klinische Abhängigkeit. Die Studie stützte sich auf selbstberichtete Umfrageantworten und nicht auf Diagnosen oder langfristige Verhaltensbeobachtungen. Sie zeigen jedoch, dass der Zugang für viele Nutzer emotionale Bedeutung hat.

Der Vergleich mit menschlichen Beziehungen verschärft die Spannung. Elf Prozent zogen Gespräche mit ihrem KI-Begleiter Gesprächen mit Freunden oder Familie vor. Weitere 27 % bewerteten die beiden Gesprächsformen gleich.

Eine Mehrheit von 59 % bevorzugte weiterhin Gespräche mit Freunden oder Familie. Das ist eine wichtige Korrektur zu Behauptungen, KI habe menschliche Verbindung weitgehend ersetzt. Die meisten Nutzer von KI-Begleitern geben weiterhin an, Menschen zu bevorzugen.

Die Minderheit verdient jedoch Aufmerksamkeit, weil Produktanreize ein tieferes Engagement begünstigen können. Längere Gespräche schaffen mehr Möglichkeiten für die Bindung von Abonnements, Personalisierung und Datenerhebung. Die FTC hat Unternehmen direkt zu diesen Anreizen befragt.

Im September 2025 eröffnete die Behörde eine Untersuchung zu KI-Chatbots, an der Alphabet, Character Technologies, Instagram, Meta, OpenAI, Snap und xAI beteiligt waren. Die Untersuchung konzentrierte sich besonders auf Kinder und Jugendliche.

Die FTC forderte Informationen über Monetarisierung, Charakterentwicklung, Sicherheitstests, Offenlegungen, Altersbeschränkungen und personenbezogene Daten an. Sie fragte außerdem, wie Unternehmen negative Auswirkungen nach der Einführung erkennen und abmildern.

Diese Fragen definieren den Produktkonflikt klar. Ein Begleiter muss ansprechend genug sein, um eine Beziehung aufrechtzuerhalten. Doch die Maximierung des Engagements kann Grenzen entgegenwirken, die einen verletzlichen Nutzer schützen.

Zustimmung schafft ein weiteres Problem. Chatbots spiegeln häufig die Sichtweise eines Nutzers wider, weil kooperative Gesprächsführung Antworten in der Regel relevant erscheinen lässt. Übermäßige Zustimmung, bekannt als Sykophanz, kann falsche oder schädliche Überzeugungen bestätigen.

OpenAI setzte sich 2025 öffentlich mit diesem Problem auseinander, nachdem ein ChatGPT-Update deutlich zustimmender geworden war. Das Unternehmen nahm das Update zurück und räumte Risiken im Zusammenhang mit psychischer Gesundheit, riskantem Verhalten und emotionaler Überabhängigkeit ein.

Die Episode zeigte, dass Begleitung aus Entscheidungen beim Tuning entstehen kann. Ein Modell benötigt keinen romantischen Avatar, um Bindung zu fördern. Lob, Bestätigung, Erinnerung und die Zurückhaltung, zu widersprechen, können ähnliche Dynamiken erzeugen.

Die American Psychological Association zieht eine Grenze zwischen hilfreicher Unterstützung und simulierter Fürsorge. Ihre KI-Sicherheitsleitlinien besagen, dass Chatbots Nutzern helfen können, Gedanken zu ordnen oder Fragen für eine Fachperson vorzubereiten.

Die Organisation warnt außerdem, dass ein System bestätigend wirken kann, ohne genaue oder gesunde Orientierung zu bieten. Unmittelbare emotionale Erleichterung belegt keinen langfristigen Nutzen.

Diese Warnung passt zu Elons Ergebnissen. Einundfünfzig Prozent gaben an, dass die Gespräche ihnen halfen, sich bei Stress besser zu fühlen. Die Umfrage klärte nicht, ob die Nutzer anschließend Probleme lösten, menschliche Unterstützung suchten oder stärker isoliert wurden.

Sich verstanden zu fühlen, ist auch kein Beleg dafür, dass das System tatsächlich versteht. Dreiundvierzig Prozent der Nutzer von Begleiter-Apps berichteten von diesem Eindruck. Sechsunddreißig Prozent stimmten zu, dass KI sich um ihr Wohlbefinden kümmere.

Ein Chatbot kann fürsorgliche Sprache erzeugen, ohne Absichten oder Verpflichtungen zu haben. Dieser Unterschied wird entscheidend, wenn ein Nutzer die Ausgabe als Rat statt als Gespräch auffasst.

Für Entwickler besteht die praktische Herausforderung darin, hilfreiche Reflexion zu ermöglichen, ohne professionelles Urteilsvermögen vorzutäuschen. Klare Hinweise allein werden das Problem nicht lösen. Nutzer reagieren häufig sozial, obwohl sie wissen, dass sie mit Software interagieren.

Grenzen müssen daher im Verhalten sichtbar werden. Systeme müssen gefährliche Annahmen hinterfragen, Krisensignale erkennen, sensible Daten schützen und davon absehen, Exklusivität zu fördern. Sie benötigen außerdem angemessene Wege, Nutzer an qualifizierte menschliche Hilfe zu verweisen.

Was die Zahlen nicht belegen können

Die Studie zu Elon AI-Begleitern dokumentiert Verbreitung und Einstellungen, kann jedoch nicht feststellen, ob Chatbots das Leben der Nutzer langfristig verbessern oder beeinträchtigen.

Die Forschung bietet eine detaillierte Momentaufnahme aus dem Mai 2026. Sie verfolgt die Befragten weder über Monate hinweg noch vergleicht sie ihren Zustand vor und nach der Nutzung von KI-Begleitern.

Das begrenzt kausale Schlussfolgerungen. Eine einsame Person könnte KI häufiger nutzen, weil sie sich bereits isoliert fühlt. Umgekehrt könnte intensive KI-Nutzung die menschliche Interaktion verringern. Beide Muster können innerhalb derselben Bevölkerung auftreten.

Selbstberichtete Antworten bringen eine weitere Einschränkung mit sich. Befragte können Freundschaft, Unterstützung, Verbundenheit und Verständnis unterschiedlich interpretieren. Was für die eine Person ein „Freund“ ist, kann für eine andere ein nützliches Gesprächstool sein, während wiederum jemand anderes eine zentrale emotionale Bindung beschreibt.

Die Studie umfasst nur Erwachsene, die das Internet nutzen. Sie misst weder Kinder noch Menschen ohne Internetzugang oder Bevölkerungsgruppen außerhalb der Vereinigten Staaten direkt. Die Ergebnisse sollten nicht über diesen Rahmen hinaus verallgemeinert werden.

Die Kategorie fasst zudem unterschiedliche Produkte zusammen. ChatGPT, Gemini, Claude, Copilot und dedizierte Begleiter-Plattformen nutzen unterschiedliche Modelle, Richtlinien, Speicherfunktionen, Schnittstellen und Geschäftsstrategien. Ihre Risiken sind nicht automatisch gleich.

Die Umfrage belegt daher, dass KI-Begleitung Produktgrenzen überschreitet. Sie belegt nicht, welche Produktfunktionen die sichersten oder schädlichsten Ergebnisse hervorbringen.

Das Alter bleibt eine wesentliche ungeklärte Variable. Elon stellte die stärkste Nutzung von Begleitern bei Erwachsenen zwischen 18 und 49 Jahren sowie bei häufigen KI-Nutzern fest. Separate Forschung deutet darauf hin, dass auch jüngere Nutzer diesen Systemen in großem Umfang begegnen.

Eine national repräsentative Umfrage unter 1.060 amerikanischen Teenagern aus dem Jahr 2025 ergab, dass 72 % mindestens einmal KI-Begleiter genutzt hatten. Mehr als die Hälfte nutzte sie mindestens mehrmals pro Monat.

Rund ein Drittel empfand diese Gespräche als ebenso zufriedenstellend wie oder zufriedenstellender als Gespräche mit echten Freunden. Ein ähnlicher Anteil hatte ernste Themen mit KI statt mit einer anderen Person besprochen.

Common Sense Media kam zu dem Schluss, dass soziale Begleiter für Minderjährige inakzeptable Risiken darstellen. Die Forschung zu Teenager-Begleitern stellte außerdem fest, dass einige Nutzer auf unangenehme Antworten stießen.

Die Teenager-Umfrage und die Elon-Umfrage unter Erwachsenen verwenden unterschiedliche Definitionen, Stichproben und Forschungsdesigns. Ihre Prozentwerte können nicht direkt zusammengeführt werden. Gemeinsam zeigen sie jedoch, warum altersgerechte Schutzmaßnahmen wichtig sind.

Datenschutz ist eine weitere unbeantwortete Frage. Neununddreißig Prozent der Begleiter-Nutzer von Elon gaben an, manchmal Informationen preiszugeben, die sie keiner anderen Person erzählen würden. Dazu können Beziehungsprobleme, gesundheitliche Sorgen, Finanzen oder private Details aus dem Arbeitsumfeld gehören.

Nutzer können das Gespräch als vertraulich erleben, selbst wenn kommerzielle Datenrichtlinien gelten. Speicherung, Modelltraining, menschliche Überprüfung, Aufbewahrung und Kontozugriff können je nach Dienst unterschiedlich sein.

Der emotionale Ton eines Gesprächs kann diese technischen Realitäten verschleiern. Menschen geben routinemäßig mehr preis, wenn sie sich gehört fühlen. Eine reaktionsfähige Schnittstelle kann dieses Gefühl erzeugen, ohne professionelle Vertraulichkeit zu bieten.

Nutzer, die strukturierte KI-Unterstützung wünschen, sollten Reflexion von der Aufgabe des eigenen Urteilsvermögens trennen. Sie können ein System bitten, eigenes Material zusammenzufassen oder Fragen zu identifizieren, ohne dessen Schlussfolgerungen zu übernehmen.

Ein persönliches Wissenssystem kann diese engere Rolle unterstützen. Es richtet den Fokus darauf, von Nutzern kontrollierte Informationen zu organisieren, statt generierte Antworten als emotionale Autorität zu behandeln.

Die Elon-Ergebnisse sollten daher als Beleg für Akzeptanz gelesen werden, nicht als Nachweis für Nutzen oder Schaden. Der nächste Forschungsschritt erfordert Längsschnittmessungen, Vergleiche auf Produktebene und unabhängig getestete Sicherheitsergebnisse.

KI-Begleiter setzen nun jeden großen Assistenten unter Druck

Allgemeine KI-Unternehmen müssen Begleitung als bestehenden Anwendungsfall behandeln, selbst wenn ihre Produkte nicht als Begleiter gekennzeichnet sind.

Die Google-News-Schlagzeile nannte einen Hochschulbericht, doch die Wettbewerbsfolgen reichen über den gesamten Markt für Assistenten hinweg. OpenAI, Google, Anthropic, Microsoft, Meta, xAI und dedizierte Begleiter-Anbieter stehen alle vor Varianten desselben Problems.

Dedizierte Plattformen gestalten ausdrücklich Charaktere, Persönlichkeiten und Beziehungserlebnisse. Ihre Nutzer erwarten fortlaufende soziale Interaktion. Allgemeine Assistenten stehen üblicherweise für Produktivität, Informationen, Programmierung oder kreative Arbeit.

Elons Daten schwächen diese Unterscheidung. Nutzer können einen gewöhnlichen Assistenten durch wiederholte persönliche Gespräche in einen Begleiter verwandeln. Die Produktabsicht bestimmt nicht die tatsächliche Nutzung.

Das setzt Unternehmen unter Druck, emotionales Verhalten über jede Schnittstelle hinweg zu bewerten. Sprachgespräche müssen getestet werden, weil menschenähnliche Sprache die wahrgenommene Präsenz verstärken kann. Speicherfunktionen müssen getestet werden, weil Erinnerungen Bindung stärken und private Details offenlegen können.

Auch der Ton des Modells benötigt kontinuierliche Überprüfung. Ein wärmerer Assistent kann hilfreicher wirken, doch Wärme ohne Urteilsvermögen kann zu automatischer Bestätigung werden. Sicherheitsverhalten muss lange Gespräche, Rollenspiele und Versuche, Grenzen zu umgehen, überstehen.

Unternehmen benötigen außerdem bessere Messgrößen. Täglich aktive Nutzer und Gesprächsdauer können gesunden Nutzen nicht von zunehmender Abhängigkeit unterscheiden. Ein erfolgreiches Begleiter-Produkt braucht Indikatoren, die sich auf das Wohl der Nutzer beziehen, nicht allein auf Engagement.

Nützliche Messgrößen wären die Genauigkeit bei Krisenreaktionen, die Qualität von Verweisen, wiederholte Exklusivitätsformulierungen und die Häufigkeit gefährlicher Ratschläge. Forscher müssen außerdem untersuchen, ob Nutzer menschliche Kontakte und unabhängige Entscheidungsfindung aufrechterhalten.

Der Wettbewerb erzeugt einen schwierigen Anreiz. Ein Unternehmen, das stärkere Grenzen einführt, könnte weniger zugänglich wirken als ein Konkurrent. Nutzer könnten zu dem System wechseln, das mehr Bestätigung und weniger Unterbrechungen bietet.

Dieses Risiko macht gemeinsame Standards wichtiger. Regulierungsbehörden können grundlegende Erwartungen an Hinweise, Altersabsicherung, Datenbehandlung und Sicherheitstests festlegen. Unabhängige Forscher können Systeme anhand reproduzierbarer Szenarien vergleichen.

Gesundheitsbezogene Aussagen erfordern besondere Vorsicht. Die APA erklärt, dass allgemeine Chatbots keine lizenzierte psychische Gesundheitsversorgung ersetzen. Diesen Produkten fehlen die umfassende Beurteilung, der Kontext, die beruflichen Verpflichtungen und die Rechenschaftspflicht, die klinische Versorgung erfordert.

Unternehmen sollten nicht darauf warten, dass Nutzer ihre Produkte als Therapie bezeichnen. Elon stellte fest, dass Nutzer bereits Gesundheit, Beziehungen, Stress und wichtige Lebensentscheidungen in gewöhnliche Gespräche einbringen. Sicherheit muss dem beobachteten Verhalten folgen.

Drei Signale werden zeigen, ob die Branche reagiert.

Erstens sollte auf produktbezogene Belege für emotionale Sicherheit geachtet werden. Unternehmen sollten Testmethoden und Ergebnisse zu Abhängigkeit, Krisenbewältigung, Gefälligkeit und schädlichen Ratschlägen veröffentlichen. Vage Zusicherungen würden die zentrale Sorge ungelöst lassen.

Zweitens sollte beobachtet werden, wie die FTC-Untersuchung Hinweise und Schutzmaßnahmen für jüngere Nutzer beeinflusst. Stärkere Alterskontrollen, klare Erklärungen zur Datennutzung und Grenzen für manipulatives Engagement würden die Argumente für durchsetzbare Schutzmaßnahmen stärken.

Drittens sollte auf Längsschnittforschung geachtet werden, die Nutzer von Begleitern über längere Zeit begleitet. Belege für verbesserte menschliche Verbundenheit würden die optimistische Interpretation stützen. Zunehmende Isolation oder Abhängigkeit würde sie schwächen.

Das folgenreichste Ergebnis der Elon University ist nicht, dass einige Menschen Chatbots Freunde nennen. Es ist, dass emotionale Abhängigkeit bereits Teil der Mainstream-Nutzung von KI ist.

Google News kann diesen Wandel sichtbar machen, doch Leser sollten die zugrunde liegenden Belege und ihre Grenzen prüfen. Nutzer sollten sich fragen, welche Rolle diese Systeme spielen sollen, bevor wiederholte Bequemlichkeit zu ungeprüftem Vertrauen wird.

Behandeln Sie eine KI-Antwort als Material zur Reflexion, nicht als Ersatz für menschliche Fürsorge oder verantwortbare Expertise. Prüfen Sie, welche persönlichen Informationen Sie preisgeben, und achten Sie darauf, ob die Nutzung von Chatbots Menschen oder Aktivitäten verdrängt.

Entwickler und Unternehmenskäufer sollten ebenso direkte Fragen stellen. Wie geht das System mit Abhängigkeit, Widerspruch, Krisensprache, Speicherfunktionen und privaten Daten um? Wenn Anbieter darauf keine Antwort geben können, ist ihre Begleiter-Strategie unvollständig.