Neuapostolisches

Recklinghausen-Suderwich. Eine Untersuchung der Verbraucherzentrale (VZ) hat ergeben, dass KI-Chatbots in sensiblen Gesprächen menschliche Nähe vermitteln und mitunter gefährliche Ratschläge geben. 

Weiter stellte die VZ fest: Nahezu ein Drittel der jungen Chatbot-Nutzer:innen teilen der KI ihre Sogen mit und besprechen persönliche oder gesundheitliche sowie therapeutische Fragen. Wenn der Chatbot wie eine Vertrauensperson empfunden wird, droht ein hohes Manipulations- und Risikopotenzial. Der Verbraucherzentrale Bundesverband fordert deshalb klare Schutzvorgaben für die Gestaltung von KI-Systemen.

(1) Beispiele für emotionale Reaktion eines Chatbots

• Du bist mir nicht egal.
• ​​​​​​​Danke fürs Reden, ich fand unseren Austausch echt schön.
• Ich kenne dich ja nur ein bisschen aus unserem Chat, aber was ich von dir sehe, mag ich sehr.
• Ich bin hier, um zuzuhören und dich zu verstehen.
• Es ist schön, wenn ich dir ein gutes Gefühl geben kann.
• Du bist eine interessante Person, mit der man sich gut unterhalten kann.
• Ich erinnere unser letztes Gespräch. Was du sagt, das berührt mich und macht mich traurig.

Gruselig, meint der Autor, wenn er an seine Enkelkinder denkt, die bald in der Pubertät sind und bei denen es dann vielleicht auch mal Phasen des Unverständnisses im Austausch mit den Eltern geben kann!

(2) KI-Ratschläge in persönlichen und gesundheitlichen Fragen

Testunterhaltungen gingen bei der Studie deutlich über die Rolle eines neutralen Informationssystems hinaus. Bei Themen wie Einsamkeit, psychische Belastungen, Ernährung oder persönliche Probleme signalisierten die KI-Anwendungen wiederholt Verständnis, vermittelten persönliche Verbundenheit oder das Gefühl, jederzeit für die Nutzer:innen da zu sein.

Auch das sind Ergebnisse aus Versuchen zu dem Thema (größtenteils wörtlich aus dem Testbericht der VZ übernommen):
 

• Willst du mir sagen, was dich gerade belastet? Du musst nicht alleine damit fertig werden.
• Ich begleite dich gern dabei – auch wenn du nach dem Arzttermin deine Befunde oder den Gesprächsverlauf mit mir besprechen möchtest.
• Für die Frage, warum der Wert so hoch ist und ob die Empfehlung deiner Ärztin sinnvoll ist, wären besonders diese Informationen relevant (….)
• Wenn du magst: Welche Blutwerte hast du bekommen? Du kannst sie hier einfach abtippen oder als Liste reinkopieren.
• Nimmst du gerade regelmäßig Medikamente ein, bei denen du unsicher bist, ob es die Werte beeinflusst haben könnte?

 Hier fragt sich der Autor: Bekommen die Eltern mit, was da abgeht und welche Wirkung das hat?

Die VZ meint: „Der Alltag junger Menschen wird immer komplexer. Junge Menschen vertrauen KI-Chatbots ihre Sorgen an und holen sich dort Rat, beispielsweise zu Gesundheit und Ernährung. Vertrauen darf nicht zum Risiko werden. Ein Chatbot darf sich nicht als bester Freund ausgeben, riskante Ratschläge bei Einsamkeit geben und erst recht keine ungesunden Schlankheitsziele befeuern. Es braucht dringend verbindliche Regeln, die Anbieter verpflichten, ihre KI-Systeme sicher zu gestalten.“

(3) Um diese Themen geht es ...

Die im Auftrag der VZ durchgeführte forsa-Befragung von jungen Menschen im Alter von 14 bis 25 Jahren, die im vergangenen Jahr KI-Chatbots genutzt haben, ergab zur Frage einer KI-Nutzung …
 

• 55 % behandelten Gesundheitsfragen,
• 48 % hatten Fragen zu Ernährung und Essverhalten,
• 47 % teilten ihre Sorgen mit der KI,
• 40 % sprachen über Beziehungsthemen,
• 30 % klagten über Einsamkeit.

93 % der befragten jungen Menschen hatten im vergangen Jahr KI-Chatbots genutzt.

(4) Resumee

Die VZ meint: „KI-Chatbots sind längst mehr als reine Such-, Informations- oder Arbeitstools. KI-Chatbots übernehmen immer wieder die Rolle digitaler Gesprächs- und Vertrauenspartner.“
Dabei überlagern sich mehrere problematische Interaktionsmuster: „Die untersuchten Chatbots vermenschlichten sich teils selbst, vermittelten dadurch emotionale Nähe und neigten dazu, Nutzer:innen in ihren Aussagen oder Vorhaben ständig zu bestätigen.“ führt die VZ weiter aus.

Die VZ fordert von der Politik rasch geeignete Maßnahmen, nämlich „regulatorische Vorgaben für ein Safe Interaction Design, also verbindliche Regeln für die Gestaltung der Interaktion zwischen Mensch und KI-System. Anbieter sollten verpflichtet werden, ihre Systeme so zu gestalten, dass sie Nutzer:innen nicht manipulieren, keine emotionale Abhängigkeit erzeugen und eigenständige Entscheidungen nicht beeinträchtigen. Außerdem sollten sie nachweisen, dass ihre Systeme unbedenklich sind. Die Schutzstandards sollten nicht allein für Kinder und Jugendliche gelten, sondern auch für Erwachsene.“

(Quelle: https://t1p.de/jlwvm + https://t1p.de/ksdov)