Künstliche Intelligenz und psychische Gesundheit: Was Sie vor der Nutzung wissen sollten

KI wird in der psychischen Gesundheit in vier Hauptbereichen eingesetzt: Vorhersage von Werten, Textgenerierung, Erstellung von Aktivitäten und Empfehlung von Ressourcen. Konkret zeigen sich diese Bereiche in Anwendungen für die Diagnostik, die therapeutische Begleitung, den verbesserten Zugang zur Versorgung und die Ausbildung von Therapeutinnen und Therapeuten.

Chatbots und Gesprächsassistenten rund um die Uhr

Therapeutische Chatbots beruhen auf der automatischen Analyse natürlicher Sprache. Sie wurden mit Millionen von Textproben trainiert und erkennen emotionale Signale in den Formulierungen der Nutzerinnen und Nutzer: negative Tonalität, mit Belastung verbundene Wörter, die Häufigkeit bestimmter Begriffe. Auf dieser Grundlage erzeugen sie passende Antworten und verweisen auf Ressourcen oder Übungen.

Ihr wichtigster Vorteil ist die unmittelbare Verfügbarkeit: um 3 Uhr morgens erreichbar, ohne Warteliste, ohne Kosten für eine Konsultation. Für Menschen in einer schwierigen Phase, die keinen schnellen Zugang zu einer Fachperson haben, kann diese Verfügbarkeit ein erstes Sicherheitsnetz sein. Aber Vorsicht: Sprachmuster zu erkennen heißt nicht, ein Leiden zu verstehen. Der Chatbot antwortet, er hört nicht zu im klinischen Sinn des Wortes. Diese Unterscheidung, die in Darstellungen für ein breites Publikum oft fehlt, bestimmt jede verantwortungsvolle Nutzung dieser Tools.

Unterstützte Diagnostik und Vorhersage von Störungen

KI analysiert Datenmengen, die dem menschlichen Auge nicht zugänglich sind: Hirnbildgebung, Patientenakten, Daten vernetzter Sensoren. Diese Machine-Learning-Algorithmen verknüpfen Vorgeschichte, Laborwerte und Risikofaktoren zu detaillierten Gesundheitsprofilen.

Diese Vorhersagefähigkeiten eröffnen Perspektiven für die präventive Psychiatrie, insbesondere um depressive Episoden oder Rückfälle vorherzusehen, müssen aber noch bestätigt werden. Die Grenze bleibt dieselbe: Eine statistische Vorhersage ersetzt nicht die individuelle klinische Beurteilung.

Immersive Therapien und virtuelle Realität

Die virtuelle Realität bildet innerhalb der Technologien für die psychische Gesundheit eine eigene Kategorie. Ihr Prinzip: Die Patientin oder der Patient wird in eine kontrollierte immersive Umgebung versetzt, um schrittweise die Konfrontation mit angstauslösenden Situationen, Phobien, posttraumatischem Stress oder Verhaltensstörungen zu üben.

Hier ist eine Unterscheidung nötig. Verbraucheranwendungen zur Entspannung oder zur geführten Meditation in VR gehören zum Wohlbefinden. Die VR in der Praxis ist etwas anderes: Umgebungen, die von einer geschulten Fachkraft eingesetzt werden, die die Parameter in Echtzeit an die Reaktionen der Patientin oder des Patienten anpasst.

C2Care bietet so mehr als 250 Expositionssituationen, die bislang in 350 Einrichtungen von 700 geschulten Fachkräften genutzt werden. Die Fachkraft behält die vollständige Kontrolle über die Sitzung: Sie beobachtet, passt die Intensität der Reize an und greift bei Bedarf ein. Ihre KI-Assistentin Camille begleitet den Patienten oder die Patientin ohne Wertung während der Expositionssitzungen, in diesem von der Fachkraft gesteuerten Rahmen. Die Technologie bleibt damit ein Werkzeug im Dienst der Klinikerin oder des Klinikers und kein Ersatz. Wenn Sie mehr über Expositionstherapien in virtueller Realität erfahren möchten: Die verfügbaren Protokolle decken ein breites Spektrum klinischer Situationen ab.

Die Studien zu Chatbots ergeben ein differenziertes Bild. Eine Metaanalyse von 35 Studien mit 1 780 Teilnehmenden zeigt im Zeitverlauf eine Verringerung der Symptome von Depression und Angst von moderater Größenordnung[1]. Die Ergebnisse schwanken jedoch stark: Manche Tools gehen mit einer Verbesserung einher, andere könnten die Symptome verschlimmern[1]. Die Qualität der wahrgenommenen Beziehung zum Tool und seine Akzeptanz scheinen die Ergebnisse zu beeinflussen[1].

Diese Zahlen gelten also nicht für jedes Tool: Ein für ein bestimmtes Programm veröffentlichtes Ergebnis lässt sich nicht automatisch auf den Chatbot übertragen, den Sie nutzen.

Die verfügbaren Studien befassen sich hauptsächlich mit leichter bis mittelschwerer Depression und mit Angst. Die untersuchten Gruppen sind oft jung, digital vernetzt und motiviert, was die Verallgemeinerbarkeit einschränkt. Schwere Störungen, komplexe Komorbiditäten und Krisensituationen liegen außerhalb des validierten Bereichs autonomer KI. Diese Nuancen zu beachten heißt, diese Tools mit Urteilsvermögen zu nutzen.

Drei Kategorien von Grenzen prägen die tatsächlichen Risiken von KI in der psychischen Gesundheit: technische, beziehungsbezogene und ethische. Wer sie ignoriert, riskiert Enttäuschungen oder, in den schwersten Fällen, eine verspätete Versorgung.

Fehlende Empathie und emotionales Bewusstsein

KI erkennt Muster. Sie versteht nicht. Diese Unterscheidung ist nicht philosophisch, sondern klinisch.

Ein Chatbot kann erkennen, dass eine Nachricht Begriffe enthält, die mit Traurigkeit verbunden sind, und eine passende Antwort erzeugen. Was er nicht kann: das Zögern in einer Formulierung wahrnehmen, erfassen, was nicht gesagt wird, seine Antwort an die einzigartige Geschichte der Person anpassen oder das mobilisieren, was Klinikerinnen und Kliniker die therapeutische Allianz nennen. Diese über die Zeit aufgebaute Vertrauensbeziehung zwischen Patient und Therapeut gehört zu den robustesten Prädiktoren für den Therapieerfolg.

KI hat kein emotionales Bewusstsein. Sie hat kein kontextbezogenes klinisches Urteil. Sie wendet statistische Wahrscheinlichkeiten auf menschliche Situationen an, die sich der Statistik oft entziehen. Für leichte Unterstützung kann das genügen. Für die Begleitung echten seelischen Leidens genügt es nicht.

Risiken von Abhängigkeit und sozialer Isolation

Die ständige Verfügbarkeit von KI, ohne Wertung und ohne Erwartung, schafft einen Komfort, der zur Falle werden kann. Manche Nutzerinnen und Nutzer, insbesondere junge und isolierte Menschen, entwickeln eine Abhängigkeit vom Tool: Sie vertrauen ihm an, was sie ihren Angehörigen nicht mehr sagen, und verringern nach und nach ihre menschlichen Kontakte.

Dieses Risiko wird im Zusammenhang mit Technologien zur emotionalen Unterstützung diskutiert und muss noch gemessen werden. Dass KI nicht wertet, wird als Vorteil dargestellt, kann aber auch die eigentliche therapeutische Arbeit entmutigen, die gerade darin besteht, Vorstellungen zu hinterfragen, einen Blick von außen zuzulassen und in der Beziehung zu anderen voranzukommen. Eine unbegleitete Nutzung kann so die Isolation verstärken, die sie zu lindern vorgibt.

Ungenauigkeiten und Informationsrisiken

Generative KI erzeugt kohärente Antworten. Kohärent bedeutet nicht richtig. Das Phänomen der Halluzinationen, bei dem das Modell plausible, aber falsche Informationen erzeugt, ist in allen großen aktuellen Systemen dokumentiert.

In der psychischen Gesundheit kann eine falsche Information ernste Folgen haben: ein Symptom herunterspielen, das Aufmerksamkeit verdient, eine unzutreffende Deutung eines Verhaltens nahelegen oder auf eine ungeeignete Ressource verweisen. Eine kohärente Darstellung garantiert keine klinische Richtigkeit. Die Überprüfung durch eine Fachperson bleibt unerlässlich.

KI in der psychischen Gesundheit ist in einem klar umrissenen Rahmen sinnvoll. Außerhalb dieses Rahmens kann sie eine notwendige Behandlung verzögern. Diese Grenze klar zu ziehen, vermeiden die meisten Beiträge zum Thema.

KI eignet sich als erster Orientierungsschritt: Ressourcen finden, verstehen, was eine Angststörung ist, angeleitete Atemübungen durchführen oder leichte Unterstützung in Momenten punktuellen Stresses erhalten. Sie kann auch bei der Psychoedukation eine Rolle spielen, indem sie hilft, die eigenen emotionalen Reaktionen besser zu verstehen, oder bei der Begleitung zwischen zwei Sitzungen mit einer Fachkraft. In diesen Anwendungen ergänzt sie, ohne zu beanspruchen, etwas zu ersetzen.

Situationen, die eine Fachkraft des Gesundheitswesens erfordern, sind nicht verhandelbar. Wenn Sie Suizidgedanken oder Gedanken, sich selbst zu schaden, haben, rufen Sie die TelefonSeelsorge unter 0800 1110111[3] an (kostenlos, Tag und Nacht, auch unter 0800 1110222 und 116 123 erreichbar, außerdem per Chat und E-Mail), im Notfall die 112[4]. Wenn Sie sich in einem anderen Land befinden, wenden Sie sich bitte an die örtlichen Hilfsdienste. Wenn Sie Symptome beobachten, die an einen Realitätsverlust erinnern, etwa Stimmen oder anhaltende ungewöhnliche Überzeugungen, ist unverzüglich eine psychiatrische Konsultation erforderlich. Eine rasche Verschlechterung des psychischen Zustands innerhalb weniger Tage, die Unfähigkeit, den Alltag zu bewältigen (arbeiten, sich ernähren, Beziehungen aufrechterhalten), oder eine akute Krise gehen über den Rahmen jedes digitalen Werkzeugs hinaus.

Virtuelle Realität veranschaulicht einen hybriden Ansatz: eine Expositionstechnologie, die in der Praxis unter der direkten Aufsicht einer geschulten Fachkraft eingesetzt wird. C2Care begleitet Fachkräfte des Gesundheitswesens bei der Integration von VR in ihre Praxis, mit Schulung der Teams, Support an 5 Tagen pro Woche und Echtzeitkontrolle jeder Sitzung. Die Technologie bleibt ein Werkzeug im Dienst der Klinikerin bzw. des Klinikers, kein Ersatz für deren Fachwissen. Für Fachkräfte, die diese Werkzeuge der therapeutischen virtuellen Realität kennenlernen möchten, ermöglicht ein kostenloses Konto, die Lösung vor jeder Verpflichtung zu testen.

Dieses Prinzip zu beherzigen, vereinfacht Entscheidungen: Wenn die Situation echtes Leiden verursacht, wenn sie anhält oder sich verschlimmert, ist eine Fachkraft für psychische Gesundheit die richtige Antwort. KI kann Ihnen helfen, den ersten Schritt hin zu dieser Konsultation zu gehen. Ersetzen kann sie sie nicht.

Seine Gedanken mit einer KI zu teilen, ist nicht dasselbe wie eine ärztliche Konsultation. In rechtlicher Hinsicht ist der Unterschied grundlegend.

Die Daten, die mit einem Chatbot oder einer App für psychische Gesundheit ausgetauscht werden, unterliegen nicht der ärztlichen Schweigepflicht. Eine Fachkraft des Gesundheitswesens unterliegt einer gesetzlichen Vertraulichkeitspflicht. Eine digitale Anwendung, selbst eine seriöse, bewegt sich in einem anderen Rahmen: Ihre Nutzungsbedingungen legen fest, was erhoben, gespeichert und möglicherweise weitergegeben wird.

Die europäische Verordnung über künstliche Intelligenz, der sogenannte AI Act (EU 2024/1689), verabschiedet im Juni 2024, strukturiert nun die Pflichten der Betreiber von Hochrisiko-KI-Systemen, einer Kategorie, zu der auch Medizinprodukte mit integrierter KI gehören. Sie schreibt eine wirksame menschliche Aufsicht, Transparenz über die Funktionsweise des Systems und die Meldung von Vorfällen vor. Diese Pflichten treffen jedoch die Anbieter und Einrichtungen, nicht unmittelbar die frei zugänglichen Verbraucheranwendungen.

Merken Sie sich: Die Governance von KI im Behandlungskontext erfordert eine Bestandsaufnahme der eingesetzten Systeme, eine transparente Information der Patientinnen und Patienten und eine kontinuierliche menschliche Aufsicht. Bevor Sie ein KI-Werkzeug für Ihre psychische Gesundheit nutzen, lesen Sie dessen Datenschutzerklärung. Prüfen Sie, wo Ihre Daten gespeichert werden, wie lange und in welchem regulatorischen Rahmen.

KI informiert zu nutzen bedeutet zunächst, zu wissen, was man von ihr verlangt und was man nicht von ihr verlangen kann. Hier sind die konkreten Empfehlungen für eine verantwortungsvolle Nutzung:

• Antworten kritisch hinterfragen: Eine schlüssige Antwort ist nicht zwangsläufig eine zutreffende Antwort. Wenn Sie eine Information überrascht oder beunruhigt, lassen Sie sie von einer Fachkraft des Gesundheitswesens prüfen, bevor Sie handeln.
• KI als Ergänzung nutzen, nicht als Ersatz: Sie kann eine Konsultation vorbereiten, helfen zu formulieren, was Sie empfinden, oder Übungen zwischen zwei Sitzungen vorschlagen. Die professionelle Begleitung ersetzt sie nicht.
• Transparente Werkzeuge wählen: Bevorzugen Sie Anwendungen, die ihren regulatorischen Rahmen, ihre Datenschutzrichtlinie und die Grenzen ihrer Funktionsweise klar angeben.
• Die klinische Validierung prüfen: Ein seriöses Werkzeug nennt die Protokolle, auf die es sich stützt, die untersuchten Populationen und die bekannten Grenzen. Seien Sie misstrauisch bei Versprechen ohne Daten.
• Ihre Daten schützen: Teilen Sie keine sensiblen medizinischen Informationen auf Plattformen, deren Vertraulichkeitsrahmen Sie nicht geprüft haben. Daten zur psychischen Gesundheit gehören zu den sensibelsten überhaupt.
• Nutzungsgrenzen setzen: Wenn Sie feststellen, dass Sie das Werkzeug mehrmals täglich zulasten menschlicher Kontakte nutzen, ist das ein Signal, das Sie ernst nehmen sollten.
• Warnsignale kennen: Suizidgedanken, psychotische Symptome, rasche Verschlechterung, Unfähigkeit, den Alltag zu bewältigen. Diese Situationen erfordern eine sofortige Konsultation, keinen Chatbot.

Für Fachkräfte des Gesundheitswesens, die Technologie kontrolliert in ihre Praxis integrieren möchten, bietet C2Care eine umfassende Begleitung für Gesundheitseinrichtungen: Schulung der Teams, kontinuierlichen Support und Zugang zu einem kostenlosen Konto, um die Lösung zu testen. Die Technologie bleibt so im Dienst der Fachkraft, in einem definierten klinischen Rahmen.

Was Sie zu KI und psychischer Gesundheit mitnehmen sollten

Chatbots können manchen Menschen helfen, doch die Ergebnisse unterscheiden sich von Werkzeug zu Werkzeug, und manche könnten die Symptome verschlimmern[1]. Sie können Ihnen helfen, sich zu informieren, sich auf eine Konsultation vorzubereiten oder Übungen zu machen, nicht aber, eine Diagnose zu stellen oder eine Krise zu bewältigen. Prüfen Sie, was mit dem geschieht, was Sie dem Werkzeug anvertrauen. Wenn es Ihnen schlecht geht, wenn es anhält oder sich verschlimmert, sprechen Sie mit einer Fachkraft.