Programm

31339.jpg31339.jpg

11 Seiten, PDF-E-Book
Erschienen: Oktober 2026
Bestell-Nr.: 31339
https://doi.org/10.30820/1664-9583-2026-2-17
»Psychotherapie-Wissenschaft«
abonnieren
Jan M. Schürmann, Jana Sedlakova & Manuel Trachsel

Ethische Aspekte zur KI-Anwendung in der Psychotherapie (PDF)

OpenAccess

Sofortdownload
Dies ist ein E-Book. Unsere E-Books sind mit einem personalisierten Wasserzeichen versehen,
jedoch frei von weiteren technischen Schutzmaßnahmen (»DRM«).
Erfahren Sie hier mehr zu den Datei-Formaten.

Künstliche Intelligenz (KI) etabliert sich zunehmend auch in der psychiatrischen und psychotherapeutischen Versorgung. Vor dem Hintergrund globaler Versorgungslücken werden KI-basierte Anwendungen in den Bereichen Screening und Diagnostik, klinische Entscheidungsunterstützung, Intervention, Monitoring sowie administrative und edukative Unterstützung entwickelt oder bereits eingesetzt. Der vorliegende Beitrag analysiert Chancen und Risiken dieser Entwicklung aus medizinethischer Perspektive. Potenziellen Chancen wie verbesserter Versorgung, Entstigmatisierung, klinischer Entscheidungsunterstützung sowie Personalisierungsund Ausbildungspotenzialen stehen potenzielle Risiken gegenüber: unzureichende Wirksamkeitsnachweise, inadäquates Krisenmanagement, Fehleranfälligkeit bis hin zu Halluzinationen, Erosion der therapeutischen Allianz, Datenschutzdefizite, algorithmische Verzerrungen sowie ein regulatorisches Vakuum. Vertieft werden vier ethische Grundsatzfragen diskutiert: 1. der normative Status von KI als Instrument oder Akteur, 2. die Bedingungen von Vertrauen in konversationale KI, 3. die Problematik simulierter Empathie sowie 4. das Risiko unrealistischer Erwartungen und übermässiger Abhängigkeit. Ergänzend werden aktuelle regulatorische Rahmenbedingungen – WHO-Leitprinzipien, EU AI Act, EU Medical Device Regulation und fachgesellschaftliche Empfehlungen – eingeordnet. Auf dieser Grundlage werden handlungsleitende Empfehlungen für die psychotherapeutische Praxis abgeleitet, darunter eine systematische KI-Anamnese, transparente Aufklärung über technologische Limitationen, Wahrung professioneller Urteilskraft und menschlicher Kontrolle, strikte Evaluierung von Datenschutz und Datensicherheit, robuste Krisenprotokolle sowie die Etablierung von KI-Kompetenz. Die authentische und empathische therapeutische Beziehung bleibt das unverzichtbare Agens eines jeden erfolgreichen Therapieprozesses. KI kann zunehmend zu einem ergänzenden Instrument werden, jedoch nicht zu einem Ersatz für die Behandlung durch menschliche Fachpersonen.

Abstract:
Artificial intelligence (AI) is also increasingly establishing itself in psychiatric and psychotherapeutic practice. Against the backdrop of global care disparities, AI-based applications are being discussed or are already in use for screening and diagnostics, clinical decision support, interventions, monitoring, and administrative and educational support. This article analyses opportunities and risks of this development from the perspective of medical ethics. While there are potential benefits, such as improved access to care, destigmatization, clinical decision support, and personalization and training opportunities, there are also significant risks, including insufficient evidence of efficacy, inadequate crisis management, susceptibility to errors ranging up to hallucinations, erosion of the therapeutic alliance, data protection deficits, algorithmic biases, and a regulatory vacuum. Four fundamental ethical questions are discussed in depth: 1. the normative status of AI as a tool or agent, 2. the conditions for trust in conversational AI, 3. simulated empathy, and 4. unrealistic expectations and excessive dependence. Current regulatory frameworks, including the WHO’s guiding principles, the EU AI Act, the EU Medical Device Regulation, and recommendations from professional associations, are also contextualized. Based on this, action-oriented recommendations for psychotherapeutic practice are derived. These include taking a systematic AI-assessment, being transparent about technological limitations, preserving professional judgement and human control, strictly evaluating data protection and security, establishing robust crisis protocols and the development of AI competence. The authentic therapeutic relationship remains the indispensable agent of the therapeutic process. AI should be developed as a complementary tool, not a substitute for human professionals.