Dr. Tobias Spiller: Kann KI depressiv werden?

In dieser Episode des GQMG-Interviewpodcasts sprechen Oliver Steidle und Dr. Thomas Petzold mit PD Dr. Tobias Spiller, Psychiatrische Universitätsklinik Zürich und Forschungsgruppenleiter am Zentrum für Psychiatrische Forschung der Universität Zürich, über ein hochaktuelles Thema: den Einsatz von KI und großen Sprachmodellen wie ChatGPT in der psychiatrischen Versorgung.

Kernaussagen aus dem Gespräch:

• KI-Modelle reagieren kontextabhängig: Gibt man ihnen negative oder positive Inputs, färben sich auch die Antworten entsprechend.
• Sprachmodelle imitieren zwar Emotionen, besitzen aber kein eigenes Bewusstsein oder echte Gefühle.
• Erste Studien zeigen, dass KI-basierte Chatbots bei leichten psychischen Beschwerden unterstützend wirken können – als Überbrückung bis zur Therapie.
• Es besteht die Gefahr, dass KI-Modelle negative Emotionen spiegeln und damit Patient:innen eher schaden als helfen, wenn sie nicht gezielt für therapeutische Zwecke trainiert wurden.
• Die gesellschaftliche Diskussion über Regulierung, ethische Leitplanken und Digitalkompetenz ist dringend notwendig – sowohl für Entwickler als auch für Nutzer:innen.

KI bietet große Chancen für die Versorgung im Bereich psychischer Gesundheit, stellt uns aber auch vor neue ethische und praktische Herausforderungen. Wir müssen gemeinsam abwägen, wie wir diese Technologien verantwortungsvoll einsetzen und weiterentwickeln.

Der Link zum Paper: Assessing and alleviating state anxiety in large language models | npj Digital Medicine

Spotify    Amazon Music