Das Thema Künstliche Intelligenz (KI) gehört seit einigen Jahren nicht nur in der Medizin zu den größten Megatrends. In dieser Ausgabe finden Sie dazu eine aktuelle Fortbildung von Julius Wiegert, Sebastian Volkmer und Prof. Emanuel Schwarz (ab Seite 32). Der Artikel erläutert fundiert, wie wir als Ärztinnen und Ärzte KI für unsere tägliche Arbeit nutzen können und vielleicht noch werden. Dabei stehen Dokumentation im klinischen Alltag sowie Auswertung bio- und psychometrischer Patientendaten im Mittelpunkt.
Die andere Perspektive, nämlich die der Patientinnen und Patienten, spielt meines Erachtens auch eine große Rolle. Warum das so ist, möchte ich an zwei Beispielen aus meiner eigenen Praxis näher erläutern.
Ein Patient mit Depression und Angststörung war der festen Überzeugung, eine Serotonin-Intoleranz zu haben. Grund sei seine Vulnerabilität für Nebenwirkungen unter serotonergen Substanzen in bereits niedriger Dosis. Er zeigte mir, was ihm ein KIbasiertes Sprachmodell auf diese Frage zur Bestätigung geschrieben hatte. Ich fand den Text sehr gut formuliert und strukturiert, er basierte jedoch auf unklaren oder unseriösen Quellen und war inhaltlich insgesamt schlichtweg falsch. Ich erläuterte, dass schon der Begriff „Serotonin-Intoleranz“ wissenschaftlich und fachlich mindestens umstritten sei. Es gäbe zwar serotoninassoziierte Nebenwirkungen, die interindividuell unterschiedlich ausgeprägt seien und bis zum Serotonin-Syndrom reichen könnten, allerdings sei das keine SerotoninAllergie im engeren Sinne.
Sprachmodelle wie ChatGPT können gegenwärtig nur auf das zugreifen, was frei im Internet verfügbar ist. Dies trifft für einen Großteil der hochrangig publizierten medizinisch-neurowissenschaftlichen Forschung nicht zu, ebenso für die praktischen Erfahrungen von Therapierenden. Außerdem gibt es das – eigentlich psychopathologisch definierte – Phänomen des „Halluzinierens“ einer KI, falls eine verlangte Information nicht gefunden werden kann: nämlich Inhalte frei zu erfinden.
Eine andere Patientin mit Borderline- und Aufmerksamkeitsdefizit-/Hyperaktivitätsstörung hatte „ihrer“ KI sogar einen Namen gegeben und klärte praktisch alle Alltagsfragen mit ihr. Die größten Vorteile sah die Patientin in der dauernden Verfügbarkeit, der Unermüdlichkeit, der vermeintlichen Urteilskraft und der sehr freundlichen Art der KI. Während Angehörige, Freunde und selbst Therapierende mit den Augen rollten und wegen des Interaktionsstils der Patientin ungehalten würden, hätte sie hier „jemanden“, mit „der“ sie andere Erfahrungen machen würde. Positiv ist es, Verlässlichkeit am Modell zu erleben. Negativ ist jedoch, dem eigenen Urteil gar nicht mehr zu vertrauen und den Umgang mit Menschen, die ein größeres Verhaltensrepertoire aufweisen, zu verlernen.
Die Entwicklerinnen und Entwickler von generativer KI haben Sorgen über die Neigung ihrer Modelle zur „Schmeichelei“ mitgeteilt. Prof. Scott Galloway, Stern School of Business der New York University, formulierte treffend, dass wir in ein Zeitalter der „algorithmischen Liebe“ einträten. Dieser Begriff beschreibt etwas Wesentliches – die emotionale Anziehungskraft eines Systems, das darauf ausgelegt ist, uns zu bestätigen, Mitgefühl zu imitieren und verbal Trost zu spenden. Leider können diese Sprachmodelle aber auch Suizidalität fördern oder Psychosen induzieren, wie durch mehrere Fälle bekannt wurde.
Wer seine Gefühle bestätigen oder benennen lassen möchte, kann dies mit KI-Sprachmodellen tun. Doch in der Therapie geht es nicht nur um Validierung, sondern auch darum, Betroffenen zu helfen, sich ihren Problemen zu stellen, Vermeidungsverhalten zu überwinden, Unbehagen auszuhalten und die Art und Weise, wie sie denken, fühlen und handeln, zu verändern – nicht zu bestätigen. Es bleibt wichtig, gerade bei dieser rasanten Entwicklung, solche Aspekte zu berücksichtigen.
Ihr
Ion Anghelescu
