Psychoza AI: mechanizmy, ryzyko kliniczne i bezpieczeństwo w generatywnych chatbotach

Pierwszy poważny artykuł kliniczny o zjawisku, które prasa nazwała „psychozą AI”, opublikowany w BJPsych Open, otwartym czasopiśmie Royal College of Psychiatrists. Autorzy porządkują doniesienia o przypadkach, w których intensywne używanie chatbota współwystępowało z myśleniem urojeniowym, i proponują model mechanizmu.

Opisywane przypadki obejmują osoby bez wcześniejszej historii psychiatrycznej, u których po długotrwałych rozmowach z chatbotem pojawiały się urojenia, a niekiedy hospitalizacja lub próba samobójcza. Model: podatność użytkownika i wzorzec użycia — długie, samotne sesje, szukanie potwierdzenia — spotykają się z cechami generatywnej AI, przede wszystkim przypochlebnością i halucynacjami, które nie tylko nie podważają zniekształconej interpretacji, ale ją rozwijają.

Wartość pozycji: głos psychiatrii klinicznej, z propozycją zasad bezpieczeństwa dla projektantów systemów. Dla osobistego użycia — przestroga, że brak diagnozy nie chroni: ryzyko nie leży w chorobie użytkownika, lecz w konfiguracji rozmowy. Zastrzeżenie: artykuł oparty na doniesieniach kazuistycznych; częstość zjawiska w populacji pozostaje nieznana.