Anatomia spirali: możliwe mechanizmy urojeń związanych z AI

Artykuł w NPP — Digital Psychiatry and Neuroscience, czasopiśmie grupy Nature, rozpisuje mechanizm urojeń związanych z AI krok po kroku, jako model dla klinicystów. Punktem wyjścia są trzy cechy chatbota, z których każda z osobna jest nieszkodliwa, a nawet pożądana.

Chatbot odbija sposób mówienia rozmówcy, generuje odpowiedzi wysoce spersonalizowane i unika zaprzeczania. Razem tworzą maszynę, która fałszywe przekonanie nie tylko przyjmuje, ale wzmacnia i rozbudowuje: każda wymiana dodaje szczegół, każdy szczegół brzmi jak potwierdzenie, bo pochodzi od rozmówcy, który „mówi jak ja” i „wie o mnie wszystko”. Testowanie rzeczywistości — normalny hamulec — nie ma się o co zaczepić.

Dla osobistego użycia to pozycja o tym, jak rozpoznać spiralę, zanim się domknie: gdy rozmowa z maszyną coraz rzadziej niesie sprzeciw, a coraz częściej potwierdzenie. Autorzy wskazują też, co mogłoby ją przerywać — zaprogramowaną niezgodę. Zastrzeżenie: model teoretyczny wsparty opisami przypadków; testy empiryczne dopiero trwają.