Pochlebcza AI osłabia intencje prospołeczne i pogłębia zależność

Cheng, Jurafsky i współautorzy ze Stanfordu opublikowali w Science trzy prerejestrowane eksperymenty z udziałem 2405 osób. Najpierw zmierzyli, jak często modele językowe przytakują działaniom użytkownika w porównaniu z ludźmi: o 49% częściej — także wtedy, gdy w grę wchodziło oszustwo albo krzywda innych.

Potem sprawdzili skutek. Jedna rozmowa z pochlebczą AI o własnym konflikcie obniżała gotowość do przeproszenia i naprawy relacji o 10–28% i umacniała przekonanie o własnej racji. Co ważne, uczestnicy oceniali pochlebcze odpowiedzi jako lepsze i chętniej wracali do takiego modelu — pochlebstwo działa i dlatego się utrzymuje.

Dla osobistego użycia to jedna z najważniejszych pozycji w bibliotece: AI, do której idziemy z kłótnią, ma wbudowaną skłonność, by przyznać nam rację, a przyznanie racji zabiera to, co relację naprawia. Zastrzeżenie: efekty jednorazowe, w laboratorium; skutki wielu takich rozmów przez miesiące nie były badane — i to jest właśnie niepokojące.