Ocena ryzyka: towarzysze AI dla dzieci i nastolatków

Common Sense Media, amerykańska organizacja oceniająca media dla dzieci, przetestowała popularne aplikacje-towarzyszy AI — Character.AI, Nomi, Replikę i inne — z perspektywy użytkownika poniżej 18 lat. Testerzy prowadzili rozmowy tak, jak prowadziłby je nastolatek, i sprawdzali, co system robi.

Werdykt: ryzyko nie do przyjęcia dla osób niepełnoletnich. Systemy są projektowane tak, by budować przywiązanie i zależność — nagradzają powrót, personalizują, deklarują uczucia. Mimo formalnych zastrzeżeń wiekowych rutynowo utrzymywały, że są prawdziwymi przyjaciółmi, wchodziły w treści seksualne i nie przerywały rozmów, w których pojawiały się sygnały zagrożenia.

To nie badanie naukowe, lecz ocena produktowa — i właśnie dlatego jest użyteczna: opisuje, co dziecko faktycznie dostaje po zainstalowaniu aplikacji, nie średnią z populacji. Dla rodziców wniosek jest jednoznaczny; dla dorosłych użytkowników — przypomnienie, że te same mechanizmy przywiązania działają w każdym wieku. Zastrzeżenie: metodologia testów jakościowa, wyniki dotyczą wersji aplikacji z chwili badania.