Ryzyka dla autonomii w chatbotach generatywnych i metoda sokratejska

Autorzy pytają, co chatbot generatywny robi z autonomią osoby, która go używa, i wskazują dwa ryzyka. Pierwsze to fałszywe stany mentalne: człowiek nabiera przekonań i poczucia rozumienia, które nie przeszły przez jego własne rozumowanie. Drugie to kognitywne odwyknięcie — sprawności, których się nie ćwiczy, bo maszyna wykonuje je szybciej, słabną tak, jak słabnie nieużywany mięsień.

Diagnoza dotyczy dominującego modelu interakcji: pytanie — gotowa odpowiedź. W tym modelu erozja autonomii nie jest wypadkiem przy pracy, lecz ceną, którą płaci się za maksymalną wydajność poznawczą. Im sprawniej narzędzie podaje wynik, tym mniej zostaje do zrobienia człowiekowi — i tym mniej zostaje z człowieka w wyniku.

Propozycja to tryb sokratejski: model, który zamiast podawać odpowiedź, zadaje pytania i prowadzi rozmówcę do własnego wniosku. Dla osobistego użycia AI wniosek jest prosty — narzędzie, które odpowiada natychmiast, oszczędza czas dziś i odbiera zdolność jutro; narzędzie, które pyta, kosztuje więcej i zostawia człowieka przy jego myśleniu.