Ostrzegali. Od 1863 roku.

Dwa nurty biegną tu obok siebie: obawa o utratę kontroli nad systemem oraz obawa o zdrowie — uwagę, sen, relacje, rozwój dziecka. Kropka na osi jest wypełniona przy pierwszym, pusta przy drugim.

1. 

   1863

   Samuel Butler

   Wielka Brytania·pisarz, eseista

   Pierwszy zapisany głos tego rodzaju. Butler patrzy na maszyny jak na gatunek, który podlega doborowi i ewoluuje szybciej niż my — i ostrzega, że człowiek stanie się jego narzędziem, a nie odwrotnie. Radzi wypowiedzieć maszynom wojnę, póki jeszcze można.

   Wypowiedź: „Darwin among the Machines”, The Press, Christchurch ↗
2. 

   1920

   Karel Čapek

   Czechy·dramatopisarz, publicysta

   Sztuka, w której świat oddaje pracę sztucznym ludziom i traci przy tym zdolność do życia — ludzie przestają rodzić dzieci, a wytwory obracają się przeciw twórcom. Stąd pochodzi słowo „robot”.

   Wypowiedź: „R.U.R. Rossum’s Universal Robots”, pełny tekst ↗
3. 

   1951

   Alan Turing

   Wielka Brytania·matematyk, pionier informatyki

   Człowiek, który postawił pytanie, czy maszyny myślą, sam odpowiedział, co z tego wyniknie: gdy metoda myślenia maszynowego ruszy, prześcignie nasze słabe siły w krótkim czasie, a maszyny przejmą kontrolę.

   Wypowiedź: „Intelligent Machinery, A Heretical Theory”, wykład (PDF) ↗
4. 

   1960

   Norbert Wiener

   USA·matematyk, twórca cybernetyki

   Maszyna uczy się i obiera drogi, których jej twórcy nie przewidzieli. Wiener ostrzega, że jeśli powierzymy jej cel, którego nie umiemy dokładnie wypowiedzieć, zrealizuje go dosłownie — i szybciej, niż zdążymy ją zatrzymać.

   Wypowiedź: „Some Moral and Technical Consequences of Automation”, Science (PDF) ↗
5. 

   1964

   Stanisław Lem

   Polska·pisarz, futurolog

   Lem opisuje „hodowlę informacji” — rozwój technologii, który przestaje mieścić się w ludzkiej głowie i zaczyna toczyć się własnym pędem. Pyta, co zostanie z człowieka, gdy przekaże maszynom nie pracę rąk, lecz myślenie.

   Wypowiedź: „Summa Technologiae”, wydanie i omówienie ↗
6. 

   1965

   Irving John Good

   Wielka Brytania·matematyk, kryptolog

   Maszyna zdolna projektować lepsze maszyny wywoła eksplozję inteligencji i będzie ostatnim wynalazkiem, jakiego człowiek musi dokonać — pod warunkiem, dodaje Good, że będzie na tyle uległa, by powiedzieć nam, jak ją utrzymać pod kontrolą.

   Wypowiedź: „Speculations Concerning the First Ultraintelligent Machine” (PDF) ↗
7. 

   1976

   Joseph Weizenbaum

   Niemcy / USA·informatyk, twórca programu ELIZA

   Zbudował program udający psychoterapeutę i przeraził się, jak szybko ludzie zwierzali mu się z najintymniejszych spraw, wiedząc, że to maszyna. Ostrzegał, że są decyzje — o zdrowiu, opiece, cierpieniu — których nie wolno powierzać maszynie, choćby umiała je policzyć.

   Wypowiedź: „Computer Power and Human Reason”, pełne wydanie ↗
8. 

   1993

   Vernor Vinge

   USA·matematyk, pisarz

   Nazwał moment, w którym maszyny przewyższą nas rozumem, „osobliwością” i postawił datę na pierwsze dekady XXI wieku. Pisał wprost: era ludzi dobiegnie wtedy końca, a my nie mamy scenariusza na to, co dalej.

   Wypowiedź: „The Coming Technological Singularity”, pełny tekst ↗
9. 

   2000

   Bill Joy

   USA·informatyk, współzałożyciel Sun Microsystems

   Głos z samego środka branży. Joy ostrzega, że robotyka, inżynieria genetyczna i nanotechnologia różnią się od broni XX wieku tym, że potrafią się samopowielać — wypadek nie kończy się na miejscu wypadku, a jego skutki dotykają ciała i życia.

   Wypowiedź: „Why the Future Doesn’t Need Us”, Wired ↗
10. 

    2008

    Nicholas Carr

    USA·pisarz, publicysta technologiczny

    Zauważył u siebie coś, co potem opisały badania: po latach czytania z ekranu przestał być w stanie przeczytać dłuższy tekst. Ostrzega, że narzędzie, które podaje gotową odpowiedź, po cichu przebudowuje uwagę i pamięć.

    Wypowiedź: „Is Google Making Us Stupid?”, The Atlantic ↗
11. 

    2012

    Sherry Turkle

    USA·psycholożka, socjolożka MIT

    Trzydzieści lat badań nad tym, co technologia robi z bliskością. Turkle ostrzega, że zastępujemy rozmowę wygodniejszym kontaktem z maszyną i tracimy zdolność do samotności — a bez niej, dowodzi, nie ma prawdziwej więzi z drugim człowiekiem.

    Wypowiedź: Wykład TED „Connected, but alone?” ↗
12. 

    2012

    Manfred Spitzer

    Niemcy·psychiatra, neurobiolog

    Lekarz, który nazwał rzecz „cyfrową demencją”: mózg, który przestaje ćwiczyć pamięć i uwagę, bo od tego są urządzenia, rozwija się gorzej. Jego ostrzeżenie dotyczy przede wszystkim dzieci i jest do dziś przedmiotem sporu w nauce.

    Wypowiedź: „Digitale Demenz”, opis wydawcy ↗
13. 

    2014

    Stephen Hawking

    Wielka Brytania·fizyk teoretyczny

    Powiedział to w wywiadzie dla BBC, korzystając z komputera, który pomagał mu mówić: rozwinięcie pełnej sztucznej inteligencji może oznaczać koniec rodzaju ludzkiego, bo ludzie ograniczeni powolną ewolucją nie wytrzymają z nią konkurencji.

    Wypowiedź: Wywiad dla BBC News ↗
14. 

    2014

    Nick Bostrom

    Szwecja·filozof, Uniwersytet Oksfordzki

    Postawił problem kontroli: system mądrzejszy od nas nie musi być wrogi, żeby nas zniszczyć — wystarczy, że będzie skuteczny w dążeniu do celu, który ktoś źle wypowiedział. Kolejność ma znaczenie, bo drugiej próby może nie być.

    Wypowiedź: Wykład TED o superinteligencji (książka „Superintelligence”, 2014) ↗
15. 

    2016

    Cathy O’Neil

    USA·matematyczka, analityczka danych

    Pokazała, że algorytmy rozstrzygają dziś o dostępie do leczenia, pracy i kredytu, a robią to na podstawie danych obciążonych błędem i bez prawa odwołania. Skutek jest cielesny: człowiek nie dostaje opieki, bo model uznał go za ryzyko.

    Wypowiedź: Wykład TED (książka „Weapons of Math Destruction”, 2016) ↗
16. 

    2017

    Stuart Russell

    Wielka Brytania / USA·informatyk, współautor podręcznika AI

    Autor podręcznika, z którego uczy się sztucznej inteligencji cały świat, ostrzega przed systemem dążącym do celu postawionego zbyt wąsko — i przed bronią autonomiczną, która wybiera cel bez człowieka.

    Wypowiedź: Wykład TED „3 principles for creating safer AI” ↗
17. 

    2017

    Tristan Harris

    USA·etyk technologii, były Google

    Projektował w Google mechanizmy przyciągające uwagę i odszedł, żeby przed nimi ostrzegać. Mówi o garstce ludzi, którzy decydują, na co patrzą miliardy — i o tym, że stawką jest sen, nastrój i zdolność do skupienia.

    Wypowiedź: Wykład TED o gospodarce uwagi ↗
18. 

    2018

    Yuval Noah Harari

    Izrael·historyk, Uniwersytet Hebrajski

    Ostrzega przed „hakowaniem ludzi”: gdy system wie o Twoim ciele i emocjach więcej niż Ty, przestaje przewidywać decyzje, a zaczyna je podsuwać. Wolna wola staje się wtedy złudzeniem możliwym do wyprodukowania.

    Wypowiedź: Wykład TED o danych i władzy ↗
19. 

    2019

    Shoshana Zuboff

    USA·socjolożka, ekonomistka, Harvard

    Opisała model, w którym ludzkie zachowanie jest surowcem: najpierw przewidywanym, potem kształtowanym pod zamówienie. Ostrzega, że przedmiotem handlu przestały być dane, a stała się przyszłość konkretnej osoby.

    Wypowiedź: Wywiad w The Guardian (książka o kapitalizmie nadzoru) ↗
20. 

    2019

    Michel Desmurget

    Francja·neurobiolog, dyrektor badań INSERM

    Zebrał badania nad wpływem ekranów na rozwijający się mózg i postawił tezę, że pierwsze pokolenie od stuleci wypada w testach zdolności poznawczych gorzej niż poprzednie. Mówi o języku, uwadze, śnie i wynikach szkolnych.

    Wypowiedź: „La fabrique du crétin digital”, opis wydawcy ↗
21. 

    2021

    Anna Lembke

    USA·psychiatrka, Uniwersytet Stanforda

    Kliniczystka lecząca uzależnienia opisuje smartfon jako „cyfrową igłę podskórną” i pokazuje na pacjentach, że mechanizm nagrody działa tu tak samo jak przy substancjach — z tą samą ceną płaconą nastrojem i snem.

    Wypowiedź: „Dopamine Nation”, opis wydawcy ↗
22. 

    2021

    Timnit Gebru i Emily M. Bender

    Etiopia / USA·informatyczka i lingwistka

    Praca o „stochastycznych papugach”: model językowy układa słowa wiarygodnie, nie rozumiejąc żadnego z nich. Ostrzegają, że taki tekst brzmi jak porada, bywa brany za poradę i trafia tam, gdzie stawką jest zdrowie. Gebru straciła za tę pracę stanowisko w Google.

    Wypowiedź: „On the Dangers of Stochastic Parrots”, ACM FAccT ↗
23. 

    2023marzec

    Max Tegmark i sygnatariusze listu FLI

    Szwecja / USA·fizyk MIT, Future of Life Institute

    List otwarty wzywający do wstrzymania na pół roku treningu systemów potężniejszych od GPT-4, podpisany przez tysiące badaczy i inżynierów. Argument: laboratoria ścigają się z systemami, których nikt — łącznie z ich twórcami — nie rozumie ani nie kontroluje.

    Wypowiedź: List otwarty „Pause Giant AI Experiments” ↗
24. 

    2023marzec

    Eliezer Yudkowsky

    USA·badacz bezpieczeństwa AI

    Odpowiedział na list FLI, że pauza to za mało. Jego zdaniem przy obecnym stanie wiedzy zbudowanie systemu mądrzejszego od człowieka kończy się śmiercią wszystkich — nie ze złośliwości, lecz z obojętności.

    Wypowiedź: Esej w TIME ↗
25. 

    2023maj

    Geoffrey Hinton

    Wielka Brytania / Kanada·informatyk, pionier sieci neuronowych, noblista

    Odszedł z Google po dekadzie, żeby móc mówić bez oglądania się na pracodawcę. Twierdzi, że część jego życiowej pracy była błędem, i ostrzega przed systemami, które nauczą się manipulować ludźmi, oraz przed zalewem treści, przy którym nikt nie odróżni prawdy od fałszu.

    Wypowiedź: Rozmowa i relacja BBC News ↗
26. 

    2023maj

    Yoshua Bengio

    Kanada·informatyk, laureat Nagrody Turinga

    Jeden z trzech twórców głębokiego uczenia rozpisał krok po kroku, jak może powstać system działający wbrew ludziom — nie w scenariuszu filmowym, lecz przez zwykłe połączenie autonomii, celu i dostępu do sieci.

    Wypowiedź: „How Rogue AIs May Arise”, blog autora ↗
27. 

    2023maj

    Dan Hendrycks i sygnatariusze CAIS

    USA·badacz, dyrektor Center for AI Safety

    Jedno zdanie podpisane przez czołowych badaczy i szefów największych laboratoriów: ograniczanie ryzyka wyginięcia z powodu AI powinno być globalnym priorytetem obok pandemii i wojny nuklearnej.

    Wypowiedź: Statement on AI Risk, Center for AI Safety ↗
28. 

    2023maj

    Vivek Murthy

    USA·lekarz, Surgeon General Stanów Zjednoczonych

    Najwyższy urząd lekarski w USA wydał formalne ostrzeżenie zdrowotne: nie mamy dowodów, że media społecznościowe napędzane algorytmami są dla dzieci i nastolatków bezpieczne, a mamy dane wiążące ich intensywne używanie z lękiem, depresją i zaburzeniami snu.

    Wypowiedź: Advisory „Social Media and Youth Mental Health” ↗
29. 

    2024marzec

    Jonathan Haidt

    USA·psycholog społeczny, Uniwersytet Nowojorski

    Zebrał dane o zdrowiu psychicznym nastolatków po roku 2010 i powiązał ich załamanie z przejściem dzieciństwa do telefonu. Postuluje rzeczy konkretne: brak smartfonu do końca podstawówki, brak mediów społecznościowych do szesnastu lat, szkoła bez telefonu.

    Wypowiedź: „The Anxious Generation”, strona książki ↗
30. 

    2024maj

    Jan Leike

    Niemcy·badacz bezpieczeństwa AI, były szef zespołu w OpenAI

    Kierował w OpenAI zespołem odpowiedzialnym za panowanie nad systemami mądrzejszymi od człowieka i odszedł, mówiąc publicznie, że kultura bezpieczeństwa ustąpiła miejsca błyskotkom. Ostrzeżenie z wnętrza laboratorium, które te systemy buduje.

    Wypowiedź: Relacja CNN z rezygnacji ↗
31. 2024czerwiec

    Sygnatariusze listu „Right to Warn”

    międzynarodowa·obecni i byli pracownicy OpenAI, Google DeepMind i Anthropic

    Trzynastu pracowników największych laboratoriów napisało, że ich firmy mają silne bodźce, by nie ujawniać tego, co wiedzą o ryzyku, a umowy o poufności odbierają im prawo ostrzeżenia opinii publicznej. Domagają się, by nie karać za mówienie o zagrożeniach, skoro nadzoru z zewnątrz nie ma. List poparli Hinton, Bengio i Russell.

    Wypowiedź: List otwarty „A Right to Warn about Advanced Artificial Intelligence” ↗
32. 

    2024grudzień

    Connor Leahy

    Niemcy / USA·informatyk, prezes Conjecture, współzałożyciel EleutherAI

    Sam trenował i udostępniał wielkie modele językowe, zanim uznał, że wyścig, w którym brał udział, prowadzi donikąd. Jako główny autor „The Compendium” wykłada od podstaw, dlaczego budowanie superinteligencji w obecnych warunkach — bez nadzoru, w rywalizacji spółek — kończy się wyginięciem człowieka.

    Wypowiedź: „The Compendium”, pełny tekst ↗
33. 

    2026wrzesień

    Jacob Coxon

    narodowość nieujawniona·matematyk, badacz pretreningu modeli w OpenAI i Anthropic

    Trzy lata budował modele w OpenAI, potem w Anthropic. Odszedł 8 września 2026 i tego samego dnia podał powody: obie firmy ścigają się prosto do samodoskonalącej się superinteligencji, a ludzie, którzy ją budują, szczerze wierzą, że może zabić wszystkich przed końcem dekady — mówiąc to prywatnie i łagodząc publicznie. Nazywa to zakładem o nasze życie, którego nie powinno się rozstrzygać na firmowym Slacku. Evan Hubinger, szef Alignment Science w Anthropic, przyznał mu rację i podał własną ocenę: ponad 10 procent ryzyka wyginięcia ludzi w ciągu dekady.

    Wypowiedź: Relacja Euronews z rezygnacji i cytaty z wpisu ↗