Dlaczego ludzie wciąż fantazjują o sztucznej inteligencji sprowadzającej apokalipsę?

Cześć wszystkim, Michael Reilly z tej strony.

\ Jest jeszcze początek 2024 roku, ale czy ktoś inny jest już zmęczony poziomem dramatu i hiperwentylacji wokół AI? Jedną rzeczą, która szczególnie mnie uderza, jest gotowość niektórych osób do przywoływania katastrof—prawdziwych apokaliptycznych wizji naszej przyszłości—aby opisać swoje eleganckie chatboty i generatory obrazów.

\ Myślę szczególnie o niedawnej sprzeczce na Twitterze między Vinodem Khoslą a Markiem Andreessenem, dwoma najbardziej prominentnymi kapitalistami venture z Doliny Krzemowej, którzy są również inwestorami w OpenAI. To, co zaczęło się jako dyskusja o tym, czy udostępnienie kodu własnościowego OpenAI jako open source to dobry pomysł, jakoś przekształciło się w porównywanie produktów firmy do Projektu Manhattan.

\ Punkt widzenia Khosli wydawał się koncentrować na obawach o bezpieczeństwo narodowe związanych z udostępnianiem bardzo zaawansowanego kodu AI jako open source każdemu, kto mógłby zdecydować się na jego niewłaściwe wykorzystanie. Ale tego rodzaju apokaliptyczna retoryka jest w założycielskim DNA OpenAI, firmy, która powstała jako celowy wysiłek stworzenia komputerowej superinteligencji, która przyćmiłaby ludzki intelekt. Pod koniec 2022 roku OpenAI wypuściło ChatGPT i fanfary naprawdę się rozpoczęły. Podobnie jak katastrofizowanie, które rozprzestrzeniło się od ludzi takich jak Sam Altman, który jako szef firmy ma osobisty interes w tym, by jego technologia brzmiała Naprawdę Potężnie.

\ Dlaczego ludzie z branży technologicznej lubią mówić o rzeczach w apokaliptycznych terminach? Bądźmy uczciwi: *wszyscy* lubią rozmawiać o końcu czasów. Starożytne cywilizacje, teksty religijne, producenci filmów hollywoodzkich, główne media, internetowi teoretycy spiskowi—dyrektorzy firm technologicznych nie są sami. Jest coś wrodzonego w człowieku, co każe mu wierzyć, że świat jest na krawędzi kataklizmu.

\ Ale jeśli chodzi konkretnie o ludzi z branży technologicznej, zastanawiam się: Czy Sam Altman mówi, że potrzebuje 7 bilionów dolarów, aby przekształcić świat w utopię napędzaną przez AI, ponieważ naprawdę wierzy, że to dobry sposób wykorzystania pieniędzy (czy słyszał o zmianach klimatu)? Czy to tylko marketing? Im bardziej niebezpieczna wydaje się ich technologia, tym więcej uwagi przyciąga, a co za tym idzie, więcej pieniędzy, zarówno pod względem inwestycji, jak i wyceny firmy. Ta strategia... wydaje się działać naprawdę dobrze! OpenAI zostało wycenione na 80 miliardów dolarów.

\ Prawdziwym problemem jest jednak to, że ta narracja o błyszczących obiektach odwraca uwagę od rzeczywistych, realnych konsekwencji AI. Oprogramowanie, które wykorzystuje duże transze danych do przewidywania świata, jest tam, pilnie wykonując swoją pracę. W niektórych przypadkach—jak w systemie punktacji Los Angeles dla mieszkań subsydiowanych, systemie wczesnego ostrzegania o porzuceniu nauki w Wisconsin, narzędziach wykrywania plagiatu i wielu innych dobrze udokumentowanych przypadkach, od zatrudniania po wymiar sprawiedliwości—krzywdzi ludzi.

\ Gdyby zadali sobie trud, by zwrócić uwagę, myślę, że Wielcy Brokerzy Mocy Technologicznej w większości zgodziliby się z pomysłem, że powinniśmy naprawić systemy takie jak te, które The Markup zbadało w LA czy Wisconsin, aby działały bardziej sprawiedliwie i równo. Ale ignorując te przyznajmy, znacznie mniej seksowne tematy i skupiając się zamiast tego na dyskusjach o tym, jak AI doprowadzi do końca czasów—lub że tylko dzięki mądremu zarządzaniu przez najwyższych kapłanów kapitału venture możemy zostać uratowani przed zniszczeniem—jesteśmy proszeni o skupienie naszej uwagi na fantazji.

\ I hej, kto nie kocha dobrej fantazji. Po prostu upewnij się, że zostawisz miejsce na rzeczywistość.

\ Dziękuję za czytanie,

Michael Reilly

Redaktor Naczelny

The Markup

\ PS – jeśli wytrwałeś ze mną do tego momentu lub po prostu przeskoczyłeś na dół, zasługujesz na kilka fajnych rzeczy. Oto kilka (głównie związanych z AI) rzeczy z internetu, które ostatnio uznałem za naprawdę interesujące. Mam nadzieję, że dadzą ci coś do przemyślenia w ten weekend:

• Ta historia Karen Hao w The Atlantic jest jednym z najlepszych artykułów, jakie przeczytałem o zasobach naturalnych pochłanianych przez Wielki Szum wokół AI lat 2020.
• Nasz własny Ross Teixeira rozmawiał z kilkoma nauczycielami na całym świecie o tym, jak używają AI w klasie. Uznałem ich odpowiedzi za fascynujące.
• Nowi na rynku 404 Media zabijają sensacyjnymi wiadomościami niemal codziennie od ich startu sześć miesięcy temu. Jeśli AI ma zniszczyć świat, to dlatego, że zostanie użyta do zatopienia nas wszystkich w spamie z TikToka.
• Nasz były kolega, Leon Yin, i jego współpracownicy z Bloomberg przeprowadzili niesamowite śledztwo dotyczące tego, jak narzędzie rekrutacyjne GPT OpenAI ma wbudowane uprzedzenia rasowe. Wizualnie oszałamiające, a także świetny kawałek dziennikarstwa.
• Ta mała firma uważa, że Ameryka powinna zacząć używać maszyn do głosowania, które działają całkowicie na kodzie open source.

Autorzy

• Michael Reilly, Redaktor Naczelny

Redakcja

• Sisi Wei

Projekt i grafika

• Gabriel Hongsdusit

Zaangażowanie

• Maria Puertas

\ Opublikowano również tutaj

\ Zdjęcie autorstwa Mylène Haudebourg na Unsplash

\