Sigurnost vještačke inteligencije postala je jedno od ključnih pitanja unutar tehnološke industrije, nakon upozorenja istraživača Jacoba Coxona. Bivši zaposlenik Anthropica tvrdi da se razvoj odvija prebrzo i da bi posljedice mogle ugroziti čovječanstvo. Njegove procjene podržali su pojedini stručnjaci, dok ih drugi smatraju pretjeranim i nedovoljno utemeljenim.
Istraživač napustio Anthropic zbog brzine razvoja
Jacob Coxon, dvadesetsedmogodišnji istraživač koji je ranije radio i u OpenAI-ju, objasnio je da je napustio Anthropic zbog zabrinutosti za budućnost razvoja vještačke inteligencije. U razgovoru za BBC rekao je da su ljudi iz industrije iskreno uplašeni tempom napretka i mogućnošću da izgube kontrolu nad sistemima.
Coxon je kazao da bi, ako se sadašnji tempo ne uspori, u bliskoj budućnosti mogla nastati situacija opasna za cijelo čovječanstvo. Podržava usporavanje razvoja, ali smatra da ono mora biti usklađeno s Kinom kako bi se izbjegla međunarodna trka u stvaranju sve moćnijih modela.
Direktor Anthropica Dario Amodei također je pozvao na usporavanje i ocijenio da su rizici ozbiljni. Sam Altman iz OpenAI-ja i Elon Musk saglasni su s prijedlogom da se uvedu propisi i nezavisni nadzor nad modelima tokom njihovog razvoja.
Mogući scenariji i odgovor kompanije Anthropic
Coxon priznaje da je teško precizno opisati kako bi izgledala katastrofa izazvana vještačkom inteligencijom. Kao jedan od mogućih scenarija navodi se djelovanje velikog broja autonomnih programa koji bi mogli preuzeti kontrolu nad internetom, a Coxon smatra da bi takva mogućnost mogla postati realna u roku od šest mjeseci do godinu dana.
Anthropic je nakon njegovog odlaska saopštio da vještačka inteligencija može donijeti ogromne koristi, ali i rizike bez presedana. Kompanija tvrdi da razvija modele sa snažnim zaštitnim mehanizmima, intenzivno ih testira i objavljuje rezultate radi nezavisne provjere njihovog ponašanja.
Iz Anthropica zagovaraju zakonski utemeljen i provjerljiv dogovor o tempu objavljivanja najmoćnijih modela. Istovremeno, kritičari smatraju da dramatična upozorenja mogu služiti privlačenju medijske pažnje, dok stroža pravila, prema njihovom mišljenju, mogu otežati ulazak novih konkurenata na tržište.
Upozorenja dijele Silicijumsku dolinu
Coxonove tvrdnje javno je doveo u pitanje Clément Delangue, direktor platforme Hugging Face. On je poručio da njegove procjene treba posmatrati u odgovarajućoj perspektivi, dok je direktor Nvidije Jensen Huang, prema navodima iz materijala, odbacio ideju da bi AI mogao dovesti do kraja čovječanstva.
Coxon ipak tvrdi da se njegove kolege plaše da bi se ozbiljna opasnost mogla pojaviti već u naredne dvije godine. Prema njegovim riječima, pojedini zaposleni razmatraju kupovinu zemljišta na sigurnijim lokacijama zbog straha od nestabilnosti koju bi mogao izazvati ubrzani razvoj tehnologije.
Iako iznosi dramatična upozorenja, Coxon nije potpuno pesimističan i vjeruje da istraživači žele ostvariti pozitivne mogućnosti AI-ja, uključujući pronalazak lijekova i bolji kvalitet života. Naučnik Anthropica Evan Hubinger naveo je da smatra kako postoji više od deset posto vjerovatnoće da bi AI u narednoj deceniji mogao ubiti sve ljude.
