Bil Gejts upozorava da rizici vještačke inteligencije više nisu samo teorijsko pitanje, posebno kada se moćni alati nađu u rukama ljudi sa zlonamjernim namjerama. Suosnivač Majkrosofta smatra da bi povezivanje AI-ja s biološkim oružjem moglo otvoriti put događajima sa ogromnim brojem žrtava. Zbog toga traži snažniji nadzor, tehničke zaštite i odgovorniju regulaciju.
AI i mogućnost masovnih žrtava
U intervjuu za podkast „Meet the Press“ Bil Gejts rekao je da je vještačka inteligencija već dovoljno razvijena da, u krajnjem scenariju, doprinese događajima s milijardu žrtava. Njegova procjena odnosi se prvenstveno na mogućnost zloupotrebe tehnologije, a ne na njeno samostalno djelovanje.
Kao posebno opasan spoj izdvojio je AI i biološko oružje. Gejts godinama upozorava na biološke prijetnje, a još 2015. godine govorio je o pandemijama i nedovoljnoj pripremljenosti svijeta za brzo širenje zaraznih bolesti.
U razgovoru s Ezrom Klajnom iz „New York Timesa“ upozorio je da bi napredniji sistemi mogli pojedincima ili manjim grupama omogućiti pristup znanju koje je ranije zahtijevalo znatno veće resurse. Prema njegovim riječima, takva mogućnost već postoji i mogla bi olakšati bioterorističke napade velikih razmjera.
Dizajniranje opasnih molekula
Gejts posebno strahuje od toga da bi napredni AI alati mogli pomoći u dizajniranju novih molekula i bioloških sistema. Time bi se, prema njegovom scenariju, smanjio dio znanja i resursa potrebnih za razvoj izuzetno opasnih patogena.
On je upozorio da bi se u budućnosti mogla pojaviti biološka prijetnja teža od poznatih istorijskih pandemija. Svoje stavove povezao je s ranijim zalaganjem za prevenciju novih pandemija i knjigom „Kako spriječiti sljedeću pandemiju“, objavljenom nakon kovida 19.
Gejts je rizike vještačke inteligencije uporedio i s nuklearnim oružjem, ocijenivši da je riječ o najopasnijem području kojem se čovječanstvo približilo. Ipak, njegovo glavno upozorenje odnosi se na ljude koji bi moćne alate namjerno iskoristili za nanošenje velike štete.
Gejts traži snažniji nadzor nad AI sistemima
Dodatni problem vidi u činjenici da se najveći dio razvoja napredne AI tehnologije odvija u privatnom sektoru, dok države tek pokušavaju pratiti taj tempo. Gejts smatra da vlade ne bi smjele sigurnost prepustiti isključivo dobrovoljnoj samoregulaciji kompanija.
On zagovara snažnije mehanizme nadzora i zaštite, uključujući vođenje zapisa o radu moćnih modela. Takvi podaci omogućili bi da se naknadno utvrdi na koji su način sistemi korišteni, dok bi sami sigurnosni prekidači, prema njegovom mišljenju, bili nedovoljni.
Gejts procjenjuje da današnji sistemi još nemaju sposobnost samostalnog preuzimanja računara i odupiranja pokušaju gašenja. Slične rasprave vode se i u industriji, gdje Dario Amodei i Sem Altman upozoravaju da razvoj najnaprednijih modela možda mora biti usporen kako bi sigurnosni standardi mogli pratiti njihov napredak.
