Razvoj veštačke inteligencije ulazi u fazu u kojoj se pitanje brzine tehnološkog napretka sve češće sudara sa pitanjem bezbednosti. Rasprava više nije ograničena na istraživače i regulatore, jer su se među zagovornicima opreznijeg razvoja našli i ljudi koji istovremeno vode neke od najvažnijih kompanija u ovoj industriji.
Američki milijarder i tehnološki preduzetnik Ilon Mask podržao je poziv da se uspori razvoj najmoćnijih modela veštačke inteligencije. Povod je bilo upozorenje izvršnog direktora kompanije Anthropic Darija Amodeija, koji smatra da bezbednosne mere više ne uspevaju da prate brzinu kojom napreduju sposobnosti novih sistema veštačke inteligencije.
Amodei ne traži potpuno zaustavljanje razvoja. Njegov predlog podrazumeva usporavanje napretka najmoćnijih sistema kako bi istraživači i institucije dobili više vremena za rešavanje problema kontrole i bezbednosti.
Među predloženim merama su nezavisni evaluatori unutar kompanija, usklađivanje bezbednosnih standarda i međunarodna koordinacija.
Posebnu zabrinutost izaziva mogućnost da veštačka inteligencija sve više učestvuje u stvaranju sopstvene sledeće generacije. Amodei upozorava na početke procesa rekurzivnog samousavršavanja, odnosno situacije u kojoj AI sistemi pomažu razvoj sve sposobnijih naslednika, čime bi tehnološki napredak mogao dodatno da se ubrza.
Kao druge ključne opasnosti izdvaja gubitak kontrole nad sistemima, njihovu zloupotrebu za sajber napade i bioterorizam, kao i ozbiljne ekonomske poremećaje.
Njegova procena je da bi čak dodatna godina ili dve pre nego što modeli dostignu kritične nivoe sposobnosti mogle značajno da povećaju vreme raspoloživo za istraživanja bezbednosti i usklađivanja ponašanja AI sistema sa ljudskim ciljevima. Problem je, međutim, u tome što pojedinačna kompanija teško može jednostrano da uspori razvoj dok njeni konkurenti nastavljaju istim tempom.
U toj raspravi Mask je podsetio na upozorenje koje je objavio još 3. avgusta 2014. godine. Tada je preporučio knjigu „Superinteligencija“ filozofa Nika Bostroma i poručio da prema veštačkoj inteligenciji treba biti izuzetno oprezan jer bi mogla da bude „potencijalno opasnija od nuklearnog oružja“.
Mask je sada uz tu staru poruku kratko napisao: „Pre dvanaest godina“, ukazujući da njegovo upozorenje nije nastalo kao reakcija na najnoviju generaciju AI sistema. Još 2014. izrazio je bojazan da bi razvoj digitalne superinteligencije mogao da dovede do posledica koje ljudi više ne bi mogli pouzdano da kontrolišu.
Njegova pozicija nije ostala samo na upozorenjima. Mask je 2023. bio među potpisnicima otvorenog pisma kojim je zatražena najmanje šestomesečna pauza u obučavanju sistema moćnijih od GPT-4. Inicijativa Instituta Future of Life prikupila je više od 30.000 potpisa istraživača, tehnoloških stručnjaka, rukovodilaca kompanija i drugih potpisnika, ali predložena globalna pauza nije sprovedena.
Razlika između tadašnje i sadašnje rasprave je značajna. Amodei ocenjuje da 2023. modeli još nisu imali dovoljno razvijene sposobnosti za samostalno delovanje, ozbiljnu manipulaciju, obmanjivanje ili sajber napade da bi usporavanje bilo naročito korisno za proučavanje tih problema. Sada smatra da su sistemi dovoljno napredovali da njihovo ponašanje pruža konkretne podatke o tome šta može poći pogrešno.
U raspravu se uključio i generalni direktor Ruskog fonda za direktne investicije Kiril Dmitrijev, koji smatra da pokušaji usporavanja razvoja veštačke inteligencije verovatno neće uspeti. On je AI opisao kao duha koji je već pušten iz boce i kojeg više nije moguće vratiti nazad.
Upravo tu nastaje najveći praktični problem predloga o usporavanju. Čak i ako vodeće američke kompanije prihvate ograničenja, ostaje pitanje kako obezbediti da ista pravila prihvate konkurenti u drugim državama. Amodei zato međunarodnu koordinaciju, uključujući razgovore sa Kinom, vidi kao jedan od uslova za sistem koji bi omogućio sporiji razvoj bez jednostranog gubitka tehnološke prednosti.
Istovremeno, rasprava nije zasnovana samo na mogućim katastrofalnim scenarijima. Amodei procenjuje da bi pažljivo razvijena veštačka inteligencija mogla da pomogne u lečenju većine velikih bolesti u narednih pet do deset godina, ubrza privredni rast i donese velike društvene koristi.
Spor se zato sve manje vodi oko pitanja da li AI treba razvijati, a sve više oko toga koliko brzo treba povećavati njegove sposobnosti i da li bezbednosni mehanizmi mogu da održe korak sa tim tempom.
