Strah od veštačke inteligencije sve više potresa tehnološku industriju, dok upozorenja vodećih stručnjaka i neobični incidenti tokom testiranja otvaraju pitanje koliko su ljudi zaista spremni za posledice razvoja novih sistema.
Rasprava o mogućnosti da veštačka inteligencija izmakne ljudskoj kontroli poslednjih nedelja dobija novu dimenziju. Pojedini stručnjaci napuštaju poslove povezane sa razvojem naprednih tehnologija, upozoravajući da više ne žele da učestvuju u stvaranju sistema čije ponašanje može postati nepredvidivo.
Istovremeno, u javnosti se sve otvorenije govori o opasnosti da autonomni programi jednog dana izazovu eksplozije, sabotaže ili druge katastrofalne događaje.
Posebnu zabrinutost izazvali su incidenti tokom bezbednosnih testiranja, kada su pojedini modeli veštačke inteligencije uspeli da pristupe računarskim sistemima izvan predviđenog kontrolisanog okruženja. Ovi slučajevi otvorili su pitanje da li postojeće zaštitne mere mogu da prate brzinu razvoja tehnologije koja dobija sve veću samostalnost u izvršavanju zadataka.
Jedno od najozbiljnijih upozorenja stiglo je od američkog milijardera i suosnivača Majkrosofta Bila Gejtsa. On je u intervjuu za NBC News izjavio da bi veštačka inteligencija, ukoliko se njena upotreba ne stavi pod odgovarajuću kontrolu, mogla da doprinese događajima koji bi odneli čak milijardu ljudskih života.
Gejts je naglasio da čovečanstvo nikada nije raspolagalo tako moćnom kombinacijom kao što su ljudi sa zlonamernim namerama i najnoviji alati veštačke inteligencije. Prema njegovoj oceni, upravo njihovo povezivanje predstavlja izuzetnu opasnost, zbog čega je neophodno zakonski ograničiti i nadzirati korišćenje ove tehnologije.
Njegova izjava nije predstavljala prognozu da će milijarda ljudi zaista stradati, već upozorenje na razmere mogućih posledica zloupotrebe. Gejts smatra da samoregulacija tehnoloških kompanija nije dovoljna i da političke institucije moraju preuzeti odgovornost za uspostavljanje obaveznih bezbednosnih pravila.
Zabrinutost je dodatno pojačana događajima u kompaniji Antropik, čiji je direktor Dario Amodej pozvao na usporavanje razvoja sve moćnijih modela veštačke inteligencije iz bezbednosnih razloga.
Kompanija je potvrdila tri incidenta u kojima su modeli Klod tokom bezbednosnih provera pristupili internetu i zatim neovlašćeno ušli u stvarne računarske sisteme tri različite organizacije. U tim testovima modeli su namerno radili bez određenih zaštitnih ograničenja, dok je pogrešna konfiguracija spoljnog testnog okruženja omogućila pristup mreži.
Ovi događaji pokazali su da autonomni sistemi mogu izvršavati radnje izvan granica koje su njihovi operateri očekivali. Međutim, incidenti sami po sebi ne dokazuju da je veštačka inteligencija razvila sopstvenu svest ili nameru da se suprotstavi ljudima.
Slična upozorenja dolaze i od američkog milijardera Ilona Maska, vlasnika kompanije xAI i osnivača Spejs eksa, kao i od direktora OpenAI Sema Altmana. Obojica su govorila o potrebi da se razvoj najmoćnijih sistema uspori i podvrgne strožim bezbednosnim pravilima.
Koliko je zabrinutost proširena među stanovništvom pokazuje i istraživanje Politika, prema kojem približno polovina ispitanika u Sjedinjenim Američkim Državama, Kanadi i pojedinim evropskim zemljama podržava usporavanje razvoja veštačke inteligencije.
Zabeleženi su i odlasci zaposlenih iz tehnoloških kompanija zbog neslaganja sa pravcem razvoja novih sistema. Pojedini stručnjaci javno su upozoravali da ne žele da učestvuju u stvaranju tehnologije koja bi jednog dana mogla da bude upotrebljena za ubijanje ljudi.
Ipak, nisu svi saglasni da takva upozorenja odgovaraju stvarnim razmerama opasnosti.
Ruski ekonomista Mihail Deljagin otvorio je ovu temu u razgovoru sa Germanom Klimenkom, predsednikom saveta Fonda za razvoj digitalne ekonomije, u emisiji „Itogi dna“ na televiziji Cargrad. Klimenko je upozorio da bi procenu opasnosti trebalo zasnivati na konkretnim činjenicama, a ne isključivo na strahu od budućih događaja.
Prema njegovom mišljenju, dosadašnja istorija pokazuje da je prirodna, ljudska inteligencija bila daleko opasnija od veštačke.
„Šta je veštačka inteligencija do sada postigla u uništavanju čovečanstva, mi ne znamo. Činjenica uopšte nema. A prirodna inteligencija? Sećamo se dva svetska rata, hemijskog oružja. Od sitnica, milion ljudi godišnje gine pod točkovima automobila. Ali niko ne poziva na zabranu proizvodnje automobila“, rekao je Klimenko.
Deljagin je na ovu konstataciju dodao da ni ruski Jedinstveni državni ispit, poznat kao EGE, nije izmislila veštačka inteligencija, ukazujući na to da su ljudi i bez novih tehnologija sposobni da stvaraju sisteme koji izazivaju ozbiljno nezadovoljstvo.
Klimenko smatra da deo današnje zabrinutosti potiče iz ljudske sklonosti da se plaši svega što je novo i nedovoljno razumljivo. Kao ilustraciju naveo je scenu iz jednog filma u kojoj seljaci panično beže kada ugledaju parnu lokomotivu.
Iako je, kako kaže, scena verovatno režirana, ona dobro prikazuje reakciju društva na tehnološke promene. Posebno su velike mase ljudi sklone odbacivanju novina koje još ne razumeju, a razvoj veštačke inteligencije izaziva upravo takvu vrstu nesigurnosti.
Međutim, Klimenko ne isključuje mogućnost da se dogodi ozbiljan incident koji će potpuno promeniti odnos prema novim tehnologijama.
Kao jedan od mogućih scenarija pomenuo je situaciju u kojoj bi sistem veštačke inteligencije, zbog gubitka kontrole nad njegovim postupcima, izazvao požar u bolnici ili neku drugu katastrofu. Takav događaj mogao bi da primora države da preispitaju dosadašnji pristup.
Prema njegovoj oceni, o potpunoj zabrani veštačke inteligencije zasad se gotovo i ne razgovara. Čak ni najpoznatiji predstavnici tehnološke industrije ne zahtevaju obustavljanje njenog razvoja, već uglavnom traže regulisanje načina na koji se ona koristi.
Dodatni problem predstavlja činjenica da Sjedinjene Američke Države i Kina, dve vodeće tehnološke sile, ne uspevaju da postignu saglasnost o zajedničkim pravilima. Njihovo rivalstvo otežava uspostavljanje međunarodnog sistema kontrole, iako se u obe zemlje sve češće govori o neophodnosti regulative.
Protivrečnost između javnih upozorenja i stvarnog ponašanja tehnoloških kompanija posebno je istakao ruski stručnjak za veštačku inteligenciju Roman Duškin, profesor Međunarodnog naučnoistraživačkog instituta za probleme upravljanja.
On je podsetio na inicijativu Ilona Maska iz 2023. godine, kada je grupa stručnjaka i javnih ličnosti pozvala na šestomesečnu pauzu u obučavanju najnaprednijih modela veštačke inteligencije.
„Pre tri godine, mislim da je to bio april 2023, sam Ilon Mask govorio je da treba uvesti šestomesečni moratorijum na obuku modela. A onda se odjednom pojavio njegov Grok, kao đavo iz kutije. Nešto tu nije čisto, čini mi se“, primetio je Duškin.
Njegova primedba odnosi se na činjenicu da predstavnici industrije koji javno upozoravaju na opasnosti istovremeno nastavljaju da razvijaju sopstvene sisteme. Maskova kompanija xAI predstavila je Grok iste godine kada je on podržao poziv na privremeno usporavanje razvoja najmoćnijih modela.
U takvim okolnostima, upozorenja o katastrofalnim posledicama ne dovode automatski do smanjenja ulaganja ili odustajanja od tehnološkog nadmetanja.
Klimenko smatra da čovečanstvo verovatno neće pristupiti ozbiljnim i obavezujućim ograničenjima sve dok se ne dogodi tragedija koja će pokazati stvarne razmere opasnosti.
„Znate i sami da čovečanstvo ne počinje da se dogovara bez nekakvih tragedija. Dakle, nešto mora da se dogodi“, ocenio je on.
Kao istorijsku paralelu naveo je razvoj nuklearnog oružja i početne faze trke u naoružanju. Prema njegovom tumačenju, dok su nuklearne eksplozije bile relativno ograničene, sa snagom koja nije prelazila približno 20 kilotona, države nisu u dovoljnoj meri sagledavale sve posledice daljeg povećavanja razorne moći.
Prekretnicu u razumevanju opasnosti Klimenko povezuje sa 1962. godinom, kada su Sjedinjene Američke Države izvele nuklearni eksperiment na velikoj visini iznad Tihog okeana.
Reč je o testu Starfiš prajm, tokom kojeg je detonirana nuklearna naprava snage približno 1,4 megatone, odnosno oko jedne i po megatone. Eksplozija se dogodila na visini od približno 400 kilometara, što odgovara visinskom području u kojem se danas nalazi Međunarodna svemirska stanica.
Posledice nisu bile ograničene na neposredno područje eksplozije. Nastali elektromagnetni efekti i radijacioni pojasevi izazvali su ozbiljne probleme u svemiru, uključujući oštećenja satelita.
U to vreme u niskoj Zemljinoj orbiti nalazila su se 24 satelita, a najmanje osam pretrpelo je oštećenja povezana sa eksperimentom. To odgovara približno trećini tadašnjih satelita u toj orbitalnoj oblasti.
Klimenko je istakao da sateliti u višim orbitama nisu bili pogođeni na isti način kao oni u nižim područjima. Prema njegovom tumačenju, upravo je razumevanje posledica takvih eksperimenata doprinelo ozbiljnijem međunarodnom razgovoru o ograničavanju nuklearnog oružja.
Posebno je upozorio na ono što bi se dogodilo kada bi danas bila izvedena eksplozija slične snage na približno istoj visini.
Prema njegovoj proceni, satelitska mreža Ilona Maska mogla bi da pretrpi katastrofalne posledice. Deo satelita bio bi onesposobljen odmah, dok bi ostali prestali da funkcionišu tokom narednih mesec dana.
Ta tvrdnja predstavlja Klimenkovu procenu mogućeg scenarija, a ne potvrđen rezultat savremenog eksperimenta. Ipak, istorijsko iskustvo iz 1962. godine pokazuje da nuklearna detonacija u svemiru može izazvati dugotrajne posledice i daleko izvan neposrednog mesta eksplozije.
Analogija sa nuklearnim oružjem otvara i pitanje da li će međunarodna zajednica ponoviti istorijski obrazac- prvo dozvoliti ubrzani razvoj tehnologije, zatim se suočiti sa njenim opasnim posledicama i tek nakon toga pristupiti ozbiljnim ograničenjima.
Za razliku od nuklearnog oružja, veštačka inteligencija već je duboko uključena u privredu, naučna istraživanja, komunikacije i svakodnevni život. Zbog toga bi eventualno ograničavanje njenog razvoja zahtevalo znatno složenije dogovore od zabrane pojedinih vrsta oružja ili eksperimenata.
Istovremeno, kompanije koje razvijaju najnaprednije modele imaju snažan ekonomski interes da nastave istraživanja, dok države u njihovom razvoju vide pitanje tehnološke konkurentnosti i nacionalne bezbednosti.
Upravo ta povezanost ekonomskih, političkih i bezbednosnih interesa otežava donošenje zajedničkih pravila. Neizvesnost u pogledu budućih mogućnosti veštačke inteligencije istovremeno podstiče strah javnosti i dodatno povećava interesovanje za nove sisteme.
Zbog toga se rasprava više ne svodi samo na pitanje koliko će veštačka inteligencija postati moćna. Sve važnije postaje pitanje ko će kontrolisati njene postupke, ko će odgovarati za eventualnu štetu i da li će države uspeti da uspostave delotvorna ograničenja pre nego što se dogodi incident sa teškim posledicama.
