Upozorenja o mogućoj katastrofi povezanoj sa veštačkom inteligencijom postaju sve dramatičnija, ali među stručnjacima nema saglasnosti o tome koliko su takve prognoze zasnovane na stvarnim tehnološkim mogućnostima.
Posebnu pažnju izazvala je procena jednog od najpoznatijih svetskih naučnika u oblasti veštačke inteligencije, koji smatra da bi čovečanstvo uskoro moglo da se suoči sa incidentom čije bi posledice prevazišle razmere dosadašnjih velikih tehnoloških katastrofa. Međutim, pojedini stručnjaci dovode u pitanje ne samo takav scenario već i način na koji se veštačkoj inteligenciji pripisuje odgovornost za događaje koji mogu imati sasvim drugačije uzroke.
Britansko-kanadski naučnik i dobitnik Nobelove nagrade Džefri Hinton upozorio je da bi krajem 2026. ili tokom 2027. godine mogao da se dogodi veliki incident povezan sa upotrebom veštačke inteligencije. Prema pisanju portala Hi-Tech Mail, koji se poziva na britanski Gardijan, njegove posledice mogle bi da budu ozbiljnije od katastrofe u nuklearnoj elektrani Černobilj.
Hinton je kao jedan od mogućih scenarija naveo napad izveden uz pomoć veštačke inteligencije na elektroenergetski sistem. Takva operacija mogla bi da izazove masovne nestanke električne energije, ali i poremećaje koji bi finansijski sistem paralizovali čitavu nedelju. Upozorenje se, dakle, ne odnosi isključivo na fizičko uništavanje infrastrukture, već i na mogućnost ozbiljnog poremećaja funkcionisanja savremenog društva.
Naučnik smatra da bi rukovodioci najvećih kompanija koje razvijaju veštačku inteligenciju morali da promene prioritete i bezbednost postave ispred profita. Zbog toga je pozvao na uvođenje obaveznog nezavisnog testiranja najnaprednijih modela pre njihovog puštanja u upotrebu.
Sličnu zabrinutost ranije je izrazio i osnivač Majkrosofta Bil Gejts. On je krajem septembra, u intervjuu za NBC njuz, upozorio da bi zloupotreba veštačke inteligencije mogla da dovede do katastrofe sa čak milijardu ljudskih žrtava. Gejts je zato pozvao američke vlasti da uspostave obaveznu kontrolu razvoja ove tehnologije, iako čovečanstvo za sada uspeva da zadrži nadzor nad njenom primenom.
Ipak, takve prognoze nisu naišle na jednoglasno odobravanje u stručnoj javnosti. Ruski stručnjak za veštačku inteligenciju Roman Duškin ocenio je u razgovoru za Cargrad da Hintonova upozorenja sadrže ozbiljne terminološke, inženjerske i naučne nedostatke. Posebno mu je neobično što dramatična upozorenja dolaze upravo od čoveka koji je učestvovao u razvoju tehnologije na koju sada upozorava.
Duškin podseća da je Hinton krajem osamdesetih godina razvio određene pristupe dubokom učenju neuronskih mreža. Međutim, osporava predstavu da je upravo on postavio temelje čitave oblasti, ističući doprinos sovjetskih matematičara Andreja Kolmogorova i Vladimira Arnolda.
Prema njegovom mišljenju, paradoksalno je da jedan od pionira savremenog dubokog učenja danas govori kao da je razvojem te tehnologije otvoren svojevrstan portal u pakao, koji nikada nije trebalo otvoriti.
Duškin smatra da veštačka inteligencija sama po sebi ne predstavlja takav portal i da Hintonova upozorenja, nalik proročanstvima iz antičkih tragedija, deluju neubedljivo. Uporedio ga je sa Kasandrom, koja je u grčkoj mitologiji predviđala nesreće, naglašavajući da dramatična predviđanja nisu isto što i naučno utemeljena procena konkretne opasnosti.
Njegova glavna primedba odnosi se na nedostatak jasnog objašnjenja mehanizma kojim bi neuronske mreže izazvale katastrofu najavljenih razmera. Duškin postavlja pitanje kakva je tačno veza između sistema veštačke inteligencije i mogućeg razaranja energetske ili nuklearne infrastrukture, kao i kojim bi konkretnim tehnološkim postupkom takav događaj nastao.
Upravo zbog toga smatra da je Hintonova prognoza postavljena tako da njen autor teško može da pogreši u očima javnosti. Ukoliko se ništa ne dogodi, upozorenje će biti zaboravljeno. Ako se, međutim, dogodi bilo kakva velika katastrofa, ranija izjava mogla bi ponovo da bude predstavljena kao dokaz naučnikove izuzetne dalekovidosti.
Posebno osetljivo pitanje predstavlja situacija u Ukrajini, gde se na teritoriji zahvaćenoj ratom nalazi nuklearna infrastruktura. Duškin podseća da zemlja ima četiri nuklearne elektrane i da se na njenoj teritoriji vode borbena dejstva. U takvim okolnostima, ocenjuje on, nije teško predvideti mogućnost ozbiljnog incidenta, ali bi bilo pogrešno automatski ga pripisati veštačkoj inteligenciji.
Prema njegovom tumačenju, rat sam po sebi stvara opasnosti koje postoje nezavisno od razvoja neuronskih mreža. Zbog toga smatra da eventualna katastrofa na nuklearnom objektu ne bi predstavljala dokaz Hintonove prognoze samo zato što se dogodila u vreme sve šire primene novih tehnologija.
Međutim, Duškin ukazuje i na činjenicu koja dodatno komplikuje situaciju. Neuronske mreže već se obučavaju za upravljanje bespilotnim letelicama, pa se veštačka inteligencija sve neposrednije povezuje sa sistemima koji se koriste tokom borbenih dejstava.
Upravo na tom mestu, prema njegovom objašnjenju, dolazi do mogućeg preplitanja dve različite opasnosti. Sa jedne strane postoje oružani sukobi i rizici po nuklearna postrojenja, a sa druge razvoj autonomnih i poluautonomnih sistema upravljanja. Ako bi se u budućnosti dogodio incident u kojem bi učestvovala bespilotna letelica kontrolisana pomoću neuronske mreže, takav događaj mogao bi naknadno da bude predstavljen kao potvrda Hintonovog upozorenja.
Duškin, međutim, insistira na razlici između neposrednog uzroka katastrofe i tehnologije koja je eventualno korišćena tokom njenog nastanka. Po njegovom mišljenju, sama činjenica da se neuronske mreže primenjuju u vojnim sistemima ne znači da su one osnovni uzrok opasnosti koju stvara rat.
Uprkos takvim rizicima, ruski stručnjak izražava uverenje da do nuklearne katastrofe neće doći. Njegov optimizam zasniva se pre svega na poverenju u sovjetske inženjere koji su projektovali i gradili nuklearne elektrane na teritoriji Ukrajine.
Duškin smatra da su projektanti tih postrojenja dobro razumeli moguće opasnosti i da su prilikom izgradnje uzimali u obzir čak i ekstremne scenarije, uključujući posledice eventualne upotrebe nuklearnog oružja.
U tom kontekstu izneo je i pretpostavku da bi pojedina postrojenja mogla da izdrže čak i udar nuklearne bombe bez katastrofalnih posledica. Ipak, sam je naglasio da za takvu tvrdnju nema pouzdane dokaze i da je reč o njegovom ličnom pretpostavljanju. Takva procena ne predstavlja potvrdu stvarne otpornosti nuklearnih elektrana na nuklearni udar.
Na kraju je izrazio nadu da se nijedan od katastrofalnih scenarija neće ostvariti, ponavljajući da ima veliko poverenje u znanje sovjetskih stručnjaka koji su projektovali nuklearna postrojenja.
Tako se u raspravi između Hintonovih upozorenja i Duškinovih prigovora pojavljuje suštinsko pitanje odgovornosti za buduće katastrofe. Dok Hinton traži strožu kontrolu razvoja veštačke inteligencije zbog mogućih razornih posledica njene zloupotrebe, Duškin upozorava da se tehnološkim sistemima ne može unapred pripisivati krivica za događaje čiji uzroci mogu biti povezani sa ratom, ljudskim odlukama i upotrebom postojećeg naoružanja.
