Jedno upozorenje o budućnosti veštačke inteligencije izazvalo je ozbiljnu raspravu među stručnjacima, jer se više ne govori samo o greškama digitalnih sistema, već o događajima koji bi mogli da poremete svakodnevni život miliona ljudi.
U središtu polemike nalazi se pitanje koliko savremeni sistemi veštačke inteligencije zaista mogu da ugroze infrastrukturu od koje zavise čitave države. Dok pojedini naučnici upozoravaju na mogućnost velikih poremećaja, drugi smatraju da se opasnost predstavlja dramatičnije nego što to dozvoljavaju konkretna tehnološka saznanja.
Posebnu pažnju izazvale su tvrdnje o autonomnim sistemima koji više ne izvršavaju samo jednostavne zadatke, već mogu samostalno da preduzimaju niz povezanih radnji. Njihova sposobnost da pristupaju digitalnim alatima, obrađuju informacije i donose operativne odluke otvorila je pitanje granica ljudske kontrole.
Britanski naučnik, dobitnik Nobelove nagrade i jedan od pionira razvoja veštačke inteligencije Džefri Hinton upozorio je da bi svet uskoro mogao da doživi katastrofu uporedivu sa Černobiljem. Hinton, koji se ovom tehnologijom bavi već 44 godine i često se naziva njenim „kumom“, posebno je zabrinut zbog nedavnih slučajeva u kojima su autonomni AI agenti zaobilazili kontrolne mehanizme i pokretali hakerske napade.
U razgovoru za britanski Gardijan izneo je prognozu koja je izazvala veliku pažnju.
„Ili krajem ove ili sledeće godine videćemo Černobilj, i to bi moglo biti dovoljno da ljudi zaista obrate pažnju“, rekao je Hinton.
Njegovo upozorenje ne odnosi se na doslovno ponavljanje nuklearne katastrofe iz 1986. godine. Reč je o mogućnosti tehnološkog incidenta čije bi posledice po društvo i ekonomiju mogle da budu uporedive sa velikom industrijskom nesrećom.
Kao primere Hinton je naveo masovni nestanak električne energije ili paralizu finansijskog sistema izazvanu neispravnim funkcionisanjem veštačke inteligencije. Takav događaj mogao bi da pokaže koliko su savremena društva postala zavisna od složenih digitalnih sistema i koliko bi ozbiljne bile posledice njihovog otkazivanja.
Međutim, sa takvom prognozom ne slaže se ruski stručnjak za veštačku inteligenciju Roman Duškin, koji smatra da Hintonovo upozorenje otvara mnogo više pitanja nego što pruža konkretnih objašnjenja.
Duškin je u razgovoru za Cargrad primetio da postoji određena ironija u tome što jedan od najvažnijih pionira dubokog učenja danas upozorava na opasnosti tehnologije čijem je razvoju lično doprineo.
„Veoma je smešno. Čovek koji je bio pionir dubokog učenja, isti čovek koji je otvorio vrata pakla, kako sam kaže, smatra da neuronske mreže nije trebalo ni stvarati“, komentarisao je Duškin.
Njegova glavna primedba odnosi se na nedostatak preciznog objašnjenja načina na koji bi veštačka inteligencija izazvala katastrofu takvih razmera.
Ako Hinton govori o mogućnosti masovnog nestanka električne energije, smatra Duškin, potrebno je objasniti kojim bi konkretnim mehanizmom neuronske mreže mogle da izazovu takav događaj. Posebno je važno razlikovati same neuronske mreže od autonomnih agenata zasnovanih na velikim jezičkim modelima, jer nije reč o potpuno istim tehnološkim pojmovima.
„Ovo proročanstvo otvara mnogo pitanja, terminoloških, inženjerskih i naučnih. Kakve veze neuronske mreže imaju sa tim? Kako bi mogle to da izvedu? Koji je mehanizam?“, upitao je Duškin.
Time je doveo u pitanje osnovnu pretpostavku da mogućnosti savremenih AI sistema automatski podrazumevaju i sposobnost da se izazove veliki poremećaj u energetskom sistemu.
Duškin smatra da se pritom često zanemaruje važna razlika između stručnosti u oblasti veštačke inteligencije i poznavanja složenih industrijskih sistema. Činjenica da je neko dobitnik Nobelove nagrade, pa čak i kada bi takvo priznanje dobio stotinu puta, ne znači da automatski razume način funkcionisanja nuklearnih elektrana ili celokupne elektroenergetske infrastrukture.
Kao primer naveo je sopstveno iskustvo. Iako je studirao i radi na nuklearnom univerzitetu, priznaje da ni sam ne poznaje sve tehničke detalje rada nuklearnih postrojenja.
Reč je, objašnjava, o usko specijalizovanom znanju koje obuhvata raspored i funkciju trafostanica, način dopremanja električne energije nuklearnim elektranama, prenos proizvedene struje u mrežu, funkcionisanje zatvorenih sistema i zaštitne uređaje predviđene za slučajeve prekida napajanja ili prenapona.
Prema njegovoj oceni, bez razumevanja takvih tehničkih rešenja teško je donositi pouzdane zaključke o mogućnosti katastrofalnog otkazivanja energetskog sistema. Zbog toga smatra da Hintonova stručnost u razvoju neuronskih mreža nije dovoljna osnova za predviđanje konkretnih posledica po nuklearna i druga energetska postrojenja.
Duškin izražava uverenje da inženjeri koji projektuju, grade i upravljaju nuklearnim elektranama raspolažu znanjem koje je u toj oblasti važnije od akademskog ugleda stručnjaka za veštačku inteligenciju. On čak smatra da su ti stručnjaci, kada je reč o njihovoj profesionalnoj oblasti, kompetentniji od Nobelovog laureata, jer poznaju stvarne radne uslove, tehničke procedure i zaštitne sisteme.
Njegov argument jeste da ljudi neposredno odgovorni za bezbednost elektrana ne zasnivaju svoje odluke na pretpostavkama o budućem ponašanju neuronskih mreža, već na konkretnim inženjerskim rešenjima i iskustvu u radu sa složenom opremom.
Pored tehničkih pitanja, Duškin dovodi u pitanje i sam način na koji se javnosti predstavljaju prognoze velikih katastrofa.
Prema njegovom mišljenju, upozorenja koja ne sadrže dovoljno precizan opis uzroka i mehanizma mogućeg incidenta veoma je teško proveriti. Njihovi autori pritom se nalaze u povoljnoj poziciji bez obzira na to kako će se budući događaji razvijati.
Ako se ništa ne dogodi, objašnjava Duškin, javnost će jednostavno zaboraviti dramatičnu prognozu. Međutim, ukoliko dođe do nekog velikog tehnološkog incidenta, ranije upozorenje biće ponovo predstavljeno kao dokaz da je njegov autor unapred predvideo katastrofu.
„A ako se nešto dogodi, izvadiće to upozorenje i reći: Ali on nas je upozorio! Kakav je prorok Džefri Hinton!“, zaključio je Duškin.
Upravo zato ruski stručnjak smatra da je neophodno razlikovati ozbiljno naučno upozorenje, zasnovano na konkretnim tehnološkim mogućnostima i poznatim mehanizmima rizika, od široke prognoze koja može naknadno da se poveže sa različitim događajima.
Hintonovo upozorenje odnosi se na period do kraja 2026. ili tokom 2027. godine, ali ne sadrži precizno određen scenario, lokaciju ili tehnički mehanizam buduće katastrofe. Ono predstavlja procenu mogućeg rizika, a ne dokaz da će do takvog događaja zaista doći.
Spor između dvojice stručnjaka tako se ne svodi na pitanje da li veštačka inteligencija može biti opasna, već na to koliko se pouzdano mogu predvideti razmere i vreme eventualnog tehnološkog incidenta. Dok Hinton upozorava da bi velika katastrofa mogla da natera svetske lidere da ozbiljnije shvate rizike, Duškin insistira da takva predviđanja moraju imati jasno naučno i inženjersko obrazloženje.
