Razvoj veštačke inteligencije ulazi u fazu koja izaziva sve ozbiljniju zabrinutost čak i među stručnjacima neposredno uključenim u stvaranje najnaprednijih sistema. Upozorenja više ne dolaze samo od spoljašnjih kritičara tehnološke industrije, već i od istraživača koji rade na modelima sposobnim da obavljaju sve složenije zadatke. Posebnu pažnju privlači pitanje da li će kompanije uspeti da zadrže kontrolu nad tehnologijom čije se mogućnosti ubrzano povećavaju.
Rasprava se sve više usmerava na takozvanu superinteligenciju, odnosno veštačku inteligenciju koja bi po svojim sposobnostima mogla da prevaziđe ljudsku. Najveću zabrinutost izaziva mogućnost da takvi sistemi počnu samostalno da unapređuju sopstvene sposobnosti, čime bi njihov dalji razvoj mogao da postane znatno brži od očekivanog.
Glavni istraživač kompanije Anthropic Evan Habinger objavio je na društvenoj mreži Iks upozorenje koje pokazuje koliko ozbiljno pojedini stručnjaci shvataju takav scenario. On je izjavio da on i njegove kolege iskreno veruju da bi veštačka inteligencija mogla da uništi čovečanstvo.
Habinger je verovatnoću takvog ishoda tokom naredne decenije procenio na više od 10 odsto. Reč je o njegovoj proceni rizika, a ne o potvrđenom predviđanju budućih događaja.
Posebno zabrinjava njegova izjava da Anthropic, uprkos svim dosadašnjim naporima, još nema plan kojim bi mogao da reši problem obuzdavanja superinteligencije. Habinger je priznao i da kompanija „očigledno nije na pravom putu“ da taj problem uspešno savlada.
Na opasnosti ubrzanog razvoja upozorio je i istraživač Džejkob Kokson, koji je radio na obuci sistema veštačke inteligencije u kompanijama OpenAI i Anthropic. On je postupke obe kompanije ocenio kao neodgovorne, tvrdeći da se kreću neposredno prema stvaranju superinteligencije sposobne za samousavršavanje, pri čemu rizikuju sopstvene živote.
Kokson je naglasio da ljudi koji razvijaju veštačku inteligenciju zaista veruju da bi ona mogla „sve da nas ubije do kraja decenije“. Posebno je istakao da takva upozorenja nisu „marketinški trik“, već izraz stvarne zabrinutosti stručnjaka uključenih u razvoj ove tehnologije.
Povodom Koksonovih izjava, Habinger se pozvao na najnoviji izveštaj kompanije Anthropic o rizicima povezanim sa veštačkom inteligencijom. U njemu se navodi da je opasnost koju predstavljaju postojeći modeli još uvek mala, što ukazuje na razliku između sadašnjih mogućnosti tehnologije i scenarija koji zabrinjavaju istraživače.
Međutim, Habinger smatra da se najveća pretnja nalazi u sledećoj fazi razvoja, kada bi veštačka inteligencija mogla da počne da unapređuje samu sebe bez neposrednog ljudskog upravljanja svakim korakom tog procesa.
„Ono što me brine jeste superinteligencija koja nastaje rekurzivnim samousavršavanjem, što se dešava brže nego što smo mislili“, upozorio je istraživač.
Rekurzivno samousavršavanje podrazumeva proces u kojem sistem veštačke inteligencije koristi sopstvene sposobnosti da razvija naprednije verzije sebe. Takav razvoj mogao bi dodatno da ubrza tehnološki napredak, ali istovremeno otvara pitanje da li bi postojeći mehanizmi kontrole mogli da prate promene koje nastaju sve većom brzinom.
Sličnu zabrinutost izrazio je i glavni naučnik kompanije OpenAI Jakub. On je upozorio na opasnosti povezane sa samousavršavanjem sistema, koje ubrzava razvoj veštačke inteligencije i povećava značaj pitanja njihove kontrole.
Jakub je pozvao na usporavanje razvoja veštačke inteligencije zbog rizika da autonomni sistemi, odnosno takozvani agenti, počnu da deluju nekontrolisano. Njegovo upozorenje odnosi se upravo na mogućnost da tehnologija dobije sposobnosti koje ljudi više neće moći pouzdano da usmeravaju.
Izjave istraživača ukazuju na razliku između relativno malog rizika koji se trenutno pripisuje postojećim modelima i znatno ozbiljnijih opasnosti koje oni povezuju sa budućom superinteligencijom. Najveći problem, prema njihovim ocenama, jeste to što razvoj sposobnosti veštačke inteligencije napreduje brže nego što su očekivali, dok pouzdan način njenog obuzdavanja još nije pronađen.
Nikakva vestacka inteligencija ne moze prirodno razmisljanje prevariti.