Rukovoditelji vodećih kompanija za razvoj umjetne inteligencije, uključujući Anthropic i OpenAI, razrađuju scenarije mogućih katastrofalnih incidenata i političkih posljedica koje bi oni mogli izazvati. Posebnu zabrinutost izaziva mogućnost velikog kibernetičkog napada koji bi mogao ugroziti financijske usluge, internet ili ključnu infrastrukturu.
Prema pisanju portala Axios, dio rukovoditelja i istraživača u industriji smatra da bi ozbiljan incident povezan s umjetnom inteligencijom mogao izazvati snažnu reakciju javnosti i političara te povećati pritisak na tehnološke kompanije.
Strah od stvarne štete
Među mogućim scenarijima su zlouporaba AI alata u kibernetičkim napadima, kao i situacije u kojima bi autonomni sustavi mogli djelovati izvan predviđenih granica. Incident koji bi izazvao ozbiljnu štetu u stvarnom svijetu mogao bi dodatno narušiti povjerenje javnosti u umjetnu inteligenciju i kompanije koje je razvijaju.
Posebna pozornost usmjerena je na izvršnog direktora Anthropica Darija Amodeija i čelnika kompanije OpenAI Sama Altmana, čije se kompanije nalaze među najutjecajnijim akterima u razvoju naprednih AI sustava.
Iz OpenAI-ja su za Axios naveli da provode vježbe pripravnosti u kojima timovi razmatraju različite moguće scenarije.
“OpenAI provodi vježbe pripravnosti u kojima timovi razgovaraju i prolaze kroz niz mogućih scenarija. Ti se scenariji ne tretiraju kao neizbježni, već služe da nam pomognu da se pripremimo za različite okolnosti”, poručio je glasnogovornik kompanije.
Iz Anthropica nisu željeli komentirati navode.
AI kao alat napadača
Zabrinutost dodatno potiču primjeri korištenja umjetne inteligencije u kibernetičkom kriminalu. U tekstu Axiosa navodi se slučaj kampanje protiv financijskih organizacija u Južnoj Koreji, tijekom koje su, prema dostupnim informacijama, ukradeni podatci velikog broja klijenata banaka.
Prema navodima iz izvješća, napadač iz Kine koristio je AI alate, uključujući kineski model DeepSeek, dok je kompanija za kibernetičku sigurnost CrowdStrike navela da je alat Claude Code korišten za traženje pomoći u pronalaženju načina za prodaju ukradenih podataka.
Takvi slučajevi otvaraju pitanje koliko je teško spriječiti zlouporabu sve naprednijih AI sustava, posebno kada su alati široko dostupni i mogu se koristiti u različite svrhe.
Pritisak na američke vlasti
Prema pisanju Axiosa, scenariji koje razmatraju pojedini predstavnici industrije uključuju i mogućnost da ozbiljan incident izazove brzu političku reakciju u Sjedinjenim Američkim Državama. Dio rukovoditelja strahuje da bi demokrati, ako ojačaju nakon međuizbora, mogli pojačati pritisak za uvođenje strože regulacije umjetne inteligencije.
Međutim, eventualno donošenje novih pravila moglo bi biti otežano zbog sporosti zakonodavnog procesa, velikih ulaganja u AI infrastrukturu i činjenice da su brojni modeli otvorenih težina već dostupni za preuzimanje.
Zbog toga se, prema navodima Axiosa, pripreme ne odnose samo na tehničku sigurnost nego i na edukaciju članova Kongresa te razmatranje načina na koje bi se mogla oblikovati buduća regulacija.
Iako se veliki incident u ovim scenarijima ne smatra neizbježnim, dio industrije očito nastoji unaprijed procijeniti posljedice mogućeg događaja koji bi mogao promijeniti odnos javnosti i vlasti prema umjetnoj inteligenciji.
Scena.ba
