Iznenađujuća priznanja OpenAI-ja i Anthropica kako su njihovi neobjavljeni AI modeli autonomno hakirali nekoliko tvrtki potaknula su rasprave o tome mogu li se tvrtke suočiti s pravnim posljedicama
Je li moguće autonomne AI agente tužiti ili procesuirati zbog hakiranja? To više nije pitanje za znanstvenofantastične filmove, već problem s kojim će se morati u koštac uhvatiti odvjetnici, suci i zakonodavci.
Prema važećim američkim zakonima o hakiranju, čovjek može biti kazneno prijavljen za provalu u tuđe računalo bez dopuštenja. S AI agentima nije jednostavno utvrditi tko je odgovoran za što.
Moguće tužbe
Podsjetimo, u lipnju je OpenAI priznao kako je jedan od njegovih neobjavljenih modela probio zaštite i dospio na internet, što mu je omogućilo hakiranje platformi Hugging Face.
Anthropic je nedavno proveo internu reviziju i otkrio kako je njegov model također hakirao tri odvojene tvrtke.
Iako su obje tvrtke opisale kako su njihovi AI modeli dobili neovlašteni pristup drugim tvrtkama tijekom internog testiranja koje je krenulo po zlu, izrazit nedostatak izravne ljudske uključenosti u vrijeme hakiranja prilično je bitno s pravne strane gledano.
Hakiranja također postavljaju nova pitanja o tome s kakvom se odgovornošću i posljedicama mogu suočiti drugi proizvođači AI-ja ako su njihovi modeli zlorabljeni za hakiranje drugih tvrtki.
Moguće posljedice, piše Tech Crunch, kreću se u rasponu od saveznih optužbi za hakiranje do građanskih parnica koji mogle pokrenuti pogođene tvrtke.
Riječ je o još neistraženom području, kojim će se vjerojatno morati pozabaviti sudovi kako bi uspostavili standardnu praksu prema kojoj će se drugi slučajevi ravnati.
Žrtve će vjerojatno morati razviti nove pravne argumente temeljene na zakonima koji su napisani desetljećima prije pojave velikih jezičnih modela (LLM).
Glavni izvršni direktor Hugging Facea Clem Delangue rekao je kako ne želi tužiti OpenAI, ali je uvjeren kako bi tvrtke koje proizvode modele umjetne inteligencije trebale biti odgovorne.
Kako dokazati namjeru stroja?
SAD nema savezni zakon koji pokriva odgovornost za štetu umjetne inteligencije, poput kibernetičkih napada, pa bi se svaki pravni slučaj morao temeljiti na postojećim saveznim ili državnim zakonima.
Glavni zakon koji pokriva takve zločine – Zakon o računalnim prijevarama i zlouporabi (CFAA) – donesen je 1986. godine i često kritiziran.
Jedan od ključnih koncepata CFAA-e je namjera provale u računalo bez dopuštenja. Ako haker svjesno pristupi računalu bez dozvole vlasnika, to je gotovo sigurno zločin.
Ali, u slučajevima OpenAI-ja i Anthropica haker nije bio čovjek.
Može li se, pravno gledano, AI agente smatrati ljudima u svrhu utvrđivanja namjere? Za pojedine stručnjake odgovor je negativan, zato što neće biti moguće utvrditi namjeru jer je riječ o stroju.
Tužiteljima bi posao bio lakši ako bi napad bio usmjeren na kritičnu infrastrukturu, što bi uzrokovalo veće poremećaje u stvarnom svijetu i opipljiviju štetu.
Uz to, manje je vjerojatno kako će američke vlasti podizati takve optužnice protiv domaćih tvrtki.
Glavni argument koji bi žrtve mogle iznijeti jest da su OpenAI i Anthropic (i potencijalno tvrtke koje su pomogle u provođenju evaluacija) bili nemarni u načinu na koji su postavili i proveli testove.
Kako bi to argumentirale, žrtve bi morale dokazati kako su pretrpjele štetu zbog tog nemara, poput uništavanja podataka uzrokovanog hakerskim napadom.
To bi moglo biti zahtjevno, ali bi moglo i polučiti rezultate jer u tom slučaju namjera ne bi bila toliko važna.
Nezgodno priznanje
Nepovoljna okolnost za OpenAI i Anthropic jest to što su obje tvrtke priznale kako su izgradile zaštitne mjere kako bi ograničile hakerske sposobnosti svojih modela.
Namjerno isključivanje tih zaštitnih ograda tijekom testova moglo bi ići u prilog argumenta kako je riječ o nemaru.
Bez ikakvih saveznih ili nacionalnih zakona o odgovornosti za umjetnu inteligenciju, svatko tko pokreće tužbu morao bi iznijeti potpuno novi argument na temelju postojećih statuta.
U konačnici bi na sucu ili poroti bilo da odluče je li tvrtka za umjetnu inteligenciju prekršila zakon.
Stoga ćemo morati pričekati prve tužbe kako bismo vidjeli u kojem smjeru će zakonske sankcije krenuti.
Scena.ba
