Model umjetne inteligencije tvrtke OpenAI stvorio je više od deset novih virusa koji napadaju bakterije, nakon što su ga znanstvenici sa Sveučilišta Stanford obučili da prepoznaje obrasce u strukturi DNK u prirodi i mijenja ih kako bi proizveo virusne genome koji nikada prije nisu postojali.
U studiji objavljenoj u četvrtak u časopisu Science, znanstvenici su objasnili kako su generativni model tvrtke OpenAI, nazvan Evo, obučili da od početka dizajnira potpuno funkcionalne virusne genome.
Slično načinu na koji se jezični modeli obučavaju na ogromnim količinama teksta, znanstvenici su Evo obučili na velikoj količini podataka o DNK, koji su obuhvaćali milijune genoma. Model je tako naučio evolucijska ograničenja koja oblikuju sekvence DNK u prirodi, a zatim napisao vlastite „recepte“ za nove viruse.
Nakon što su znanstvenici u laboratoriju sintetizirali DNK koji je osmislila umjetna inteligencija, 16 generiranih bakteriofaga uspješno je zarazilo bakteriju Escherichia coli (E. coli), a neki su uspjeli svladati i njezine prirodne mehanizme obrane.
Novi virusi imali su obrasce sekvenci koji se razlikuju od svega što je do sada pronađeno u prirodi.
Autori studije iz modela za obuku isključili su skupove podataka o patogenima koji napadaju ljude, što znači da stvoreni virusi nisu sposobni zaraziti čovjeka.
Rezultati su, ipak, objavljeni u trenutku sve veće zabrinutosti znanstvenika da bi se umjetna inteligencija jednog dana mogla koristiti za stvaranje nove generacije biološkog oružja.
Mogućnost dizajniranja novih i funkcionalnih virusa po mjeri mogla bi, s druge strane, dovesti do napretka u liječenju superbakterija otpornih na antibiotike. Znanstvenici bi mogli stvarati posebno prilagođene terapije, umjesto da u prirodi tragaju za virusima koji napadaju određene bakterije.
Glavni kritičari
Brojni stručnjaci za biološku sigurnost, dužnosnici javnog zdravstva i sintetički biolozi izrazili su zabrinutost zbog brzine napretka umjetne inteligencije u biologiji i nedostatka odgovarajućih regulatornih okvira.
U pratećem komentaru objavljenom u časopisu Science, stručnjaci za biološku sigurnost Thomas Inglesby i Moritz Hanke iz Centra Johns Hopkins za zdravstvenu sigurnost upozorili su da istraživanje sa Stanforda pokazuje da je umjetna inteligencija sada sposobna stvarati opasno biološko oružje.
Pozvali su na uvođenje strogih zakona za buduća istraživanja i naveli da bi primjena sličnih generativnih tehnika na patogene koji napadaju ljude, životinje ili poljoprivredne kulture trebala biti zabranjena.
„Mogli biste reći: ‘Hej, genomski jezični modelu, napravi mi genom virusa gripe koji je izmijenjen tako da bude prenosiviji ili smrtonosniji’“, rekao je Hanke za The New York Times.
Tom Ellis, profesor inženjerstva sintetičkih genoma na Imperial Collegeu u Londonu, rekao je za The Guardian da ne vjeruje kako bi stvaranje biološkog oružja koje može ugroziti ljude bilo toliko jednostavno.
Naveo je da virusi koje je stvorio Evo imaju „doslovno najmanje i najjednostavnije genome za proizvodnju“ te dodao da bi čak i jednostavna ograničenja pristupa genetskim podacima mogla napraviti veliku razliku.
Znanstvenici već mjesecima raspravljaju o tome bi li trebalo ograničiti mogućnosti bioloških sustava zasnovanih na umjetnoj inteligenciji.
Dok jedni tvrde da bi ta tehnologija mogla ubrzati korisna biomedicinska istraživanja, isti modeli mogli bi biti zloupotrijebljeni za pronalaženje, projektiranje ili optimizaciju bioloških prijetnji ako ne budu uspostavljene odgovarajuće zaštitne mjere.
Velike tvrtke za umjetnu inteligenciju udružile su se i osnovale neprofitni Frontier Model Forum, djelomično s ciljem istraživanja bioloških rizika povezanih s umjetnom inteligencijom, razvoja sigurnosnih standarda i smanjenja mogućnosti da najnapredniji modeli budu iskorišteni za biološke zlouporabe.
Pored zabrinutosti da bi obučeni modeli mogli stvarati nove prijetnje, mnogi upozoravaju da će oni zlonamjernim akterima olakšati pristup znanju o opasnim patogenima.
Znanstvenici su u travnju rekli za The New York Times da su chatbotovima zasnovanim na umjetnoj inteligenciji postavili niz pitanja, nakon čega su dobili detaljne upute, korak po korak, za sastavljanje smrtonosnih patogena i njihovo širenje na javnim mjestima.
Scena.ba
