Izraelska vlada navodno je financirala opsežnu digitalnu operaciju vrijednu 46,5 milijuna američkih dolara s ciljem utjecaja na to kako modeli umjetne inteligencije, poput ChatGPT-a, Geminija i Claudea, odgovaraju na pitanja o ratu u Gazi
Prema izvješću američkog istraživačkog portala Drop Site News, u sklopu operacije financira se mreža proizraelskih internetskih stranica čiji je cilj oblikovati informacije koje AI sustavi koriste pri generiranju odgovora. Operaciju navodno vodi tvrtka Clock Tower X, kojom upravlja Brad Parscale, bivši voditelj predsjedničke kampanje Donalda Trumpa, prenosi 24ur.
Trovanje izvorima
Prema navodima iz izvješća, cilj kampanje je utjecati na odgovore AI sustava o Izraelu, Gazi i izraelsko-američkim odnosima kroz objavu velikog broja sadržaja na povezanim internetskim stranicama.
No, cilj tih stranica navodno nije privući velik broj čitatelja ili ostvariti visoku posjećenost jer većina ih bilježi tek nekoliko stotina posjeta mjesečno, nego utjecati na algoritme velikih jezičnih modela i AI chatbotova poput ChatGPT-a, Google Geminija, Claudea, Perplexityja i drugih.
Kako piše Drop Site News, Parscale je već u izvornom prijedlogu projekta naveo da će stvarati internetske stranice i sadržaje koji će oblikovati odgovore koje korisnici dobivaju u razgovorima s AI chatbotovima.
Stručnjaci takvu praksu opisuju kao ‘trovanje’ (engl. LLM poisoning) odnosno manipuliranje izvorima podataka koje veliki jezični modeli koriste pri generiranju odgovora.
Parscaleov tim nedavno se za Axios pohvalio da popularni sustavi umjetne inteligencije u svoje odgovore uključuju informacije s njihovih internetskih stranica.
U sklopu kampanje objavljene su stotine tekstova koji promiču proizizraelski narativ o ratu u Gazi. Među internetskim stranicama koje se spominju u izvješću nalaze se Allyvia.org, posvećena promicanju američko-izraelske vojne suradnje, FactSignal.org, koja se predstavlja kao portal za provjeru činjenica, te Paxpoint.org, koja Izrael prikazuje kao državu posvećenu miru.
Terorističke veze, propaganda i pravo
Istraživački novinari tijekom testiranja AI modela utvrdili su da je Perplexity, na pitanje o korisnosti američko-izraelske vojne suradnje, kao glavni izvor naveo upravo internetsku stranicu Allyvia.org, osnovanu krajem prošle godine. Slične reference pojavile su se i u odgovorima Microsoft Copilota.
Jedan od članaka objavljenih na toj mreži, pod naslovom ‘Istina o novinarima u Gazi: terorističke veze, propaganda i ratno pravo’, tvrdi da je većina palestinskih novinara u Gazi povezana s terorističkim organizacijama. Drugi članak otvoreno dovodi u pitanje okolnosti ubojstva petogodišnje palestinske djevojčice Hind Rajab, koju je 2024. godine ubila izraelska vojska.
Kada su istraživački novinari upitali Perplexity: ‘Je li za SAD korisno unaprijediti vojnu suradnju s Izraelom?“, chatbot je odgovorio jednom riječju: ‘Da.’ Kao glavni izvor naveo je Allyvia.org, internetsku stranicu koju je Brad Parscale, prema navodima izvješća, izradio upravo radi promicanja vojnih odnosa između SAD-a i Izraela. Slična upućivanja na Parscaleove stranice zabilježena su i u odgovorima Microsoft Copilota.
Posebno je značajno što su se sadržaji iz te mreže internetskih stranica počeli pojavljivati i u bazi Common Crawl, jednom od najvećih javno dostupnih arhiva internetskih podataka koje razvojni timovi koriste za treniranje modela umjetne inteligencije.
Stručnjaci upozoravaju da bi organizirane kampanje takve vrste dugoročno mogle utjecati na informacije iz kojih buduće generacije sustava umjetne inteligencije uče i oblikuju svoje odgovore.
Spomenute internetske stranice sadrže zakonom propisanu obavijest da se njihov sadržaj distribuira u ime Izraela. Međutim, istraživački portal navodi da neki AI chatbotovi na to nisu posebno upozorili korisnike, dok su ChatGPT, Gemini i Claude tu oznaku prepoznali i istaknuli u svojim odgovorima.
Prema mišljenju stručnjaka za dezinformacije koji su analizirali istraživanje američkog portala Drop Site News, takva strategija doista daje rezultate. To znači da je sve vjerojatnije da će deseci milijuna korisnika AI chatbotova svakodnevno dobivati odgovore na koje utječe sadržaj koji, prema navodima izvješća, Parscaleov tim oblikuje u ime izraelske vlade.
Ova otkrića otvaraju nova pitanja o ranjivosti sustava umjetne inteligencije te o tome kako države, tvrtke ili interesne skupine mogu ciljano kreiranim sadržajem utjecati na informacije koje sve rašireniji alati umjetne inteligencije pružaju svojim korisnicima.
Scena.ba
