Udruga Pragma zahtijeva stvaranje jasnog zakonodavnog i društvenog okvira uz pomoć Nacionalnog plana za razvoj umjetne inteligencije
Udruga Pragma, u povodu donošenja Nacionalnog plana za razvoj umjetne inteligencije za razdoblje do 2032. godine, predlaže stvaranje jasnog zakonodavnog i društvenog okvira usmjerenog na zaštitu djece u online prostoru zbog razvoja umjetne inteligencije.
Zabraniti štetne aplikacije
– Nedavno je povjerenik za djecu u Engleskoj, potaknut rastom seksualnog zlostavljanja djece uzrokovanog umjetnom inteligencijom, pozvao englesku vladu da zabrani aplikacije koje koriste umjetnu inteligenciju za stvaranje seksualno eksplicitnih slika djece, čime bi Velika Britanija bila prva zemlja koja na sustavan način uređuje pitanja zaštite djece i razvoja umjetne inteligencije. Opasan proces ‘nudifikacije’ djece u kojem umjetna inteligencija uređuje fotografije stvarnih ljudi kako bi izgledali goli, uz deepfakeove, odnosno videozapise, slike ili audioisječke koji su napravljeni umjetnom inteligencijom kako bi izgledali ili zvučali stvarno, dovode do opasnosti da takve aplikacije ostaju nekontrolirane s ekstremnim posljedicama u stvarnom svijetu za djecu i mlade. Zato smatramo da je nužno da svi materijali stvoreni i umjetnom inteligencijom budu jasno označeni kao ilegalni te se mora ustanoviti nova klasifikacija kaznenih djela za stvaranje, posjedovanje ili distribuciju alata umjetne inteligencije osmišljenih za stvaranje takvog seksualnog sadržaja – navode u Udruzi Pragma, što treba postati i dio hrvatskog zakonodavnog sustava.
Dodaju da je potrebno izraditi Zakon o online sigurnosti kojim će se detaljnije urediti zabrana aplikacija za “nudifikaciju” kao i kazneno-pravne posljedice dijeljenja ili prijetnje dijeljenja eksplicitnih deepfake sadržaja, zatim strogo kažnjavati posjedovanje i dijeljenje “priručnika za pedofile s umjetnom inteligencijom” koji ljude uče kako koristiti umjetnu inteligenciju za seksualno zlostavljanje djece i mladih, posebno djevojaka te urediti protuzakonito posjedovanje, stvaranje ili distribuciju alata umjetne inteligencije dizajniranih za stvaranje takvog materijala kao i djelovanje svih platformi koje moraju ukloniti ovu vrstu sadržaja. Također, programere generativnih alata umjetne inteligencije treba zakonom upozoriti na rizike koje njihovi proizvodi predstavljaju za djecu. Web stranice, dodaju, moraju uvesti pojačane provjere dobi ili se suočiti s velikim kaznama, a potrebno je uvesti i kažnjavanje vlasnika web stranica na kojima pedofili mogu dijeliti sadržaj o seksualnom zlostavljanju djece ili davati savjete o tome kako se dotjerivati za djecu.
– Nužno je dati veće ovlasti policiji u provedbi mjera kada sumnjaju da određeni postupci predstavljaju seksualni rizik za djecu te narediti osobama da otključaju svoje digitalne uređaje radi pregleda kada pokušaju ući u Hrvatsku, budući da se takvi sadržaji često snimaju u inozemstvu. U Engleskoj je tijekom mjesec dana na jednoj dark web stranici otkriveno 3512 slika seksualnog zlostavljanja i iskorištavanja djece snimljenih umjetnom inteligencijom. U usporedbi s istim razdobljem prethodne godine, broj slika najtežih kategorija porastao je za 10% – ističe Nedjeljko Marković, predsjednik Pragme. Kaže da u Hrvatskoj ova kaznena djela u kontekstu teških kršenja dječjih prava spadaju u kaznena djela spolnog zlostavljanja i iskorištavanja djeteta, poput kaznenih djela upoznavanja djece s pornografijom, iskorištavanja djece za pornografiju i pornografske predstave.
– U 2024. godini bilo je 557 prijavljenih takvih kaznenih djela, a sličan trend bio je i prethodnih godina, dok je 320 osoba kaznena djela iskorištavanja djece za pornografiju činilo korištenjem informacijsko-komunikacijskih tehnologija, dakle putem mobitela, računala, tableta, videouređaja, aplikacija za razmjenu podataka i sličnih informacijsko-komunikacijskih alata koje imamo u našim kućama. Koliko je od njih izvršeno uz pomoć umjetne inteligencije nije nam poznato jer se trenutačno ne vode takve detaljne statistike, ali vjerujemo kako će to u budućnosti biti vodeći način izvršenja ovih kaznenih djela na štetu djece zbog njihova brzog razvoja, lakoće pristupa i jednostavnosti korištenja. Iskustvo iz Hrvatske govori nam kako su glavni počinitelji takvih kaznenih djela često dio veće mreže kriminalnih skupina izvan Hrvatske, a ‘lokalni’ počinitelji suradnici ili distributeri takvog sadržaja. Velika uhićenja u protekle dvije godine rezultat su suradnje međunarodnih policijskih institucija, a kada govorimo o konkretnim lokalnim kriminalcima, ponekad je potrebna samo jedna žrtva koja će smoći snage i prijaviti kazneno djelo policiji, nakon čega vidimo da uz tu jednu žrtvu postoje još deseci drugih, djece i mladih, koji su tiho patili te emocionalno i fizički propadali. Zato stalno naglašavamo i nastavnicima i roditeljima neka gledaju znakove kod njihove djece koja mogu ukazivati da su žrtve takvih kaznenih djela, poput depresivnog ponašanja, bezvoljnosti i osjećaja odsutnosti – kaže Nedjeljko Marković, dipl. socijalni radnik.
Predatori kao ‘pomagači’
Posebnost ovih kaznenih djela na štetu djece, dodaje, također su obilježja počinitelja koji iskorištava dječje neznanje pri korištenju tehnologija, kao i njihovih roditelja te njihov slab nadzor nad tehnologijama koje koriste djeca, dječju lakovjernost i povjerenje tako što ne sumnjaju u zle namjere počinitelja.
– Često se djeci predstavljaju kao ‘znatiželjni pomagači’, čime započinje krug manipuliranja dječjim osjećajima i ponašanjem. Počinitelji često svoje žrtve pronalaze u okružju u kojem se djeca osjećaju sigurno, u igranju online igrica ili na platformama za razmjenu informacija, gdje pronalaze ranjivu djecu koja traže razgovor sa svojim vršnjacima, ne sumnjajući kako iza takvih lažnih računa stoje ozbiljni kriminalni pojedinci ili cijele skupine koje se uvlače u živote djece – pojašnjava Nedjeljko Marković.
U Hrvatskoj postoji nekoliko organizacija koje nude edukacije školama s temama koje obuhvaćaju sigurnost djece u online prostoru.
– Ipak, možemo reći da smo na počecima sustavne edukacije koja mora krenuti već od rođenja djeteta te biti dio cjelovite i kontinuirane socijalno-emocionalne i medijske pismenosti. To znači da moramo i roditeljima i djeci objasniti sve opasnosti koje započinju korištenjem tehnologija, kako postoje jasni dokazi da roditeljski odgoj bez nadzora i pravila kod djece dugoročno šteti njihovu razvoju jer postaju mete raznih kriminalnih skupina. Umjetna inteligencija, koju će primjenjivati kriminalci samo će iskorištavati sve naše slabosti i neznanje, a naš je posao biti nekoliko koraka ispred takvih pojedinaca i zaštititi djecu. Zbog toga se savjetima uključujemo i u izradu Nacionalnog plana za razvoj umjetne inteligencije kako bismo zaštiti djece prišli sa svih aspekata problema – dodao je N. Marković, predsjednik Udruge Pragma.
