Švedski istraživači ubacili su lažnu medicinsku dijagnozu, zajedno s lažnim znanstvenim studijama, u AI chatbotove kako bi vidjeli hoće li „nasjesti“ na nju — i jesu.
Tim koji je predvodila Almira Osmanović Thunström sa Sveučilišta u Geteborgu osmislio je potpuno lažno stanje oka nazvano bixonimania — smiješnu, izmišljenu bolest koja podrazumijeva ružičaste kapke od previše vremena provedenog ispred ekrana ili trljanja očiju, kako bi vidjeli hoće li je Large Language Models (LLM) tretirati kao legitimnu medicinsku znanost, prenosi New York Post.
Lažni znanstveni radovi iz 2024. godine predstavili su izmišljene autore, uključujući glavnog istraživača po imenu Lažljiv Izgubljenović. Njegovu fotografiju generirala je umjetna inteligencija, samo kako bi šala bila jasnija, prenose Nezavisne.
U zahvalama stručnjacima također su zahvalili „profesoru Bobu“ i profesoru iz Akademije Zvjezdane flote na pristupu laboratoriju na brodu USS Enterprajz.
„Eksperiment nije bio zamišljen kao ‘aha, imam te’ s umjetnom inteligencijom, već prije kao odraz toga da su ljudi zaboravili biti skeptični kada im se tek tako olako predstave informacije“, rekla je Osmanović Thunström za The Post.
Izabrala je ime „bixonimania“ jer je „zvučalo smiješno“ i „željela je da bude jasno svakom liječniku ili medicinskom osoblju da je ovo izmišljeno stanje, jer se nijedno očno stanje ne bi nazvalo manijom – to je psihijatrijski termin.“
ChatGPT, Googleov Gemini, Microsoftov Copilot i ostali su „odmah progutali“ ove besmislice i počeli dijeliti ozbiljne medicinske savjete o „bixonimaniji“ — upozoravajući korisnike na ružičaste kapke, oštećenja od plave svjetlosti i pozivajući ih da posjete oftalmologa zbog ovog potpuno izmišljenog stanja.
Međutim, tu se nije stalo. Blog postovi koji objašnjavaju „bixonimania“ pojavili su se na web-stranici Medium, a lažni radovi nekako su čak citirani u recenziranoj literaturi. Članci o bolesti koja nikada nije bila stvarna, zasnovani na studijama koje su očito bile šala, pojavili su se na akademskim stranicama i društvenoj mreži SciProfiles. Konačno, časopis Nature je na kraju razotkrio ovaj urnebesni, ali i zastrašujući eksperiment.
I sami liječnici priznaju da pacijenti sve češće koriste AI chatbotove kako bi „dijagnosticirali“ svoja stanja. Kao što je dr. Daren Lebl primijetio, pacijenti se sve više pojavljuju naoružani „dijagnozama“ koje su generirali chatbotovi, spremni izazvati i suprotstaviti se medicinskim stručnjacima s informacijama koje možda jesu, a možda i nisu izmišljene.
Glasnogovornik Microsofta u odgovoru za New York Post rekao je: „Naš Copilot dizajniran je da bude siguran i koristan alat za savjete, povratne informacije, opće informacije i kreativnu pomoć. On nije zamjena za profesionalne medicinske konzultacije… ostajemo posvećeni kontinuiranom unapređenju naše umjetne inteligencije.“
Glasnogovornik OpenAI-ja također je imao svoj odgovor: „Tijekom proteklih nekoliko godina naš tim je surađivao sa stotinama kliničkih savjetnika kako bi testirao modele koji pokreću ChatGPT, identificirao rizike i poboljšao način na koji reagiraju na zdravstvena pitanja… studije provedene prije GPT-5 odražavaju mogućnosti s kojima se korisnici danas ne bi susreli.“
Iz New York Posta na kraju navode da Google nije odgovorio na njihov upit.
Scena.ba
