Prodor umjetne inteligencije osjete svi. Njezine benefite možemo promatrati u području tehnologije, umjetnosti, medicine, a kada je riječ o borbi s kaznenim djelima počinjenima na štetu djece i tu se događaju značajni iskoraci. Priliku za savezništvo s AI-em, unatoč tome što ga ovih dana pojedinci zloupotrebljavaju na štetu drugih, prepoznala je Australska federalna policija (AFP) koja je u suradnji s Microsoftom odlučila razviti alat čiji će zadatak biti tumačenje emojija te slenga generacije Z i Alpha.
Na ideju su došli nakon što su u listopadu prošle godine identificirali 59 počinitelja u dobi od 17 do 20 godina koji su kao članovi decentraliziranih kriminalnih online skupina vrbovali, ucjenjivali i uznemiravali mlade djevojke, piše Region. U opisu cijelog slučaja stoji kako se skupina ne vodi posebnom ideologijom ili unutrašnjom hijerarhijom, ali ih privlači nasilje, nihilizam, sadizam, nacizam i svaki drugi “-izam” od kojeg bi vam se digla kosa na glavi.
Nazivaju ih crimefluencerima i kažu da su motivirani isključivo ozljeđivanjem drugih. Osim što ih sve to zabavlja, predstavlja i svojevrsni obred inicijacije te pripadanja, a žrtve su im djevojčice i tinejdžerice koje imaju nisko samopouzdanje, poremećaje mentalnog zdravlja, povijest samoozljeđivanja i druge narušavajuće okolnosti u svom životu zbog kojih će se upustiti u online odnos. Level up za svaku žrtvu koju regrutiraju, a final boss je eksplicitni materijal koji su iznudili gradeći odnos povjerenja, koje je na kraju zloupotrebljeno.
Zadatak ovog AI alata je prepoznati i interpretirati emojije u enkriptiranoj komunikaciji unutar chat grupa u kojima se potajno planira ovakva sadistička eksploatacija. Bila bi to odlična primjena umjetne inteligencije u smislu prevencije kaznenih djela, a tehnološki div poput Microsofta očito je prepoznao novi okvir svog djelovanja te bi mogao poslužiti kao primjer ostalima koji razvijaju slične mehanizme zaštite najranjivijih u online svijetu.
AI je već osnažio borbu protiv zlostavljanja djece i mladih kroz alate poput DRAGON-Spottera i Fronte, ali ne može pobjeći od činjenice da su ga pojedinci iskoristili kao svestrani poligon za targetiranje kronično ranjive populacije. Istraživanje koje je 2025. proveo Australski institut za kriminologiju u svom zaključku navodi da su potencijali AI tehnologija za identifikaciju, prevenciju i zaustavljanje takvog oblika nasilja ogromni, ali zahtijevaju jako strogu evaluaciju i sigurnosne testove kako bi uspješno komplementirali postojeće strategije.
Možda osim razvoja alata koji trebaju biti jedan korak ispred počinitelja i iza sebe imati cijeli tim ljudi koji radi na njegovom ažuriranju i nadogradnjama, trebamo redovito raditi s djecom na njihovim vještinama prepoznavanja rizika da postanu žrtve – ili zlostavljači i provocirati njihov odnos prema odgovornom korištenju tehnologije.
Kao što nas uče kako postati prijeći cestu i u skladu s prometnim propisima voziti auto, tako bismo trebali naučiti i strategije koje će nam pomoći graditi odnos prema tehnološkoj okolini koja će svakim danom postajati sve naprednija. U prijevodu, ako možemo zakočiti s autom na vrijeme, moramo znati i gdje su kočnice u korištenju tehnologije – jer bez te vještine djeca i mladi ne ostaju samo putnici, nego postaju nezaštićeni sudionici u prometu koji ne poznaje pravila.
