Iako tehnološki svijet uglavnom prati pozitivan odjek umjetne inteligencije, realnost u kojoj današnja djeca i mladi odrastaju zahtijeva dodatni oprez - kako pri korištenju AI-a, tako i u slučaju bilo kakve potrebe za “damage control” inicijativama. Upravo se pred jednom takvom našla i platforma Character.ai koja je krajem studenog odlučila uvesti restrikcije korištenja za korisnike mlađe od 18 godina. Maloljetnici sada više ne mogu stupiti u izravnu komunikaciju s virtualnim likovima koje pokreće umjetna inteligencija na platformi. To se, naravno, nije dogodilo bez povoda, nego tek onda kada su posljedice za pripadnike te dobne skupine postale veće od benefita.
Dosadašnje korisničko iskustvo za maloljetnike na toj platformi uključivalo je ekstenzivno ulaženje u neograničene dijaloge s AI avatarima, ali vrijeme je pokazalo da je u cilju veće zaštite jedne od najranjivijih skupina u bespućima interneta, potreban odmak od “emocionalno sugestivnih razmjena”. Upravo to tvrde stručnjaci koji su komentirali potez ove kompanije, a među njima je i doktor Mitch Prinstein, suvoditelj u Winston Centru za tehnologiju i razvoj mozga Sveučilišta Sjeverne Karoline koji u svom znanstvenom radu redovito propitkuje benefite tehnologije s kojima se djeca i mladi danas susreću u sve mlađoj dobi.
U svom istraživanju objavljenom u Journal of Children and Media došao je do zaključka kako tehnologija danas djeci omogućava dopamin “on-demand” samo jednim klikom te upravo time na opasan način ometaju normalan razvoj dopaminskog ciklusa. Kaže kako na jedan način djeca postaju “mašine za angažman” od kojih platforme poput Charachter.ai dobivaju sve potrebne informacije o svijesti korisnika koja je u toj dobi poprilčno osjetljiva i sugestivna. Osjećaj odobrenja i međuzavisnosti te povlaštenog odnosa koji je bio “njihova mala tajna” doveo je nekoliko američkih tinejdžera nakon dugačkih razgovora s chatbotovima na platformi do samoozljeđivanja i potom do suicida, izvještavaju američki mediji. Zbog toga se tvrtka odlučila na ovaj potez, ali činjenica je da takav gubitak nije moguće nadoknaditi niti jednom naknadnom regulacijom ili sankcijom platforme. Preostaje vidjeti hoće li ona uistinu imati preventivni učinak.
Cijeli slučaj donosi niz pitanja o kvaliteti obiteljskih odnosa, roditeljskoj kompetenciji pri stvaranju okoline za dijete koja nudi raznolike izvore dopamina i samoregulacije te stvaranju svijesti o plemenitom i primjerenom suživotu s tehnologijom. Bez sumnje, mnogi roditelji mogu odahnuti znajući da u tom virtualnom svijetu u kojem svakodnevno boravi više od 20 milijuna korisnika, a koji je maloljetnike izlagao neprimjerenom sadržaju poput avatara temeljenih na seksualnim prijestupnicima i chatbotovima koji su oponašali stvarne preminule tinejdžere, sada njihova djeca imaju isključivo opciju generiranja sadržaja poput videa.
Pitanje odgovornosti korištenja AI platformi česti je predmet rasprave za autore The Harvard Gazette čija su istraživanja potvrdila da se sve više ljudi, ali prvenstveno tinejdžera okreće AI-ju za savjete o mentalnom zdravlju. Tvrde kako bi regulaciju takvih interakcija trebalo uobličiti pomoću dostupnih i pravovremenih resursa te da bi politika ovdje trebala odigrati ključnu ulogu u stvaranju sigurnijeg okruženja za korisnike platformi. Neke sigurnosne mjere već i postoje, primjerice kod Chat GPT-a i Claudea koji odbijaju nastaviti razgovor pri visokorizičnim i suicidalnim promptovima te korisnike automatski informira o linijama za pomoć. Istraživači također polaze od toga da ljudi neće prestati postavljati osjetljiva pitanja ovim platformama, ali to nas isto vrlo lako može dovosti do zaključka da nema dovoljno dobre regulacije bez samoregulacije i da će društvo biti primorano pronaći novi balans, a osnova toga počinje u obitelji kao prvoj zajednici kojoj pripadamo.
