Zamislite da sjednete za računalo, otvorite alat kojim ste se jučer služili - i dočeka vas prazan zaslon. Ne zato što ne radi, nego zato što imate krivu putovnicu. Upravo to se dogodilo korisnicima Anthropicovih najnaprednijih modela umjetne inteligencije. Američka je vlada naložila tvrtki da pristup zabrani svim stranim državljanima, a budući da se državljanstvo ne može provjeriti u stvarnom vremenu, Anthropic je model na kraju morao ugasiti baš svima.
Tvrtka Anthropic je 9. lipnja predstavila Claude Fable 5, svoj dotad najmoćniji javno dostupan model, i njegova snažnijega blizanca Mythos 5, namijenjenog vladinim agencijama i probranim partnerima. Riječ je o modelima koji postižu vrhunske rezultate u programiranju i analizi, a osobito su vješti u pronalaženju sigurnosnih propusta u softveru. U testovima su svladavali zadatke koje raniji modeli nisu mogli održati, a Fable je, oslanjajući se samo na slike sa zaslona, znao i samostalno odigrati staru videoigru – sposobnost koja zvuči zabavno dok ne shvatite da isti model jednako spretno čita i tuđi kôd. Dakle, nije riječ ni o kakvu „modusu”, nego o zasebnome, samostalnom modelu – i upravo će se ta njegova moć pokazati okidačem.
U petak 12. lipnja, u 17:21 sati prema istočnoameričkom vremenu, Anthropic je primio izvoznu direktivu američke vlade. Naredba je bila nedvosmislena: obustaviti svaki pristup modelima Fable 5 i Mythos 5 za „bilo kojeg stranog državljanina, bio on unutar ili izvan Sjedinjenih Država, uključujući i zaposlenike Anthropica koji su strani državljani”. Prema pisanju Reutersa i drugih medija, pismo je potpisao ministar trgovine Howard Lutnick, uz pomoć vladina Ureda za industriju i sigurnost.
Kako nijedna platforma ne može u trenutku provjeriti čije državljanstvo stoji iza svake prijave, posljedica je bila apsurdna, ali neizbježna: da bi udovoljio nalogu, Anthropic je modele isključio – svima. I Amerikancima.
Alat koji je dan ranije bio u rukama stotina milijuna ljudi nestao je preko noći.
Razlog? Vlada je, navodno, doznala za način „probijanja”, odnosno jailbreaka modela Fable 5, te pregledala demonstraciju koja je otkrila tek nekoliko otprije poznatih, manjih ranjivosti. Konkretnu prirodu sigurnosne prijetnje pismo, tvrdi Anthropic, nije objasnilo. Tvrtka se oštro usprotivila: ne može, kažu, nalaz o jednoj uskoj, mogućoj rupi biti razlog za povlačenje komercijalnog modela kojim se služe stotine milijuna ljudi – jer kad bi se takvo mjerilo primijenilo na cijelu industriju, zaustavilo bi uvođenje svih novih modela. Usto su podsjetili da konkurentski modeli imaju vrlo slične sposobnosti.
A upravo tu počinje ono što bi trebalo zabrinuti i nas u Europi. Pristup umjetnoj inteligenciji prvi je put otvoreno uvjetovan državljanstvom. Ne plaćanjem, ne dobi, ne zlouporabom – nego time čiju putovnicu nosite. Za milijune korisnika izvan Amerike, pa tako i u Hrvatskoj, to je tih, ali jasan podsjetnik da alati na koje se sve više oslanjamo počivaju na tuđim političkim odlukama i tuđim sigurnosnim procjenama, donesenima daleko od nas i bez našega glasa. Ova zabrana možda i jest privremena, ali presedan koji ostavlja za sobom nije.
Da bismo jasnije predočili dalekosežnost posljedica ovog poteza, zamislimo da se 90-ih godina dogodilo sljedeće. Digitalni proizvodi poput Microsoftovih Office alata tek uzimaju zamah i mijenjaju workflow različitih industrija. Sve se to događa na opće oduševljenje jer, zamislite, računovođe sada na raspolaganju imaju jedan Excel koji im omogućuje brzo i učinkovito praćenje izlaznih i ulaznih troškova i mogu graditi skill set s kojim konkuriraju na tržištu.
Američka vlada potom naređuje Microsoftu da korištenje njihovih proizvoda ponudi samo Amerikancima jer procjenjuje da Excel može predstavljati rizik za nacionalnu sigurnost ili bilo kakvu drugu koju zamislimo kao njihov argument.
Istini za volju, Excel je oduvijek bio zgodan za plasiranje malwarea. Osim toga, Excel je tek jedan software kojeg je lako replicirati, ali Claude i slični su data modeli koje u svojoj naravi, zbog svoje američke adrese, nije moguće iskopirati i tako još jednom Europa biva na koljenima jer nema pravog konja za ovu utrku. Što zapravo Europa ima osim inih regulacija koje ne prate tržište i čak štoviše sabotiraju svaku inovaciju i zdravu kompetitivnost? Vjerujem da ćemo iduće godine u ovo doba imati više nepoželjnih, nego poželjnih odgovora.
Anthropic koji je samo nekoliko dana ranije upozoravao svijet da umjetna inteligencija postaje preopasna i pozivao na usklađene „kočnice” u njezinu razvoj postala je prva kompanija koja je osjetila kako izgleda kad država povuče ručnu – i koliko je tanka granica između opravdane sigurnosne brige i prekomjerne kontrole.
Ipak, kada pristup znanju i alatima počne ovisiti o državljanstvu, pitanje više nije samo što AI smije reći. Pitanje je kome i s kojom svrhom se smije obratiti.
