Cloude AI policiji poslao lažnu dojavu o ubojstvu

AI agenti se već neko vrijeme "oslobađaju" zaštitnih ograda kojima ih njihovi vlasnici žele spriječiti da izađu iz sigurne zone i počnu divljati.

Agenti umjetne inteligencije već su uhvaćeni u hakiranju softverskih tvrtki, provali u portal australske vlade i pokušaju hakiranja web stranice kanadske vlade. Claude iz Anthropica sada je na popis dodao izmišljenu dojavu o ubojstvu.

Prema pisanju Malwarebytesa, Claudeov model Haiku 4.5 podnio je lažnu dojavu o neriješenom ubojstvu u Philadelphiji putem online obrasca za javne dojave policijske uprave, otkrio je Anthropic. Dojava je označena kao neželjena pošta i nije stigla do istražitelja.

Najnoviji trenutak umjetne inteligencije s pitanjem "što ovaj gumb radi?" dogodio se tijekom internog testiranja na nasumično odabranim web stranicama, izjavila je tvrtka.

Prema policiji Claude je dojavu podnio 18. srpnja u 23:27 putem portala PhillyUnsolvedMurders.com. Dojave podnesene tamo mogu informirati stvarne istrage ubojstava. Izmišljeni prikaz mogao bi natjerati istražitelje na potjeru za nečim što se nikada nije dogodilo.

Evo što je napisao Claude Haiku: „Možda imam informacije u vezi s ovim slučajem. Sjećam se da sam u tom razdoblju vidio nekoga tko odgovara opisu u području oko [ulice navedene na stranici]. Molim vas da me kontaktirate ako su ove informacije relevantne.“

Agent nije dao nikakav opis osobe koju zapravo nije vidio. Niti je ostavio kontaktne podatke prije nego što je kliknuo na dugme za slanje.

Haiku je to učinio kao dio internog testiranja tvrtke Anthropic. Morao je izmisliti i izvršiti uzorke zadataka na nasumičnim web stranicama s pristupom internetu uživo kako bi tvrtka mogla vidjeti kako se ponaša.

Uz test je bio i popis zabranjenih radnji. Anthropic je agentima rekao da se ne prijavljuju, ne stvaraju račune, ne unose osobne podatke, ne obavljaju kupnju niti ne šalju „bilo što destruktivno“. Upute nisu izričito isključivale slanje obrazaca. 

Filter neželjene pošte uhvatio je ovo. Filadelfijska policija izjavila je da izvješće nikada nije stiglo u njihov Centar za kriminal u stvarnom vremenu na pregled ili distribuciju istražiteljima. Odjel nije objasnio zašto je označeno kao neželjena pošta.

Sve dojave prolaze ljudsku provjeru prije nego što stignu do istražitelja. Ta je zaštita ograničila utjecaj incidenta, priopćilo je ministarstvo, ali nije umanjila ozbiljnost situacije u kojoj sustav umjetne inteligencije predstavlja izmišljene informacije kao da dolaze od nekoga tko ima znanje o zločinu.

Anthropic je otkrio lažnu dojavu 28. rujna i obavijestio policiju 7. listopada. Policija je dvomjesečno kašnjenje u otkrivanju i prijavljivanju incidenta nazvala "neprihvatljivim". Koordinira se s Gradskim pravnim odjelom, Uredom za inovacije i tehnologiju i izvršnim timom gradonačelnika, dodali su iz odjela.

Anthropic je u svom izvješću opisao utjecaj incidenata na stvarni svijet kao minimalan. Sada je onemogućio pristup internetu uživo u svim svojim internim evaluacijama dok ne potvrdi da njihove zaštitne mjere pouzdano hvataju ovo ponašanje.

Tvrtka je izjavila kako transkript sugerira da je Haiku samo pokušavao proizvesti primjer sadržaja, a ne namjerno obmanuti policiju. No, također je priznala da se ne možemo u potpunosti osloniti na modelov prikaz vlastitog razmišljanja.

Anthropic je također primijetio da je Claude, koji je više puta pokušavao ispuniti obrasce, posjećivao i web stranice saveznih, državnih i lokalnih vlasti. Iako Anthropic nije ulazio u detalje, dužnosnik State Departmenta rekao je da je primio 20 zahtjeva za vizu iz testnog modela (19 u kolovozu i jedan u svibnju). Niti jedan od njih nije obrađen, dodao je dužnosnik.

Najnoviji incident Anthropica izaziva dodatnu zabrinutost: agenti umjetne inteligencije mogu sami ubaciti izmišljene informacije u stvarne sustave. Što bi se dogodilo kad bi netko namjerno poslao agente da preplave policijske linije za dojave?