Ne otkrivajte previše osobnih podataka AI-ju

Hrvatska Agencija za zaštitu osobnih podataka (AZOP), objavila je smjernice „Zaštita osobnih podataka i umjetna inteligencija”, namijenjene organizacijama koje razvijaju, treniraju, testiraju, integriraju ili koriste sustave umjetne inteligencije.

Smjernice prolaze kroz praktična pitanja koja se u projektima umjetne inteligencije vrlo brzo otvore: kada se na AI model ili sustav primjenjuje Opća uredba o zaštiti podataka, kako odrediti uloge dobavljača i korisnika sustava, kako definirati svrhu i pravnu osnovu obrade, što znači zaštita podataka po dizajnu, kako informirati ispitanike, kako omogućiti ostvarivanje prava, kada provesti DPIA-u i koje sigurnosne mjere uzeti u obzir.

Poseban naglasak stavljen je i na pitanja anonimnosti modela, rizike povezane s LLM-ovima, napade na modele i sustave, kao i na tehnologije za poboljšavanje privatnosti.

Poruka smjernica je jednostavna: zaštita osobnih podataka nije prepreka razvoju umjetne inteligencije. Ona je preduvjet da se umjetne inteligencija razvija i koristi na način koji je zakonit, odgovoran i usmjeren na čovjeka.

Osim ovih smjernica, AZOP donosi i Preporuke za sigurno korištenje velikih jezičnih modela i sustava temeljenih na velikim jezičnim modelima (Large Language Models-LLMs), u kojima izdvaja da u LLM sustave ne bi trebalo unositi osobne podatke, podatke o drugim osobama, povjerljive informacije, interne dokumente, službene spise, ugovore, zdravstvene, financijske, radnopravne ili druge osjetljive podatke, osim ako je uporaba takvog alata prethodno procijenjena, pravno utemeljena i organizacijski kontrolirana.

Posebno se preporučuje ne unositi podatke kao što su ime i prezime, OIB, adresa, broj telefona, adresa elektroničke pošte, identifikacijski brojevi, podaci o zdravlju, podaci o djeci, financijski podaci, podaci o zaposlenicima, klijentima, korisnicima, građanima ili poslovnim partnerima, kao ni druge informacije koje same za sebe ili u kombinaciji s drugim podacima mogu dovesti do identifikacije pojedinca.

"Razlog za takav oprez je činjenica da se unosom osobnih podataka u LLM sustav može pokrenuti nova obrada osobnih podataka nad kojom organizacija možda nema dovoljnu kontrolu. Podaci uneseni u takav sustav mogu se, ovisno o uvjetima korištenja i tehničkoj arhitekturi alata, obrađivati na poslužiteljima vanjskog pružatelja usluge, pohraniti u povijesti razgovora, biti dostupni pružatelju usluge ili njegovim podizvršiteljima, koristiti za sigurnosnu analizu, poboljšanje usluge ili, u određenim slučajevima, za daljnje treniranje ili prilagodbu modela", navodi se u preporukama AZOP-a.