Glasovi koje kreira AI su popularni među prevarantima

Prema istraživanju računalnih znanstvenika sa škotskog Sveučilišta Abertay, nedavni napredak u tehnologijama govora potpomognutog umjetnom inteligencijom omogućio je stvaranje sintetičkih glasova koji su vrlo naturalistički i svestrani, otvarajući širok raspon potencijalnih primjena.

Starije studije pokazale su pozitivan utjecaj glasova generiranih umjetnom inteligencijom u različitim područjima, uključujući obrazovanje u stranim jezicima, te marketingu i oglašavanje, a također se koriste u kliničkim komunikacijskim pomagalima, gdje mogu poboljšati učinkovitost uređaja za augmentativnu i alternativnu komunikaciju za osobe s oštećenjem govora.

Međutim, kako i kod svih drugih novih inovacija, postoji i tamna strana, jer se ista ta tehnologija može iskoristiti kao oružje u zlonamjerne svrhe. Pojava kriminala uzrokovanog umjetnom inteligencijom predstavlja sve veću prijetnju kibernetičkoj sigurnosti, a nedavni incidenti visokog profila ilustriraju razmjere tih rizika.

U jednom slučaju, prevaranti su koristili kloniranje glasa kako bi se predstavljali kao izvršni direktor tvrtke i prevarili zaposlenike da odobre prijenos milijuna dolara.

U drugom slučaju, majka je primila poziv u kojem su prevaranti koristili kloniranu snimku glasa njezine tinejdžerske kćeri kako bi inscenirali lažnu otmicu i tražili otkupninu.

Istraživači upozoravaju da to nisu jedini načini zlouporabe AI tehnologije, jer bi kombiniranje velikih jezičnih modela sa sintezom govora moglo automatizirati prijevare glasovnim phishingom i lažnim predstavljanjem u velikim razmjerima, čineći takve napade i jeftinijima i uvjerljivijima.

Za razliku od video deepfakeova, koji moraju uvjerljivo sinkronizirati i vizualne i slušne informacije, obmana temeljena na glasu umjetne inteligencije djeluje putem jednog modaliteta, nudeći slušateljima manje znakova za otkrivanje njezine umjetne prirode. Iako tehničke zaštitne mjere poput digitalnih vodenih žigova ili algoritama za detekciju mogu pomoći u forenzičkoj provjeri govora generiranog umjetnom inteligencijom, one nude malo zaštite u interakcijama koje se oslanjaju na ljudsku percepciju i donošenje odluka u stvarnom vremenu. Stoga je razumijevanje kako slušatelji percipiraju i procjenjuju glasove umjetne inteligencije ključno za razvoj bihevioralnih intervencija koje mogu poboljšati budnost i zaštititi javnost od obmane glasom umjetne inteligencije. 

U svom radu istraživači su proveli istraživanja dva moguća scenarija, eksperiment koji je ispitivao mogu li jednostavni informativni poticaji utjecati na pristranost slušatelja pri kategorizaciji glasova kao ljudskih ili umjetne inteligencije te eksperiment koji je istraživao može li poticaj usmjeren na prijetnju i posljedice pogrešne identifikacije glasova umjetne inteligencije također pomaknuti odgovore slušatelja od odgovora "čovjek".

Zaključak studije je da umjesto pokušaja treniranja slušatelja za otkrivanje glasova umjetne inteligencije koji su sve više nalik ljudskima, što je pokazalo ograničen uspjeh, učinkovitiji i skalabilniji pristup mogao bi uključivati ​​promjenu načina na koji slušatelji konceptualiziraju govor umjetne inteligencije, posebno unutar jezičnih zajednica koje su povijesno bile nedovoljno opskrbljene govornom tehnologijom i stoga su ranjivije na obmanu temeljenu na glasu.

U tom smislu, ovaj rad nudi jednu od prvih bihevioralnih protumjera za obmanu glasa umjetne inteligencije, pokazujući da ublažavanje rizika može manje ovisiti o upozorenjima, a više o poticanju slušatelja da promijene svoj način razmišljanja.

Čitavu studiju možete pronaći na ovoj poveznici.