Telefón zvoní o pol tretej ráno. Na displeji cudzie číslo, v slúchadle plač. „Mami, som v base, potrebujem peniaze, nepýtaj sa prečo.“ Hlas je jej syna – tá istá intonácia, ten istý spôsob, akým preglgne pred vetou. Žena z Arizony neskôr povedala novinárom, že by prisahala na vlastný život, že to bol on. Nebol. Bol to algoritmus, ktorý sa naučil znieť ako jej syn z pätnástich sekúnd videa, ktoré mal na verejnom TikToku.
Toto už nie je sci-fi z konferencií o umelej inteligencii, ale bežná realita call centier organizovaného zločinu, ktoré fungujú s efektivitou startupov. Nástroje na klonovanie hlasu, pôvodne stavané na dabing filmov alebo na to, aby ľudia po operácii hrtana mohli znova „hovoriť“ vlastným hlasom, sa dnes dajú kúpiť za pár dolárov mesačne. Netreba hodiny nahrávok ako pred piatimi rokmi. Stačí krátke video zo svadby, hlasová správa poslaná kamarátke, alebo rolička, kde niekto komentuje počasie. Stroj si poradí aj s tým.
Prečo je to také presvedčivé
Ľudský mozog je nastavený veriť hlasu viac než textu. Písané správy si vieme overiť, štýl podvrhnúť je ťažšie badateľné, ale u hlasu funguje niečo primitívnejšie – emocionálne rozpoznanie blízkeho človeka, ktoré obchádza racionálnu kontrolu. Keď k tomu pridáte umelo vytvorený stres v hlase, plač, zadýchanosť, kritickú časovú tieseň („teraz, hneď, nikomu nevolaj“), dostanete koktail, ktorý obchádza aj inak veľmi obozretných ľudí. Podvodníci navyše necielia len na dôchodcov, ako sa traduje. Obeťou sa čoraz častejšie stávajú aj manažéri firiem, ktorých hlas šéfa po telefóne prehovorí k okamžitému prevodu peňazí.
Nejde o to, či vás niekedy osloví falošný hlas blízkeho. Ide o to, kedy sa to stane – a či budete mať pripravenú otázku, na ktorú stroj nepozná odpoveď.
Heslo, ktoré nie je heslo do wifi
Bezpečnostné firmy dnes odporúčajú niečo prekvapivo staromódne – rodinné heslo. Nie digitálne, nie v aplikácii, ale slovo alebo veta, ktorú pozná len najužší kruh a ktorá sa nikdy nezdieľa online. Keď zavolá „dcéra“ v núdzi, stačí sa spýtať na to slovo. Ak zaváha, ak zmení tému, ak povie, že na to „teraz nemá čas“ – je to signál. Skutočný človek v skutočnej núdzi vám heslo povie, aj keby plakal. Algoritmus ho nepozná, lebo ho nikto nikdy nevyslovil na verejnej nahrávke.
Druhá vec, ktorú treba zmeniť, je reflex okamžitej reakcie. Podvodníci stavajú celý scenár na tom, že obeť nemá čas myslieť. Preto je najúčinnejšia obrana banálna – zložiť telefón a zavolať späť na známe číslo. Ak je to naozaj syn v núdzi, počká tri minúty, kým mu zavoláte. Ak to bol podvod, práve ste ušetrili životné úspory. Firmy zaoberajúce sa forenznou analýzou hlasu tiež upozorňujú na drobné artefakty – nezvyčajné pauzy uprostred vety, mierne kovový nádych pri sykavkách, absenciu prirodzeného dýchania. Nie sú počuteľné pri panike, ale sú tam.
Čo si so sebou nosíme na internete
Najzraniteľnejší nie sú tí, čo majú súkromné profily. Najzraniteľnejší sú tí, ktorých hlas je verejne dostupný – rečníci na konferenciách, ľudia s aktívnym YouTube kanálom, rodičia, ktorí nahrávajú videá svojich detí a bez rozmýšľania ich zdieľajú so stovkami cudzích ľudí. Nie je to argument pre vypnutie internetu, len pripomienka, že každé sekundové video je surovina, z ktorej sa dá niečo postaviť – aj niečo škaredé.
Podvodníci sa spoliehajú na to, že technológia vzbudzuje väčšiu dôveru než opatrnosť. Paradoxne, práve staromódna nedôvera – tá, ktorú si pamätáme z čias, keď sa rodičia báli falošných listárov a podozrivých telefonátov od „banky“ – je dnes najlepšou obranou proti najmodernejšiemu nástroju, aký kedy podvodníci mali k dispozícii. Hlas sa dá skopírovať dokonale. Rodinné heslo, na ktoré sa nikto nepamätá odinakiaľ než z kuchyne pri večeri, zatiaľ nie.