Napísala som do chatbota otázku, ktorú by som nepovedala nahlas ani najlepšej kamarátke. Niečo o vzťahu, o peniazoch, o zdraví. Odpoveď prišla za tri sekundy, slušná, empatická, skoro terapeutická. Až neskôr mi napadlo: kam táto veta vlastne odišla? Kto ju uvidí, kto ju uloží, kto si na jej základe vytvorí obrázok o mne? Odpoveď na túto otázku je menej upokojujúca, než by sme čakali, a väčšina ľudí sa ju ani nesnaží hľadať.
Umelá inteligencia sa stala akýmsi digitálnym spovedníkom bez celibátu mlčanlivosti. Ľudia jej zverujú diagnózy, ktoré ešte nepovedali partnerovi, finančné problémy, ktoré tajia pred rodinou, aj otázky, na ktoré sa hanbia opýtať lekára. Rozdiel medzi spovedníkom a chatbotom je však zásadný — kým kňaz má sväteninu mlčanlivosti, firma prevádzkujúca jazykový model má obchodné podmienky. A tie sa dajú meniť jednostranne, o čom sa dozviete v lepšom prípade e-mailom, v horšom vôbec.
Dáta, ktoré nezmiznú, len sa presunú
Väčšina veľkých AI spoločností — OpenAI, Google, Microsoft — v princípe tvrdí to isté: vaše konverzácie môžu použiť na zlepšovanie modelov, pokiaľ si aktívne nezapnete opciu, ktorá to zakáže. Problém je, že táto opcia je zvyčajne schovaná tri kliknutia od domovskej obrazovky, formulovaná jazykom, ktorý pripomína poistnú zmluvu, a v predvolenom nastavení vypnutá v neprospech používateľa. Firma teda technicky nič neklame. Len sa spolieha na to, že sa vám nebude chcieť hľadať.
Realita je pritom komplikovanejšia, než jednoduché "áno, čítajú si to" alebo "nie, je to súkromné". Text, ktorý napíšete, môže putovať cez viacero vrstiev — samotný model, bezpečnostné filtre, ktoré kontrolujú škodlivý obsah, tímy ľudských hodnotiteľov, ktorí trénujú model na základe spätnej väzby. Znamená to, že v niektorých prípadoch si vašu otázku o probléme s erekciou alebo o dlhoch skutočne prečíta živý človek, ktorého úlohou je posúdiť, či bola odpoveď modelu vhodná. Nie je to sledovanie v tom zlovestnom zmysle slova. Ale nie je to ani prázdny vesmír, kam vaše slová mizne bez stopy.
Ak vám niečo online príde zadarmo, produktom nie ste vy — produktom sú vaše dáta.
Firemné prostredie má iné pravidlá
Zaujímavý paradox nastáva v momente, keď tú istú technológiu použijete v práci. Firemné verzie nástrojov ako ChatGPT Enterprise alebo Copilot for Microsoft 365 zvyčajne garantujú, že dáta zamestnancov sa nepoužívajú na trénovanie modelu a zostávajú izolované v rámci firemného tenantu. Zamestnávateľ si teda kúpil súkromie, ktoré bežný používateľ platiaci desať eur mesačne za osobný účet automaticky nemá. Otázka, ktorú si firmy zriedka kladú nahlas, znie: kto v rámci firmy vidí, čo zamestnanci do AI píšu? Odpoveď býva prekvapivo netransparentná aj smerom dovnútra organizácie.
V praxi to znamená dvojitý štandard. Manažér, ktorý doma konzultuje s AI osobný problém, je v inej pozícii ako ten istý manažér, keď v práci nechá model prečítať interný dokument o platoch. Hranica medzi "toto je len môj súkromný experiment" a "toto je citlivé firemné dáta" sa v hlavách ľudí rozmazáva rýchlejšie, než firmy stíhajú aktualizovať interné smernice. Niektoré banky a právnické firmy preto verejné AI nástroje jednoducho zakázali — nie z technofóbie, ale z jednoduchej matematiky rizika.
Čo sa dá reálne robiť
Existuje niekoľko praktických krokov, ktoré situáciu zlepšia, aj keď ju úplne nevyriešia. Vypnutie histórie konverzácií a možnosti trénovania modelu na vašich dátach je v nastaveniach väčšiny nástrojov dostupné, len treba vedieť, že tam je. Citlivé údaje — rodné čísla, čísla kariet, diagnózy s menom pacienta — jednoducho do chatbota nepatria, rovnako ako by nepatrili do verejného príspevku na sociálnej sieti. A firmy, ktoré zamestnancom nasadzujú AI nástroje bez jasnej politiky o tom, čo sa smie a nesmie zadávať, si pripravujú problém, ktorý sa prejaví neskôr, pri prvom úniku dát alebo pri prvej žalobe.
Najpodstatnejšia zmena je však mentálna, nie technická. Chatbot nie je priateľ, ani terapeut, ani anonymný spovedník. Je to produkt firmy, ktorá má akcionárov a obchodný model. Keď to človek berie vážne, prestane doňho písať veci, ktoré by nepovedal nahlas v preplnenej kaviarni. A práve v tom momente sa jeho vzťah s umelou inteligenciou stane o čosi zdravším — nie menej užitočným, len opatrnejším.