Napísal som „astronaut jazdiaci na koni po Marse, olejomaľba, 19. storočie“ a o sedem sekúnd som mal na obrazovke presne to. Nie fotku, nie koláž — obraz, ktorý nikdy predtým neexistoval, vygenerovaný strojom, ktorý nikdy nedržal štetec. Prvý moment s generatívnou AI je vždy podobný: krátka eufória, potom nervozita. Niečo v tom je príliš jednoduché na to, aby to bolo úplne v poriadku.
Ako sa z šumu stane obrázok
Modely ako Midjourney, DALL-E alebo Stable Diffusion fungujú na princípe, ktorý znie takmer absurdne: začnú s čistým digitálnym šumom, niečo ako zrnenie starej televízie, a postupne ho „odšumujú“ smerom k obrázku, ktorý zodpovedá textovému promptu. Robia to v desiatkach malých krokov, kde v každom kroku model odhaduje, ako by mal vyzerať o kúsok čistejší obraz. Naučili sa to na miliardách dvojíc obrázok–popis, ktoré nazbierali z internetu. Neexistuje databáza hotových obrázkov, z ktorej si model niečo vyberie a poskladá koláž — to je najčastejší mýtus, ktorý počujem od ľudí presvedčených, že ide o sofistikovaný Photoshop.
Skutočnosť je čudnejšia a v podstate krajšia. Model si počas tréningu vytvoril vnútornú, matematickú predstavu o tom, čo znamená „macko“, „svetlo pri západe slnka“ alebo „štýl impresionizmu“ — a tieto predstavy vie kombinovať spôsobom, ktorý žiadny konkrétny obrázok na internete nikdy neobsahoval. V tomto zmysle je to skutočne generovanie, nie recyklácia. Otázka, či je to aj tvorba v umeleckom zmysle slova, je iná debata a vedie sa na fakultách umenia aj v súdnych sieňach naraz.
„Model nekreslí, model počíta pravdepodobnosť toho, ako by mal vypadať krajší šum.“
Ruky, text a fyzika, ktorá sa nekoná
A potom sú tu ruky. Roky bol šesťprstý človek na AI obrázku takmer podpisom technológie — dôkaz, že niečo je vygenerované, nie odfotené. Dôvod je jednoduchý: ruky sú extrémne variabilné, prsty sa prekrývajú, ohýbajú, skrývajú v vreckách, a model sa učí z priemeru toho, čo videl, nie z anatomickej logiky. Novšie modely sa to naučili lepšie, ale problém sa len posunul inde — na text v obraze, ktorý často vyzerá ako písmo z jazyka, ktorý nikdy neexistoval, alebo na fyzikálne nezmysly: odrazy v okuliaroch, ktoré nesedia so scénou, tiene padajúce v dvoch smeroch naraz, poháre, ktoré sa nedajú naplniť podľa zákonov gravitácie.
Tieto chyby nie sú kozmetické. Odhaľujú niečo podstatné o tom, ako AI „rozumie“ svetu — vôbec mu nerozumie, len sa naučila, čo obvykle nasleduje po čom vo vizuálnych dátach. Nemá pojem o tom, že ruka má presne päť prstov, pretože nemá pojem o ničom. Má len extrémne bohatú štatistiku. To je rozdiel medzi porozumením a napodobňovaním, ktorý sa ľahko stráca, keď výsledok vypadá presvedčivo.
Kde končí nadšenie a začínajú otázky
Reálna hranica ale nie je technická, je právna a etická. Modely sa trénovali na obrázkoch stiahnutých z internetu bez súhlasu autorov — ilustrátorov, fotografov, komiksových kresličov, ktorých štýl sa teraz dá napodobniť za pár sekúnd a zadarmo. Prebiehajú desiatky súdnych sporov v USA aj Európe a nikto poriadne nevie, ako sa to vyvinie. Paralelne s tým sa rieši ešte praktickejší problém — deepfaky, falošné fotky z „vojnových zón“, ktoré nikdy neexistovali, politici v situáciách, v ktorých nikdy neboli. Nástroj, ktorý vie za pár eur vykúzliť astronauta na koni, vie rovnako ľahko vykúzliť dôkaz, ktorý nikdy neexistoval.
Zaujímavé je, že samotné firmy stojace za týmito modelmi si túto hranicu uvedomujú lepšie než väčšina užívateľov — vodoznaky, detekčné nástroje, obmedzenia promptov s tvárami reálnych ľudí, to všetko sú pokusy udržať džina aspoň čiastočne v láhvi. Otázka je, či to stačí, keď sa open-source modely dajú stiahnuť a spustiť na bežnom notebooku bez akýchkoľvek zábran. Ten astronaut na koni bol zábavný. Nie všetko, čo z tohto istého procesu vznikne, bude.