AI priamo v zariadení: prečo sa všetko sťahuje z cloudu

Doteraz väčšina AI funkcií fungovala tak, že telefón poslal váš dotaz na vzdialený server, ktorý spracoval odpoveď a poslal ju späť. Nová generácia čipov umožňuje časť tejto práce robiť priamo v zariadení — bez odosielania dát kamkoľvek.

Prečo je to dôležitá zmena

Spracovanie priamo v zariadení znamená rýchlejšiu odozvu, funkčnosť aj bez internetového pripojenia a predovšetkým väčšie súkromie — citlivé dáta ako fotky či správy nemusia opustiť telefón, aby sa spracovali.

Najbezpečnejšie dáta sú tie, ktoré nikam neputujú. On-device AI je prvý krát, keď táto veta platí aj pre umelú inteligenciu.
— hlavný argument v prospech spracovania priamo v zariadení

Kde sa to už používa

  • Rozpoznávanie tváre a odomykanie — dlhodobo beží lokálne z bezpečnostných dôvodov.
  • Diktovanie a prepis reči — čoraz častejšie prebieha bez pripojenia na internet.
  • Úprava fotografií — inteligentné vymazávanie objektov či vylepšenie záberov priamo v telefóne.

Limity, ktoré zatiaľ pretrvávajú

Náročnejšie úlohy — generovanie dlhých textov, komplexné vyhľadávanie — stále vyžadujú výkon vzdialených serverov. Budúcnosť pravdepodobne bude hybridná: jednoduché a citlivé úlohy lokálne, náročné výpočty naďalej v cloude.