Ak ChatGPT dokáže vypilovať váš motivačný list, čo dokáže s falošnou faktúrou?
Ľudia doma čelia zneužitiu LLM cez:
📧 Hypervypilované phishingové e-maily a správy teraz obchádzajú inštinkt na odhaľovanie preklepov, na ktorý sa spoliehame.
💬 „Miláčikovia“ poháňaní AI živia romantické podvody celý deň.
🛒 Falošné recenzie ovplyvňujúce nákupné rozhodnutia uveriteľnými päťhviezdičkovými klamstvami.
🎙️ Hlasové alebo video deepfake prosia príbuzných o „urgentné“ prevody.
🔐 Osobné údaje sa používajú na napájanie a vylepšovanie všetkých vyššie uvedených techník útoku.
Ľudia v práci si musia dávať pozor na:
🗄️ Zdrojový kód, zmluvy alebo personálne súbory vložené do verejných LLM ostanú na cudzom cloude.
🕶️ Nepreverené pluginy a API kľúče, ktoré môžu vytvoriť neviditeľné vstupné body „tieňovej AI“.
🛑 Halucinované alebo nepresné texty, ktoré sa vkrádajú do správ a repozitárov.
Firmy si musia byť vedomé, že:
📈 Približne 40 % e-mailov typu BEC je dnes generovaných AI, čo urýchľuje schémy podvodov s bankovými prevodmi[ref].
🎛️ Prompt injection unesie AI agentov a spustí škodlivé akcie alebo odpovede.
⚖️ Porušenia súkromia, autorských práv a kontroly vývozu priťahujú pozornosť regulátorov.
⭐ Koordinované záplavy falošných recenzií môžu potopiť - alebo vystreliť - reputáciu značky.
🧪 Otrávenie dát navádza doladené modely k škodlivým alebo nežiaducim odpovediam a rozhodnutiam.
Podvodníci si osvojili LLM rovnako rýchlo ako všetci ostatní. Verzia 1.0 generuje dokonalé e-maily a prevádzkuje jednoduché chatboty; jemnejšie, kombinované exploity sa už varia.
💡 Doma: Akúkoľvek urgentnú žiadosť o peniaze si dvakrát overte cez samostatný, dôveryhodný kanál; obmedzte, čo zdieľate s chatbotmi; zapnite MFA.
💡 V práci: Používajte schválené AI nástroje, pred zadaním promptu odstráňte akýkoľvek citlivý obsah a výstup AI kontrolujte tak dôsledne ako koncept juniorného analytika.
💡 Firmy: Uplatňujte prístup k AI s najmenšími oprávneniami, vysoko rizikové akcie potvrdzujte mimo kanála, monitorujte nepriateľské prompty a robte svojim modelom red-teaming. (Nie je to úplný zoznam, ale to základné.)