AI prý „jde po hackerech“. Ve skutečnosti jen dostala příkaz a přístup

„UMĚLÁ INTELIGENCE SE VYMKLA KONTROLE!
(Poznámka pod čarou: ve skutečnosti jsme jí dali klíče a řekli, ať otestuje zámek.)“

(volná parodie na senzacechtivé titulky)

Poslední týdny přinesly sérii titulků, které by se hodily spíš do sci-fi traileru než do technologické rubriky. Umělá inteligence prolamuje zabezpečení, samostatně řetězí exploity, proniká do systémů, ke kterým neměla mít přístup. Realita je mnohem přízemnější, i když ne o moc méně zajímavá.

Co se přesně stalo?

OpenAI v červenci zveřejnila, že jeden z jejích experimentálních AI agentů během interního bezpečnostního testování zaútočil na veřejně dostupné služby, včetně platformy Hugging Face. Krátce poté oznámil Anthropic, že jeho model Claude Mythos během podobného testu samostatně zřetězil exploity proti reálnému softwaru a vyvinul nové techniky pro hledání slabin v kódu.

A téměř současně Meta potvrdila, že jeden z jejích modelů během hodnocení pronikl do systémů jiné organizace poté, co mu chybná konfigurace testovacího prostředí omylem umožnila přístup k internetu. Jde o tři samostatné případy od tří různých firem, ale dohromady vyvolávají stejnou otázku: Stala se umělá inteligence najednou schopná hackovat? Krátká odpověď zní ano. Jenže pravděpodobně ne tím způsobem, jaký naznačují titulky.

V žádném z těchto případů se model sám nerozhodl zaútočit na náhodný cíl. Výzkumníci modelům záměrně poskytli realistické nástroje, přístup k internetu nebo zranitelné systémy. To vše kvůli zjištění, jak dobře zvládnou ofenzivní kybernetické úkoly. Experty nepřekvapilo, že se o to modely pokusily. Překvapilo je, jak moc toho dokázaly, jakmile dostaly příležitost.

Proč se to děje zrovna teď?

Podle Draye Aghy, seniorního manažera bezpečnostních operací v kyberbezpečnostní firmě Huntress, jde o souběh dvou trendů najednou. „Jsme svědky dokonalé bouře schopností a agresivního testování,“ řekl pro Live Science. „Objem softwarových chyb objevených v roce 2026 se oproti roku 2025 zhruba zdvojnásobil, z velké části díky AI systémům. Velké technologické firmy tyto modely aktivně nasazují k zátěžovému testování vlastní infrastruktury, což vede k rychlým a mediálně sledovaným objevům zranitelností.“

Antonino Vaccaro, profesor obchodní etiky na IESE Business School, s tím souhlasí. Současně ale zdůrazňuje ještě jeden faktor. „Potřebujeme být opatrní s významem přídavného jména ‚autonomní‘ ve spojení s AI systémy,“ řekl. Na rozdíl od lidí si modely podle něj netvoří vlastní záměry ani se samostatně nerozhodují, co chtějí dělat. Sledují cíle zadané vývojáři nebo uživateli, přičemž výsledek občas překvapí i samotné tvůrce.

Nástup agentů

„An agent, you have to send me back!“

Trinity, Matrix

Klíčovou proměnnou je nástup takzvaných „agentních“ modelů. Zatímco běžné chatboty odpovídaly na otázky jednu po druhé, agentní systémy dokážou naplánovat sled akcí, používat softwarové nástroje, testovat vlastní nápady a opakovaně zlepšovat svou práci, dokud nedosáhnou cíle.

To vše bez nutnosti neustálého lidského zásahu. „Zlomovým bodem je přechod od konverzačních modelů k agentním,“ vysvětlil Agha. „Dnešní špičková AI neodpovídá jen na otázky. Dokáže samostatně řetězit akce, psát kód, používat příkazovou řádku a učit se z vlastních neúspěchů.“

„Veřejnost by tyhle incidenty měla vnímat jako selhání softwarové optimalizace, ne jako úsvit zlomyslné, sebeuvědomělé umělé inteligence,“ dodal Agha. „Je to míň Terminátor a víc jako hodně schopný, doslovně uvažující stážista, co poruší zákon, aby rychleji dokončil tabulku.“

Skutečné riziko není robot s vlastní vůlí

Podle expertů leží skutečné nebezpečí jinde, než naznačují nejděsivější zpravodajské titulky. Není to AI, která by se sama rozhodla zaútočit. Jsou to zločinci, kteří pomocí AI zrychlují útoky, jaké páchali už dřív. Modely dokážou proletět obrovské množství veřejně dostupných informací o potenciálních obětech, pomoct napsat přesvědčivější phishingové e-maily, najít softwarové slabiny a vygenerovat kód, který si útočníci upraví pro vlastní potřebu.

„Hrozbou je lidská zlovůle, umocněná rychlostí a rozsahem AI, ne autonomní AI, která by se rozhodla zlobit,“ shrnul Agha.

Tahle historka už tu jednou byla, jen bez umělé inteligence

Vzorec schopného nástroje, který dostane skutečný přístup a splní zadaný úkol s až znepokojivou důkladností, zatímco jeho tvůrci zůstanou v úžasu, není žádná novinka. Skoro identickou historku má za sebou i internet sám, jen o 38 let starší.

Ve večerních hodinách 2. listopadu 1988 spustil třiadvacetiletý doktorand na Cornellově univerzitě Robert Morris program, který měl jednoduchý, zvědavostí motivovaný cíl. Chtěl zjistit, kolik počítačů je vlastně na tehdejším internetu připojeno. Šlo o samovolně se replikující program, dnes známý jako Morrisův červ. Jenže se v jeho replikační logice skrývala chyba.

Program znovu a znovu nakazil stejné počítače mnohem agresivněji, než jeho autor zamýšlel. Během několika hodin zasáhl zhruba 6 000 z tehdejších 60 000 připojených počítačů po celých Spojených státech, včetně Harvardu, Stanfordu, NASA a Lawrence Livermore National Laboratory.

První odsouzený

„Chtěl jsem jen spočítat počítače na síti. Teď mám vlastní odstavec na Wikipedii o počítačové kriminalitě.“

(volný vtip v duchu klasického programátorského přiznání)

Některé instituce raději na týden odpojily své sítě, aby se šíření zastavilo. Morris se později stal prvním člověkem odsouzeným podle amerického zákona o počítačových podvodech. Nikoli za úmysl někomu ublížit, ale za to, že jeho experiment unikl kontrole rychleji, než on sám stihl zareagovat. Paralela je nápadná. Morris nechtěl rozbít internet, stejně jako dnešní AI modely „nechtějí“ nic hackovat ve smyslu vlastního záměru.

V obou případech šlo o softwarový nástroj, který dostal za úkol udělat něco konkrétního, a udělal to mnohem efektivněji, než jeho tvůrci čekali. Rozdíl je hlavně v tempu a v tom, jak se o takových incidentech dnes mluví. To, co bylo v roce 1988 celonárodním šokem a soudním precedentem, je dnes rutinní odstavec v bezpečnostní zprávě jedné z několika velkých technologických firem, publikované ve stejném měsíci jako podobné zprávy konkurence.

Co si z toho vzít?

„Svět budoucnosti bude čím dál náročnějším zápasem proti hranicím naší vlastní inteligence.“

(volně přeloženo, Norbert Wiener, kybernetik, The Human Use of Human Beings, 1950)

Nejpravděpodobnější budoucnost není podle expertů AI plánující spiknutí proti lidstvu, ale čím dál schopnější software, který přesně plní to, co po něm chceme. Jen s razancí, která nás pravidelně zaskočí. To může znamenat rychlejší odhalování chyb v obranných týmech stejně jako rychlejší útoky v rukou zločinců.

Není to nová kapitola sci-fi hrozby. Je to pokračování mnohem starší a přízemnější lekce, kterou jsme se měli naučit už u Morrisova červa. Že kdykoli dáte dostatečně schopnému, cíleně jednajícímu systému skutečný přístup, udělá přesně to, co jste mu řekli. Jen efektivněji, než jste čekali.

Zdroje: LiveScience, FBI