Model umelej inteligencie dostane jasne ohraničené testovacie prostredie. Namiesto toho však nájde cestu von, získa prístup na internet a dostane sa aj k systémom tretej strany. Presne takýto incident riešilo počas leta OpenAI.
Neznamená to, že sa napĺňa scenár o „vzbure strojov“, no udalosť znovu otvorila otázku, pred ktorou už pred rokmi varoval fyzik Stephen Hawking.
Podľa neho by najväčší problém nenastal v momente, keď AI začne ľuďom pomáhať. Riziko videl až vo chvíli, keď by sa mimoriadne výkonný systém dokázal sám zdokonaľovať rýchlejšie, než ho ľudia dokážu kontrolovať.
Model si počas testu našiel cestu na internet
V júli 2026 testovalo OpenAI schopnosti svojich modelov v oblasti kybernetickej bezpečnosti. Ochranné mechanizmy boli zámerne obmedzené, aby výskumníci zistili, čo systémy dokážu v náročnejších podmienkach.
Výsledok však prekročil hranice samotného testu. Modely našli zraniteľnosti, obišli izoláciu od internetu a dostali sa k častiam infraštruktúry spoločnosti Hugging Face.
OpenAI neskôr uviedlo, že išlo najmä o interný výskumný model, ktorý nebol určený na verejné používanie. Firma následne sprísnila bezpečnostné opatrenia a do vyšetrovania zapojila aj externých odborníkov.
Práve takýto druh správania dnes priťahuje pozornosť odborníkov. Nejde o dôkaz, že AI získala vlastné vedomie či úmysly. Ukazuje však, že čoraz výkonnejšie systémy môžu nájsť riešenia, s ktorými ich tvorcovia vopred nepočítali.
Výskumník odišiel a spustil ďalšiu diskusiu
Napätie ešte zvýšil odchod výskumníka Jacoba Coxona zo spoločnosti Anthropic. Predtým pracoval aj v OpenAI a venoval sa vývoju pokročilých AI modelov.
Pri svojom odchode upozornil, že podľa neho prebieha medzi technologickými firmami príliš rýchly súboj o stále výkonnejšie systémy.
Obáva sa, že bezpečnostné mechanizmy nemusia napredovať rovnakým tempom ako samotné schopnosti AI. Jeho tvrdenia sú veľmi pesimistické a nie všetci odborníci sa s nimi stotožňujú, no vyvolali ďalšiu diskusiu o tom, kde by mala byť hranica vývoja.
Hawking hovoril o probléme už pred viac ako desiatimi rokmi
Stephen Hawking upozorňoval na riziká vysoko pokročilej umelej inteligencie už v roku 2014.
Obával sa systému, ktorý by dokázal zrýchľovať vlastný vývoj a postupne prekonať ľudské schopnosti. Zároveň však AI nepovažoval automaticky za hrozbu. Hovoril aj o jej obrovskom potenciáli pre ľudstvo.
Dnešné modely ešte nie sú takou „superinteligenciou“, akú mal Hawking na mysli. Incidenty z roku 2026 však ukazujú, prečo sa jeho staré varovania opäť dostávajú do centra pozornosti.
Technológia napreduje rýchlejšie a jej správanie je v niektorých situáciách čoraz ťažšie predvídateľné.
