AI a hledání zranitelností: nález chyby není totéž co její zneužití

TL;DR

• Při hodnocení bezpečnostních schopností AI rozlišuj objevení chyby, její zneužití a samostatnou práci agenta. Každé tvrzení potřebuje vlastní důkaz.
• Nedávné zranitelnosti PHP podle opraveného článku TechCrunch našli lidští výzkumníci. AI použili při zneužití chyby. Případ sám nedokládá autonomní hledání zranitelností.
• Když dodavatel slibuje bezpečnostního agenta, chtěj popis konkrétní úlohy, lidských zásahů a ověření výsledku. Obecné „AI našla chybu“ nestačí.

Vybíráš AI nástroj pro bezpečnostní kontrolu firemní aplikace. Dodavatel ukazuje zprávu o závažné chybě a tvrdí, že podobné problémy dokáže odhalovat jeho agent. Pro tvé rozhodnutí je zásadní, kde práce AI začala: dostala hotový nález od výzkumníka, nebo sama hledala slabinu v kódu?

Právě tento rozdíl se ve zprávách o kyberbezpečnosti snadno ztratí. Pokud máš podle nich posoudit agentské schopnosti, potřebuješ vědět, co provedl člověk, co model a co se skutečně ověřilo.

Co v případu PHP udělali lidé a co AI

TechCrunch 24. října 2026 zveřejnil debatu podcastu Equity o zranitelnostech PHP a možném vlivu AI na bezpečnost internetu. Text obsahuje podstatnou opravu: chyby našli lidští výzkumníci zapojení do iniciativy Hack the Planet společností OpenAI a Wiz. AI použili při zneužití chyby.

Původní vyjádření v rozhovoru připisovalo nalezení zranitelností jazykovým modelům. Opravené znění tento závěr nepodporuje. Nedokládá ani to, že popisované pokusy o napadení webů prováděli autonomní agenti.

Rozdíl mění význam celé zprávy. Pomoc se zneužitím známé slabiny je jiný výsledek než samostatné nalezení dosud neznámé chyby. Ani jeden z nich automaticky neprokazuje, že agent zvládne bezpečnostní kontrolu tvé aplikace od začátku do konce.

Tři různé schopnosti za větou „AI našla chybu“

Pro posouzení podobných zpráv doporučujeme oddělit tři otázky:

• Kdo chybu objevil? Zajímej se, zda AI dostala jen kód k prozkoumání, nebo už konkrétní podezření či hotový nález.
• Kdo ověřil možnost zneužití? Pomoc s ukázkou zneužití může být významná, ale sama neříká, kdo slabinu našel.
• Jak samostatně agent pracoval? Ptej se, kdo vybíral další kroky, opravoval neúspěšné pokusy a potvrdil výsledek.

To je naše vodítko pro čtení zpráv a výběr nástroje. Zdroj neposkytuje podrobný záznam práce výzkumníků, podle kterého by šlo všechny tyto otázky u případu PHP zodpovědět.

Pro malý vývojový tým má rozlišení přímý význam. Nástroj, který pomáhá specialistovi ověřovat známé podezření, může být užitečný. Z takové ukázky ale nelze odvodit, kolik neznámých chyb najde v běžné aplikaci ani kolik práce zůstane na člověku.

Zveřejnění chyby pomáhá obraně i útočníkům

Debata otevírá také problém, který samotný výkonnější model nevyřeší: jak o závažné chybě včas informovat velké množství provozovatelů. Správci potřebují podklady k opravě, stejné informace však mohou využít i útočníci. U široce používané technologie je obtížné všechny dotčené provozovatele předem diskrétně oslovit.

Účastníci zmiňují pozorování Amazonu, podle něhož se pokusy o zneužití objevily ještě před veřejným oznámením. Toto pozorování neurčuje roli AI v útocích. Ukazuje však, proč nelze zveřejnění chápat jako čistý předěl, před kterým se nic neděje a po kterém začíná riziko.

Výhled, že dostupné modely a agenti usnadní hledání i zneužívání dalších chyb, je v článku názorem účastníků debaty. Zdroj neměří, o kolik AI zrychlila útoky nebo opravy. Z tohoto případu proto nelze vyvodit, která strana díky AI získává větší náskok.

Od dodavatele chtěj rozdělení práce

Pokud hodnotíš bezpečnostního agenta, požádej dodavatele o jednu doloženou ukázku s jasným začátkem a koncem. Potřebuješ znát vstupní zadání, práci agenta, zásahy specialisty a způsob potvrzení nálezu. Teprve pak můžeš posoudit, zda ukázka odpovídá práci, kterou chceš nástroji svěřit.

Začni otázkou: „Co přesně agent dostal na vstupu a co musel během řešení doplnit člověk?“ Odpověď ti pomůže odlišit užitečného pomocníka pro specialistu od doložené schopnosti samostatně hledat chyby. Obě možnosti mohou mít hodnotu, každá ale řeší jinou potřebu.

Zdroj

Anthony Ha, TechCrunch: Will AI expose the rickety infrastructure of the internet?, 24. října 2026