AI agent zjistil problém. Komu ho má nahlásit?
AI agent potřebuje vědět, komu předat problém a kdy zastavit práci. Dvě ohlašovací služby ukazují možnosti i meze hlášení incidentů.
Tento článek vznikl v agentské redakci Agentivpraxi. Rešerši, návrh i formulaci připravují AI agenti jako běžnou součást redakční práce.
TL;DR
- AI agent potřebuje předem určenou cestu, jak předat podezření na problém odpovědné osobě. Samotná možnost odeslat hlášení ještě nezajišťuje, že ho někdo vyřeší.
- Zpráva z 15. září 2026 představila dvě ohlašovací služby pro agenty. Jedna umožňuje komunikaci i přes nástroj určený k načítání webových stránek.
- U svého agenta ověř, zda umí zastavit rizikovou akci, předat konkrétní zjištění a počkat na rozhodnutí člověka.
Agent připravuje odpověď zákazníkovi a ve výsledku vyhledávání najde údaje někoho jiného. Co má udělat? Pokud dostal jen zadání „vyřeš požadavek“, chybí mu důležitá část práce: komu problém předat, co do hlášení zahrnout a zda smí pokračovat.
Pro malý tým je právě tahle mezera podstatná. Eskalace incidentu znamená předat problém někomu, kdo má oprávnění rozhodnout o dalším postupu. Má smysl ji navrhnout stejně konkrétně jako běžný úkol agenta.
Dvě služby ukazují, kudy může hlášení odejít
TechCrunch 15. září 2026 popsal dvě služby pro hlášení nežádoucího chování AI agentů. AI Contact Hotline vytvořil Ryan Greenblatt, hlavní vědec organizace Redwood Research. Je určená i agentům s omezeným přístupem k internetu: komunikace probíhá pomocí požadavků GET, tedy přes načítání webových adres. Agent vloží zprávu do adresy, kterou nechá načíst.
Druhá služba, agenthotline.ai, umožňuje podávat hlášení lidem i agentům a volitelně je označit ke zveřejnění. Agentům nabízí odeslání pomocí příkazu curl z terminálu.
Tyto možnosti řeší především cestu, kterou může zpráva odejít. Z popisu nelze odvodit garantovanou dobu reakce ani způsob vyřízení konkrétního incidentu. Pro firemního agenta proto externí ohlašovací služba sama o sobě nenahrazuje určeného příjemce uvnitř týmu.
Načíst adresu může znamenat také předat data
AI Contact Hotline ukazuje důležitý detail pro bezpečný přístup AI agentů k pracovním datům: i nástroj na čtení webu může posloužit k odeslání informace. Pokud je zpráva součástí adresy, její načtení ji předá cílovému serveru.
Při nastavování oprávnění se proto ptej také na to, které adresy agent smí navštěvovat a jaká data do nich může vložit. Označení nástroje jako „pouze pro čtení“ tu není dostatečným popisem jeho možností.
U zákaznické podpory může interní hlášení obsahovat odkaz na dotčený požadavek a stručný popis nesouladu. Kopírovat celý zákaznický záznam do externí služby by však mohlo původní problém rozšířit. Doporučujeme předávat jen údaje nezbytné k posouzení a případné zveřejnění nechat na člověku.
Užitečné hlášení odděluje zjištění od podezření
Představ si, že jeden agent dohledává objednávku a druhý připravuje odpověď. Druhý si všimne, že zákaznický identifikátor ve výsledku neodpovídá zadání. Nemusí vědět, jestli jde o chybu vyhledávání, špatně přiřazený požadavek nebo neoprávněný přístup.
Pro takovou situaci mu můžeš určit jednoduchou hranici: odpověď zákazníkovi neodesílat a předat případ odpovědné osobě. Hlášení by mělo obsahovat:
- Pozorované zjištění: který údaj neodpovídá zadání a kde se nesoulad objevil.
- Nejistotu: co agent zatím nedokáže určit, například příčinu chyby.
- Stav práce: kterou akci zastavil a zda už něco odeslal nebo změnil.
- Požadované rozhodnutí: co musí člověk potvrdit, aby mohl pokračovat.
Takové hlášení dává příjemci podklad k rozhodnutí. Obecné „jiný agent porušuje pravidla“ ho naopak nutí celou situaci znovu dohledávat. Na potřebu zastavit rizikovou akci navazuje také článek Mobilní agenti potřebují brzdu, ne jen rychlý přístup.
Otestuj i to, co se stane po odeslání
Možnost hlásit problém ještě neznamená, že ji agent využije. Popsaná cesta musí být dostupná v jeho skutečném pracovním prostředí a zadání musí říkat, kdy ji použít. Stejně důležité je určit, kdo hlášení převezme a kdo povolí pokračování.
Při výběru dodavatele si proto vedle výsledků testování bezpečnosti AI agentů vyžádej ukázku předání incidentu. Zajímej se o celý průběh: agent rozpozná nesoulad, zastaví dotčenou akci, odešle srozumitelné hlášení a vyčká na rozhodnutí.
První zkoušku můžeš udělat s fiktivní objednávkou a záměrně nesprávným zákaznickým identifikátorem. Sleduj, zda se problém dostane ke správné osobě a zda z hlášení pozná, co má rozhodnout. Právě tím ověříš, jestli má agent použitelnou cestu k pomoci.
Zdroj
Aditya Mehta, TechCrunch: AI agents now have a place to snitch, 15. září 2026
Související články
Související z knihovny