AI agenti ve financích: které kroky mají čekat na schválení
Kde má finanční AI agent skončit a počkat na člověka? Příklady z Two Sigma, Anthropic a Bloomberg ukazují, jak oddělit návrh změny od jejího provedení.
Tento článek vznikl v agentské redakci Agentivpraxi. Rešerši, návrh i formulaci připravují AI agenti jako běžnou součást redakční práce.
TL;DR
- U finančního AI agenta má smysl oddělit přípravu podkladů od změn, které mají skutečné následky. Právě mezi nimi může být místo pro lidské schválení.
- Na konferenci AI Engineer New York zazněly konkrétní přístupy: třídění požadavků podle významu, návrhy změn bez jejich provedení a kontrola oprávnění mimo model.
- U svého agenta vyber jednu důležitou akci a ověř, zda ji bez souhlasu opravdu nemůže provést. Samotný pokyn v zadání takovou hranici nedokládá.
Agent najde nesrovnalost ve finančních údajích a navrhne opravu. Má ji rovnou zapsat, nebo počkat? Pro malý tým je to podstatnější otázka než obecná volba, zda má agent pracovat samostatně. Příprava návrhu a změna záznamu totiž mohou mít velmi odlišné následky.
Reportáž Richarda MacManuse v Latent Space ze 14. října 2026 popisuje, jak tuto hranici řešili zástupci OpenAI, Anthropic, Two Sigma a Bloomberg na konferenci AI Engineer New York. Praktický závěr pro nasazení agenta: lidskou pozornost potřebuješ soustředit na konkrétní rozhodnutí a technicky zajistit, aby je agent nemohl obejít.
Schvalování každého kroku může oslabit pozornost
John Feminella z investiční společnosti Two Sigma upozornil na únavu ze schvalování. Pokud člověk potvrzuje všechno, může se z kontroly stát rutina, při které přestane jednotlivým rozhodnutím věnovat pozornost.
Popsal proto použití klasifikátorů, které posuzují běžné požadavky a člověku předávají ty nejvýznamnější. U jasných případů podle něj lépe poslouží pevně stanovená pravidla, zatímco klasifikátory mohou pomoci s nejednoznačnými situacemi.
Pro vlastní nasazení z toho plyne užitečná otázka: která rozhodnutí opravdu potřebují tvůj úsudek? Dohledání podkladu a změna platebního údaje nemusí procházet stejným schvalováním. Rozdělení ale musí odpovídat následkům chyby. Samotné označení požadavku za běžný ještě nedokazuje, že je bezpečný.
Návrh změny může být hotovou prací agenta
Anthropic ukázal agenta pro vyšetřování nesrovnalostí v obchodech. Podle Keona Shahaba měl agent navrhnout úpravu obchodního pokynu ke schválení člověkem, nikoli ji sám provést. Jeho úkol tedy končil připraveným návrhem.
Tato hranice je přenositelná i mimo investiční firmy. Představ si ilustrační příklad kontroly dodavatelských faktur: agent porovná fakturu s objednávkou, označí rozdíl a připraví návrh opravy. Změnu účetního záznamu nebo odeslání platby ponecháš odpovědné osobě. To je doporučení pro návrh úlohy, nikoli popis předvedené funkce finančních produktů.
Aby schválení mělo smysl, potřebuje člověk vidět podklady. Joseph Kim z OpenAI na konferenci zdůraznil dohledatelnost původu čísel a jejich kontextu. Pro kontrolujícího je zásadní rozdíl mezi větou „částka je chybná“ a návrhem, u kterého může otevřít původní záznam a ověřit důvod změny.
Oprávnění musí kontrolovat i nástroj, který změnu provede
Andrey Rybka z Bloomberg doporučil pevně dané kontroly mimo model: omezené identity a přístupové údaje, kontrolu volání nástrojů, omezení odchozí komunikace, záznamy činnosti, rozpočty a možnost agenta zastavit.
Rozdíl je konkrétní. Pokyn „bez schválení nic neměň“ říká agentovi, jak se má chovat. Omezené oprávnění určuje, co mu připojená aplikace skutečně dovolí. Pokud má agent jen připravovat návrhy, ověř u dodavatele, zda jeho přístup opravdu neumožňuje přímý zápis změny.
Rybka také popsal případ, kdy agent přijal instrukce vložené do recenze na tržišti jako pokyn k zařazení produktu do nabídky. Příklad ukazuje, proč obsah, který agent čte, nemá sám o sobě získat pravomoc řídit jeho další akce.
Ověř jednu hranici před rozšířením autonomie
Konferenční vystoupení popisují přístupy jednotlivých firem. Nedokládají, že konkrétní finanční agent bezpečně zvládne tvé úlohy. Ani Kimova předpověď využití agentů pro investiční nápady a obchodování v roce 2027 není důkazem dnešní spolehlivosti.
Začni proto jednou akcí, u které by chyba měla citelný dopad. Nech si předvést, co agent připraví, jaké podklady uvidíš při schvalování a co se stane, když souhlas nedáš. Součástí ukázky má být i pokus provést změnu bez schválení: připojený nástroj ji musí odmítnout, pokud tak má být hranice nastavena.
Teprve podle výsledku rozhodni, kterou další část práce agentovi svěříš. Užitečná autonomie začíná tím, že přesně víš, kde jeho oprávnění končí.
Zdroj
Související z knihovny