AI agent potřebuje přístup, ne slepou důvěru

TL;DR:

• Hodnota AI agenta roste ve chvíli, kdy může pracovat s e-mailem, dokumenty a firemními nástroji, ale stejné napojení zvyšuje riziko úniku kontextu.
• Bezpečný začátek není „připojit všechno“, ale vybrat jeden úzký pracovní postup, kde agent čte omezené zdroje a člověk schvaluje výstup.
• Velký jazykový model, tedy model schopný pracovat s textem a instrukcemi, neumí sám poznat všechny hranice důvěrnosti ve firmě.
• Užitečný agent má mít jasné oprávnění, viditelný výstup a brzdu před akcí, která dopadne na klienta, tým nebo veřejný dokument.
• První otázka pro tým nezní, zda agentům věřit obecně, ale kde přesně mohou pomoct bez nevratných následků.

Představ si běžné pondělní ráno. Máš v e-mailu podklady od klienta, ve Slacku domluvu s kolegou a v Notionu starší poznámky k projektu. AI agent by z toho mohl připravit zápis, seznam otevřených bodů a návrh dalšího e-mailu. To je přesně typ práce, kde chat sám nestačí. Agent potřebuje číst více míst najednou a poskládat z nich použitelný výstup.

Jenže stejný přístup vytváří opačný problém. Pokud agent vidí soukromou zprávu, interní poznámku nebo citlivou klientskou informaci, může ji omylem přenést do textu, který patří někam jinam. Ne proto, že chce škodit. Protože hranice mezi „tohle použij jako kontext“ a „tohle nikdy nesdílej“ často ve firmách existuje jen v hlavách lidí.

Teze je jednoduchá: produktivita AI agentů nevznikne z hezčího chatu. Vznikne z kontrolovaného přístupu k pracovním systémům. A kontrolovaný znamená úzký, popsaný a schvalovaný člověkem tam, kde výstup odchází mimo bezpečný prostor.

Agent bez dat zůstane jen lepší chatbot

AI agenti jsou zajímaví hlavně tím, že nemají jen odpovídat na otázky. Mají zvládnout vícekrokové pracovní úkoly: najít podklady, porovnat je, sestavit návrh, připravit další krok a někdy ho i provést.

TechCrunch popisuje OpenAI jako firmu, která staví agenty pro širší kancelářskou práci mimo programování. V článku se objevuje ChatGPT Work jako produkt pro kancelářské a znalostní pracovníky a pracovní postupy napojené na běžné digitální nástroje. Jeden z popsaných příkladů jde velmi daleko: Andrew Ambrosino testuje desktopovou aplikaci s přístupem k e-mailové schránce, Slacku, telefonu a aplikacím jako Notion a Figma.

To dobře ukazuje hranici celé debaty. Agent bez přístupu k nástrojům může poradit, navrhnout text nebo shrnout vložený obsah. Agent s přístupem k nástrojům může připravit práci na základě skutečného provozu. Rozdíl v užitku je velký. Rozdíl v riziku také.

Přístup rozděl podle dopadu

Nejhorší výchozí otázka zní: „Máme agentovi věřit?“ Je příliš široká. Lepší otázka zní: „Co přesně smí číst, co smí navrhovat a co smí udělat bez potvrzení?“

Pro malý tým nebo freelancera je dobrý první krok rozdělit oprávnění do tří vrstev. První je čtení: agent může načíst vybrané dokumenty, vlákna nebo poznámky. Druhá je návrh: agent může vytvořit zápis, odpověď, tabulku nebo seznam úkolů. Třetí je akce: agent něco odešle, publikuje, smaže, přesune nebo sdílí.

První vrstva může být relativně bezpečná, pokud jsou zdroje omezené. Druhá už potřebuje kontrolu kvality. Třetí má mít lidské potvrzení skoro vždy, dokud tým nemá jasně otestovaný postup a ví, jaké chyby se mohou stát.

Prakticky to znamená: agent může připravit e-mail klientovi, ale člověk ho odešle. Může navrhnout zápis ze schůzky, ale člověk potvrdí, co patří do sdílené verze. Může vytáhnout úkoly z interních poznámek, ale nesmí automaticky pozvat externí lidi, měnit termíny nebo publikovat závěry.

Jeden úzký postup je lepší než plošné napojení

Pokud chceš agenta zavést do práce, nezačínej seznamem všech aplikací. Začni jedním opakovaným postupem, který má jasný vstup a jasný výstup.

Dobrý kandidát je například příprava zápisu. Agent může číst jen poznámky ze schůzky, vybrané e-maily a konkrétní projektovou stránku. Výstupem je návrh zápisu se třemi částmi: rozhodnutí, otevřené otázky a další kroky. Člověk zkontroluje, jestli se do zápisu nedostalo něco citlivého nebo nepravdivého, a teprve potom ho pošle týmu.

Podobně může fungovat rešerše podkladů před hovorem. Agent nesmí prohledávat celou historii firmy, ale jen určenou složku, poslední komunikaci k projektu a schválené poznámky. Výstup nemá být „pravda o klientovi“, ale pracovní podklad s odkazy na místa, odkud informace vzal.

Tím se z agenta nestane všemocný kolega. Stane se z něj pomocník v přesně vymezeném kroku. To je méně efektní, ale mnohem použitelnější.

Soukromý kontext není automaticky pracovní materiál

Nejtěžší část není technická. Je organizační. Lidé běžně řeší práci v soukromých zprávách, rychlých poznámkách a neformálních kanálech. Pro člověka je často zřejmé, že něco bylo jen zákulisní domluva. Pro model to může být další kus relevantního textu.

Proto se vyplatí zavést pravidlo pro citlivé kanály. Agent může ze soukromých zpráv nebo klientských dat připravit pracovní návrh jen tehdy, když je tento zdroj pro daný postup výslovně povolený. I pak má výstup projít člověkem, který ví, co se smí sdílet.

U klientské práce je dobré přidat ještě jednu brzdu: agent nesmí míchat interní poznámky a klientský výstup bez označení. Pokud připravuje návrh odpovědi, měl by jasně oddělit text určený klientovi od interních poznámek pro tebe. Člověk pak nekontroluje jen stylistiku, ale hlavně hranici mezi interním kontextem a vnější komunikací.

Jak začít tento týden

Vyber jeden postup, který děláš opakovaně a kde chyba nebude mít nevratný dopad. Nepřipojuj agenta ke všemu. Napiš mu jednoduché zadání ve třech blocích: povolené zdroje, očekávaný výstup a zakázané akce.

Například: čti jen tuto projektovou stránku, poslední tři e-maily v daném vlákně a poznámky z poslední schůzky. Připrav návrh zápisu s rozhodnutími, otázkami a úkoly. Nic neodesílej, nikoho neoznačuj, nevkládej do výstupu soukromé zprávy a u nejistých bodů napiš, co má člověk ověřit.

Po třech až pěti použitích si projdi chyby. Kde agent vytáhl zbytečně citlivý kontext? Kde si domyslel něco, co v podkladech nebylo? Kde ušetřil čas bez rizika? Teprve podle toho rozšiřuj přístup.

Takhle se z debaty o důvěře stane návrh pracovního systému. Agent nemusí dostat celý digitální život. Stačí mu omezené místo, jasný úkol a člověk u dveří, který rozhodne, co smí ven.

Zdroj

TechCrunch AI: OpenAI is building AI agents for everything. Will everyone use them?