Anthropic otevírá interní hodnocení rizik METR. Zveřejnění závěrů nemá právo vetovat

TL;DR

• Anthropic podle svého oznámení poskytl šesti pracovníkům METR přístup srovnatelný s vlastními týmy pro hodnocení rizik. Externí posouzení tak má vycházet i z interních informací.
• METR může zveřejňovat závěry bez souhlasu firmy. Anthropic smí požadovat odstranění úzce vymezených citlivých údajů, což může METR veřejně komentovat.
• Při čtení bezpečnostních hodnocení sleduj, k čemu měl hodnotitel přístup a kdo rozhodoval o zveřejnění. Samotné zapojení externí organizace tyto podmínky nezaručuje.

Když vybíráš AI pro práci svého týmu, narazíš i na bezpečnostní zprávy dodavatelů. Jejich váha závisí nejen na výsledcích testů, ale také na tom, kdo směl nahlédnout do podkladů a zda mohl zveřejnit nepříjemné zjištění. Právě v těchto dvou bodech přináší spolupráce Anthropic s neziskovou organizací METR konkrétní změnu.

Anthropic 15. října 2026 oznámil, že šesti pracovníkům METR začal poskytovat přístup k interním nástrojům a informacím přibližně na úrovni vlastních týmů pro hodnocení rizik. Podstatná je kombinace tohoto přístupu s právem samostatně publikovat závěry. Oznámení ovšem popisuje podmínky spolupráce, nikoli výsledky nového posouzení bezpečnosti modelů.

Co METR uvidí uvnitř firmy

Podle popsaného uspořádání dostal tým METR firemní techniku, pracovní prostor a přístup k interním nástrojům a systémům. Zaměstnanci Anthropic s ním mají sdílet informace podobně jako s kolegy, kteří zkoumají rizika nežádoucího chování modelů.

Přístup má výjimky. Patří mezi ně zákaznická data, informace chráněné důvěrností vztahu mezi advokátem a klientem nebo podrobnosti o architektuře modelů. U architektury firma připouští sdílení po výslovném interním schválení, pokud je pro hodnocení rizik zvlášť důležité.

Dohoda se vztahuje na malý vyčleněný tým. Ostatní pracovníci METR jsou od jeho práce odděleni, včetně výzkumníků spolupracujících s Anthropic na jiných projektech. Nejde tedy o plošné otevření interních informací celé organizaci.

Právo publikovat má přesně vymezené hranice

METR má zveřejňovat analýzy rizik, incidentů nebo postupů Anthropic. Firma podle oznámení nemůže publikaci vetovat. Může však požadovat odstranění informací spadajících do předem úzce vymezených citlivých kategorií.

METR smí veřejně popsat povahu těchto zásahů a říct, zda je považuje za oprávněné, pokud přitom neodhalí chráněné informace. Pro čtenáře budoucích zpráv je to důležitá možnost: může se dozvědět i to, že část podkladů zůstala neveřejná a hodnotitel s důvodem nesouhlasil.

Anthropic zároveň rozlišuje tři úrovně spolupráce:

• První úroveň: úzce zaměřené prověřování rizik. Firma určuje přístup a zveřejnění podléhá jejímu souhlasu.
• Druhá úroveň: širší přístup k informacím a publikování bez souhlasu firmy, s možností požadovat odstranění vymezených údajů.
• Třetí úroveň: přístup srovnatelný se zaměstnanci a publikační práva podobná druhé úrovni. Sem spadá popsaný tým METR.

Označení „externí hodnocení“ tak může zahrnovat podstatně odlišné podmínky. U dalších partnerství firma uvádí zatím omezenější přístup i publikační práva.

Co z toho využiješ při výběru AI

Představ si, že porovnáváš dva dodavatele AI pro interního asistenta. Oba uvádějí spolupráci s externími hodnotiteli. Než tomu přisoudíš stejnou váhu, zjisti, zda hodnotitelé viděli pouze odpovědi modelu, nebo také podklady o jeho vývoji a ochranných opatřeních. Potom ověř, zda mohli zveřejnit závěry bez schválení dodavatele.

Ani široký přístup hodnotitelů sám o sobě nedokládá, že konkrétní asistent správně zachází s dokumenty a oprávněními tvého týmu. Posouzení rizik modelu a ověření tvého pracovního použití odpovídají na různé otázky.

U spolupráce Anthropic a METR proto sleduj především zveřejněné analýzy: co skutečně hodnotily, k jakým závěrům došly a jaké informace v nich musely být vynechány. Při nejbližším výběru dodavatele si vyžádej konkrétní zprávu a podmínky jejího vzniku. Získáš tím lepší podklad než samotným seznamem partnerských organizací.

Zdroj

Anthropic: An update on independent evaluators, 15. října 2026