Úpravy vah AI modelů: vyšší skóre Qwen ukazuje hlavně opravu zacyklení

TL;DR

• Výrazné zlepšení v testu může vzniknout tím, že model konečně dokončí odpověď. Při výběru AI proto sleduj také příčinu původních chyb.
• V popsaném experimentu GPT-6 Astra upravila malou část vah Qwen3.5-0.8B. Úspěšnost v matematickém testu MATH-500 údajně vzrostla ze 7,9 % na 48,1 %, především díky potlačení opakujících se úvah.
• Než podobnou úpravu využiješ, chtěj výsledky na nových úlohách i kontrolu, zda se nezhoršilo chování, které už fungovalo.

Model řeší zadání, opakuje stejnou úvahu a nakonec vyčerpá povolenou délku odpovědi. Výsledek nedostaneš. Pokud někdo tuto chybu odstraní, úspěšnost může prudce vzrůst, aniž by model získal nové znalosti. Pro práci je taková oprava cenná. Pro rozhodování o schopnostech AI ale potřebuješ vědět, co přesně se zlepšilo.

Právě tento rozdíl ukazuje experiment s přímými úpravami vah modelu Qwen. Nabízí zajímavou možnost využití AI při hledání chyb uvnitř jiného modelu. Zároveň připomíná, proč samotný růst skóre nestačí jako důvod k výměně modelu nebo rozšíření jeho pravomocí.

Co znamená přímá úprava vah

Váhy jsou číselné parametry, které ovlivňují chování neuronové sítě. Při běžném trénování je optimalizační postup opakovaně upravuje podle chyb modelu. Přístup označovaný jako „weight-space programming“ zkoumá, zda může jazykový model navrhovat nebo provádět cílené změny těchto parametrů přímo.

Přehled Latent Space zveřejněný 4. listopadu 2026 shrnuje experimenty, v nichž GPT-6 Astra upravovala Qwen3.5-0.8B bez gradientového trénování. Podle popsaných výsledků změnila 131 072 vah, přibližně 0,016 % modelu. Skóre v MATH-500 vzrostlo ze 7,9 % na 48,1 %.

To ovšem neznamená, že stačilo předložit AI seznam čísel a nechat ji odhadnout opravu. Popsaná práce zahrnovala analýzu pomocí Pythonu, zkoumání chování modelu a vyhodnocování zásahů. Prakticky jde o agentský postup: vytvořit hypotézu o příčině chyby, provést změnu a zkontrolovat její účinek.

Qwen se po zásahu častěji dostal k odpovědi

Podstatný detail se skrývá v původních selháních. Podle rekonstrukce shrnuté ve zdroji narazilo 576 z 579 později opravených odpovědí před zásahem na limit délky kvůli zacyklení. Model opakoval úvahy, místo aby řešení dokončil.

Zásah potlačil směr ve vnitřních výpočtech modelu spojený s tímto opakováním. Výsledky proto podporují především výklad, že úprava umožnila využít schopnosti, které už model měl. Samy o sobě nedokládají obecný postup, jak do libovolného modelu doplnit nové matematické schopnosti.

Důležitý je i popsaný neúspěch stejného přístupu u Gemma 3 270M, která daným zacyklením netrpěla. Oprava konkrétní příčiny selhání se nemusí přenést na jiný model.

Zdroj uvádí další pokusy o reprodukci přímé práce s vahami, ale shrnuje různé experimenty a různě silné důkazy. Nelze z něj vyvozovat, že všechny uvedené výsledky někdo nezávisle potvrdil ve stejném nastavení.

Co z toho plyne pro vlastní model v práci

Představ si malý tým, který provozuje model pro překlad produktových popisů. U některých vět opakovaně volí chybný čas. Cílená úprava by mohla být zajímavá, pokud opraví právě tuto chybu a zachová kvalitu ostatních překladů.

Přehled obsahuje i uživatelský experiment tohoto typu: autor popisuje úpravu osmi neuronů modelu Gemma 4 12B pomocí Claude Opus 5.5, zaměřenou na jeden problém při překladu do italštiny. Jde o výsledek hlášený autorem pokusu, nikoli o doložené univerzální řešení překladových chyb.

Pro tým je užitečná hlavně otázka, kterou takový pokus otevírá: dokážeš chybu vymezit natolik přesně, aby šlo ověřit její opravu i vedlejší dopady? „Chceme lepší překlady“ je příliš široké zadání. Konkrétní chybná volba času v určitém kontextu už umožňuje porovnat původní a upravený model.

Před nasazením chtěj víc než vyšší skóre

Pokud ti dodavatel nabídne takto upravený model, vyžádej si tři věci:

• Rozbor původních selhání. Chyběla modelu znalost, zacyklil se, nebo jen nedodal odpověď ve správném formátu?
• Výsledky na odložených případech. Opravu je potřeba prověřit na úlohách, které nesloužily k jejímu hledání.
• Kontrolu dosud správných výstupů. Lepší výsledek v cílové úloze může doprovázet zhoršení jinde.

To jsou doporučení pro posouzení změny, nikoli tvrzení, že popsané experimenty všechny tyto podmínky splnily.

Pro běžného uživatele hostované AI služby navíc nejde o nastavení, které by mohl změnit v chatu. Zásah vyžaduje přístup k vahám a prostředí pro jejich úpravy a testování. Bezprostřední přínos zprávy proto spočívá spíš v lepším čtení výsledků než v novém návodu k nasazení.

Začni u jedné opakované chyby svého modelu a zjisti, proč úloha selhala. Pokud odpověď chybí kvůli zacyklení, budeš hledat jinou nápravu než u věcně chybného řešení. Právě toto rozlišení ti pomůže poznat, zda nabízené zlepšení řeší i tvůj problém.

Zdroj

Latent Space: Behind Latent Space: Kill My SaaS, Jev & AI in 2026 | AIEi Shanghai, 4. listopadu 2026