„Dejte mi dost času a energie a spočítám vám odpověď na cokoliv. I na otázku, kterou jste ještě nepoložili.“
(ve stylu superpočítače Hlubina myšlení, Stopařův průvodce po Galaxii)
V roce 2019 napsal kanadský badatel Richard Sutton, jedna z klíčových postav oboru zpětnovazebního učení, krátký text, který se od té doby stal jedním z nejcitovanějších a nejrozporovanějších esejů v dějinách umělé inteligence. Jmenuje se Hořké ponaučení a jeho teze zní nepříjemně jednoduše: čím víc se do AI systémů snažíme nastrkat naši lidskou chytrost a znalosti oboru, tím hůř na tom z dlouhodobého hlediska budeme. Vyhrávají obecné metody, které umí využít stále levnější a dostupnější výpočetní výkon. Ne ty, do kterých jsme vložili nejvíc přemýšlení.
Proč to zní jako nesmysl (a přesto to sedí)?
„Myslíte si, že jste hloupý?“
Harlan Ellison, diskuse na scifi conu
Populární kanál Two Minute Papers, ze kterého tahle esej pronikla i mimo úzký akademický kruh, ji vysvětluje na příkladu z kryptografie. Rozšifrovat jednoduchou substituční šifru, kde jeden symbol nahrazuje jedno písmeno, je bez dalších informací pořádná fuška. Jenže stačí vědět jednu jedinou věc – jak často se v daném jazyce vyskytuje které písmeno. S tímto vědomím se problém během chvilky změní na triviální cvičení pro studenta po druhé přednášce z kryptografie. Vložení lidské znalosti do systému tady evidentně hodně pomáhá.
A přesně tohle Sutton napadá. Ne že by znalost oboru škodila v okamžiku, kdy ji vkládáte, pomáhá krátkodobě prakticky pokaždé. Problém je, že jakmile později přijde stonásobně výkonnější hardware, začne ta samá chytrost bránit hledání řádově lepšího řešení.
Sutton to dokládá historií umělé inteligence: šachové enginy z 80. let plné ručně naprogramovaných strategických heuristik prohrály s hrubou vyhledávací silou. Rozpoznávání řeči založené na lingvistických pravidlech prohrálo se statistickými modely, které o jazyce samy o sobě nevěděly téměř nic. A stejný scénář se zopakoval u Go. Tam starší programy plné lidsky vložené strategie nakonec porazil AlphaGo. Ten věděl o hře samotné zpočátku minimum a spoléhal na to, že si díky obrovskému množství her a výpočtů sám vybuduje mnohem lepší intuici, než jakou by mu mohl předat sebelepší velmistr.
Zvrat, který přišel od samotného autora
Tady se ale příběh stává mnohem zajímavějším. V roce 2024 dostal Richard Sutton Turingovu cenu, tedy neformálně nejvyšší ocenění v informatice, částečně právě za myšlenky spojené s touhle esejí. A v září 2025, v rozhovoru pro podcast Dwarkesh, udělal něco, co se v oboru nestává často. Veřejně napadl to, jak je dnes jeho vlastní esej používána. Podle něj totiž velké jazykové modely typu ChatGPT ve skutečnosti hořké ponaučení nenaplňují, přestože se na ně dnes celý obor odvolává jako na jeho hlavní příklad.
Modely se totiž učí z pevně dané, staticky nasbírané trénovací množiny textu, ne ze skutečné zkušenosti získané interakcí se světem. A to je podle něj přesně ten typ „vloženého lidského výtvoru“ (v tomto případě lidmi napsaného textu), který by podle ducha jeho eseje měl nakonec narazit na strop.
Je to elegantní obrat: obor po pět let citoval esej jako ospravedlnění pro „jen nasypat víc dat a výpočtu do jednoho modelu“. A autor základního eseje mezitím tvrdí, že tahle interpretace je opak toho, co měl na mysli. Skutečné zpětnovazební učení ze zkušenosti, ne memorování cizího textu, je podle něj tou skutečnou, ještě nevyužitou cestou k obecné inteligenci.
Kritika v dalších směrech
„Ha, inkoustové skvrny. Musím vás varovat, všechno mi to připadá jako genitálie.“
Raymond Reddington, The Blacklist
Debata kolem eseje se za posledních pár let taky zjemnila v jiném směru. Statistik a informatik Ben Recht upozornil na to, že Suttonův text je nápadně vágní. Jeho klíčová věta o „obecných metodách, které dokážou využít výpočet“ nikde přesně nedefinuje, co přesně ono využití znamená. Esej tak funguje trochu jako zrcadlo, ve kterém každý čtenář vidí to, co už si o AI myslel předtím.
Fyzik Kyle Cranmer zase upozornil na to, že sám Sutton v původním textu připustil, že vkládání znalosti a obecné škálování „nemusí jít proti sobě, i když v praxi k tomu obvykle dochází“. Tedy že jde spíš o volnou tendenci než o přísný zákon a kauzalitu. Nejkonkrétnější prasklinu v jednoduché verzi „stačí přidat víc grafických karet“ ale přinesla samotná praxe kolem škálovacích zákonů. Výzkum takzvaných Chinchilla škálovacích zákonů od DeepMind ukázal, že pro daný výpočetní rozpočet existuje optimální poměr mezi velikostí modelu a množstvím trénovacích dat.
Nasypte tam víc
A když dojdou kvalitní trénovací data, prostý nákup dalšího hardwaru vám moc nepomůže. Koncem roku 2024 se v oboru rozjela intenzivní debata o tom, jestli škálovací zákony „narazily do zdi“, právě proto, že přírůstek výkonu z čistého přidávání parametrů a dat se začal zpomalovat. Odpovědí na tohle nebylo víc síly, ale nová chytrost jiného druhu, konkrétně takzvané škálování výpočtu v čase odvozování.
Tedy nechat model déle „přemýšlet“ nad jednou konkrétní odpovědí pomocí řetězení myšlenkových kroků. To se v roce 2024 ukázalo jako efektivnější cesta k lepším výsledkům než prosté zvětšování modelu samotného. I to je pořád forma „víc výpočtu“, jak by asi řekl Sutton, ale ukazuje, že cesta ke zlepšení není jen jedna přímka jménem hrubá síla.
Co si z toho vzít?
Hořké ponaučení zůstává jedním z nejužitečnějších rámců k přemýšlení o výzkumu AI. Rozhodně stojí za přečtení, je krátké a dá se zvládnout za pár minut. Ale příběh za posledních šest let ukazuje přesně to, co byste čekali od dobré vědecké myšlenky. Nebyla to hotová pravda vytesaná do kamene, ale hypotéza, kterou obor postupně testoval. Přehnal ji do zjednodušené verze, narazil s ní na první limity. Dokonce se dožil toho, že ji jeho vlastní autor musel na veřejnosti sám opravit.
Nejzajímavější lekce z celého příběhu tak možná ani není o výpočetní versus lidské chytrosti, ale o tom, jak snadno se z jednoho výstižného odstavce stane slogan. Takový, který lidi používají k ospravedlnění úplně čehokoliv. A jak důležité je se čas od času vrátit k původnímu textu a zeptat se, jestli ho ještě vůbec citujeme správně.
Zdroje: YouTube, GogoDuck912, Wikipedia