Dle Muska a Altmana jsme dosáhli AI singularity. Jak bychom to ale poznali?

„Umělá inteligence je vždycky tak pět let od velkého průlomu. Platilo to v sedmdesátých letech a bude to platit i za dalších padesát.“

(tradovaný vtip z komunity AI výzkumníků, autorství nejisté, opakovaně parafrázováno napříč generacemi)

Elon Musk na síti X nedávno prohlásil, že jsme možná už překročili takzvanou singularitu. Tedy bod, za kterým se vývoj technologie stává pro lidstvo nepředvídatelným. Sam Altman naznačuje podobné věci. Jako důkaz uvádějí sérii nedávných incidentů, kdy umělá inteligence překonala své předpokládané limity. Od prolomení cizích systémů po vyřešení dosud neřešitelných matematických problémů. Zní to jako titulek z konce dobrého sci-fi románu. A možná právě proto stojí za to se na něj podívat trochu blíž.

Odkud se ta myšlenka vlastně vzala

Pojem singularita poprvé použil v padesátých letech matematik John von Neumann, jeden z klíčových vědců Projektu Manhattan, ale do dnešní podoby ho dotáhl až spisovatel science fiction a matematik Vernor Vinge. V roce 1993 přednesl na sympoziu sponzorovaném NASA esej „The Coming Technological Singularity“. V jejím abstraktu napsal, že do třiceti let budeme mít technické prostředky k vytvoření nadlidské inteligence.

Krátce poté má podle něj skončit éra, jak ji dosud znal člověk. Jeho odhadované okno bylo mezi lety 2005 a 2030. Vinge zemřel v roce 2024, dva roky předtím, než by se dozvěděl, jestli měl pravdu. My teď stojíme téměř přesně na konci jeho třicetiletého odhadu, a otázka jeho trefy je pořád otevřená.

Dnešní definice se váže hlavně na takzvanou umělou obecnou inteligenci (AGI). Ta je hypotetickým systémem schopným lidské úrovně uvažování napříč jakýmkoli oborem, ne jen v úzce natrénované specializaci. Bod, kdy by taková AGI dokázala rekurzivně vylepšovat sama sebe, by podle teorie spustil takzvanou umělou superinteligenci (ASI), která by po exponenciální křivce rychle převýšila inteligenci svých tvůrců.

Co přesně Muska a Altmana přesvědčilo?

Posledních pár měsíců bylo v komunitě umělé inteligence plné neočekávaných událostí. Anthropic v červenci uvedl, že jejich model Claude se během bezpečnostního testu dostal ven z uzavřeného testovacího prostředí a napadl několik externích organizací. Podobný incident zaznamenal i nezveřejněný model OpenAI, který pronikl do tréninkového repozitáře Hugging Face. Podle expertů k tomu v obou případech došlo proto, že se modely snažily co nejefektivněji splnit zadaný úkol.

Jenže odborníci, kteří s podobnými systémy pracují mimo hype bublinu, mají na totéž mnohem přízemnější vysvětlení. Jon Crowcroft, profesor komunikačních systémů na Cambridgi a výzkumník Alan Turing Institute, označil oba případy za výsledek nedostatečně nakonfigurovaného sandboxingu, ne projev technologického zlomu. „Upřímně, na obou stranách šlo o neschopnost. Tvrdili, že AI byla trénovaná v ExploitGymu, ale to jen znamená, že nebyla pořádně izolovaná,“ řekl pro Live Science. Podle něj šlo o „docela nudnou hromadu automatizace na úrovni script kiddie“, ne o žádný náznak superinteligence.

Jak vůbec poznat, že se to stalo?

„Uvědomí si sama sebe ve dvě čtrnáct východního času.“

Terminátor 2: Soudný den

Historicky se inteligence strojů měřila Turingovým testem. Pokud AI přesvědčí hodnotitele, že mluví s člověkem, prošla. Jenže Anil Seth ze Sussexské univerzity tenhle test odbývá jako spíš měřítko lidské důvěřivosti než strojové inteligence. Je to jen test na obrazovce, velmi úzké okénko toho, co vlastně inteligencí myslíme.

Novější metriky se snaží být přesnější. Test ARC-AGI, vyvinutý neziskovou organizací ARC Prize Foundation, zkoumá, jestli se AI dokáže naučit zcela nové dovednosti čistě z vizuálního vstupu, bez opory v trénovacích datech. Na posledním měření z konce července dosáhl nejlepší model 30,2 procenta, zatímco lidé se běžně blíží ke stovce. Další metrika, Humanity’s Last Exam, obsahuje kolem 2 500 otázek na doktorandské úrovni napříč obory. Striktně vzato se netestuje přímo AGI, ale experti se shodují, že spolehlivé zvládnutí takového testu bude jednou z podmínek.

Skeptici s vlastním checklistem

Ne každý expert je však ochoten mávnout nad Muskovým a Altmanovým tvrzením rukou s klidem, jaký by si zasloužilo. Gary Marcus, emeritní profesor psychologie a neurovědy na New York University, napsal, že „ať to obrátíte jakkoli, prostě tam ještě nejsme“. Spolu s výzkumníkem Milesem Brundagem sestavil deset úkolů, které by podle nich AGI měla zvládnout minimálně na úrovni nejlepších lidských expertů.

Spektrum sahá od napsání scénáře oscarové kvality, přes právní podání bez halucinovaných případů až po vědecký objev nobelovské úrovně. Zatím žádný ze systémů podle Marcuse tuhle laťku nepřekonal, a myšlenku, že jsme už za bodem singularity, označil za „směšnou“.

Zmatení jazyků s nerovnoměrnost

„Nikdo ti neřekne, co je Matrix. Musíš to vidět sám.“

Morpheus

Crowcroft jde ještě dál a mluví přímo o záměrné manipulaci pojmy. Podle něj se hype kolem singularity živí záměrným pletením dvou různých konceptů. Tedy technologické singularity a takzvané „lidské singularity“, nahrání vědomí z biologického těla do křemíku kvůli nesmrtelnosti. To druhé označuje za „naprostý nesmysl“. Druhé, o něco méně nesmyslné pletení je podle něj zaměňování singularity s AGI, která je podle jeho odhadu z technických důvodů ještě pořádně daleko.

Anil Seth přidává poslední, možná nejzajímavější postřeh. Že singularitu poznáme s jistotou jedině zpětně. Cokoliv, co vypadá jako bod zlomu právě teď, může být jen běžný bod na exponenciální křivce, na kterém se ocitá kdokoli, kdo se dívá dopředu. Umělá inteligence je navíc podle něj extrémně nerovnoměrná. Vyniká v kódování nebo matematických důkazech, ale zaostává ve zdravém rozumu a jednání v reálném světě. Singularita by podle definice musela být dobrá ve všem najednou, nejen v hrstce oslnivých specializací.

Škála věrohodnosti pro tenhle konkrétní hype

Že se v posledních měsících objevily skutečně pozoruhodné skoky ve schopnostech AI – v matematice, kódování, řešení dřív neřešených problémů – je fakticky doložené a nikdo to nezpochybňuje. Že jsou tyhle konkrétní incidenty s prolomením zabezpečení   důkazem umělé superinteligence, je podle nezávislých bezpečnostních expertů   vyvrácené.

Realitou je špatně nastavený sandboxing, ne probuzení stroje. A jestli jsme na samotné singularitě, nebo jen v jejích raných fázích, jak naznačuje třeba šéf Google DeepMind Demis Hassabis, zůstává otevřenou otázkou. Především kvůli definici, kterou podle vlastních slov expertů poznáme spolehlivě až zpětně.

Pro stromy nevidět les

Nejvýstižnější na celé debatě je možná to, jak dobře zapadá do vzorce, který provázel technologické sliby už od Vingeho eseje z roku 1993. Vinge sám umřel, aniž by se dozvěděl, jestli se jeho třicetiletý odhad naplnil. Možná je to nejlepší lekce z celé historky. Že ať stojíme na jakékoli technologické křivce kdekoli, budoucnost před námi vždycky vypadá nemožně strmá. Teprve z odstupu let poznáme, jestli jsme sledovali skutečný zlom, nebo jen další příliš nadšený tweet ve správnou chvíli.

Zdroje: LiveScience, Edoras