Bude AGI naozaj „posledný vynález“?

Predpoveď pôsobila ako námet na sci-fi, no stala sa hlavným cieľom najvplyvnejších inštitúcií sveta. Demis Hassabis z Google DeepMind napríklad hovorí o „vyriešení inteligencie“, aby bolo možné „vyriešiť všetko ostatné“. Je to lákavý príbeh. Ale aj keby sme na účely diskusie predpokladali, že budúce systémy sa budú vedieť učiť, experimentovať a generovať skutočne nové riešenia, ktoré ďaleko presahujú dnešné modely, téza o poslednom vynáleze stále stojí na viacerých sporných predpokladoch.

Mozog nad stroje

Prvým je ten, že inovácie pripomínajú bezproblémový šprint od nápadu k dôsledkom. Nie je to tak. Proces objavovania skôr pripomína reťaz, ktorá je len taká silná, ako jej najslabší článok.

Slabé články do veľkej miery definujú ľudský pokrok. V roku 1986 sa raketoplán Challenger rozpadol 73 sekúnd po štarte. Nie pre poruchu špičkových motorov alebo softvéru, ale pre zlyhanie malého gumového tesnenia, ktoré nevydržalo nízke atmosférické teploty (ako brilantne odhalil nositeľ Nobelovej ceny za fyziku Richard Feynman na vypočutiach týkajúcich sa tejto katastrofy). „O-krúžok“ sa odvtedy stal metaforou pre kritické úzke miesta, ktoré môžu potopiť aj tie najsofistikovanejšie systémy.

Objavovanie funguje rovnako. Umelá všeobecná inteligencia (AGI), chápaná ako model, ktorý dokáže vykonávať akúkoľvek kognitívnu úlohu, môže dramaticky urýchliť medicínsky výskum v ranom štádiu, ale ak nedokáže zvládnuť klinické skúšky, výrobu vo veľkom meradle alebo zabezpečiť regulačné schválenie, tento „prelom“ sa nikdy nestane vynálezom, ktorý zlepšuje životy. Keď sú počiatočné fázy objavov automatizované, úloha človeka nezmizne; jednoducho sa presúva k zostávajúcim úzkym miestam, kde záleží na úsudku, rukolapných vedomostiach a praktickom know-how.

Táto komplikácia nás vedie k ďalšej: AGI by musela nielen prekonať ľudí; musela by prekonať ľudí používajúcich AGI. Aby príbeh o poslednom vynáleze obstál, ľudia by sa museli stať nepotrebnými dokonca aj ako partneri alebo nadriadení umelej inteligencie.

Podstata v detaile

Inteligentnosť však nie je kvantita. „Viac“ nenahrádza „menej“. Aj veľmi schopná AGI by sa mohla od človeka líšiť svojou povahou; mohla by byť výnimočná v rýchlosti a hľadaní vzorov, ale krehká pri konfrontácii so zriedkavými prípadmi. Rozdielne silné stránky znamenajú rozdielne slepé miesta. Keď sa neprekrývajú, kombinácia ľudského a strojového úsudku bude naďalej prevyšovať výkon jedného z nich samostatne.

Často nie je ťažké vymyslieť riešenie, ale premeniť ho na prax. Na to, aby niečo fungovalo v reálnom svete, potrebujete lokálne znalosti, osvedčené postupy, dodávateľské reťazce a inštitucionálnu kapacitu.

Hra Go je užitočnou pripomienkou. Keď AlphaGo od Google DeepMind v roku 2016 porazilo Lee Sedola 4:1, zdalo sa, že jeho prevaha nad ľudskými hráčmi je jasná. V roku 2023 však výskumníci ukázali, že nasmerovaním špičkových programov do nezvyčajných pozícií mimo ich tréningu môže ľudský amatér so skromnými počítačovými zručnosťami spoľahlivo poraziť aj tie najlepšie programy. Zdanlivá nadradenosť môže skrývať systematické slabiny. A práve tam ľudský vklad prináša najväčšiu hodnotu.

Tretí problém sa týka samotných vedomostí. Teória posledného vynálezu predpokladá, že všetky relevantné informácie možno zakódovať, ale zvyčajne to tak nie je. Máloktorý vynález zmenil svet viac ako Ford Model T, ktorý premenil automobil na produkt masového trhu. Úspech Henryho Forda však nespočíval len v novom dizajne. Dôležitejší bol jeho prístup k organizácii výroby.

Preto delegácie z Talianska, Nemecka, zo Sovietskeho zväzu a z iných krajín cestovali, aby si Fordove továrne prezreli na vlastné oči. Kľúčové know-how nebolo možné získať zo žiadneho plánu. Bolo zakorenené v rutine, postupoch, nástrojoch a každodennom riešení problémov tých, čo pracovali v dielni. Podobne bolo ťažké napodobniť systém štíhlej výroby spoločnosti Toyota, pretože je zakorenený v ľudských rutinách a kultúre, nie v schéme. Viac inteligencie automaticky neprekonáva „problém vedomostí“ – skutočnosť, že to, čo spôsobuje fungovanie komplexných systémov, sú rozptýlené, lokálne a často nevypovedané informácie. Ak by boli vedomosti bezproblémovo prenosné, priemyselné odvetvia by sa nezoskupovali tak intenzívne ako v Silicon Valley alebo v londýnskom City.

Lacná inteligencia, drahá ľudskosť

Nadšenci umelej inteligencie by mohli reagovať slovami: „Fajn, umiestnime všade senzory, kamery a mikrofóny a my zakódujeme chýbajúce vedomosti.“ Táto stratégia však predpokladá, že monitorovaní ľudia budú otvorene komunikovať a vymieňať si vedomosti, ktoré vytvárajú, a ignoruje politiku a právo. Nahrávanie „všetkého a všade“ by bolo v rozpore so Všeobecným nariadením o ochrane údajov Európskej únie, ktoré sa stalo vzorom pre reguláciu súkromia po celom svete.

Navyše zákon EÚ o umelej inteligencii neposkytuje voľný priechod pre rozsiahle nasadenie sledovacích systémov, ktoré by bolo potrebné na zber ľudského know-how vo veľkom meradle. A aj keby to urobil, nemožno predpokladať, že všetky ľudské poznatky, nieto ešte úsudok, sa dajú tak ľahko digitalizovať.

AGI síce môže automatizovať inteligenciu. Proces vynaliezania však závisí od niečoho viac. Často nie je ťažké vymyslieť riešenie, ale premeniť ho na prax. Na to, aby niečo fungovalo v reálnom svete, potrebujete lokálne znalosti, osvedčené postupy, dodávateľské reťazce a inštitucionálnu kapacitu. Väčšia inteligencia tieto doplnky automaticky nevytvára.

AGI zmení objavovanie tým, že zníži náklady na odborné znalosti a urýchli experimentovanie. Ale tvrdiť, že ide o „posledný vynález ľudstva“, je prisilné. Aby to bola pravda, potrebovali by sme svet, v ktorom by boli praktické poznatky plne prenosné digitálnymi kanálmi a kde by sa zodpovednosť automatizovala vedno s kognitívnymi schopnosťami. To nie je svet, v ktorom žijeme.

Čím je inteligencia lacnejšia, menia sa aktíva, ktoré majú najvyššiu hodnotu. Výhodu budú mať tí, ktorí dokážu prinášať výsledky. Ľudia sa nestávajú nadbytočnými; stávajú sa tým najrozhodujúcejším úzkym miestom sveta.

© Project Syndicate 1995–2026 www.project-syndicate.org