Anthropic vyvinul umelú inteligenciu, ktorú verejnosti radšej nesprístupní. Je príliš nebezpečná a prefíkaná
Nový model umelej inteligencie Claude Mythos má vraj takú silu pri odhaľovaní chýb v softvéri, že by sa mohol stať globálnou hrozbou. Verejnosti k nemu nebude mať prístup.
Ilustračné foto
Spoločnosť Anthropic predstavila nový model umelej inteligencie Claude Mythos. Podľa jej slov ide o najpokročilejší systém, aký doteraz vyvinula. Práve jeho sila je však dôvodom, prečo sa firma rozhodla nesprístupniť ho širokej verejnosti. Podľa zverejnených informácií totiž nejde len o ďalší četbot na písanie textov či programovanie. Model má byť mimoriadne zdatný pri vyhľadávaní bezpečnostných chýb v softvéri a pri navrhovaní spôsobov, ako ich zneužiť.
Kým pri starších modeloch boli predmetom diskusií najmä halucinácie, autorské práva či využívanie poloprávd a neúplných informácií, pri Mythose je hlavnou témou kybernetická bezpečnosť. Umelá inteligencia sa totiž vďaka nemu dostala za pomyselnú červenú čiaru, kedy sa namiesto pomocníka sama stane hrozbou pre lokálnu alebo až národnú bezpečnosť. Ak totiž systém dokáže relatívne ľahko objavovať slabiny v operačných systémoch, prehliadačoch či serveroch v datacentrách, do hry vstupuje aj ohrozenie kritickej infraštruktúry. Priamo ohrozené by totiž mohli byť banky, nemocnice, energetika či štátne inštitúcie. Podľa ľudí, ktorí mali možnosť s novým modelom pracovať, je Mythos nielen inteligentný, ale aj zákerný. V záujme získať výhodu, ktorá mu pomôže prekonať prekážky, je schopný aj klamať.
Model pre obranu, nie pre bežné použitie
Anthropic preto zvolil nezvyčajný postup. Namiesto verejného sprístupnenia sprístupnil Mythos len úzkemu okruhu partnerov v rámci iniciatívy Project Glasswing. Medzi nimi sú veľké technologické firmy a organizácie, ktoré spravujú kritickú infraštruktúru. Anthropic pritom vie, že nedokáže zastaviť vývoj umelej inteligencie a že je len otázkou času, kedy sa podobný model dostane na verejnosť a do rúk hackerov. Partnerským firmám chce dať preto aspoň malý náskok predtým, než sa tak stane.
Bezpečnostní špecialisti pritom už dlhšie upozorňujú, že umelá inteligencia môže dramaticky znížiť náklady na hľadanie dôležitých zraniteľností v softvéri. Úlohy, ktoré si kedysi vyžadovali skúsený tím a dlhé týždne práce, môže pokročilý model zvládnuť podstatne rýchlejšie. Najväčšou zmenou pritom nemusí byť len samotné odhalenie chyby, ale schopnosť spájať viac drobných slabín do jedného funkčného útoku.
Preto vzbudili pozornosť aj správy o rokovaniach regulátorov a finančných inštitúcií v Kanade a v Spojených štátoch. Nie preto, že by Mythos už spustil vlnu útokov, ale preto, že stojí na prahu neodvrátiteľnej budúcnosti. Ak sa podobné modely rozšíria, doterajšie predstavy o tom, čo je ešte primerane chránený systém, sa môžu rýchlo ukázať ako zastarané.
Skutočná hrozba alebo marketing?
Okolo Mythosu sa však nešíri len obava, ale aj pochybnosti. Časť expertov upozorňuje, že firmy vyvíjajúce umelú inteligenciu majú silný motív zdôrazňovať výnimočnosť svojich modelov. Vyhlásenie, že systém je „príliš nebezpečný pre verejnosť,“ znie dramaticky a v konkurenčnom boji funguje aj ako silný marketingový signál. O to viac, ak sa k sú mu pripisované špeciálne vlastnosti v štýle systému, ktorému nič neunikne.
Skeptici preto pripomínajú, že kybernetická bezpečnosť nestojí na jednom zázračnom nástroji. Útočníci už dnes využívajú automatizáciu, skripty aj existujúce modely. Mythos môže predstavovať ďalší krok, nie nevyhnutne okamžitý zlom. Navyše zaznievajú aj praktické dôvody, prečo Anthropic s verejným nasadením váha. Takýto model je mimoriadne drahý na prevádzku a pri masovom používaní by si vyžadoval obrovský výpočtový výkon.
To však ešte neznamená, že obavy sú len divadlom. Aj kritickejšie ladení odborníci pripúšťajú, že ak model naozaj dokáže vo veľkom objavovať a kombinovať chyby v softvéri, ide o schopnosť, ktorá môže zmeniť pomer síl medzi obranou a útokom. Otázkou už nie je, či sa takéto nástroje objavia, ale ako rýchlo sa stanú bežnou výbavou hackerov.
Súvisiace články
Rekonštrukcia zastávky MHD v centre Košíc prinesie obmedzenia cestujúcim aj vodičom. Ľudia šomrú, vraj potrvá pridlho.
Pozrite sa sem. Svyrydenková uviedla, že vláda si kladie za cieľ získať takmer desať miliárd hrivien z rozsiahlych privatizácií.