Google tajne poskytol svoju AI americkej vláde. Neobsahuje žiadnu etickú brzdu, možno ju použiť na čokoľvek
Google tvrdí, že nesúhlasí s domácim masovým sledovaním ani s autonómnymi zbraňami bez primeraného ľudského dohľadu. Problém je v tom, že práve pojem „primeraný dohľad“ býva v armádnom prostredí veľmi voľne vykladaný.
Google poskytol svoje umelé inteligencie americkej armáde aj napriek protestom a výhradám vlastných zamestnancov.
Google podľa zistení The Information, ktoré prevzala agentúra Reuters, podpísal s americkým Pentagonom utajovanú dohodu o nasadení svojich modelov umelej inteligencie v klasifikovaných vojenských sieťach. Formulácia kontraktu je široká: AI môže byť použitá na „akýkoľvek zákonný vládny účel“. Do tejto kategórie majú patriť aj citlivé úlohy ako plánovanie misií či podpora pri zameriavaní cieľov. Google zároveň podľa správ nemá právo vetovať zákonné operačné rozhodnutia vlády.
To je podstatný rozdiel oproti spoločnosti Anthropic. Tá sa dostala do sporu s Pentagonom pre obmedzenia, ktoré mali brániť využitiu modelu Claude pri autonómnych zbraniach alebo domácom sledovaní. Americká administratíva ju následne označila za riziko pre dodávateľský reťazec, čo Anthropic napadol na súde. Prípad ukázal, že etické mantinely sa v obrannom priemysle môžu veľmi rýchlo zmeniť na obchodné aj politické riziko.
Google tvrdí, že nesúhlasí s domácim masovým sledovaním ani s autonómnymi zbraňami bez primeraného ľudského dohľadu. Problém je v tom, že práve pojem „primeraný dohľad“ býva v armádnom prostredí pružný. Pentagon má síce vlastnú smernicu pre autonómne zbraňové systémy, ktorá vyžaduje, aby velitelia a operátori uplatňovali primeranú mieru ľudského úsudku pri použití sily, no nejde o jednoduchý zákaz. Ide skôr o rámec, v ktorom sa má rozhodovanie človeka kombinovať so strojovou rýchlosťou a rozsiahlym spracovaním dát.
Najväčšie riziko preto nie je predstava robota, ktorý sám vyhlási vojnu a „zničí svet“. Reálny problém je úplne inde: model môže zrýchliť analýzu satelitných snímok, komunikácie či pohybu jednotiek, navrhnúť postup a svojou autoritou presvedčiť človeka, že odpoveď je správna a navrhovaná stratégia najlepšia možná. Ak sa pomýli, halucinuje alebo pracuje s neúplnými dátami, chyba môže mať fatálne následky a ak označí nesprávne ciele, o život môže pripraviť vojakov, rovnako ako civilistov, prípadne spôsobiť, že dôležitá technika sa dostane do rúk nepriateľa.
Dohoda zároveň zapadá do širšieho obratu Googlu. Firma už v roku 2018 po odpore zamestnancov opustila projekt Maven, ktorý využíval AI pri analýze záberov z dronov. V roku 2025 však Alphabet upravil svoje princípy pre AI a odstránil z nich pôvodné explicitné záväzky, že nebude vyvíjať technológie pre zbrane alebo sledovanie. Aj preto stovky zamestnancov Googlu teraz žiadali vedenie, aby klasifikované vojenské projekty odmietlo. Avšak sa tak nestalo.
Súvisiace články
Rekonštrukcia zastávky MHD v centre Košíc prinesie obmedzenia cestujúcim aj vodičom. Ľudia šomrú, vraj potrvá pridlho.
Pozrite sa sem. Svyrydenková uviedla, že vláda si kladie za cieľ získať takmer desať miliárd hrivien z rozsiahlych privatizácií.