EÚ chce zakázať "vyzliekacie" aplikácie, ktoré z fotografií dokážu odstrániť oblečenie
Brusel reaguje na rýchly nástup generatívnej umelej inteligencie. Členské štáty podporili balík zmien, ktorý má zjednodušiť pravidlá pre AI, ale zároveň prvýkrát jednoznačne zakázať nástroje schopné digitálne odhaľovať ľudí na fotografiách bez ich súhlasu.
Vyzliekacie aplikácie, respektíve nudifikátory dokážu odstrániť šaty z fotografií tak dobre, že len ťažko rozpoznať, že ide o umelo vygenerovaný obrázok.
Európska únia sprísňuje pravidlá pre používanie umelej inteligencie a reaguje na problém, ktorý ešte pred pár rokmi pôsobil ako okrajový. Členské štáty na úrovni Rady EÚ schválili spoločnú pozíciu k balíku zmien označovanému ako AI Omnibus, ktorý má zjednodušiť fungovanie už prijatých pravidiel pre umelú inteligenciu, no zároveň prináša aj nové zákazy. Jedným z najvýraznejších je zákaz takzvaných „nudifikátorov“, teda nástrojov, ktoré dokážu pomocou umelej inteligencie digitálne odstrániť oblečenie z fotografií skutočných ľudí.
Tieto aplikácie využívajú generatívne modely podobné tým, ktoré dokážu vytvárať realistické obrázky či videá. Rozdiel je v tom, že namiesto tvorby úplne nového obsahu pracujú s fotografiou konkrétneho človeka a upravia ju tak, aby pôsobila ako nahá alebo sexuálne explicitná. Výsledok môže byť na prvý pohľad presvedčivý a pre bežného používateľa je často nemožné rozpoznať, že ide o podvrh. Práve preto sa podobné nástroje začali masovo zneužívať najmä na sociálnych sieťach a v prostredí školských kolektívov.
Európske inštitúcie upozorňujú, že ide o nový typ kyberšikany, ktorý môže mať veľmi vážne psychické aj spoločenské dôsledky. Obete sa často ocitnú v situácii, keď sa po internete šíria ich falošné intímne fotografie, hoci nikdy nič také nepublikovali. Problém sa týka najmä mladistvých, ale čoraz častejšie aj verejne známych osôb či novinárov.
Navrhovaný zákaz má byť súčasťou širšieho rámca európskeho Aktu o umelej inteligencii, ktorý patrí medzi najprísnejšie regulácie tohto druhu na svete. Balík AI Omnibus má zároveň zjednodušiť administratívu pre firmy a vývojárov, aby sa pravidlá dali v praxi ľahšie dodržiavať. Európska komisia aj členské štáty však zdôrazňujú, že zjednodušenie nesmie znamenať oslabenie ochrany ľudí.
Súvisiace články
Rekonštrukcia zastávky MHD v centre Košíc prinesie obmedzenia cestujúcim aj vodičom. Ľudia šomrú, vraj potrvá pridlho.
Pozrite sa sem. Svyrydenková uviedla, že vláda si kladie za cieľ získať takmer desať miliárd hrivien z rozsiahlych privatizácií.