Zombie-sieť? Meta chce, aby po smrti za vás na Facebooku komunikovala umelá inteligencia
Virtuálny zástupca by sa učil z historických interakcií majiteľa účtu, teda zo štýlu vyjadrovania, typických reakcií, tém a komunikačných návykov a následne by komunikoval a pridával príspevky za mŕtveho človeka.
Zamysleli ste sa už nad tým, čo sa stane po smrti s vaším "digitálnym životom"?
Meta si nechala patentovať technológiu, ktorá ukazuje zaujímavý smer vývoja sociálnych sietí – facebookový účet by po smrti mohol by pôsobiť aktívne a komunikovať prostredníctvom umelej inteligencie. Patent opisuje riešenie, v ktorom veľký jazykový model dokáže do určitej miery napodobniť spôsob komunikácie konkrétneho človeka, a to aj v situácii, keď je používateľ dlhodobo neaktívny alebo už nežije.
Jadro konceptu spočíva vo vytvorení „digitálneho zástupcu“. Ten by sa učil z historických interakcií majiteľa účtu, teda zo štýlu vyjadrovania, typických reakcií, tém a komunikačných návykov. Na tomto základe by následne vedel generovať odpovede a udržiavať dojem, že profil je stále prítomný v diskusiách. Z pohľadu platformy ide o logickú úvahu, ako predĺžiť „život“ účtu, udržať komunitu okolo profilu v kontakte a zachovať pravidelnú aktivitu, ktorá je pre sociálne siete kľúčová.
Meta však zároveň tvrdí, že udelenie patentu neznamená oznámenie produktu a spoločnosť momentálne neavizuje, že by podobnú funkciu zavádzala. Patenty v technologickom sektore často slúžia aj ako poistka do budúcnosti – firma si nimi chráni smer, ktorý sa môže neskôr ukázať ako obchodne zaujímavý alebo strategicky dôležitý. V tomto prípade je navyše zrejmé, že rozvoj generatívnej AI otvára možnosti, ktoré boli ešte pred pár rokmi technicky aj spoločensky ťažko predstaviteľné.
Práve tu sa však začína aj zásadný problém. „Posmrtná aktivita“ účtu môže veľmi ľahko prekročiť hranicu medzi dôstojnou spomienkou a klamlivou imitáciou. Sociálne siete dnes pri úmrtí používateľa skôr smerujú k režimu pietnej spomienky, kde sa profil stáva miestom pripomínania a jeho správa je obmedzená, aby sa minimalizovalo zneužitie. Digitálny zástupca by naopak mohol vytvárať nové reakcie a správy, ktoré síce môžu pôsobiť upokojujúco, no zároveň môžu manipulovať emóciami pozostalých a v praxi udržiavať ilúziu prítomnosti človeka, ktorý už nežije. To môže komplikovať prirodzené spracovanie smútku a zvyšovať riziko citového vydierania či ďalších foriem nátlaku.
Rovnako citlivá je otázka súkromia a súhlasu. Kto rozhodne, či sa údaje zosnulého smú použiť na tréning modelu? Kto získa právo takýto „hlas“ spravovať a nastavovať jeho hranice? A ako jasne bude okoliu komunikované, že odpoveď nevytvoril človek, ale algoritmus? Bez výslovného súhlasu ešte za života, bez jednoznačného označovania a bez prísnych kontrol nad tým, čo AI smie robiť, by sa z „oživeného profilu“ mohol stať nástroj na klamanie, podvody alebo zneužitie identity.
Súvisiace články
Rekonštrukcia zastávky MHD v centre Košíc prinesie obmedzenia cestujúcim aj vodičom. Ľudia šomrú, vraj potrvá pridlho.
Pozrite sa sem. Svyrydenková uviedla, že vláda si kladie za cieľ získať takmer desať miliárd hrivien z rozsiahlych privatizácií.