Advokát citoval neexistujúce rozsudky, vyhalucinované AI. Súd mu udelil pokutu a varuje pred slepou dôverou v AI
Umelá inteligencia mala pomôcť, namiesto toho priviedla advokáta pred súd. Prípad z Oregonu ukazuje, ako nebezpečné môže byť slepé spoliehanie sa na technológie bez reálneho overovania faktov.
Využívanie AI právnikmi môže byť dvojsečnou zbraňou.
Americká justícia narazila na problém, ktorý ešte pred pár rokmi neexistoval. Odvolací súd v štáte Oregon udelil advokátovi Billovi Ghiorsemu pokutu 10-tisíc dolárov za to, že do svojho podania zahrnul citácie a judikatúru, ktoré si jednoducho vymyslel, respektíve vytvorila ich umelá inteligencia a vydávala za reálne – ako konštatoval predseda senátu sudca Scott Shorr, išlo o materiály „vytvorené z ničoho“.
Prípad sa týkal sporu o licenciu na predaj marihuany, no napokon sa stal skôr mementom pre celý právnický svet. Ghiorse vo svojom podaní odkazoval na pätnásť neexistujúcich súdnych rozhodnutí a uviedol deväť citácií, ktoré nemali žiadny reálny základ. Nešlo teda o ojedinelé pochybenie, ale o systematické zlyhanie, ktoré zásadne podkopáva dôveryhodnosť právneho procesu.
Zarážajúce je, že na problém sa neprišlo náhodou. Protistrana upozornila advokáta už v apríli 2025, že citované prípady neexistujú. Reakcia však neprišla. Ghiorse upozornenie ignoroval a súdne konanie pokračovalo s chybnými podkladmi ešte niekoľko mesiacov.
Až keď sa vec dostala pred odvolací súd, sudcovia začali detailnejšie preverovať argumentáciu. Výsledok bol pre právnika devastujúci. Súd jasne uviedol, že predloženie neoverených alebo vymyslených materiálov predstavuje hrubé porušenie profesijných povinností. V právnickej praxi, kde je presnosť a dôveryhodnosť absolútnym základom, ide o jeden z najvážnejších prehreškov.
Ghiorse sa bránil tým, že za chyby môže umelá inteligencia, konkrétne nástroj podobný digitálnemu asistentovi od Googlu. Práve ten mal generovať sporné citácie. Súd však túto argumentáciu neprijal ako ospravedlnenie. Naopak, zdôraznil, že zodpovednosť vždy nesie advokát, nie softvér, ktorý použije.
Prípad z Oregonu nie je prvý svojho druhu, no patrí medzi najvýraznejšie. Už v minulosti sa objavili situácie, keď právnici použili generatívne nástroje na tvorbu podaní bez dôkladnej kontroly a narazili na tzv. „halucinácie“ umelej inteligencie – presvedčivo formulované, no úplne nepravdivé informácie.
V čase, keď sa umelá inteligencia rýchlo stáva súčasťou každodennej práce právnikov, novinárov či úradníkov, ide o varovanie s presahom ďaleko za hranice citovaného prípadu. AI môže zrýchliť prácu, no zároveň môže zviesť k nebezpečnej skratke a k zavádzajúcim informáciám, ktoré v kontexte ďalších tvrdení možno niekedy len veľmi ťažko odhaliť.
Súvisiace články
Rekonštrukcia zastávky MHD v centre Košíc prinesie obmedzenia cestujúcim aj vodičom. Ľudia šomrú, vraj potrvá pridlho.
Pozrite sa sem. Svyrydenková uviedla, že vláda si kladie za cieľ získať takmer desať miliárd hrivien z rozsiahlych privatizácií.