Žiadny žart: AI vymyslela falošné citáty vo viac ako 2000 súdnych prípadoch.

Umelá inteligencia naďalej generuje falošné súdne predvolania, zatiaľ čo spoločnosti predávajú svoje jazykové modely právnickým firmám.

Podľa verejnej databázy, ktorú zostavil právny vedec Damien Charlotin, boli halucinácie generatívnej umelej inteligencie citované vo viac ako 2 000 súdnych rozhodnutiach od roku 2023. Zároveň, podľa rozhovoru pre Axios zverejneného v utorok, Google práve propagoval svoj nástroj umelej inteligencie pre právnu oblasť ako „doplnok“ pre právne tímy.

Halimah DeLaine Prado, hlavná právna zástupkyňa spoločnosti Google, to pre Axios jasne uviedla:

Vnímam to ako doplnok, nie ako náhradu. Právna prax bude vždy zásadne závisieť od uplatňovania zdravého úsudku.

DeLaine Prado dodala, že umelá inteligencia už pomáha právnemu tímu spoločnosti Google s rôznymi úlohami, ako je revízia zmlúv, elektronické vyhľadanie dôkazov a príprava na súdne spory. Podľa spoločnosti Axios uviedla, že tieto nástroje by mohli malým právnickým firmám uľahčiť konkurenciu s väčšími.

Hovorca spoločnosti Google „Gemini Enterprise for Legal“ sa pred uzávierkou tlače odmietol vyjadriť. Charlotin, vedúci výskumný pracovník v HEC Paris, vysvetlil zistenia svojho výskumu halucinácií umelej inteligencie pre Daily Caller News Foundation :

Minulý rok sme zaznamenali počiatočný exponenciálny nárast prípadov halucinácií u ľudí, ale teraz sme dosiahli stagnáciu. Existuje na to niekoľko dôvodov vrátane lepších nástrojov a zvýšenej informovanosti.

Vysvetlil, že frekvencia aj závažnosť halucinácií spôsobených umelou inteligenciou dosiahli v uplynulom roku stagnáciu.

Podľa webovej stránky spoločnosti Charlotin údaje v súčasnosti zahŕňajú 2 022 prípadov obsahu generovaného umelou inteligenciou, ako sú napríklad vymyslené citáty, použité v súdnych rozhodnutiach na celom svete od apríla 2023 do 5. septembra 2026. Viac ako 1 300 z týchto prípadov pochádzalo z USA. (Pozri damiencharlotin.com )

Podľa údajov spoločnosti Charlotin boli modely umelej inteligencie od spoločnosti Google, konkrétne Gemini a Bard, citované celkovo v 10 prípadoch. ChatGPT bol citovaný viac ako 100-krát. Údaje naznačujú, že väčšina prípadov viedla k varovaniu, zatiaľ čo menej ako 160 viedlo k disciplinárnemu konaniu. Väčšina pokút za tieto incidenty sa pohybovala od 1 000 do 5 000 dolárov.

Charlotin vysvetlil DCNF:

Za inak nezmenených podmienok sú bezplatné LLM [modely veľkých jazykov], najmä tie, ktoré nedokážu vyhľadávať na internete, vo všeobecnosti náchylnejšie na halucinácie. Bohužiaľ, práve tieto modely – používané účastníkmi konania – zastupujú samých seba (väčšina prípadov v databáze).

V jednom z prvých prípadov v Charlotinových údajoch dvaja právnici vo svojich skratkách citovali sfalšované súdne rozhodnutia, ktoré boli vygenerované službou ChatGPT predtým, ako ich schválil federálny sudca v New Yorku.

Súd v rozhodnutí o sankcii z júna 2023 vysvetlil:

Advokátska kancelária Levidow, Levidow & Oberman PC zanedbala svoje povinnosti, keď predložila neexistujúce súdne rozhodnutia obsahujúce vykonštruované citácie a odkazy vygenerované nástrojom umelej inteligencie ChatGPT. (Pozri storage.courtlistener.com)

Aj po tom, čo súd vyjadril pochybnosti o legitimite prípadov, právnická firma ich podľa rozhodnutia naďalej obhajovala. Spoločnosť Google v auguste spustila platformu „Gemini Enterprise for Legal“ na riešenie právnych úloh, ktoré podľa spoločnosti nie je možné vykonať pomocou tradičných modelov veľkých jazykov programovania (LLM).

Google Cloud v príspevku X z 5. septembra, v ktorom propagoval Gemini Enterprise, uviedol:

Gemini Enterprise for Legal zahŕňa otvorený ekosystém, ktorý rozširuje svoje možnosti prostredníctvom špecializovaných [AI] agentov, ako je Deloitte Legal Assist, čím prináša hĺbkové právne znalosti do platformy s centralizovanou správou a kontrolou.

Podľa blogového príspevku Thomasa Kuriana z 25. augusta generálny riaditeľ spoločnosti Google Cloud uviedol :

Model umelej inteligencie pre právny sektor ponúka možnosti, ktoré rozširujú vlastnú odbornosť právnickej firmy, prepojenie so systémami, v ktorých sa prípady skutočne spracovávajú, a agentov, ktorí vykonávajú úlohy, a nie len predkladajú návrhy, ako aj otvorený ekosystém na rozšírenie všetkých týchto funkcií – pričom riadenie je základom všetkých štyroch oblastí .

Pozri tiež: Trumpova administratíva je rozdelená v názore na to, či by mali byť občania USA školení v oblasti umelej inteligencie na dielach chránených autorskými právami.