AI Lab

Právnici a AI - prípadová štúdia

Táto prípadová štúdia vychádza z reálneho prípadu Mata v. Avianca. Právnici v ňom predložili súdu podanie obsahujúce neexistujúce súdne rozhodnutia, ktoré boli vytvorené pomocou ChatGPT. Prípad ukazuje, ako používanie generatívnej AI v odbornej praxi vyžaduje kritické overovanie, zachovanie profesijnej zodpovednosti a jasné rozlíšenie medzi pomocným nástrojom a autoritatívnym zdrojom poznania.

Čo sa stalo

Prípad Mata v. Avianca vznikol pôvodne ako bežný spor o náhradu škody. Žalobca tvrdil, že sa zranil počas letu spoločnosti Avianca, keď mu do kolena narazil kovový servírovací vozík. Spor sa neskôr dostal pred federálny súd v Spojených štátoch a žalovaná strana namietala, že nárok je premlčaný.

Pri reakcii na túto námietku právnici žalobcu predložili podanie, ktoré malo obsahovať odkazy na súdne rozhodnutia podporujúce ich argumentáciu. V podaní sa však objavili prípady, ktoré v skutočnosti neexistovali. Išlo o falošné názvy rozhodnutí, falošné citácie a údajné úryvky z rozsudkov, ktoré nebolo možné dohľadať v právnych databázach.

Až neskôr sa ukázalo, že jeden z právnikov použil ChatGPT na vyhľadanie súdnych rozhodnutí. Nástroj mu vygeneroval presvedčivo pôsobiace odpovede, ktoré obsahovali vymyslené prípady. Právnici tieto výstupy neoverili dostatočným spôsobom a predložili ich súdu ako súčasť oficiálneho podania.

Situácia sa stala vážnejšou po tom, ako protistrana upozornila, že citované rozhodnutia nevie dohľadať. Právnici problém okamžite nepriznali ani nenapravili, ale ešte určitý čas sa opierali o neexistujúce súdne rozhodnutia. Súd napokon rozhodol, že právnici porušili svoje povinnosti, uložil im sankciu a zdôraznil, že problémom nebolo samotné použitie AI, ale predloženie neoverených a nepravdivých právnych zdrojov.

Prečo je to etický problém

Na prvý pohľad môže tento prípad pôsobiť ako technologická chyba. Generatívna AI vytvorila nepravdivý obsah a právnik mu uveril. Z etického hľadiska je však problém hlbší. Právnik nevystupuje ako bežný používateľ internetu, ale ako odborník v profesii, ktorá je založená na dôvere, presnosti a zodpovednosti.

Právne podanie nie je pracovná poznámka ani experiment. Je to dokument, ktorý vstupuje do rozhodovacieho procesu súdu a môže ovplyvniť práva a povinnosti strán sporu. Ak obsahuje vymyslené judikatúry / súdne rozhodnutia, narúša férovosť konania, zaťažuje protistranu, znižuje dôveru v právnickú profesiu a oslabuje integritu súdneho rozhodovania.

Rozhodujúca otázka tohto prípadu sa týka zodpovedného používania AI v odbornej praxi. Technologický nástroj môže pomôcť pri vyhľadávaní, sumarizácii alebo príprave textu, jeho výstupy však musia zostať predmetom odborného posúdenia, overenia zdrojov a osobnej zodpovednosti právnika.

Aktéri prípadu

Žalobca, ktorý očakával odborné a zodpovedné právne zastúpenie.
Právnici, ktorí použili generatívnu AI a predložili neoverené výstupy súdu.
Advokátska kancelária, ktorá nesie časť inštitucionálnej zodpovednosti za pracovné postupy.
Protistrana, ktorá musela reagovať na neexistujúce právne autority.
Súd, ktorého rozhodovanie závisí od pravdivosti a overiteľnosti predkladaných tvrdení.
Právnická profesia ako celok, ktorej dôveryhodnosť môže byť podobnými prípadmi poškodená.
AI systém ako nástroj, ktorému bola prisúdená neprimeraná epistemická autorita.

Fakty, hodnoty a domnienky

Fakty

  • Podanie obsahovalo neexistujúce súdne rozhodnutia.
  • Falošné prípady boli vytvorené pomocou ChatGPT.
  • Právnici ich predložili súdu bez dostatočného overenia.
  • Protistrana upozornila, že prípady nevie dohľadať.
  • Súd uložil sankciu a zdôraznil zodpovednosť právnikov za presnosť podania.

Morálne relevantné aspekty

  • pravdivosť
  • dôvera
  • férovosť konania
  • ochrana klienta
  • profesijná zodpovednosť
  • odborná starostlivosť
  • rešpekt voči súdu

Domnienky a riziká skreslenia

  • Presvedčivý jazyk AI môže vytvárať ilúziu pravdivosti.
  • Používateľ môže zameniť plynulosť odpovede za odbornosť.
  • Odborník môže nekriticky preniesť časť vlastnej zodpovednosti na nástroj.
  • Pracovná rutina môže oslabiť kontrolu nad tým, čo sa podpisuje a odosiela.

Jadro konfliktu

Etický konflikt v tomto prípade nevzniká medzi používaním a nepoužívaním AI. Vzniká medzi efektívnosťou práce a povinnosťou overovať, medzi dôverou v technologický nástroj a profesionálnou zodpovednosťou, medzi lojalitou ku klientovi a povinnosťou konať pravdivo voči súdu. Prípad ukazuje, že AI môže zrýchliť prácu odborníka, ale zároveň môže vytvoriť nové riziko, ak sa jej výstupom prizná autorita bez kontroly.

Normatívne čítanie prípadu

A. Dôsledky

Z hľadiska dôsledkov prípad poškodil viacero strán. Protistrana musela venovať čas odhaľovaniu neexistujúcich autorít, súd musel riešiť otázku dôveryhodnosti podania, klient mohol prísť o kvalitnú právnu argumentáciu a právnická profesia utrpela reputačnú škodu.

B. Povinnosti a normy

Z hľadiska povinností je problém ešte výraznejší. Právnik má povinnosť predkladať súdu pravdivé a overené tvrdenia. Použitie AI túto povinnosť neruší. Naopak, pri práci s nástrojom známym rizikom nepresností sa požiadavka overovania stáva ešte dôležitejšou.

C. Práva a férovosť

Protistrana aj súd majú nárok na férové konanie založené na pravdivých a overiteľných tvrdeniach. Používanie neexistujúcich súdnych rozhodnutí narúša rovnosť zbraní a oslabuje dôveryhodnosť procesu. Falošné citácie vytvárajú zdanie odbornej opory a zasahujú do podmienok spravodlivej argumentácie.

D. Kontext a vzťahy

Prípad treba chápať aj v širšom profesionálnom a inštitucionálnom kontexte. Nešlo iba o chybu jednotlivca, ale aj o otázku pracovných postupov, kontroly, dôvery medzi kolegami a pripravenosti profesie na používanie generatívnej AI.

E. Zodpovednosť

Zodpovednosť nemožno preniesť na AI. Systém vygeneroval nesprávne informácie, ale právnik rozhodol, že ich použije, podpíše alebo predloží. Morálne rozhodujúci moment nastal vtedy, keď odborník prestal overovať výstup nástroja a prisúdil mu autoritu, ktorú nemal.

Metodologické čítanie prípadu

Tento prípad je vhodný na výučbu aplikovanej etiky, pretože pri ňom môžete pracovať s viacerými metodologickými prístupmi. Pri deduktívnom prístupe môžete vychádzať z profesijných noriem právnika a skúmať, aké povinnosti z nich vyplývajú. Pri princípovo orientovanom prístupe môžete analyzovať pravdivosť, zodpovednosť, férovosť a odbornú starostlivosť. Pri kazuistickom prístupe môžete tento prípad porovnať s inými prípadmi profesijného pochybenia. Kontextuálno-interpretatívny prístup vám umožní skúmať, ako pracovné prostredie, dôvera medzi kolegami a dôvera v technológiu ovplyvnili rozhodovanie právnikov. Integratívny prístup vám napokon umožní spojiť tieto roviny do jedného obhájiteľného záveru.

Otázky na diskusiu

  1. V čom presne spočíva morálne jadro tohto prípadu?
  2. Je hlavným problémom použitie AI alebo neoverenie jej výstupov?
  3. Môže odborník preniesť časť svojej zodpovednosti na technologický nástroj?
  4. Aké minimum overenia by mal právnik vykonať pred tým, než použije AI výstup v oficiálnom podaní?
  5. Komu alebo čomu bola v tomto prípade priznaná epistemická autorita?
  6. Je tento prípad viac problémom jednotlivca, profesie alebo inštitucionálneho nastavenia práce?
  7. Ako by mala právnická profesia regulovať používanie generatívnej AI?
  8. Dá sa tento prípad preniesť aj na iné profesie, napríklad učiteľstvo, medicínu alebo žurnalistiku?

Krátka úloha pre študenta

Vyberte, čo podľa vás najviac vystihuje jadro prípadu:

Zdroj

Prípadová štúdia vychádza zo súdneho rozhodnutia Mata v. Avianca, Inc., Opinion and Order on Sanctions, United States District Court, Southern District of New York, 22. 6. 2023. Otvoriť zdrojové rozhodnutie .