AI-genererade fel i rättsdokument leder till juridiska problem för advokater

En rapport som delades av Reuters igår avslöjar att AI:s hallucinationer—fel och påhittad information skapad av generativa AI-modeller—orsakar juridiska problem i domstolar i USA.

Denna månad skickade advokatbyrån Morgan & Morgan ett e-postmeddelande till över 1 000 advokater där de varnade för riskerna med att använda chattrobotar och falska fall genererade av artificiell intelligens.

För några dagar sedan erkände två advokater i Wyoming att de inkluderat falska fall genererade av AI i en rättslig inlaga inför en stämning mot Walmart, och en federal domare hotade att bestraffa dem.

I december anklagades Stanfordprofessorn och desinformations-experten Jeff Hancock för att ha använt AI för att fabrikera rättsliga deklarationer som del av sitt uttalande i försvar av delstatens lag 2023 om kriminalisering av användning av deepfakes för att påverka val.

Flera fall som dessa, under de senaste åren, har skapat juridiska friktioner och ställt till problem för domare och parter. Morgan & Morgan och Walmart avböjde att kommentera detta ämne.

Generativ AI har hjälpt till att minska forskningstiden för advokater, men dess hallucinationer kan medföra betydande kostnader. Förra året avslöjade en undersökning från Thomson Reuters att 63% av advokaterna använde AI för arbete och 12% gjorde det regelbundet.

Förra året påminde American Bar Association sina 400 000 medlemmar om advokatetiska regler, vilka inkluderar att advokater står bakom all information i sina domstolsinlämningar, och noterade att detta inkluderade AI-genererad information, även om det var oavsiktligt – som i Hancock’s fall.

”När advokater ertappas med att använda ChatGPT eller något annat generativt AI-verktyg för att skapa citat utan att kontrollera dem, så är det inkompetens, helt enkelt,” sade Andrew Perlman, dekan på Suffolk Universitys juridiska fakultet till Reuters.

För några dagar sedan delade även BBC en rapport som varnar för falska citat genererade av AI och problemen med AI-verktyg inom journalistiken.