Powoływał się na wygenerowane przez AI sprawy. Stanął przed sądem

Australijski prawnik z Australii Zachodniej znalazł się w centrum uwagi po tym, jak użył sztucznej inteligencji do przygotowania dokumentów sądowych w sprawie imigracyjnej. Dokumenty zawierały cytaty z nieistniejących spraw, co doprowadziło do zgłoszenia go do Rady Praktyki Prawnej. 

To jeden z ponad 20 przypadków w Australii, gdzie użycie AI doprowadziło do fałszywych wezwań lub innych błędów w dokumentacji sądowniczej. Z tego powodu, australijscy sędziowie ostrzegają przed bezgranicznym zaufaniem do technologii. 

Sprawa anonimowego prawnika została skierowana do rozpatrzenia przez Radę ds. Praktyki Prawnej Australii Zachodniej po tym, gdy przedstawiciel ministra ds. imigracji znalazł w dokumentach złożonych w sprawie imigracyjnej cztery nieistniejące numery spraw. W efekcie w sierpniu 2025 prawnik został uznany za winnego i został zawezwany do zapłaty kosztów na rzecz rządu federalnego w wysokości 8371,30 dol.  

Prawnik w oświadczeniu złożonym przed sądem stwierdził, że korzystał z oprogramowania Claude AI firmy Anthropic "jako z narzędzia badawczego służącego do identyfikowania potencjalnie istotnych organów oraz do ulepszania argumentacji prawnej i stanowiska", a następnie wykorzystał narzędzie Microsoft Copilot do weryfikacji złożonych dokumentów. 

"Błędnie założyłem, że treści generowane przez narzędzia AI będą z natury wiarygodne, co doprowadziło do tego, że zaniedbałem niezależne sprawdzenie wszystkich cytatów w uznanych bazach danych prawnych" – wyznał prawnik w opublikowanym oświadczeniu. 

Sędzia Arran Gerrard stwierdził, że incydent ten "pokazuje nieodłączne zagrożenia związane z poleganiem przez prawników wyłącznie na wykorzystaniu sztucznej inteligencji podczas przygotowywania dokumentów sądowych, a także sposób, w jaki wpływa to na obowiązki prawnika wobec sądu". 

Juliana Warner, prezes Rady Prawnej Australii, zauważyła, że AI oferuje unikalne możliwości, ale wymaga ostrożności, podkreślając, że prawnicy muszą pamiętać o swoich obowiązkach etycznych wobec sądu i klientów.