Der Anwalt Steven Aarons nutzte ChatGPT zur Zusammenfassung einer Mordverhandlung und reichte eine Berufung mit frei erfundenen Zeugen und Aussagen ein. Das Gericht sah darin Gleichgültigkeit gegenüber dem Mandanten.
Welche Rolle spielte ChatGPT bei der Berufung?
Der Anwalt Steven Aarons übernahm 2025 die Berufung für Oscar René Sandoval, der wegen Mordes an der Mutter seiner Kinder zu lebenslanger Haft verurteilt worden war. Aarons nutzte ChatGPT, um eine Zusammenfassung der Verhandlung anzufertigen. Das Programm fügte jedoch Aussagen hinzu, die weder in den Protokollen noch in der Realität existierten. Aarons sagte gegenüber Reuters, er habe das Tool genutzt, um eine schnelle Zusammenfassung der Verhandlungsprotokolle zu erhalten, nachdem er die Berufung übernommen hatte. Er habe angenommen, ChatGPT werde eine genaue Zusammenfassung erstellen. Das Gericht stellte später fest, dass Aarons die Risiken der sogenannten Halluzinationen der KI kannte oder hätte kennen müssen. Er hatte Transkripte und anderes Material in das Modell eingegeben, doch das System erzeugte zusätzliche, nicht existente Aussagen und ganze Zeugen. Der Anwalt betonte, er habe nicht erkannt, wie stark die Halluzinationen ausfallen können. Das Oberste Gericht von New Mexico sah darin eine Verletzung der Sorgfaltspflicht, weil Aarons die Angaben nicht eigenständig überprüfte.
Welche erfundenen Inhalte enthielt die Berufungsschrift?
Die eingereichte Schrift enthielt detaillierte Zeugenaussagen, darunter eine Beschreibung der Kleidung des Täters als dunkle Hose und weißes T-Shirt. Keiner dieser Zeugen war jemals befragt worden. Das Gericht stellte fest, dass sämtliche genannten Personen und Aussagen frei erfunden waren. Das Antragsschreiben enthielt „falsche Zeugenaussagen von vollständig erfundenen Zeugen“. Die Richter betonten, dass keine dieser Aussagen in den Originalprotokollen der ersten Instanz vorkam. Aarons hatte dem ChatGPT-Modell Transkripte und anderes Material zugeführt, doch das System erzeugte zusätzliche, nicht existente Aussagen. Das Gericht sah darin ein klares Beispiel für die Gefahr, KI-Ergebnisse ohne Kontrolle zu übernehmen. Die erfundenen Passagen bezogen sich auf angebliche Polizeiaussagen und Zeugen, die nie existiert hatten.
Wie reagierte das Oberste Gericht von New Mexico?
Das Gericht unter Leitung von Richterin C. Shannon Bacon verhängte ein Bußgeld von 5000 Dollar. Es verwies den Fall zudem an die Anwaltskammer. Die Richter warfen Aarons vor, er habe gegenüber seinem Mandanten eine „Gleichgültigkeit“ gezeigt, indem er die Angaben nicht überprüfte. Richterin Bacon fragte Aarons, ob er Nachrichten sehe, Radio höre oder lese, da Fälle von Anwälten, die sich auf KI-Halluzinationen verlassen, täglich in den Schlagzeilen stünden. Das Gericht war nicht überzeugt, dass Aarons die Fehleranfälligkeit der Technologie nicht kannte. Es betonte, dass der Anwalt die volle Verantwortung für den Inhalt trägt, unabhängig davon, ob KI bei der Erstellung half. Das Bußgeld und die Weiterleitung an die Kammer sollen ein Signal an alle Anwälte sein.
Wie begründete der Anwalt den Einsatz von ChatGPT?
Aarons erklärte gegenüber Reuters, er habe das Tool genutzt, um eine schnelle Zusammenfassung der Verhandlungsprotokolle zu erhalten. Er habe nicht erkannt, wie stark die sogenannten Halluzinationen der KI ausfallen können. Er bedauere den Vorfall, hoffe jedoch auf eine milde Beurteilung durch die Kammer. Aarons betonte, es sei ein ehrlicher Fehler gewesen, und hofft, dass die Anwaltskammer dies berücksichtigt. Er bezeichnete den Vorfall als Lehre für alle Berufsträger, die auf diese mächtige, aber manchmal instabile Technologie vertrauen. Er habe angenommen, dass die KI eine präzise Zusammenfassung liefert, wenn man ihr echte Protokolle zuführt. OpenAI äußerte sich nicht zu dem Vorfall.
Welche weiteren Konsequenzen drohen?
Neben dem Bußgeld läuft ein Disziplinarverfahren. Die Berufung selbst bleibt bestehen; seit Anfang September vertritt die öffentliche Verteidigerin Kim Chaves Cook den Verurteilten. Die Richter betonten, dass Anwälte auch bei KI-gestützten Texten die volle Verantwortung für die Richtigkeit tragen. In den letzten Monaten haben mehrere staatliche und bundesstaatliche Gerichte Anwälte sanktioniert, die KI-generierte Dokumente ohne Prüfung eingereicht hatten. Dutzende Anwälte wurden bereits mit Sanktionen belegt, weil die KI das Recht falsch ausgelegt hatte. Der Fall Aarons reiht sich damit in eine wachsende Zahl ähnlicher Verfahren ein, bei denen Gerichte die Notwendigkeit manueller Kontrolle hervorheben.
FAQ: Häufig gestellte Fragen
Welche Strafe erhielt der Anwalt?
Das Oberste Gericht verhängte ein Bußgeld von 5000 Dollar und leitete ein Disziplinarverfahren bei der Anwaltskammer ein.
Was genau hatte ChatGPT erfunden?
Das Modell erfand mehrere Zeugen und deren Aussagen, darunter eine detaillierte Beschreibung der Kleidung des mutmaßlichen Täters.
Warum wurde der Anwalt nicht von der Verantwortung freigestellt?
Die Richter sahen es als erwiesen an, dass Aarons die Risiken der KI kannte oder hätte kennen müssen, da entsprechende Fälle bereits öffentlich diskutiert wurden.
Wie steht es um die Berufung des Mandanten?
Die Berufung ist weiterhin anhängig. Seit September 2026 vertritt eine neue Pflichtverteidigerin den Fall.
Gibt es ähnliche Fälle in den USA?
Ja, mehrere Bundes- und Staatsgerichte haben bereits Anwälte sanktioniert, die KI-generierte Texte ohne Prüfung eingereicht hatten.