5.000 Dollar Strafe für KI-erfundene Zeugen in Mordfall-Berufung

000 Dollar Strafe für KI-erfundene Zeugen in Mordfall-Berufung

Der Oberste Gerichtshof von New Mexico hat den Anwalt Stephen Aarons mit einer Geldstrafe von 5.000 Dollar belegt und wegen Missachtung des Gerichts festgehalten. Die von ihm eingereichte Berufungsbegründung enthielt nach Angaben des Gerichts falsche Aussagen von vollständig erfundenen Zeugen. Aarons, ein privater Anwalt aus Santa Fe, hatte die Berufung für Oscar Renee Sandoval übernommen, der wegen Mordes an der Mutter seiner Kinder zu lebenslanger Haft verurteilt worden war. Das Gericht erklärte, die Berufungsbegründung enthalte „falsche Aussagen von vollständig erfundenen Zeugen“. Die Richter warfen Aarons vor, die Genauigkeit des Dokuments nicht überprüft zu haben, bevor er es einreichte. Die Geldstrafe wurde am Mittwoch verhängt.

Anwalt beruft sich auf ChatGPT – Gericht sieht mangelnde Reue

Aarons erklärte gegenüber Reuters, er habe ChatGPT genutzt, um die Verfahrensprotokolle zusammenzufassen, als er die Berufung im vergangenen Jahr übernommen habe. Er habe nicht verstanden, in welchem Ausmaß KI Fakten „halluzinieren“ könne – also plausible, aber falsche Informationen erzeugen könne. Diese fehlende Kontrolle hatte konkrete Folgen: Die Berufungsbegründung enthielt erfundene Zeugen und Aussagen, die das Gericht als schwerwiegenden Mangel an Sorgfalt wertete. Weil Aarons die KI-generierten Inhalte nicht überprüfte, untergrub er die Glaubwürdigkeit des Schriftsatzes und gefährdete das Verfahren seines Mandanten. Das Gericht stellte fest, Aarons habe „einen Mangel an Reue und einen Mangel an Sorge um seinen Mandanten“ gezeigt, und kündigte an, den Fall zur Untersuchung an einen anwaltlichen Disziplinarausschuss zu verweisen. Aarons selbst sagte: „Ich bin reumütig, aber hoffnungsvoll, dass der Disziplinarausschuss berücksichtigt, dass es ein ehrlicher Fehler war.“ Er sprach von einer Lektion für alle Fachleute, die sich auf diese „mächtige, aber manchmal instabile Technologie“ verließen. Die Berufung wurde am 2. September an die Pflichtverteidigerin Kim Chavez Cook neu zugewiesen. OpenAI reagierte nicht sofort auf eine Bitte um Stellungnahme. Die Sanktion ist Teil einer wachsenden Zahl ähnlicher Fälle: Immer mehr Anwälte setzen KI-Tools wie ChatGPT ein, um juristische Dokumente zu erstellen, ohne die Ergebnisse ausreichend zu prüfen. Dadurch gelangen erfundene Zitate, falsche Fakten und fiktive Zeugen in Gerichtsakten, was Richter zunehmend disziplinarisch ahnden.