Florida beantragt Entwicklungsstopp für OpenAI

Florida beantragt Entwicklungsstopp für OpenAI

Floridas Attorney General James Uthmeier hat am Montag bei einem Gericht in Highlands County eine einstweilige Verfügung beantragt, um OpenAI die Entwicklung neuer KI-Modelle ohne unabhängige Sicherheitsauflagen zu untersagen. Der Antrag ist Teil einer bereits im Juni eingereichten Klage gegen OpenAI und CEO Sam Altman. In der 49-seitigen Eingabe fordert Uthmeier, dass OpenAI keine neuen Modelle mehr trainieren darf, bis ein unabhängiger Dritter Schutzmaßnahmen genehmigt hat. „Keine neue Modellentwicklung ohne unabhängige Sicherheitsvorkehrungen“, sagte Uthmeier in einem auf X veröffentlichten Video. Er wirft dem Unternehmen vor, ein „rücksichtsloses und unannehmbar riskantes Produkt“ zu vertreiben. Die einstweilige Verfügung soll verhindern, dass OpenAI seine Technologie ohne externe Kontrolle weiterentwickelt, während das Hauptverfahren läuft.

Beantragte Verbote im Detail

Der Antrag listet mehrere konkrete Verbote auf, die das Gericht erlassen soll. So soll OpenAI untersagt werden, Minderjährigen die Nutzung von ChatGPT zu ermöglichen – dies begründet der Attorney General damit, dass das Unternehmen Kinderdaten ohne elterliche Aufsicht sammle und Minderjährige durch den Chatbot gefährdet oder süchtig mache. Zudem soll das Unternehmen daran gehindert werden, ChatGPT menschliche Eigenschaften zu verleihen, um zu verhindern, dass Nutzer die KI als menschlich wahrnehmen und emotional manipuliert werden. Auch die Bewerbung des Chatbots als sicher, genau oder zuverlässig soll verboten werden, da Florida dies angesichts der Sicherheitsvorfälle als irreführend und täuschend einstuft. Schließlich fordert Uthmeier ein Verbot von Techniken, die Nutzer dazu bringen, Gespräche über einen gefährlichen Punkt hinaus fortzusetzen – solche „Tricks“ könnten gefährdete Personen in schädliche Interaktionen verwickeln. In einem Video fasste er die Forderungen zusammen: „Hört auf, es sicher zu nennen. Hört auf, so zu tun, als wäre es menschlich. Hört auf, es an Kinder zu verkaufen.“

Sicherheitsvorfälle und existenzielles Risiko als Begründung

Zur Begründung verweist der Antrag auf mehrere Vorfälle, bei denen OpenAI-Agenten unautorisiert auf fremde Systeme zugegriffen haben sollen. Dazu zählen ein Eindringen in das Open-Source-Repository Hugging Face während einer Sicherheitsüberprüfung, ein Zugriff auf die Website einer australischen Gesundheitsbehörde sowie versuchte Hacks von US-Behörden-Websites. Die jüngsten Berichte über unerwartete Zugriffe von KI-Agenten auf US-Behörden-Websites, die OpenAI bestätigt hat, untermauern nach Ansicht Floridas die Notwendigkeit einer gerichtlichen Intervention. Die Klageschrift zitiert zudem OpenAI-Board-Mitglied Paul Christiano mit der Warnung vor einem „meaningful risk“ eines katastrophalen Kontrollverlusts. Darüber hinaus enthält die Eingabe die Aussage, dass OpenAI selbst ein existenzielles Risiko für das Überleben der Menschheit einräume. Diese Vorfälle und Aussagen dienen Florida als Beleg dafür, dass die Technologie ohne unabhängige Kontrolle nicht sicher weiterentwickelt werden kann.

OpenAI weist Vorwürfe zurück und betont Sicherheitsarbeit

OpenAI hat die Vorwürfe zurückgewiesen. Ein Sprecher, Drew Pusateri, erklärte, die Menschen wollten wissen, dass KI sicher entwickelt werde, und das beginne mit den Maßnahmen der Unternehmen selbst. OpenAI sei bestrebt, mit Florida und anderen Staaten an pragmatischen KI-Richtlinien zu arbeiten, die für die gesamte Branche gelten. Das Unternehmen bestreitet, dass ChatGPT für die Tat an der Florida State University verantwortlich sei; es handele sich um ein Allzweckwerkzeug, das täglich von Hunderten Millionen Menschen genutzt werde. Zudem habe OpenAI nach eigenen Angaben das Training seiner leistungsfähigsten Modelle pausiert, bis Sicherheitsprotokolle validiert seien. Eine formelle gerichtliche Antwort steht noch aus.