KI SpotlightNewsAnthropic-Manager Princen: Offene Modelle bergen „by definition“ mehr Risiko
Guillaume Princen spricht in Dublin pauschaler als Dario Amodei im Juli. Ein Kurswechsel ist damit nicht belegt. Eine Klarstellung von Anthropic liegt nicht vor.
Mit KI erstelltInhalt
◆ Fakten auf einen Blick
- Amodei schrieb am 27. Juli auf anthropic.com, Anthropic habe nie ein Verbot von Open-Weights-Modellen befürwortet.
- Axios berichtete am 20. Juli, US-Stellen erwägen Beschränkungen chinesischer Open-Weight-Modelle bei US-Unternehmen.
- Anthropic unterzeichnete den offenen Brief vom 24. Juli nicht; OpenAI und Google unterschrieben später.
- Amodei hält pauschale Verbote nicht für geeignet und fordert strengere Vorgaben, etwa verpflichtende Tests, für Frontier-Systeme.
- Princen sagte Bloomberg TV, man müsse bei Open-Source in Sicherheitsfragen sehr vorsichtig sein.
Anthropic-Manager Princen: Bei offenen Modellen gebe es „by definition“ mehr Risiko
Guillaume Princen leitet bei Anthropic das internationale Geschäft. Am Mittwoch äußerte er sich am Rande des International AI Summit in Dublin skeptisch zu offenen KI-Modellen. Gegenüber Bloomberg TV sagte er: "We need to be really careful with open-source on safety." Dieser Satz ist durch zwei Quellen belegt. Der Gipfel ist eine offizielle Veranstaltung der irischen EU-Ratspräsidentschaft. Eröffnet hat ihn Henna Virkkunen.
Die schärfere Formulierung stammt nur aus The Next Web (TNW). Princen soll außerdem gesagt haben: "I can't talk for open models. But by definition, there's more risk with them." Gegenprüfen lässt sich das nicht. Die Bloomberg-Primärquelle lag uns nur als Paywall-Auszug vor.
Das Portal Futunn gibt die Position so wieder: Open-Weight-Modelle bergen erhöhte Cybersecurity- und andere Risiken, Anthropic gehe bei deren Sicherheit „extrem vorsichtig“ vor. Das ist Selbstdarstellung des Unternehmens. Welche zusätzlichen Schutzmaßnahmen Anthropic nach prominenten KI-Hackingvorfällen eingeführt haben soll, belegt das Material nicht. Auch Princens Titel weicht ab: TNW nennt ihn „head of international“, Futunn „Head of International Business“.
Amodei nannte offene Modelle im Juli ein öffentliches Gut, aber nur ohne gefährliche Fähigkeiten
Dario Amodei äußerte sich am 27. Juli, einem Montag, auf anthropic.com. Der Beitrag heißt "Our position on open-weights models". Darin schreibt er: "Anthropic has never advocated for a ban on open-weights models." Und weiter: "Open-weights models that don't have dangerous capabilities are a public good." Solche Modelle kosteten nichts außer Rechenleistung und nützten Unternehmen, Entwicklern und Forschern. Das Urteil gilt also nur, solange die Modelle keine gefährlichen Fähigkeiten haben.
Anlass war ein Axios-Bericht vom 20. Juli. Demnach erwägen US-Stellen Beschränkungen für chinesische Open-Weight-Modelle bei US-Unternehmen. Am 24. Juli erschien ein offener Brief mit dem Titel "Open Weights and American AI Leadership", gehostet bei Nvidia. Anthropic unterzeichnete ihn nicht. Später schlossen sich unter anderem OpenAI und Google an.
Pauschale Verbote hält Amodei nicht für geeignet. Stattdessen nennt er strengere Vorgaben für Frontier-Systeme: verpflichtende Tests, Grenzen beim Zugang Chinas zu Hochleistungsrechnern und Modellfähigkeiten sowie Maßnahmen gegen industrielle Destillation.
Schärfere Betonung, aber kein belegter Kurswechsel
Ein harter Widerspruch zwischen beiden Aussagen ist nicht belegt. Amodei bestritt schon im Juli, dass Offenheit an sich die Sicherheitsforschung verbessert oder Verteidigern gegenüber Angreifern einen Vorteil verschafft. Die skeptische Linie gab es also schon damals. Princen formuliert pauschaler, schränkt sich aber selbst ein: "I can't talk for open models." Der Rahmen unterscheidet sich außerdem. Hier ein Blogbeitrag zur US-Politik, dort ein Fernsehinterview zu Sicherheit und Cyberrisiken.
Dass Princen weiter geht als Amodei, ist die Wertung von TNW. Eine offizielle Klarstellung von Anthropic haben wir nicht gefunden. Ob das Unternehmen intern einen Kurswechsel sieht, bleibt offen.
