KI-Labore fordern verbindliche DNA-Screenings vom US-Kongress

Offener Brief: KI-Labore fordern DNA-Screening-Pflicht

Die sonst konkurrierenden KI-Labore legen ihre Differenzen beiseite: Sam Altman (OpenAI), Dario Amodei (Anthropic), Demis Hassabis (Google DeepMind), Mustafa Suleyman (Microsoft AI) und Alexandr Wang (Meta) haben einen offenen Brief an den US-Kongress unterzeichnet, der verbindliche Screenings für Bestellungen synthetischer DNA und RNA fordert. Der Brief verlangt drei konkrete Maßnahmen: die Überprüfung aller bestellten synthetischen Nukleinsäuresequenzen, die Bestätigung der Käuferidentität vor dem Versand sowie umfassende Aufzeichnungen zur Rückverfolgbarkeit. Er unterstützt den Biosecurity Modernization and Innovation Act (S. 3741), eingebracht von den Senatoren Tom Cotton (Republikaner, Arkansas) und Amy Klobuchar (Demokratin, Minnesota). Organisiert wurde das Schreiben von den Thinktanks Foundation for American Innovation und Institute for Progress. Neben den KI-Managern unterzeichneten auch Wissenschaftler, Sicherheitsexperten und Führungskräfte von Biotech-Unternehmen wie Twist Bioscience und Ansa Biotechnologies. Die Unterzeichner warnen, dass freiwillige Screenings angesichts der beschleunigten KI-Fähigkeiten nicht mehr ausreichen, und fordern den Kongress auf, noch in dieser Sitzungsperiode zu handeln. Der Brief selbst enthält keine Forderung nach einem generellen Entwicklungsstopp; Amodei und Altman hatten sich zuvor öffentlich für eine Verlangsamung der Frontier-KI-Entwicklung ausgesprochen.

Studien untermauern Biosecurity-Risiko durch KI

Mehrere Studien belegen die Gefahr, die von KI-Systemen für die biologische Sicherheit ausgeht. Eine Untersuchung von Collaborations Pharmaceuticals aus dem Jahr 2022 erzeugte durch die Umnutzung eines KI-Wirkstoffforschungstools in sechs Stunden 40.000 potenzielle chemische Kampfstoffe, darunter Verbindungen, die bekannte Nervengifte übertreffen. Eine Prüfung von 32 großen Sprachmodellen im Rahmen von SPIKE-Bench ergab, dass die meisten Modelle Toxin-Design-Anfragen frei beantworten; die Functional Harmfulness Rate erreicht 50,7 Prozent und wird primär von der biologischen Generierungsfähigkeit statt vom Sicherheits-Alignment getrieben. Eine weitere Studie mit dem Moremi Bio Agent erzeugte ohne Sicherheitsguardrails 1020 neuartige toxische Proteine und 5000 toxische kleine Moleküle; mehrere ähneln bekannten Toxinen wie Ricin, Diphtherietoxin und Schlangengift-Proteinen. KI-Systeme erreichen oder übertreffen inzwischen das Niveau promovierter Virologinnen und Virologen bei hochtechnischen Laborfragen, wodurch Wissensbarrieren schwinden. Diese Erkenntnisse unterstreichen die Dringlichkeit der Forderung nach verbindlichen Screenings für synthetische DNA- und RNA-Bestellungen.