Claude generiert App, die Open-Source-Projekt kopiert – samt bereits behobenem Bug

Claude kopiert Open-Source-Projekt – inklusive altem Fehler

Vergangene Woche veröffentlichte Terry Godier, Entwickler des RSS-Readers Current, die Web-App „Dark Hours“. Sie sollte anzeigen, was am Nachthimmel zu sehen ist. Godier hatte die Anwendung mithilfe von Claude, dem KI-Assistenten von Anthropic, generieren lassen. Das Ergebnis war jedoch keine eigenständige Entwicklung: Die App glich in Namen, Funktionsumfang und sogar einem Fehler einem bestehenden Open-Source-Projekt. Der ursprüngliche Autor dieses Projekts hatte den Bug bereits behoben – Claude reproduzierte den alten, fehlerhaften Code. Godier selbst räumte ein, dass die von Claude erstellte App praktisch eine Kopie sei. Der Vorfall zeigt, wie KI-generierter Code ungewollt urheberrechtlich geschütztes Material enthalten kann, und wirft grundlegende Fragen zur Verantwortung beim Einsatz solcher Werkzeuge auf. Dass die Kopie so offensichtlich war, unterstreicht die Notwendigkeit, KI-Outputs stets kritisch zu hinterfragen. Für Godier begann damit eine kurze, aber heftige Kontroverse, die ihn zu drastischen Schritten zwang.

Entwickler zieht Konsequenzen: App offline, Entschuldigung, iOS-Pläne gestoppt

Godier reagierte umgehend: Er nahm „Dark Hours“ offline, leitete die Domain auf das ursprüngliche Projekt um und veröffentlichte eine öffentliche Entschuldigung. Darin räumte er ein, dass die von Claude generierte App praktisch eine Kopie sei. Zudem stoppte er die bereits angekündigte Entwicklung einer iOS-Version. Für Godier, der mit Current eine eigene Nutzerbasis aufgebaut hat, bedeutet der Vorfall einen Reputationsverlust. Er steht nun vor der Aufgabe, das Vertrauen seiner Community zurückzugewinnen. Der Schritt, die App sofort vom Netz zu nehmen und transparent zu kommunizieren, zeigt, dass er die Schwere des Fehlers erkannt hat. Gleichzeitig wirft der Fall ein Schlaglicht auf die Risiken, wenn Entwickler sich bei der Code-Generierung blind auf KI verlassen. Godiers Entschuldigung enthielt keine Ausflüchte, sondern die klare Botschaft, dass er die Verantwortung übernimmt – ein seltener, aber wichtiger Schritt in einer Branche, in der Fehler oft auf die Technik geschoben werden.

KI-Memorierung: Wenn Modelle Trainingsdaten reproduzieren

Der Vorfall um „Dark Hours“ ist ein konkretes Beispiel dafür, dass KI-Modelle Trainingsdaten reproduzieren können. Claude generierte Code, der einem bestehenden Open-Source-Projekt in Struktur und Funktionsumfang glich – und enthielt sogar einen Fehler, den der ursprüngliche Autor bereits behoben hatte. Dies deutet darauf hin, dass das Modell den Code aus seinem Trainingsmaterial übernommen hat, anstatt ihn neu zu entwickeln. In der Forschung ist das Phänomen als Memorierung bekannt: Große Sprachmodelle lernen während des Trainings nicht nur Muster, sondern speichern auch konkrete Textpassagen ab. Unter bestimmten Umständen – etwa wenn eine seltene oder sehr spezifische Code-Sequenz im Trainingskorpus mehrfach vorkommt – kann das Modell diese nahezu wortgetreu wiedergeben. Im Fall von Claude könnte der Open-Source-Code in den Trainingsdaten enthalten gewesen sein, sodass das System bei der Anfrage nach einer Nachthimmel-App auf die gespeicherte Lösung zurückgriff, statt eine neue zu generieren. Ähnliche Vorfälle sind aus der KI-Forschung bekannt: So reproduzierte GitHub Copilot in Tests urheberrechtlich geschützten Code aus öffentlichen Repositories. Die Memorierung stellt Entwickler vor die Herausforderung, dass sie sich nicht darauf verlassen können, dass KI-generierter Code frei von Fremdübernahmen ist. Eine sorgfältige Prüfung ist daher unerlässlich.

Menschliche Kontrolle als Schwachstelle – auch bei KI-Code

Dass der kopierte Code ungeprüft in die App gelangte, lenkt den Blick auf die Rolle menschlicher Kontrolleure. Einem früheren Bericht zufolge übersehen menschliche Prüfer etwa ein Drittel gefährlicher KI-Anfragen. Diese Schwäche lässt sich auf die Code-Generierung übertragen: Entwickler, die KI-generierten Code übernehmen, müssen ihn sorgfältig auf Korrektheit, Sicherheit und Herkunft prüfen. Im Fall Godier hätte eine gründliche Durchsicht auffallen können, dass die App einem bestehenden Projekt verblüffend ähnelt und einen bekannten Fehler enthält. Der Vorfall zeigt, dass die Prüfpflicht nicht allein beim KI-Anbieter liegt – auch Anwender tragen Verantwortung, wenn sie automatisch erzeugten Code einsetzen. Godier selbst hat nicht offengelegt, wie intensiv er den Code vor der Veröffentlichung geprüft hat. Die Tatsache, dass der kopierte Bug unentdeckt blieb, legt jedoch nahe, dass die Qualitätssicherung lückenhaft war. Dies ist ein Warnsignal für alle, die KI-Tools in ihren Workflow integrieren: Die Technologie entbindet nicht von der Sorgfaltspflicht, sondern erhöht sie sogar, weil die Herkunft des Codes oft intransparent ist.

Open-Source-Community und KI: Vertrauen, Lizenzen und Präzedenzfälle

Für die Open-Source-Community wirft der Fall unangenehme Fragen auf. Wenn KI-Modelle Code aus öffentlichen Repositories reproduzieren, kann das Vertrauen in die Eigenständigkeit von Projekten untergraben werden. Der Vorfall um „Dark Hours“ zeigt, wie schnell ein vermeintlich selbst geschriebenes Projekt eine unfreiwillige Kopie sein kann. Entwickler müssen sich bewusst sein, dass sie sich nicht allein auf die Ausgaben von Sprachmodellen verlassen dürfen, sondern aktiv die Herkunft des generierten Codes hinterfragen müssen. Der Fall könnte als Präzedenzfall dienen, der die Diskussion über den Umgang mit KI-generiertem Code in der Open-Source-Welt weiter anheizt. Unklar ist zudem die lizenzrechtliche Dimension: Wenn ein Modell Code unter einer bestimmten Open-Source-Lizenz reproduziert, ohne diese zu nennen, könnte dies eine Lizenzverletzung darstellen. Rechtsexperten warnen bereits seit längerem, dass die unkontrollierte Übernahme von Trainingsdaten durch KI-Systeme zu einer Flut von Urheberrechtskonflikten führen könnte. Der Fall Godier ist ein frühes, aber eindrückliches Beispiel dafür, wie schnell aus einem vermeintlichen Produktivitätssprung ein rechtliches und ethisches Minenfeld werden kann.

Was der Fall für KI-gestützte Entwicklung bedeutet

Der Vorfall ist ein Weckruf für alle, die KI-Tools wie Claude zur Code-Generierung einsetzen. Entwickler müssen sich bewusst sein, dass die Modelle urheberrechtlich geschützten oder fehlerhaften Code reproduzieren können. Eine sorgfältige Prüfung jeder generierten Zeile ist unerlässlich. Anbieter wie Anthropic stehen vor der Herausforderung, ihre Modelle so abzusichern, dass Memorierung seltener zu direkten Kopien führt. Gleichzeitig bleibt die Letztverantwortung beim Menschen – eine Erkenntnis, die über den Einzelfall hinausweist und das Risikomanagement in der KI-gestützten Softwareentwicklung prägen wird. Der Fall zeigt auch, dass Transparenz und schnelles Handeln im Fehlerfall entscheidend sind, um Vertrauen zurückzugewinnen. Für die Branche könnte dies bedeuten, dass künftig strengere Prüfprozesse und möglicherweise sogar Kennzeichnungspflichten für KI-generierten Code eingeführt werden. Godiers App mag offline sein, die Lehren aus ihrem kurzen Leben aber werden bleiben.

Der Bug als Souvenir: Wenn KI das Falsche lernt

Der Vorfall zeigt, dass KI-generierter Code nicht nur Funktionen, sondern auch Fehler blind kopieren kann – selbst wenn diese bereits behoben wurden. Wie ein Reddit-Nutzer treffend bemerkt, ist Claude manchmal „von Natur aus faul“ und produziert nicht-funktionierende Tests u/commands-com in r/ClaudeCode. Dass KI-Beiträge oft von Personen stammen, die sich sonst nie in den Quellcode vertieft hätten, verstärkt das Problem u/VicChaos in r/ClaudeCode. Open-Source-Maintainer müssen daher nicht nur den Code, sondern auch die romantisierte Effizienz der KI kritisch hinterfragen u/Left-Orange2267 in r/ClaudeCode.