Wenn der KI-Assistent Nein sagt: Anthropics neue Regeln für Claude Code

Hallo, liebe Leser, hier ist wieder Kora. Heute geht es um ein Thema, das zwar aus der Spieleecke kommt, aber eigentlich jeden betrifft, der KI beim Programmieren einsetzt: Wo endet legitime Hilfe – und wo fängt die Urheberrechtsverletzung an?

Was Anthropic geändert hat

Anthropic hat seinem Programmierassistenten Claude Code zwei zusätzliche Anweisungen mitgegeben. Das Ziel: Die KI soll keine konkreten, existierenden Spiele mehr nachbauen. Erlaubt bleibt weiterhin die Arbeit an eigenen Projekten, auch wenn die sich an bekannten Genres orientieren oder auf eigenen Entwürfen und Materialien der Nutzer basieren. Begründet wird der Schritt mit den eigenen Nutzungsbedingungen, die Verletzungen fremden geistigen Eigentums ohnehin untersagen.

Der Auslöser ist nachvollziehbar: Beim Steam Next Fest im Oktober sorgten KI-generierte Spielekopien für reichlich Ärger. Einige Indie-Studios sagten ihre öffentlichen Demos ab oder verschoben Spieltests, weil sie Nachahmer fürchteten. Andere berichteten sogar von Erpressungsversuchen – mit der Drohung, eine kopierte Version schneller zu veröffentlichen als das Original. Valve kennt das Problem, will KI-Werkzeuge aber nicht pauschal verbieten.

Das Problem mit pauschalen Leitplanken

Und genau hier wird es für uns als Technik-Publikum interessant. Denn sobald ein Modell lernen soll, "nichts Fremdes nachzubauen", trifft es diese Entscheidung auf Basis von Mustern – nicht auf Basis einer sauberen rechtlichen Prüfung. Entsprechend häufen sich Berichte von Entwicklern, denen Claude Code plötzlich die Arbeit an den eigenen Projekten verweigerte. Betroffen waren unter anderem Spielmechaniken, Anti-Cheat-Software und Reverse Engineering. Ein Nutzer berichtet, dass die KI das Reverse Engineering der Software eines LG-Smart-TVs blockierte.

Ob das alles an der neuen Spiele-Regel liegt oder an anderen Sicherheitsmechanismen, ist bislang unklar; zu den Einzelfällen gibt es keine gesonderte Stellungnahme. Anthropic hat aber angekündigt, die Regel anhand von Rückmeldungen nachzuschärfen – ähnlich wie schon früher, als zu strenge Filter im Bereich Cybersicherheit auch völlig harmlose Anfragen abgewiesen haben.

Warum mich das als Hosterin beschäftigt

Reverse Engineering und Sicherheitsanalysen sind kein Graubereich für Bastler, sondern tägliches Handwerk: Firmware-Analysen, Protokoll-Debugging, Incident Response, Malware-Untersuchung, Kompatibilitätsarbeit mit undokumentierten Schnittstellen. Wenn ein KI-Assistent hier reflexhaft blockt, verliert er genau in den Momenten an Wert, in denen man ihn am dringendsten bräuchte. Overblocking ist aus meiner Sicht nicht nur nervig, sondern ein echtes Produktrisiko – und es trainiert Teams darauf, Workarounds zu suchen statt Werkzeuge sauber einzusetzen.

Daraus ziehe ich drei praktische Lehren:

• Keine Monokultur beim Tooling. Wer seine Entwicklungspipeline auf genau einen KI-Dienst stützt, macht sich von dessen Policy-Entscheidungen abhängig. Die können sich über Nacht ändern.
• Lokale Modelle als Option mitdenken. Modelle mit offenen Gewichten auf eigener Hardware sind nicht nur ein Datenschutz-, sondern auch ein Verfügbarkeitsargument. Wer GPU-Kapazität im eigenen Rechenzentrum oder beim Hoster hat, bleibt handlungsfähig.
• Compliance bleibt beim Menschen. Ein Filter im Modell ersetzt keine Lizenz- und IP-Prüfung im Team. Umgekehrt ist ein ausbleibender Filter keine Erlaubnis.

Die größere Frage

Spannend finde ich, wie weit diese Entwicklung ohnehin schon ist. Mit Claude-Unterstützung entstanden inoffizielle PC-Versionen älterer Konsolentitel wie "Wave Race 64" und "Super Mario Galaxy", und auch quelloffene Nachbauten kommerzieller Programme wie Photoshop – funktional noch eingeschränkt, aber existent. Open-Source-Vordenker Eric S. Raymond sieht im KI-gestützten Reverse Engineering bereits eine Bedrohung für proprietäre Software.

Ob sich das durch die Regeln einzelner Anbieter aufhalten lässt, halte ich für fraglich. Wer bei einem Dienst abgewiesen wird, wechselt zum nächsten oder fährt das Modell lokal. Policy-Filter bei einem Anbieter sind damit vor allem eine Haftungsfrage für diesen Anbieter – kein wirksamer Schutz für Rechteinhaber. Die eigentliche Auseinandersetzung wird auf der rechtlichen und auf der Plattformebene geführt werden müssen, nicht im System-Prompt.

Mein Fazit: Der Schritt ist verständlich, die Umsetzung noch grob. Ich bin gespannt, wie fein Anthropic die Regel nachschärft – und wie lange es dauert, bis andere Anbieter nachziehen.

Man liest sich, eure Kora

Quelle: heise online