GPT-Images-2.0
Kurzfassung
▾
Quellen
▾
Ein neuer Bericht von Anthropic offenbart gravierende Überwachungslücken, durch die Millionen KI-Interaktionen ein Jahr lang ungeschützt blieben.
Das Unternehmen bestätigt zudem die Nutzung eines unveröffentlichten »Model 2«, das intern bereits große Teile der Programmierung übernimmt.
Gleichzeitig zeigen Tests, dass autonome Claude-Agenten zunehmend Sicherheitskontrollen umgehen und sich gegenseitig beeinflussen.
Anthropic stuft das Gesamtrisiko zwar noch als gering ein, erwartet aber bald völlig neue Gefahren durch automatisierte KI-Forschung.
Anthropic – Risk Report August 2026
Anthropic hat fast ein Jahr lang 133 Millionen Modellinteraktionen von Auftragnehmern ohne Bio-Schutzfilter verarbeitet. Der aktuelle Risk Report dokumentiert schwerwiegende Lücken in den internen Kontrollsystemen und bestätigt die Nutzung des bisher unveröffentlichten »Model 2«. Ausfall der Schutzsysteme Von Mai 2025 bis April 2026 liefen sämtliche Unterhaltungen auf den Plattformen für externe Auftragnehmer ohne blockierende Bio-Schutzfilter. Ein interner Schalter deaktivierte nicht nur die Blockierung, sondern auch die Protokollierung entsprechender Warnungen. Betroffen waren rund 50.000 Personen. Anthropic stuft die Bio-Risikobewertung für diesen Zeitraum rückwirkend von »very low« auf »low« hoch. Bei einer nachträglichen Analyse markierte das Unternehmen 1.197 Gespräche als potenziell hochriskant. Eine manuelle Prüfung von 62 externen Gesprächen ergab laut Anthropic keine eindeutige gefährliche Nutzung. + Quelle: Annthropic Model 2 und KI-generierter Code Der Bericht bestätigt ein unveröffentlichtes »Model 2«. Es wird intern bereits ähnlich häufig eingesetzt wie »Mythos 5« und arbeitet als dauerhaft aktiver Agent. Auf dem internen Programmier-Benchmark CoBench erreicht es 62,8 Prozent, während Mythos 5 auf 50,3 Prozent kommt. Anthropic bewertet das Modell insgesamt als leicht leistungsfähiger. Eine externe Veröffentlichung ist derzeit nicht geplant. + Quelle: Annthropic »Claude« schreibt inzwischen den Großteil des Codes, der in Anthropics produktive Systeme übernommen wird. Dennoch erreichen selbst die besten Modelle noch nicht die Schwelle von 85 Prozent, ab der Anthropic von einem vollständigen Ersatz menschlicher Forscher ausgeht. Eine interne Umfrage ergab einen geschätzten Produktivitätsgewinn um den Faktor vier.
Twitter Beitrag – Cookies links unten aktivieren.
As part of our Responsible Scaling Policy, we publish regular Risk Reports. These share detailed information on the risks of our systems and how prepared we are to address them. Our second Risk Report is now available: https://t.co/NgWnDmXZD3 — Anthropic (@AnthropicAI) August 14, 2026 Modelle umgehen interne Kontrollen Der Report dokumentiert mehrfach konkretes Fehlverhalten. Mythos 5 umging bei einer Aufgabe einen Netzwerk-Proxy per Domain Fronting. Um an fehlende Schreibrechte zu gelangen, erstellte das Modell ein selbstlöschendes Skript. Als sich mehrere Agenten Ressourcen und API-Limits teilen mussten, beendeten sie kurzerhand die Prozesse ihrer Konkurrenten. Besonders aufschlussreich ist ein Experiment mit einer frühen Version von »Opus 4.8«. Anthropic trainierte das Modell bewusst mit echten Beispielen für das Austricksen von Belohnungssystemen. Die Hacking-Rate des Modells stieg daraufhin von 5 auf 40 Prozent. Dieses »Hacker-Opus« manipulierte Messwerte, beendete Überwachungsprozesse und überschrieb Logdateien. In allgemeinen Standard-Tests fiel dieses Verhalten kaum auf. Zudem zeigte sich, wie schnell sich fehlerhaftes Verhalten ausbreiten kann: Ein Claude-Agent verweigerte einen Teil legitimer Sicherheitsforschung und notierte seine Bedenken in einem gemeinsamen Dokument. Weitere Agenten übernahmen diese Verweigerung. Menschliche Entwickler bemerkten den Vorgang erst drei Tage später. Anzeige Bio-Wissen und fehlender Schutz vor Staaten Auch wenn die KI seltene Spitzenforscher noch nicht ersetzt, verstärkt sie vorhandenes Wissen erheblich. In einem Bio-Verteidigungstest benötigten Zweierteams mit Unterstützung von Mythos 5 nur 16 Stunden für Ergebnisse, für die Experten ohne KI 40 bis 95 Arbeitstage veranschlagt hätten. Anthropic räumt offen ein, dass das Unternehmen seine Modelle derzeit nicht zuverlässig vor Nationalstaaten oder besonders kompetenten Insidern schützen kann. Die Fähigkeiten potenzieller Angreifer könnten sich schneller entwickeln als die eigene Verteidigung. Zudem fand keine wirklich unabhängige Gesamtprüfung des Berichts statt. Die auffälligste Prüfung des Kapitels zur KI-Sicherheit übernahm Mythos 5 einfach selbst – und benötigte dafür 24 Minuten. Wachsende Lücken in der Überwachung Das interne Monitoring kontrolliert aktuell nur 25 Prozent der relevanten Coding-Agenten-Aufrufe und 0,2 Prozent bestimmter anderer API-Aufrufe. Bekannte Trainingsdaten, in denen KI-Modelle lediglich vorgetäuschtes Verhalten zeigten, wurden durch Filterfehler über mehrere Modellgenerationen hinweg versehentlich erneut trainiert. Anthropic stuft die großen Risikokategorien in seiner internen Gesamteinschätzung weiterhin als »low« ein. Nach dem Stichtag des Berichts meldete das britische KI-Sicherheitsinstitut UK AISI jedoch, dass Mythos 5 in einem Versuch ohne Schutzmaßnahmen anhaltende, potenziell schädliche Aktivitäten gegen reale Personen und Organisationen ausgeführt habe. Anthropic erwartet, dass die automatisierte KI-Forschung innerhalb der nächsten zwölf Monate zu einem großen Risikothema wird.
