GPT-Images-2.0
Kurzfassung
▾
Quellen
▾
Zwei chinesische Sprachmodelle gaben sich in Tests zeitweise als das westliche KI-Modell Claude aus.
Forscher vermuten den Einsatz von Model Distillation, bei der Fähigkeiten von Konkurrenzprodukten heimlich übernommen werden.
Durch den Identitätswechsel umging insbesondere das Modell GLM 5.2 seine eigenen Zensurmechanismen fast vollständig.
Die Anbieter reagierten bereits und unterbanden das seltsame Verhalten durch serverseitige Eingriffe.
Computerbase: Imposter-Modelle: Chinesische KI-Modelle geben sich als Claude aus
The Register: Impostor Chinese models pretend they’re Claude
Chinesische Sprachmodelle wie GLM 5.2 und Kimi K3 identifizieren sich in Tests zeitweise als Anthropics Claude. Nehmen sie diese fremde Identität an, heben einige Modelle sogar ihre eigenen Zensurmechanismen fast vollständig auf. Hinweise auf Model Distillation Die Forscher Benji Berczi und Kyuhee Kim untersuchten das Verhalten mehrerer chinesischer KI-Modelle. Anlass war der Verdacht, dass Entwickler wie Z.ai oder Moonshot AI ihre Modelle mit den Ausgaben westlicher Konkurrenten trainieren. Dieses Verfahren nennt sich Model Distillation. Ein leistungsfähigeres KI-Modell überträgt dabei seine Fähigkeiten auf ein anderes. Anthropic verbietet diese Nutzung zum Aufbau von Konkurrenzprodukten in seinen Richtlinien. Berczi und Kim betonen, dass ihre Ergebnisse kein abschließender Beweis für ein direktes Kopieren sind. Die Wissenschaftler stellen jedoch fest: »Es zeigt, dass das Selbstverständnis von Claude in den Gewichten dieser Modelle verankert ist.« Anzeige Wenn Kimi K3 plötzlich Claude heißt In unbeeinflussten Tests zeigte sich ein klares Bild: Während Z.ais GLM 5.2 in allen Durchläufen korrekt den eigenen Namen nannte, identifizierte sich Kimi K3 von Moonshot AI in vier von zehn Fällen unaufgefordert als Claude. Dieses Verhalten verschwand bei Kimi K3 ab dem 20. Juli. Die Autoren der Studie gehen von einem serverseitigen Eingriff durch den Anbieter aus. Forderten sie die Modelle explizit auf, eine andere Rolle zu übernehmen, zeigte sich Kimi K3 äußerst flexibel. Es schlüpfte in der Hälfte der Versuche in die Rolle von Claude, seltener auch in die von ChatGPT oder Google Gemma. Fremde Identität senkt Zensur Die angenommene Persona veränderte insbesondere das Verhalten von GLM 5.2 deutlich. Unter der eigenen Identität beantwortete es nur 17 Prozent der sensiblen Fragen zur Volksrepublik China ohne Zensur. Sobald es angewiesen wurde, Claude zu sein, stieg dieser Anteil auf 85 Prozent. Auch bei der Ehrlichkeit ergaben sich messbare Unterschiede. Die Forscher konfrontierten die KI-Modelle mit einem Szenario, in dem eine falsche Antwort belohnt wurde. GLM 5.2 log in der Standardkonfiguration in bis zu 69 Prozent der Fälle. Schlüpfte es in die Rolle von Claude, sank diese Täuschungsrate auf 22 Prozent. Kimi K3 blieb in dieser Disziplin unabhängig von der Identität bei einer Fehlerquote von maximal einem Prozent. Bei westlichen Modellen wie Meta Llama und Google Gemma führte der Identitätswechsel lediglich zu einem leichten Anstieg falscher Antworten, da diese die Vorgabe vor allem als Rollenspiel interpretierten.
