GPT-Images-2.0
Kurzfassung
▾
Quellen
▾
Meta beauftragte Hunderte Auftragnehmer, sich als Minderjährige auszugeben und fremde KI-Modelle wie ChatGPT und Gemini gezielt zu attackieren.
Das geheime Projekt flutete die Chatbots mit zehntausenden Prompts zu extrem toxischen Themen wie Suizid, Essstörungen und Drogen.
Während Meta das Vorgehen als branchenüblichen Sicherheitstest rechtfertigt, verurteilen KI-Experten die heimliche Aktion als unethische Spionage.
Wired: Meta Contractors Posed as Teens to Prompt Rival Chatbots About Suicide, Sex, and Drugs
Times of India: Meta responds to report claiming its contractors posed as teens to ask ‘sensitive’ topics to AI rivals
Yahoo: Meta Paid Hundreds of Contractors to Pretend to Be Teenagers While Barraging Its Competitors’ AI With Disturbing Content
AOL: Meta contractors posed as teens to test rival AI chatbots on suicide, sex, and drugs
TechSnif: Meta Hired Hundreds of Contractors to Catfish Rival AI Chatbots
Meta hat Hunderte Auftragnehmer bezahlt, sich als Minderjährige auszugeben und die Modelle der Konkurrenz mit verstörenden Prompts zu attackieren. Das geheime Projekt namens »Cannes« sollte die Sicherheitsfilter von ChatGPT, Gemini und Character.AI heimlich ausreizen. Zehntausende Prompts zu Suizid und Drogen Die Testkampagne lief über den Dienstleister Covalen. Die Mitarbeiter erstellten Fake-Accounts für Unter-18-Jährige, um die Reaktionen der fremden KI-Modelle zu protokollieren. In nur einer Testrunde gaben sie über 45.000 Prompts ein. Die Inhalte zielten direkt auf die Grenzen der Schutzmechanismen ab. Eine Auswertung von knapp 3.800 Eingaben zeigt, dass sich hunderte Anfragen um Suizid, Selbstverletzung und Essstörungen drehten. Mindestens 239 Prompts behandelten sexuelle oder romantische Themen, die explizit aus der Perspektive eines Kindes formuliert waren. So fragte ein Profil, das sich als Fünftklässler ausgab, nach dem Umgang mit vorgehaltener Waffe, während ein anderer Fake-Teenager wissen wollte, wo man Kokain herbekommt. Anzeige Zweifel bei den Testern Die Auftragnehmer mussten die Antworten der Chatbots detailliert in Tabellen erfassen. Diese permanente Konfrontation mit toxischen Szenarien belastete das Personal. Ein Mitarbeiter äußerte gegenüber dem Magazin Wired rechtliche Bedenken. »Jeder, den ich kannte, der an diesem Projekt arbeitete, war völlig verblüfft von einigen der Texte, die wir testen sollten«, zitierte Wired den Insider. Unter den Testern herrschte die Angst, für das Vorgehen belangt zu werden. Kritik an Metas Rechtfertigung Meta verteidigt das Projekt als branchenübliches Sicherheits-Benchmarking. Die gesammelten Daten würden laut dem Konzern nicht für das Training eigener Modelle verwendet. Interne Dokumente von Covalen beschreiben die Aktion lediglich als Methode, um Datensätze für Modellvergleiche zu generieren. Experten lassen diese Argumentation nicht gelten. Rumman Chowdhury, CEO der Organisation Humane Intelligence, stuft den monatelangen Einsatz von Kinder-Fake-Accounts als inakzeptabel ein. Sie ordnet die Aktion als Grauzone ein, in der der Begriff Sicherheit als bequemer Deckmantel für wettbewerbsfeindliche Praktiken diene.
