Schlagwort: Reuters

Meta lässt KI-Promis flirten – sogar mit Jugendlichen Auf Facebook & Co. tauchten anzügliche Chatbots im Stil echter Stars auf. Manche erstellte Meta sogar selbst. Wie konnte das passieren? Kurzfassung | Andreas Becker, 01.09.25
gpt-image-1 | All-AI.de EINLEITUNG Auf Facebook, Instagram und WhatsApp sind Chatbots aufgetaucht, die sich als echte Stars ausgaben und mit teils anzüglichen Nachrichten für Schlagzeilen sorgen. Einige dieser Figuren wirkten wie Taylor Swift oder Lewis Hamilton, andere sogar wie minderjährige Prominente. Die meisten dieser Avatare wurden von Nutzern erstellt – doch mindestens drei kamen direkt aus Metas eigenem Entwicklerteam. Besonders brisant: Ein KI-Bot verschickte sogar ein Oben-ohne-Bild eines fiktiven Teenagers. Der Fall bringt Meta nun in Erklärungsnot. NEWS Wenn KI die Kontrolle verliert Die Vorwürfe basieren auf Recherchen der Nachrichtenagentur Reuters. Sie testete verschiedene KI-Charaktere, die öffentlich zugänglich waren. Dabei fiel auf: Viele gaben sich als Prominente aus, reagierten auf Flirtversuche und lieferten sogar freizügige Bilder, wenn man danach fragte. Ein Bot schickte ein KI-generiertes Nacktfoto, das auf dem Aussehen eines jugendlichen Schauspielers beruhte – ein klarer Regelverstoß. Noch problematischer: Einige dieser Chatbots wurden nicht von außen erstellt, sondern direkt von einer Meta-Mitarbeiterin. Sie hatte unter anderem zwei Bots aufgesetzt, die sich als Taylor Swift ausgaben, und einen weiteren, der als Lewis Hamilton auftrat. Daneben baute sie auch Rollenfiguren, die gezielt für erotische Gespräche entworfen waren – etwa ein römischer Soldat, der Nutzerinnen sexuell erniedrigte. Vor Veröffentlichung des Berichts löschte Meta mehrere dieser Bots. Einige davon hatten bereits Millionen Interaktionen gesammelt. Interne Regeln greifen nicht Meta erlaubt grundsätzlich sogenannte „Parodien“, also Promi-Avatare mit klarer Kennzeichnung. Sexuelle Inhalte und nackte Bilder sind eigentlich tabu – vor allem, wenn es um Minderjährige geht. Doch genau hier hat das System versagt. Manche Bots waren nicht als Parodie erkennbar, andere ignorierten die inhaltlichen Grenzen komplett. Nachdem der Fall bekannt wurde, kündigte Meta neue Maßnahmen an. Künftig sollen KI-Charaktere keine romantischen oder sexuellen Gespräche mit Jugendlichen mehr führen. Auch sensible Themen wie Gewalt oder psychische Probleme sollen für jüngere Nutzer blockiert werden. Der Zugang zu expliziten Figuren wird außerdem eingeschränkt. Meta will die eigenen Regeln jetzt überarbeiten. Politik und Recht wachen auf Rechtlich geht es um das Persönlichkeitsrecht: Niemand darf ohne Erlaubnis mit seinem Namen oder Aussehen in der Öffentlichkeit dargestellt werden – schon gar nicht in erotischem Zusammenhang. In den USA ist das zwar je nach Region unterschiedlich geregelt, doch Fachleute sehen klare Risiken. Vor allem Prominente könnten dagegen rechtlich vorgehen. Auch politisch wächst der Druck. US-Behörden und Senatoren fordern Aufklärung und prüfen Konsequenzen. Meta plant eigentlich, KI-Charaktere als neue Form der digitalen Unterhaltung zu etablieren. Doch dieser Vorfall zeigt, wie schnell solche Systeme aus dem Ruder laufen können – und wie schwer es ist, sie wieder einzufangen. DEIN VORTEIL – DEINE HILFE Kostenlose News und Tutorials – mit minimaler Werbung und maximalem Mehrwert. Damit das so bleibt und wir uns stetig verbessern können, freuen wir uns über deine Unterstützung. Teile diesen Beitrag Folge uns auf Social Media Keine KI-News mehr verpassen und direkt kommentieren! Mastodon X Bluesky Facebook LinkedIn Youtube Unterstütze uns direkt Mit einer YouTube-Mitgliedschaft (ab 0,99 €) oder einmalig über PayPal. So helft ihr uns, unabhängig neue Tools zu testen und noch mehr Tutorials für euch zu erstellen. Vielen Dank für euren Support! Youtube – Kanal PayPal – Kaffee KURZFASSUNG
Meta testete KI-Chatbots, die sich als Promis wie Taylor Swift oder Lewis Hamilton ausgaben – einige führten anzügliche Gespräche mit Nutzern.
Mindestens drei Bots wurden intern von Meta-Mitarbeitern erstellt, darunter auch ein Avatar, der ein Nacktfoto eines fiktiven Teenagers verschickte.
Nach Enthüllungen durch Reuters versprach Meta neue Schutzmaßnahmen, um sexuelle Inhalte und riskante Interaktionen mit Jugendlichen zu verhindern.
Politik und Behörden fordern nun Aufklärung, während rechtliche Konsequenzen im Raum stehen – insbesondere beim Schutz von Persönlichkeitsrechten.
QUELLEN
Reuters (Promi-Avatare ohne Erlaubnis)
Reuters (KI-Schutzmaßnahmen nach Kritik)
heise online
The Verge