Nano Banana
Kurzfassung
▾
Quellen
▾
Indonesien hat als erstes Land weltweit den Zugriff auf Elon Musks KI Grok wegen der Generierung sexualisierter Deepfakes gesperrt. Parallel erhöhen die EU und Großbritannien den regulatorischen Druck, während in Indien bereits hunderte Accounts gelöscht wurden. In den USA fordern Senatoren nun sogar, die X-App wegen der Verstöße komplett aus den App-Stores von Apple und Google zu entfernen.
TechCrunch – Indonesia blocks Grok over non-consensual, sexualized deepfakes
CNBC – Indonesia temporarily blocks access to Elon Musk’s Grok over sexualized images
CBS News – Indonesia suspends Grok AI over sexualised images
Elon Musks KI-Tool Grok ist in Indonesien ab sofort nicht mehr erreichbar. Das viertbevölkerungsreichste Land der Erde reagiert als erster Staat weltweit konsequent auf die Welle an sexualisierten Deepfakes und setzt damit ein massives Zeichen gegen unregulierte KI-Inhalte. Harte Reaktion auf Nacktbilder-Skandal Das indonesische Kommunikationsministerium hat den Zugriff auf den KI-Chatbot Grok offiziell blockiert. Die Regierung begründet diesen drastischen Schritt mit Verstößen gegen lokale Gesetze zur elektronischen Information und Transaktionen. Auslöser ist die Fähigkeit der KI, ohne Einschränkungen fotorealistische Nacktbilder von echten Personen zu generieren. Nutzer hatten in den vergangenen Tagen demonstriert, wie einfach sich mit Grok pornografische Inhalte von Prominenten, Politikern und sogar Minderjährigen erstellen lassen. Während andere KI-Modelle solche Anfragen meist abblocken, fehlten bei Grok entsprechende Sicherheitsfilter fast vollständig. Indonesien macht nun ernst und duldet diese Praxis nicht länger. Die Sperre gilt als vorübergehend, bis xAI nachbessert, sendet aber ein klares Signal an die Tech-Industrie. Es ist der erste Fall, in dem eine Regierung den Zugang zu einem großen LLM (Large Language Model) aufgrund spezifischer Inhaltsverstöße komplett kappt. Die Behörden in Jakarta fordern garantierte Mechanismen, die solche Generierungen zukünftig technisch unmöglich machen. Anzeige EU und Großbritannien erhöhen den Druck Auch in Europa spitzt sich die Lage für Elon Musk und sein Unternehmen xAI zu. Die EU-Kommission hat im Rahmen des Digital Services Act (DSA) ein formelles Verfahren eingeleitet und fordert die sofortige Sicherung von Beweismitteln. X muss alle Dokumente bezüglich der Entscheidungsprozesse bei Grok aufbewahren, um den Vorwürfen der fehlenden Risikominimierung nachzugehen. In Großbritannien eskaliert der Konflikt auf politischer Ebene. Premierminister Keir Starmer kündigte an, gegen die Verbreitung illegaler Deepfakes vorzugehen. Musk reagierte auf der Plattform X gewohnt provokant und bezeichnete Großbritannien als „Gefängnisinsel“. Diese verbale Auseinandersetzung könnte regulatorische Maßnahmen im Vereinigten Königreich weiter beschleunigen. Gleichzeitig gerät X in Indien unter Zugzwang. Nach massivem öffentlichen Druck und Regierungsanfragen hat die Plattform dort begonnen, hunderte Accounts zu löschen, die offensives Material verbreitet hatten. Das Unternehmen räumte Fehler ein und versicherte, sich an lokale Gesetze halten zu wollen. App-Stores in der Pflicht Die Kontroverse erreicht nun auch die Infrastruktur-Ebene der großen Tech-Giganten. In den USA fordern demokratische Senatoren Apple und Google dazu auf, die X-App mitsamt der integrierten Grok-Funktion aus ihren App-Stores zu entfernen. Sie argumentieren, dass die Verbreitung von nicht-einvernehmlichem sexuellen Material gegen die Richtlinien beider Store-Betreiber verstößt. Sollten Apple oder Google diesen Forderungen nachkommen, wäre das ein wirtschaftliches Desaster für Musk. Der Ausschluss aus den beiden dominierenden Ökosystemen würde die Reichweite von X und Grok massiv beschneiden. Der Druck auf xAI wächst somit nicht nur durch staatliche Regulierer, sondern auch durch die Gatekeeper der mobilen Welt.
