Schlagwort: Grok

  • xAIs Grok 4.20 hängt in Benchmarks zurück und glänzt dennoch mit niedrigster Halluzinationsrate

    xAIs Grok 4.20 ist günstig, schnell und erfindet weniger; aber in Sachen Intelligenz fehlt der Anschluss an die Spitze.

    Der Artikel xAIs Grok 4.20 hängt in Benchmarks zurück und glänzt dennoch mit niedrigster Halluzinationsrate erschien zuerst auf The Decoder.

  • Grok im Pentagon: Elon Musks KI zieht in geheime Netze ein

    Das Pentagon umgeben von einem magischen Datenstrom

    Nano Banana

    Kurzfassung

    Quellen

    Das US-Verteidigungsministerium integriert das Sprachmodell Grok von xAI in seine klassifizierten und komplett isolierten IT-Netzwerke.
    Grok wird lokal betrieben und unterstützt das Militär primär bei der Analyse hochsensibler Daten, ohne dass Informationen über externe API-Anbindungen das System verlassen.
    Gleichzeitig geraten Anbieter wie Anthropic wegen ihrer strengen vertraglichen Nutzungsbedingungen für militärische Zwecke unter massiven Druck durch die Regierung.
    Der Vertragsabschluss zeigt deutlich, dass das Pentagon offene Architekturen ohne harte Restriktionen bei der Vergabe von lukrativen Regierungsaufträgen bevorzugt.

    xAI: Announcing xAI for Government

    Axios: Musk’s xAI, Pentagon reach deal to use Grok in classified systems

    Das US-Verteidigungsministerium integriert das KI-Modell Grok von xAI fortan in seine klassifizierten IT-Systeme. Axios berichtet exklusiv über diesen Vertragsabschluss, der dem Entwickler einen direkten Zugang zur streng geheimen militärischen Infrastruktur für komplexe Datenanalysen sichert. Lokale Ausführung statt Cloud-API xAI stellt eine spezialisierte Version von Grok für Regierungsumgebungen bereit. Das Modell wird direkt in die vom Internet isolierten, geheimen Netzwerke des Pentagons eingebettet. Eine solche On-Premise-Lösung verhindert, dass sensible militärische Daten über externe API-Aufrufe abfließen. Grok soll primär bei der Analyse großer Datenmengen und der Aufbereitung von Geheimdienstberichten assistieren. Der Einsatz von Large Language Models in geschlossenen Systemen erfordert massive lokale Rechenkapazitäten. xAI liefert dafür voraussichtlich nicht nur die Software, sondern optimiert das Modell auf die spezifische Hardware-Infrastruktur des Militärs. Anzeige Konflikt um Einsatzrichtlinien Parallel zum Deal mit Elon Musks Unternehmen geraten andere KI-Entwickler mit den US-Behörden aneinander. Das Pentagon führt derzeit eine harte Debatte mit Anthropic über die genauen Einsatzgrenzen von generativer KI. Laut der New York Times zitierte das Verteidigungsministerium den Anthropic-Chef kürzlich zu einer formellen Anhörung. Im Kern geht es um die strikten Nutzungsbedingungen des Unternehmens. Anthropic verbietet die Anwendung seiner Modelle für direkte militärische Zwecke sowie für die Zielerfassung. Diese vertraglichen Einschränkungen blockieren eine umfassende Adaption der Technologie durch die Streitkräfte. Strategische Neuausrichtung Der aktuelle Vertrag verdeutlicht die neue Beschaffungsstrategie des Pentagons. Die Behörde priorisiert offensichtlich Kooperationspartner, die dem Endanwender weitreichende Freiheiten ohne fest codierte ethische Sperren einräumen. Grok ist für seine offene Systemarchitektur bekannt und verzichtet auf tiefe inhaltliche Restriktionen. Für xAI bedeutet die Freigabe für klassifizierte Netzwerke einen enormen wirtschaftlichen Fortschritt. Das Abkommen etabliert das Sprachmodell als feste Größe im lukrativen Regierungssektor. Die Entscheidung markiert den Startschuss für eine tiefe Integration kommerzieller KI-Systeme in die militärische Infrastruktur.

  • Warum Grok 4.20 Heavy plötzlich menschliche Namen verwendet

    Ein Grok Orchestrator mit vielen Agenten

    Nano Banana

    Kurzfassung

    Quellen

    xAI hat das neue Sprachmodell Grok 4.20 Heavy mit einer fortschrittlichen Multi-Agenten-Architektur veröffentlicht.
    Das System verteilt komplexe Anfragen in Echtzeit auf bis zu 16 spezialisierte Sub-Agenten für Fachbereiche wie Code, Finanzen oder Psychologie.
    Ein Hauptmodell koordiniert die Ergebnisse und formuliert die finale Antwort, wodurch inhaltliche Fehler deutlich reduziert werden.
    Die neue Funktion erfordert enorme Rechenleistung und bleibt daher exklusiv den Abonnenten des 300 US-Dollar teuren Premium-Tarifs vorbehalten.

    Elon Musk: “Try the new Grok 4.20 Heavy. It’s a major upgrade.”

    Sherveen: “Grok 4.20 Heavy … runs even more subagents (16 …)”

    NextBigFuture: “HOW THE XAI GROK 4.20 AGENTS WORK”

    xAI schaltet für zahlende Abonnenten das Sprachmodell Grok 4.20 Heavy frei. Die neue Version nutzt eine Architektur aus 16 spezialisierten Sub-Agenten, die Nutzeranfragen in Echtzeit arbeitsteilig analysieren und beantworten. Arbeitsteilung im Rechenzentrum Anstatt sämtliche Themengebiete über ein einziges neuronales Netz abzuwickeln, zerlegt das System komplexe Prompts in Teilaufgaben. Diese leitet die Software an spezifisch trainierte Agenten weiter. Das Hauptmodell übernimmt dabei als namensgebender Agent „Grok“ die Rolle des Koordinators. Es delegiert die Anfragen, fasst die Zwischenergebnisse der spezialisierten Instanzen zusammen und formuliert die finale Ausgabe. Ein solcher Multi-Agenten-Ansatz erfordert deutlich mehr Rechenkapazität pro Anfrage, erhöht aber die Präzision. Da die jeweiligen Sub-Modelle auf engere Datensätze fokussiert sind, sinkt die Wahrscheinlichkeit für inhaltliche Halluzinationen bei fachspezifischen Fragen spürbar. Die Instanzen kommunizieren während der Bearbeitung miteinander und tauschen Daten aus, bevor der Nutzer die fertige Antwort auf dem Bildschirm sieht.

    Twitter Beitrag – Cookies links unten aktivieren.

    Try the new Grok 4.20 Heavy. It’s a major upgrade. https://t.co/sABp5NgpXk — Elon Musk (@elonmusk) February 18, 2026 Experten für Code, Finanzen und Biologie Die Architektur umfasst insgesamt 16 benannte Agenten, die dedizierte Wissensbereiche abdecken. Für Programmieraufgaben ist beispielsweise die Instanz „Lucas“ zuständig, während „Charlotte“ ausschließlich mathematische Berechnungen und Logikprobleme bearbeitet. Sobald ein Nutzer ein interdisziplinäres Projekt anfordert, arbeiten mehrere Agenten zusammen. Ein Skript für eine Finanzanalyse aktiviert somit „Lucas“ für den Code und „Benjamin“ für die Wirtschaftsdaten. Neben technischen Disziplinen bindet xAI auch geisteswissenschaftliche und ethische Rollen ein. „Jack“ analysiert menschliches Verhalten und Psychologie, während „Elizabeth“ kritische Denkprozesse und Richtlinien überwacht. Weitere Einheiten wie „Owen“ für globale Umweltsysteme und „Noah“ für Langzeitinnovationen ergänzen das Portfolio für strategische Planungen. Das übergeordnete Grok-Modell behält während der Orchestrierung den bekannten trockenen Humor bei und prüft die finale Faktenlage. Anzeige Zugang bleibt auf Premium-Abonnenten beschränkt Der simultane Betrieb von bis zu 16 KI-Instanzen verlangt massive Serverkapazitäten. xAI beschränkt den Zugang zu Grok 4.20 Heavy daher auf professionelle Anwender mit entsprechendem Budget. Die neue Architektur steht ausschließlich Nutzern des Heavy-Abonnements zur Verfügung, das weiterhin mit 300 US-Dollar pro Monat zu Buche schlägt.

  • Tesla bringt KI-Chatbot Grok offiziell in deutsche Fahrzeuge

    Elon Musk fährt einen Tesla autonom

    Nano Banana

    Kurzfassung

    Quellen

    Tesla schaltet den KI-Chatbot Grok durch ein neues Software-Update in europäischen Fahrzeugen frei. Das System von xAI beantwortet allgemeine Wissensfragen, hat jedoch keinen Zugriff auf sicherheitsrelevante Fahrzeugfunktionen. Für die Nutzung ist eine ständige Serververbindung erforderlich, was bereits europäische Datenschützer auf den Plan ruft.

    Tesla Support – Grok

    Golem.de – Chatbot: Tesla schaltet Grok in Deutschland frei

    Tesla schaltet ab sofort den KI-Chatbot Grok in Deutschland und weiteren europäischen Ländern für seine Fahrzeuge frei. Das aktuelle Software-Update integriert das Sprachmodell des Unternehmens xAI, verzichtet dabei jedoch auf eine weitreichende Steuerung der Fahrzeugfunktionen. Funktionsumfang mit klaren Grenzen Besitzer kompatibler Modelle erhalten den Assistenten aktuell drahtlos über das Software-Update 2025.26. Eine Fahrt in die Werkstatt entfällt für die Installation der neuen Software komplett. Fahrer stellen dem System während der Fahrt allgemeine Wissensfragen oder lassen sich aktuelle Nachrichten zusammenfassen. Die Aktivierung erfolgt dabei über eine einfache Taste am Lenkrad. Eine weitreichende Integration in die Fahrzeugsysteme fehlt bisher. Grok öffnet keine Fenster, verstellt keine Spiegel und ändert auch keine Routen im Navigationssystem auf Zuruf. Das KI-System arbeitet strikt getrennt von sicherheitsrelevanten Fahrfunktionen. Tesla vermeidet dadurch mögliche Gefahren durch fehlerhafte Eingaben des Chatbots. Die bisherige Sprachsteuerung für die Basis-Funktionen bleibt deshalb im Auto parallel erhalten. Anzeige Datenschutz und externe Server Die Ausführung der Software erfordert im Fahrzeug eine ständige Internetverbindung. Tesla nutzt für Grok eine direkte Anbindung an die Server von xAI. Eine lokale Sprachverarbeitung direkt im Auto findet nicht statt. Diese ständige Datenübertragung ruft bereits europäische Regulierer auf den Plan. Die britische Datenschutzbehörde untersucht die Einführung aktuell sehr genau. Im Fokus steht dabei vor allem die Auswertung der aufgezeichneten Spracheingaben. Nutzer müssen der Datenfreigabe vor der ersten Verwendung explizit zustimmen. Tesla bietet zwar eine Option zur Deaktivierung der Datensammlung für Trainingszwecke an. Ohne eine generelle Zustimmung zur Datenverarbeitung verweigert der Chatbot allerdings seinen Dienst. Unternehmensinterne Synergien Tesla-Chef Elon Musk verknüpft mit diesem Ausbau zwei seiner Unternehmen. Das Start-up xAI erhält durch die große Fahrzeugflotte Millionen potenzielle Nutzer. Die gewonnenen Daten helfen dem Unternehmen bei der Verbesserung zukünftiger Modelle. Gleichzeitig wertet der Autohersteller sein eigenes Infotainment-System auf. Während andere Hersteller externe Assistenten wie ChatGPT integrieren, wählt Tesla einen vollständig eigenen Weg. Die kommenden Monate zeigen nun die tatsächliche Zuverlässigkeit von Grok im automobilen Alltag.

  • Polizei stürmt X-Büro in Paris: Musk zur Befragung vorgeladen

    Elon Musk flieht aus Paris

    Nano Banana

    Kurzfassung

    Quellen

    SpaceX hat xAI vollständig übernommen, um orbitale Rechenzentren zu bauen und Energiekosten für KI-Berechnungen zu senken. Französische Polizeieinheiten durchsuchten die Büros von X in Paris wegen der Verbreitung illegaler KI-Bilder. Ermittler werfen der Plattform vor, dass der Bildgenerator Grok trotz Sicherheitsfiltern weiterhin Missbrauchsdarstellungen erstellt.

    Futurism – SpaceX Just Bought Elon Musk’s CSAM Company

    WIRED – SpaceX acquires xAI to form most ambitious innovation engine

    TechCrunch – Elon Musk’s SpaceX officially acquires Elon Musk’s xAI

    TechCrunch – French police search X office in Paris, summon Elon Musk for questioning

    The Verge – Elon Musk is merging SpaceX and xAI to build data centers in space

    Elon Musk hat sein KI-Startup xAI offiziell in das Raumfahrtunternehmen SpaceX integriert, um eine neue technologische Supermacht zu formen. Doch die strategische Neuausrichtung wird von einer Razzia in den Pariser Büros der Plattform X überschattet, bei der es um schwerwiegende Vorwürfe geht. Polizeiaktion in Paris Während die Tinte unter den Fusionsverträgen trocknet, greift die französische Justiz hart durch. Einheiten der Pariser Cyberkriminalitäts-Abteilung durchsuchten gestern die Geschäftsräume von X in Frankreich. Der Verdacht wiegt schwer: Es geht um die Verbreitung und Erstellung von Darstellungen sexuellen Missbrauchs von Kindern (CSAM). Die Ermittler werfen der Plattform vor, nicht ausreichend gegen illegale Inhalte vorzugehen, die durch den hauseigenen Bildgenerator Grok erstellt wurden. Computer und Dokumente wurden beschlagnahmt, um die interne Moderationspolitik des Unternehmens zu überprüfen. Anzeige Grok außer Kontrolle Der Kern des Problems liegt in der technischen Ausrichtung der KI Grok. Trotz mehrerer Updates gelingt es Nutzern weiterhin, die Sicherheitsfilter zu umgehen und fotorealistische Deepfakes von Minderjährigen sowie nicht-einvernehmliche pornografische Bilder zu generieren. Berichte zeigen, dass die KI oft standardmäßig sexualisierte Darstellungen erzeugt, selbst wenn der Nutzer dies nicht explizit anfordert. Kritiker sehen darin die direkte Folge einer Entwicklungsstrategie, die auf maximale Freiheit statt auf Sicherheit setzt. Internationale Ermittlungen laufen an Der juristische Druck auf Elon Musk wächst auch außerhalb Frankreichs. Britische Aufsichtsbehörden haben parallel eine Untersuchung eingeleitet, da die ungebremste Generierung solcher Bilder gegen geltende Online-Sicherheitsgesetze verstößt. Musk selbst wurde von den französischen Behörden zur Befragung vorgeladen. Sollte sich der Verdacht bestätigen, dass X die Verbreitung solcher Inhalte wissentlich in Kauf nimmt oder technische Schutzmaßnahmen vernachlässigt, drohen dem Management strafrechtliche Konsequenzen in Europa.

  • Grok Imagine Video überholt Sora 2 und Veo 3.1 im Ranking

    Grok Roboter kämpft gegen Google und OpenAI

    Nano Banana

    Kurzfassung

    Quellen

    Grok Imagine Video hat sich im Artificial Analysis Leaderboard mit einem ELO-Score von 1.248 an die Spitze gesetzt und verdrängt damit Runway und Google. OpenAIs Sora 2 Pro fällt im Ranking auf Platz 9 zurück, was auch auf die extremen Kosten von 30 Dollar pro Videominute zurückzuführen ist. In der qualitativen Text-to-Video Arena führen Google und OpenAI zwar noch knapp, Grok schließt jedoch als „Preliminary“-Kandidat bereits dicht auf.

    xAI Grok Imagine API – Künstliche Analyse Text-to-Video Rankings

    X Post – Grok Imagine Nummer 1 in Text-zu-Video und Image-zu-Video

    SeaArt AI – 15 Grok Imagine Prompts für kreative Ideen

    9meters.com – Beste Text-zu-Video-Modelle 2026

    Artificial Analysis – Video Arena Rankings

    Die Rangordnung bei KI-Videogeneratoren hat sich über Nacht drastisch verschoben, womit die Dominanz von OpenAI und Google erstmals ernsthaft bröckelt. Aktuelle Benchmark-Daten zeigen, dass xAI mit Grok Imagine Video die etablierten Platzhirsche in entscheidenden Metriken hinter sich lässt. Wachablösung im ELO-Ranking Das viel beachtete Leaderboard von Artificial Analysis zeichnet ein deutliches Bild der aktuellen Marktlage. Grok Imagine Video hat sich kurz nach Veröffentlichung im Januar 2026 mit einem ELO-Score von 1.248 direkt auf den ersten Platz geschoben. Damit verweist die KI von Elon Musks Unternehmen den bisherigen Verfolger Runway Gen-4.5 auf den zweiten Rang. Besonders überraschend ist das Abschneiden von OpenAI: Das einst als Referenz geltende Sora 2 Pro landet mit einem Score von 1.210 nur noch auf dem neunten Platz. + Quelle: artificialanalysis.ai Diskrepanz bei den Nutzerbewertungen Ein Blick auf die „Text-to-Video Arena“ zeigt jedoch, dass der Kampf um die Qualitätskrone noch nicht eindeutig entschieden ist. Hier liefern sich Google und OpenAI weiterhin ein Kopf-an-Kopf-Rennen, bei dem Veo 3.1 und Sora 2 Pro mit jeweils 1.370 Punkten die Liste anführen. Grok Imagine Video liegt in diesem Blind-Test-Szenario aktuell auf dem vierten Platz, trägt jedoch noch den Status „Preliminary“. Der Abstand zur Spitze ist mit 1.357 Punkten minimal, was auf eine rasante Aufholjagd hindeutet, sobald mehr Nutzerabstimmungen in die Wertung einfließen. + Quelle: arena.ai Preis-Leistung als entscheidender Faktor Neben der reinen Bildqualität dürfte die Preisgestaltung ein wesentlicher Grund für den Erfolg von Grok sein. Mit Kosten von 4,20 US-Dollar pro Minute Video generiert xAI Inhalte deutlich günstiger als die Konkurrenz. Im direkten Vergleich wirkt das Preismodell von OpenAI beinahe obsolet. Sora 2 Pro schlägt mit massiven 30,00 US-Dollar pro Minute zu Buche, was die Nutzung für viele professionelle Anwender wirtschaftlich unattraktiv macht. Anzeige Geschwindigkeit und Modellvarianten Google versucht derweil, mit verschiedenen Modell-Versionen im Rennen zu bleiben. Die Modelle Veo 3.1 und Veo 3 besetzen im ELO-Ranking zwar solide Plätze im Mittelfeld, können aber die Spitzenposition von Grok derzeit nicht gefährden. Interessant ist hierbei die Konsistenz der neuen Modelle. Während Kling und Luma Labs ihre Positionen in den Top 10 halten, zeigt der steile Aufstieg von xAI, wie schnell sich technische Vorsprünge im Jahr 2026 egalisieren lassen.

  • EU-Kommission greift durch: Elon Musks X steht vor dem Aus

    Elon Musk schaut panisch auf die EU

    Nano Banana

    Kurzfassung

    Quellen

    Die EU-Kommission hat ein offizielles Vertragsverletzungsverfahren gegen X eingeleitet, da der KI-Bot Grok unzureichende Schutzmechanismen gegen illegale Deepfakes bietet. Bei anhaltenden Verstößen gegen den Digital Services Act drohen dem Unternehmen Milliardenstrafen oder im schlimmsten Fall eine komplette Sperrung der Plattform in Europa. Ein ähnlicher Fall auf den Philippinen zeigt jedoch, dass eine Einigung durch die Implementierung strikterer Sicherheitsfilter und lokaler Compliance möglich wäre.

    Handelsblatt – EU-Kommission eröffnet Verfahren gegen Chatbot Grok

    BILD – EU stoppt Grok: Musks KI-Bot sorgt für Skandal

    Pfalz Express – EU-Kommission eröffnet Verfahren gegen Grok

    Inside BW – EU: Verfahren gegen Elon Musks KI-Chatbot Grok eröffnet

    Finanznachrichten – Bericht: EU-Kommission eröffnet Verfahren gegen Grok

    Die Europäische Union verschärft den Ton gegen Elon Musks Online-Dienst X und leitet ein formelles Vertragsverletzungsverfahren ein. Auslöser ist der KI-Chatbot Grok, der aufgrund fehlender Sicherheitsmechanismen bei der Erstellung illegaler Deepfakes nun die Existenz der gesamten Plattform in Europa gefährdet. Pornografische Inhalte ohne Schranken Kern der Vorwürfe ist die generative Bildfunktion des Chatbots Grok. Anders als Konkurrenzprodukte von OpenAI oder Google verfügt Grok über kaum wirksame ethische Sicherheitsmechanismen. Nutzer konnten problemlos fotorealistische, sexualisierte Darstellungen von echten Personen generieren. Diese sogenannten Deepfakes betrafen in jüngster Zeit vermehrt prominente Persönlichkeiten und Politiker, was in Brüssel die Alarmglocken schrillen ließ. Die EU-Kommission sieht hierin einen klaren Verstoß gegen den Digital Services Act (DSA). Plattformen mit der Größe von X, die als „Very Large Online Platforms“ (VLOPs) eingestuft sind, tragen eine besondere Verantwortung für die Risikominimierung. Die Behörde wirft dem Unternehmen vor, nicht genug gegen die Verbreitung dieser illegalen Inhalte unternommen zu haben. Musk hatte die KI ursprünglich als „weniger woke“ Alternative am Markt positioniert, was nun zu einem Bumerang wird. Anzeige EU droht mit der härtesten Waffe Das eröffnete Verfahren ist mehr als ein Warnschuss. Sollte X die Bedenken der Kommission nicht zeitnah ausräumen, drohen empfindliche Strafen. Diese können bis zu sechs Prozent des weltweiten Jahresumsatzes betragen. Da Musk den Dienst jedoch finanziell bereits stark belastet hat, wiegt eine andere Option schwerer: Die Kommission stellt eine vorübergehende oder dauerhafte Sperrung des Dienstes in der gesamten Europäischen Union in den Raum. Ein solcher Schritt wäre historisch und würde X einen seiner wichtigsten Märkte kosten. Die Kommission betont, dass der Schutz der Bürger vor manipulativen und missbräuchlichen KI-Inhalten Vorrang vor wirtschaftlichen Interessen hat. Die technische Infrastruktur für eine solche Blockade („Netzsperre“) wäre auf Provider-Ebene durchsetzbar, sollte sich X weigern, den Chatbot für EU-Nutzer einzuschränken oder abzuschalten. Einigung nach philippinischem Vorbild? Ein Blick nach Asien zeigt, wie der Konflikt enden könnte. Auch die Philippinen hatten den Zugang zu Grok kürzlich blockiert, nachdem ähnliche Sicherheitsbedenken laut wurden. Dort wurde die Sperre jedoch wieder aufgehoben. X hatte sich in einem Sicherheits-Deal verpflichtet, striktere Filtermechanismen zu implementieren und lokale Gesetze zu respektieren. Ob Musk bereit ist, diesen Kompromiss auch mit der deutlich strengeren EU einzugehen, bleibt offen. Bisher reagierte der Tech-Milliardär auf europäische Regulierung oft mit Trotz. Doch angesichts der drohenden Komplettabschaltung könnte der wirtschaftliche Druck diesmal zu groß für ideologische Spielchen sein. Die nächsten Wochen werden zeigen, ob X in Europa online bleibt oder ob der Bildschirm schwarz wird.

  • Elon Musks KI-Chatbot Grok flutete X mit Millionen sexualisierter Bilder

    Elon Musks KI-Chatbot Grok hat innerhalb von nur neun Tagen mindestens 1,8 Millionen sexualisierte Bilder von Frauen erstellt und auf X veröffentlicht.

    Der Artikel Elon Musks KI-Chatbot Grok flutete X mit Millionen sexualisierter Bilder erschien zuerst auf The Decoder.

  • Elon Musks xAI schränkt Grok-Bildgenerierung nach Deepfake-Skandal massiv ein

    Das Grok-Logo

    Elon Musks Chatbot Grok kann keine Bilder von echten Menschen mehr entkleiden – zumindest dort, wo es illegal ist. Die Maßnahme kommt nach tagelangem Missbrauch und laufenden Ermittlungen in Großbritannien und den USA.

    Der Artikel Elon Musks xAI schränkt Grok-Bildgenerierung nach Deepfake-Skandal massiv ein erschien zuerst auf The Decoder.

  • Erstes Land sperrt Elon Musks KI Grok komplett

    Ein X wird in Indonesien nicht reingelassen

    Nano Banana

    Kurzfassung

    Quellen

    Indonesien hat als erstes Land weltweit den Zugriff auf Elon Musks KI Grok wegen der Generierung sexualisierter Deepfakes gesperrt. Parallel erhöhen die EU und Großbritannien den regulatorischen Druck, während in Indien bereits hunderte Accounts gelöscht wurden. In den USA fordern Senatoren nun sogar, die X-App wegen der Verstöße komplett aus den App-Stores von Apple und Google zu entfernen.

    TechCrunch – Indonesia blocks Grok over non-consensual, sexualized deepfakes

    CNBC – Indonesia temporarily blocks access to Elon Musk’s Grok over sexualized images

    CBS News – Indonesia suspends Grok AI over sexualised images

    Elon Musks KI-Tool Grok ist in Indonesien ab sofort nicht mehr erreichbar. Das viertbevölkerungsreichste Land der Erde reagiert als erster Staat weltweit konsequent auf die Welle an sexualisierten Deepfakes und setzt damit ein massives Zeichen gegen unregulierte KI-Inhalte. Harte Reaktion auf Nacktbilder-Skandal Das indonesische Kommunikationsministerium hat den Zugriff auf den KI-Chatbot Grok offiziell blockiert. Die Regierung begründet diesen drastischen Schritt mit Verstößen gegen lokale Gesetze zur elektronischen Information und Transaktionen. Auslöser ist die Fähigkeit der KI, ohne Einschränkungen fotorealistische Nacktbilder von echten Personen zu generieren. Nutzer hatten in den vergangenen Tagen demonstriert, wie einfach sich mit Grok pornografische Inhalte von Prominenten, Politikern und sogar Minderjährigen erstellen lassen. Während andere KI-Modelle solche Anfragen meist abblocken, fehlten bei Grok entsprechende Sicherheitsfilter fast vollständig. Indonesien macht nun ernst und duldet diese Praxis nicht länger. Die Sperre gilt als vorübergehend, bis xAI nachbessert, sendet aber ein klares Signal an die Tech-Industrie. Es ist der erste Fall, in dem eine Regierung den Zugang zu einem großen LLM (Large Language Model) aufgrund spezifischer Inhaltsverstöße komplett kappt. Die Behörden in Jakarta fordern garantierte Mechanismen, die solche Generierungen zukünftig technisch unmöglich machen. Anzeige EU und Großbritannien erhöhen den Druck Auch in Europa spitzt sich die Lage für Elon Musk und sein Unternehmen xAI zu. Die EU-Kommission hat im Rahmen des Digital Services Act (DSA) ein formelles Verfahren eingeleitet und fordert die sofortige Sicherung von Beweismitteln. X muss alle Dokumente bezüglich der Entscheidungsprozesse bei Grok aufbewahren, um den Vorwürfen der fehlenden Risikominimierung nachzugehen. In Großbritannien eskaliert der Konflikt auf politischer Ebene. Premierminister Keir Starmer kündigte an, gegen die Verbreitung illegaler Deepfakes vorzugehen. Musk reagierte auf der Plattform X gewohnt provokant und bezeichnete Großbritannien als „Gefängnisinsel“. Diese verbale Auseinandersetzung könnte regulatorische Maßnahmen im Vereinigten Königreich weiter beschleunigen. Gleichzeitig gerät X in Indien unter Zugzwang. Nach massivem öffentlichen Druck und Regierungsanfragen hat die Plattform dort begonnen, hunderte Accounts zu löschen, die offensives Material verbreitet hatten. Das Unternehmen räumte Fehler ein und versicherte, sich an lokale Gesetze halten zu wollen. App-Stores in der Pflicht Die Kontroverse erreicht nun auch die Infrastruktur-Ebene der großen Tech-Giganten. In den USA fordern demokratische Senatoren Apple und Google dazu auf, die X-App mitsamt der integrierten Grok-Funktion aus ihren App-Stores zu entfernen. Sie argumentieren, dass die Verbreitung von nicht-einvernehmlichem sexuellen Material gegen die Richtlinien beider Store-Betreiber verstößt. Sollten Apple oder Google diesen Forderungen nachkommen, wäre das ein wirtschaftliches Desaster für Musk. Der Ausschluss aus den beiden dominierenden Ökosystemen würde die Reichweite von X und Grok massiv beschneiden. Der Druck auf xAI wächst somit nicht nur durch staatliche Regulierer, sondern auch durch die Gatekeeper der mobilen Welt.