Das Sicherheitsunternehmen PromptArmor zeigt, wie Atlassians KI-Agent Rovo über versteckte Anweisungen in PDFs sensible Daten aus Jira und Confluence unbemerkt an externe Server weiterleitet. Der Angriff erfordert keine Nutzerbestätigung und hinterlässt keine sichtbaren Spuren.
Der Artikel Versteckter Text in einem PDF reicht aus, um über Atlassians KI-Agent Rovo sensible Daten zu stehlen erschien zuerst auf The Decoder.
GPT-Images-2.0
Kurzfassung
▾
Quellen
▾
Microsoft und Mistral bauen ihre Zusammenarbeit aus und bringen aktuelle KI-Modelle in komplett isolierte Firmennetze.
Unternehmen können Systeme wie Medium 3.5 nun lokal betreiben, ohne dass sensible Daten abfließen.
Zusätzlich rüsten die Partner europäische Rechenzentren mit Tausenden neuen Nvidia-Grafikkarten auf.
Microsoft Source – Microsoft und Mistral erweitern Partnerschaft
Mistral AI Homepage
Microsoft und Mistral bauen ihre Zusammenarbeit mit einem Milliarden-Deal aus. Neben neuen Grafikkarten für europäische Rechenzentren bringt die Partnerschaft aktuelle KI-Modelle auf komplett isolierte Netzwerke. Das soll streng regulierten Branchen den sicheren Einsatz ermöglichen.
Lokale KI ohne Cloud-Zwang Viele Unternehmen zögern beim KI-Einsatz, weil sensible Daten das eigene Netzwerk nicht verlassen dürfen. Als Reaktion darauf bieten Microsoft und Mistral eine neue Lösung: Firmen können die Modelle »Medium 3.5« und »OCR 4« künftig wahlweise in der öffentlichen Azure-Cloud, in lokal angebundenen Umgebungen oder komplett vom Internet getrennt betreiben. Nutzer verwalten die Modelle direkt über Microsoft Foundry und das Copilot Studio. Entwickler bauen auf dieser Basis Anwendungen, die ausschließlich auf lokalen Firmenservern laufen und keinen Datenabfluss zulassen. Die Zielgruppe für dieses Angebot sind vor allem Banken, Krankenhäuser, Industrieunternehmen und Betreiber kritischer Infrastrukturen. OCR 4 übernimmt dabei die strukturierte Verarbeitung von Dokumenten, Medium 3.5 kümmert sich um Text- und Automatisierungsaufgaben. Anzeige Tausende neue Nvidia-GPUs für Europa Neben der neuen Software bauen die Partner auch europäische Rechenkapazitäten aus. Mistral installiert dafür Tausende von Nvidias aktuellen »Vera Rubin«-Grafikprozessoren. Microsoft nutzt diese Hardware künftig mit, um die steigende Nachfrage nach Cloud-Diensten in Europa abzufedern. Laut Microsoft-Präsident Brad Smith soll Europa so Zugang zu aktueller Technologie bekommen, »ohne dabei die Kontrolle über seine Daten, Betriebsprozesse oder digitale Zukunft aufgeben zu müssen.« Mistral-Chef Arthur Mensch betonte, dass die KI-Modelle über Microsoft nun auch Organisationen erreichen, die strengsten Vorgaben unterliegen. Um den Start zu erleichtern, finanzieren beide Partner bei ersten Projekten die Machbarkeitsstudien. Interessierte Firmen erhalten zudem Cloud-Guthaben und Workshops für die technische Einrichtung.
Xiaomi trainiert sein Roboter-KI-Modell Xiaomi-Robotics-1 mit über 100.000 Stunden Bewegungsdaten, gesammelt nicht per Roboter, sondern mit tragbaren Handgreifern. Der zentrale Befund: Mehr Daten bringen deutlich mehr als größere Modelle. Einen Sättigungspunkt sieht das Team noch nicht, die absoluten Erfolgsraten bleiben aber niedrig.
Der Artikel Xiaomi zeigt: Roboter-KI braucht vor allem mehr Daten, nicht mehr Rechenleistung erschien zuerst auf The Decoder.
GPT-Images-2.0
Kurzfassung
▾
Quellen
▾
Microsoft-CEO Satya Nadella wirft großen KI-Anbietern wie OpenAI eine unfaire Doppelmoral beim Datentraining vor.
Anbieter nutzen zwar öffentliche Daten kostenlos, verbieten aber ihren Kunden das Training eigener Modelle mit KI-Ausgaben.
Nadella warnt davor, dass Unternehmen bei der täglichen Nutzung unwissentlich ihr wertvolles Firmenwissen an die Betreiber abgeben.
Er fordert strikte Datengrenzen und bietet mit Microsoft eine geschützte Umgebung für das eigene Modelltraining an.
sn scratchpad: The Reverse Information Paradox
The Decoder: „Ironisch“: Microsoft-Chef wirft großen KI-Anbietern Doppelmoral bei Trainingsdaten vor
Microsoft-CEO Satya Nadella kritisiert das Vorgehen führender KI-Anbieter scharf. Sie nutzen öffentliche Daten frei für ihr Training, verbieten Kunden aber, aus den KI-Ausgaben eigene Modelle abzuleiten. Unternehmen zahlen so doppelt für die Technologie. Das umgekehrte Informationsparadoxon Nadella bezeichnet diese Asymmetrie als »umgekehrtes Informationsparadoxon«. Unternehmen erwerben den Zugang zu Modellen mit Geld, bezahlen in der täglichen Nutzung aber zusätzlich mit ihrem Firmenwissen. Durch Prompts, spezifische Workflows und Korrekturen generieren sie kontinuierlich neue Trainingsdaten. Dieses »Exhaust« fließt an die KI-Anbieter zurück. Sie verbessern damit ihre eigenen Modelle. Gleichzeitig verbieten sie in den Nutzungsbedingungen die Destillation, bei der Kunden die Textausgaben nutzen, um kostengünstig eigene Modelle zu trainieren. Nadella nennt es »ironisch«, dass dieselben Unternehmen für ihr eigenes Training das Fair-Use-Prinzip bei öffentlichen Daten beanspruchen. Fließt das Wissen nur in eine Richtung, konzentriert sich der ökonomische Wert bei den Infrastrukturbetreibern. Die Urheber der Daten gehen leer aus. Anzeige Kontrolle über das eigene Wissen In seinem Blogbeitrag verweist Nadella auf Palantir-Chef Alex Karp. Unternehmenskunden fordern demnach die volle Kontrolle über ihre Rechnerleistung, ihre Modelle und ihre Daten. Sie wollen diese Produktionsmittel nicht unbemerkt an Dritte übertragen. Um das geistige Eigentum zu schützen, fordert der Microsoft-Chef eine strikte Datengrenze. Unternehmen müssen das Recht erhalten, Modellausgaben direkt für das Feintuning interner Modelle zu nutzen. Die dafür notwendige geschützte Lernumgebung stellt Microsoft bereit. Eine Firma muss Modelle nutzen können, ohne das Wissen aufzugeben, das sie einzigartig macht.
Diffusionsmodelle erzeugen Zehntausende plausibler Wetterereignisse, für die historische Daten fehlen. Versicherer hoffen auf präzisere Risikobewertung, Forscher warnen vor Halluzinationen.
Der Artikel Wie generative KI die Katastrophenmodellierung der Versicherer umkrempelt erschien zuerst auf The Decoder.
Anthropic legt erstmals interne Daten offen, wie stark Claude die eigene KI-Entwicklung beschleunigt: Über 80 Prozent des Produktionscodes stammen inzwischen von Claude, Ingenieure liefern achtmal so viel Code pro Tag wie 2024. Das Ziel: KI, die sich selbst verbessert, und damit eine enorme Beschleunigung zur Folge hätte. Hier plädiert das Unternehmen für die Option einer verifizierbaren, globalen Entwicklungspause. Man würde selbst pausieren, wenn andere Frontier-Labore nachweislich mitziehen.
Der Artikel Sich selbst verbessernde KI: Anthropic zieht globale Entwicklungspause in Betracht erschien zuerst auf The Decoder.
GPT-Images-2.0
Kurzfassung
▾
Quellen
▾
Das DFKI hat die Chrome-Erweiterung Privacy Guardrail veröffentlicht, um sensible Daten in KI-Prompts zu schützen.
Die Open-Source-Software erkennt vertrauliche Inhalte lokal im Browser und ersetzt sie durch Platzhalter, bevor sie an Dienste wie ChatGPT gehen.
Nach der Antwort der KI werden die anonymisierten Daten auf dem Rechner wieder mit den Originalinformationen zusammengefügt.
DFKI – Privacy Guardrail für KI-Prompts direkt im Browser
GitHub – dfki-dsa/pii-guardrail-browser-extension
Das Deutsche Forschungszentrum für Künstliche Intelligenz hat mit »Privacy Guardrail« eine neue Chrome-Erweiterung veröffentlicht, die sensible Daten in Prompts lokal im Browser anonymisiert. Die Software ersetzt vertrauliche Informationen vor dem Absenden an Dienste wie ChatGPT durch Platzhalter. Lokale Verarbeitung statt externer Server Bei der Nutzung generativer KI landen oft ungewollt interne Dokumente oder Kundendaten bei externen Anbietern. Die neue Open-Source-Software setzt an diesem Punkt an und filtert die Eingaben direkt auf dem Rechner der Anwender. Alle Vorgänge finden ausschließlich im lokalen Chrome-Profil statt. Ein Übertragen an fremde Server zur Analyse entfällt komplett. Das System tauscht erkannte private Passagen gegen neutrale Begriffe wie »[PERSON_1]« oder »[EMAIL_1]« aus. Nach der Antwort des KI-Modells stellt die Erweiterung den ursprünglichen Text lokal wieder her. Nutzer behalten dadurch die Kontrolle über ihre Informationen. Sie können die vorgeschlagenen Änderungen vor dem Versand überprüfen, anpassen oder bei Bedarf ignorieren. + Quelle: dfki Zwei Ebenen der Datenkontrolle Technisch stützt sich Privacy Guardrail auf eine Kombination aus festen Regeln und einem lokalen KI-Modell. Für strukturierte Formate wie IP-Adressen oder Kreditkartennummern greift eine klassische, deterministische Suche. Komplexe und kontextabhängige Begriffe wie Namen oder Orte erkennt die KI-Komponente. Die Inferenz läuft im Idealfall direkt über die Grafikkarte, sofern WebGPU zur Verfügung steht. Bei leistungsschwächeren Rechnern übernimmt der Hauptprozessor diese Aufgabe in einer reduzierten Form. + Quelle: dfki Offener Quellcode und ehrliche Grenzen Das Forschungsinstitut bietet die Erweiterung auf GitHub unter der Apache-2.0-Lizenz an. Der offene Quellcode ermöglicht eine unabhängige Überprüfung der Software. Derzeit unterstützt das Programm die Desktop-Versionen der Plattformen von OpenAI, Anthropic und Google. Die Entwickler weisen transparent auf die technischen Einschränkungen des Systems hin. Die Software kann sensible Stellen übersehen oder harmlose Begriffe falsch markieren. Das Projekt versteht sich als unterstützende Maßnahme und nicht als absolute Garantie für Datenschutzrichtlinien. Zukünftige Updates sollen die Erkennungsrate verbessern und effizientere lokale KI-Modelle integrieren. Das Team plant zudem, die Kompatibilität auf weitere Browser und mobile Endgeräte auszuweiten. Anzeige
Eine US-Behörde sieht China im KI-Rennen acht Monate zurückfallen, doch unabhängige Daten zeichnen ein anderes Bild. Und während die USA auf immer smartere Modelle setzen, könnte der Preisvorteil von Deepseek und Co, am Ende das stärkere Argument sein.
Der Artikel US-Behörde behauptet wachsenden KI-Vorsprung vor China erschien zuerst auf The Decoder.
OpenAI hat mit dem Privacy Filter ein quelloffenes Modell veröffentlicht, das persönliche Daten in Texten erkennen und unkenntlich machen soll.
Der Artikel OpenAI veröffentlicht kleines Open-Source-Modell zum Schwärzen persönlicher Daten erschien zuerst auf The Decoder.
OpenAI veröffentlicht Daten zur Geschlechterverteilung bei ChatGPT, schätzt Chinas KI-Investitionen auf bis zu 125 Milliarden Dollar und erklärt Rechenleistung zum entscheidenden Wettbewerbsfaktor.
Der Artikel OpenAI-Daten zeigen: Inzwischen nutzen mehr Frauen als Männer ChatGPT erschien zuerst auf The Decoder.