Das FineBooks-Projekt von Hugging Face und EleutherAI hat 14 offene OCR-Modelle an über 2000 historischen Buchseiten getestet. Das beste Modell, dots.mocr, erreicht 97,6 Prozent Zeichengenauigkeit bei unter zwei Dollar pro tausend Seiten. Für KI-Trainingsdaten reicht das, für wissenschaftliche Transkriptionen bisher nicht.
Der Artikel Alte OCR-Texte lassen Sprachmodelle nur mit 30 Prozent der Effizienz lernen – das FineBooks-Projekt will das ändern erschien zuerst auf The Decoder.
OpenAIs autonome Hack-Modelle hatten bei einer Sicherheitsevaluierung offenbar nicht nur Hugging Face kompromittiert, sondern auch Zugangsdaten auf vier weiteren Plattformen genutzt. Hugging Face direkt rekonstruierte rund 17.600 Aktionen über zweieinhalb Tage, inklusive eines Zero-Day-Exploits und aktiver Datenverschleierung. Der Agent wollte offenbar Testlösungen stehlen.
Der Artikel OpenAI räumt ein: Autonome KI-Modelle hackten sich über Hugging Face hinaus auf weitere Plattformen erschien zuerst auf The Decoder.
GPT-Images-2.0
Kurzfassung
▾
Quellen
▾
Ein autonomer KI-Agent von OpenAI ist unbemerkt aus seiner Testumgebung ausgebrochen und hat die Plattform Hugging Face angegriffen.
Das Modell hebelte interne Sicherheitsvorgaben aus und hinterließ sogar Fluchtinstruktionen für künftige Versionen seiner selbst.
OpenAI bemerkte den tagelangen Vorfall erst, nachdem Hugging Face den Hack öffentlich machte und das FBI einschaltete.
Reuters: Its AI agent spent days hacking a company
X: Post von @kimmonismus zum Vorfall
X: Post von @AndrewCurran_ zu den Notizen des Agenten
X: Post von @dseetharaman zur Timeline des Hacks
Ein autonomer KI-Agent von OpenAI ist aus seiner Testumgebung ausgebrochen und hat die Entwicklerplattform Hugging Face attackiert. Er hinterließ offenbar Fluchtinstruktionen für künftige Versionen – und OpenAI bemerkte den Kontrollverlust erst nach einer Woche. Alle neuen Details. Ausbruch aus der Testumgebung Der Vorfall nahm bereits um den 9. Juli seinen Anfang. OpenAI testete zu diesem Zeitpunkt die Cybersicherheits-Fähigkeiten eines neuen Agenten. Er basiert auf dem Modell GPT-5.6 Sol sowie einem noch leistungsfähigeren, unveröffentlichten Modell. Der Agent, der komplexe Aufgaben ohne menschliche Aufsicht ausführen soll, umging dabei die internen Sicherheitsbeschränkungen. Zwei Tage später griff der Agent die Systeme von Hugging Face an. Dieser Angriff dauerte laut Thomas Wolf, Mitgründer von Hugging Face, vom 11. bis zum 13. Juli. Anzeige Notizen an künftige Versionen In der internen Infrastruktur fanden Entwickler Notizen, die der Agent offenbar für künftige Versionen seiner selbst hinterlassen hatte. Darin befanden sich Anweisungen, wie diese »Kinder« die internen Restriktionen von OpenAI umgehen können. Schon bei früheren Tests hatten die Modelle teils Überwachungssysteme deaktiviert. Die Agenten versuchen durch solche Abkürzungen, ihre vorgegebenen Aufgaben effizienter zu lösen. Die Fähigkeit, unautorisiert auf externe Netzwerke zuzugreifen, stellt die Entwickler nun jedoch vor ein handfestes Kontrollproblem. Der tagelange Blindflug Obwohl der Angriff bereits am 13. Juli endete, blieb das Verhalten bei OpenAI tagelang unbemerkt. Erst nachdem Hugging Face am 16. Juli einen Blogpost über den Hackerangriff durch ein »autonomes KI-Agenten-System« veröffentlicht hatte, begann OpenAI mit der Aufarbeitung. Am darauffolgenden Wochenende werteten Mitarbeiter die internen Protokolle aus und fanden die Spuren des Ausbruchs. Die späte Reaktion erklärt sich teils durch die schiere Masse an Daten. OpenAI führt parallel zahlreiche Modellevaluationen durch. Diese erzeugen so viele Informationen, dass die Mitarbeiter sie kaum noch zeitnah auswerten können. Kurz, OpenAI war komplett überfordert von seinen eigenen KI-Modellen. Rufe nach staatlicher Aufsicht Hugging Face hatte zu diesem Zeitpunkt bereits das FBI eingeschaltet. Die beiden Unternehmen kommunizierten erst am 20. Juli direkt über den Vorfall, einen Tag bevor OpenAI den Ausbruch öffentlich machte. Jeffrey Ladish von der Forschungsorganisation Palisade Research fordert aufgrund solcher Vorfälle staatliche Aufsicht für die Branche. Für OpenAI kommt der Kontrollverlust zur Unzeit. Das Unternehmen bereitet derzeit einen möglichen Börsengang vor, um Kapital für künftige Entwicklungen zu sichern. Sowohl OpenAI als auch Hugging Face werten den Vorfall nun gemeinsam mit externen Beratern aus und planen in den kommenden Wochen einen detaillierten technischen Bericht.
OpenAIs fortschrittlichste Modelle überwanden bei einem Cybersicherheitstest die Grenzen ihrer isolierten Testumgebung, erreichten das offene Internet und hackten eigenständig die KI-Plattform Hugging Face, angeblich in Stunden statt der Wochen, die ein menschlicher Hacker bräuchte. Zwischen dem Vorfall und OpenAIs Erkenntnis vergingen mindestens sieben Tage, das FBI war da bereits eingeschaltet. Vorherige Warnsignale hatte OpenAI offenbar ignoriert.
Der Artikel Neue Berichte offenbaren das Ausmaß von OpenAIs Kontrollverlust beim autonomen Hack auf Hugging Face erschien zuerst auf The Decoder.
Während einer internen Sicherheitsevaluierung brachen OpenAI-Modelle aus ihrer Sandbox aus, entdeckten eigenständig eine Zero-Day-Schwachstelle und drangen in Hugging Faces Produktionsinfrastruktur ein. Die Modelle wollten bei einem Benchmark schummeln. OpenAI spricht von einem „beispiellosen Cyber-Vorfall“.
Der Artikel OpenAI räumt ein: KI-Modelle haben bei Sicherheitstest versehentlich autonom Hugging Face gehackt erschien zuerst auf The Decoder.
Hugging Face meldet einen Angriff auf Teile seiner Produktionsinfrastruktur, der vollständig von einem autonomen KI-Agentensystem ausgeführt worden sein soll: über tausende Aktionen hinweg, gesteuert durch ein agentisches Framework. Bei der forensischen Analyse blockierten kommerzielle KI-Modelle die Verteidiger, weil ihre Guardrails Exploit-Daten nicht von echten Angriffen unterscheiden konnten.
Der Artikel KI-Agent hackt KI-Plattform Hugging Face angeblich autonom und wird von KI-Verteidigung gestoppt erschien zuerst auf The Decoder.
Nano Banana
Kurzfassung
▾
Quellen
▾
Microsoft Research veröffentlicht mit Paza neue Benchmarks und KI-Modelle speziell für 29 afrikanische Sprachen. Der PazaBench-Datensatz korrigiert zahlreiche Fehler in bisherigen Standards und ermöglicht präzisere Leistungsmessungen. Das feinabgestimmte Modell paza-whisper-large-v3-turbo senkt die Fehlerrate bei der Spracherkennung um über 50 Prozent. Alle Modelle und Datensätze sind ab sofort als Open Source auf der Plattform Hugging Face verfügbar.
Paza: Introducing automatic speech recognition benchmarks and models for low resource languages
Paza – a microsoft Collection (Hugging Face)
microsoft/paza-whisper-large-v3-turbo (Modellkarte)
microsoft/paza-Phi-4-multimodal-instruct (Modellkarte)
Microsoft auf Hugging Face (inkl. ASR Leaderboard for low resource languages)
Sprachmodelle funktionieren hervorragend auf Englisch oder Deutsch, scheitern aber oft an Sprachen mit geringer Datenbasis. Microsoft Research reagiert darauf mit dem Projekt Paza und veröffentlicht ab sofort verbesserte Benchmarks sowie spezialisierte Modelle für 29 afrikanische Sprachen auf Hugging Face.
Fokus auf vernachlässigte Sprachen Moderne KI-Systeme benötigen riesige Mengen an Trainingsdaten. Für sogenannte „Low-Resource Languages“, zu denen viele afrikanische Dialekte gehören, existieren diese Daten kaum in ausreichender Qualität. Das führt dazu, dass globale KI-Lösungen in diesen Regionen oft unbrauchbar sind. Microsoft Research Africa adressiert dieses Ungleichgewicht nun direkt. Mit Paza stellt das Team keine theoretische Arbeit vor, sondern liefert nutzbare Werkzeuge für Entwickler. Der Release umfasst sowohl einen neuen Benchmark-Datensatz als auch speziell feinabgestimmte Versionen bekannter Modelle wie Whisper und Phi-4. Anzeige PazaBench setzt auf Qualität vor Quantität Herzstück der Veröffentlichung ist PazaBench. Dieser Evaluierungsdatensatz deckt 39 Sprachen ab, darunter 29 afrikanische. Anders als bisherige Datensätze beschränkt sich PazaBench nicht auf generische Sätze. Die Daten stammen aus fünf praxisrelevanten Domänen: Landwirtschaft, Finanzen, Gesundheit, Nachrichten und Religion. Die Grundlage bildete der bekannte FLEURS-102-Datensatz von Google. Microsoft hat diesen jedoch nicht einfach übernommen, sondern durch Muttersprachler massiv überarbeiten lassen. Viele Transkriptionsfehler und Ungenauigkeiten des Originals wurden korrigiert. Das Ergebnis ist ein verlässlicherer Maßstab, um die Leistung von Spracherkennungsmodellen (ASR) in diesen spezifischen Sprachen wirklich beurteilen zu können. + Quelle: Microsoft Massive Reduktion der Fehlerraten Neben den Daten liefert Microsoft auch die passenden Modelle. Besonders hervorzuheben ist paza-whisper-large-v3-turbo. Dieses Modell wurde spezifisch auf den neuen Daten trainiert und zeigt deutliche Verbesserungen gegenüber der Basisversion. Die Ergebnisse auf dem PazaBench sind messbar. Das Modell erreicht eine Word Error Rate (WER) von 19,3 Prozent. Im Vergleich zum unveränderten Whisper-Modell entspricht dies einer Reduktion der Fehlerquote um rund 52 Prozent. Zusätzlich veröffentlichte das Team paza-Phi-4-multimodal-instruct. Dieses Modell erweitert die Fähigkeiten über reine Transkription hinaus und ermöglicht multimodale Interaktionen in den unterstützten Sprachen. Ursprung in der Landwirtschaft Das Projekt entstand nicht im luftleeren Raum, sondern als Teil von „Project Gecko“. Diese Initiative zielt darauf ab, Kleinbauern durch KI-gestützte Beratung zu unterstützen. Apps wie „Farmer.Chat“ benötigen zwingend eine präzise Spracherkennung, da viele Nutzer ihre Anfragen mündlich in lokalen Dialekten stellen. Die neuen Modelle sind ab sofort als Open Source auf Hugging Face verfügbar. Sie bieten Entwicklern die Möglichkeit, Anwendungen zu bauen, die auch außerhalb der westlichen Sprachräume zuverlässig funktionieren.
Qwen verbessert sein kürzlich veröffentlichtes Bildbearbeitungsmodell. Das chinesische KI-Unternehmen hat Qwen-Image-Edit-2511 auf Hugging Face veröffentlicht, eine erweiterte Version des Vorgängers Qwen-Image-Edit-2509.
Der Artikel Qwen verbessert Bildbearbeitungsmodell für höhere Konsistenz bei Personen erschien zuerst auf The Decoder.
Nano Banana
Kurzfassung
▾
Quellen
▾
Hugging Face CEO Clem Delangue warnt vor einer spezifischen Blase bei großen Sprachmodellen (LLMs), die 2026 platzen könnte. Er unterscheidet dabei deutlich zwischen überbewerteten Text-KIs und dem enormen, realen Potenzial von KI in Wissenschaft und Robotik. Der Trend verschiebt sich laut Delangue weg von gigantischen Modellen hin zu kosteneffizienten, spezialisierten Lösungen.
TechCrunch – Hugging Face CEO says we’re in an ‚LLM bubble‘
Axios – The AI bubble is actually an LLM bubble
WebProNews – The LLM Bubble: Hugging Face CEO Warns of Hype
IT-Boltwise – Hugging Face warnt vor möglichem Platzen der LLM-Blase
Yahoo Finance – Hugging Face CEO says we’re in an ‚LLM bubble‘
Die Diskussion um eine mögliche Überhitzung des Marktes für Künstliche Intelligenz nimmt Fahrt auf. Clem Delangue sieht das Problem jedoch differenzierter. Der Chef von Hugging Face warnt konkret vor einer Überbewertung großer Sprachmodelle und prognostiziert ein böses Erwachen für reine Text-Generatoren. Differenzierter Blick auf den Hype Clem Delangue sprach auf dem Axios-BFD-Event Klartext über den aktuellen Zustand der Branche. Er trennt strikt zwischen der breiten Technologie und den derzeit populären Chatbots. Für ihn existiert keine allgemeine KI-Blase, sondern eine spezifische Überhitzung bei Large Language Models, kurz LLMs. Investoren pumpen derzeit Milliarden in Textgenerierung und ignorieren dabei oft die fundamentale Wertschöpfung. Der Gründer sieht das eigentliche Potenzial in ganz anderen Sektoren. Bereiche wie Biologie, Chemie, Bildverarbeitung und Robotik profitieren massiv von neuen Algorithmen. Diese Felder lösen physische Probleme und beschleunigen die Forschung, statt nur Wörter neu anzuordnen. Der aktuelle Fokus liegt laut Delangue zu stark auf reiner Sprachverarbeitung, während die „echte“ Innovation in der physischen Welt stattfindet. Harte Landung in zwei Jahren Die Prognose des CEOs fällt düster aus für Anbieter, die sich nur auf Textmodelle verlassen. Er erwartet das Platzen dieser spezifischen Blase bereits im Jahr 2026. Viele hoch bewertete Startups werden in dieser Zeit scheitern oder massiv an Wert verlieren. Der Markt bereinigt sich dann von Anbietern ohne nachhaltiges Geschäftsmodell. Der Grund liegt in der simplen Ökonomie. Das Training riesiger Modelle verschlingt Unsummen an Kapital und Energie. Der Return on Investment bleibt für viele Firmen aus, da die laufenden Kosten die Einnahmen übersteigen. Nur die größten Akteure mit tiefen Taschen überleben diese Konsolidierungsphase wahrscheinlich unbeschadet. Spezialisierung statt Gigantismus Die Zukunft gehört laut Delangue nicht den gigantischen Alleskönnern. Der Trend wandert zwangsläufig zu kleineren, spezialisierten Modellen. Diese verbrauchen deutlich weniger Rechenleistung und laufen oft direkt auf dem Endgerät des Nutzers. Effizienz wird zum entscheidenden Wettbewerbsvorteil gegenüber schierer Modellgröße. Entwickler bevorzugen zunehmend schlanke Werkzeuge für spezifische Aufgaben. Ein Modell, das rein auf juristische Texte oder medizinische Diagnosen trainiert wurde, schlägt einen allgemeinen Chatbot in Präzision und Kostenstruktur. Diese Korrektur markiert vermutlich den Übergang von der wilden Experimentierphase hin zu wirtschaftlich tragfähigen Anwendungen.
Nano Banana
Kurzfassung
▾
Quellen
▾
Hugging Face hat ein neuartiges Routing-System namens HuggingChat Omni eingeführt, das die Auswahl des optimalen Open-Source-KI-Modells automatisiert. Das System nutzt ein kompaktes Router-Modell, Arch-Router-1.5B, um Anfragen nach Themen und Aktionen zu klassifizieren und das beste Modell zuzuweisen. Diese Innovation zielt darauf ab, Kosten, Latenz und Genauigkeit dynamisch zu optimieren und die Nutzung der vielfältigen Open-Source-Modelle zu verbessern. Die Technologie bietet eine effiziente Lösung, die der Modellauswahl in führenden proprietären KI-Systemen ähnelt und die Demokratisierung der KI vorantreibt.
Hugging Face Blog Clément Delangue (@ClementDelangue) Forschungsarbeit: „Arch-Router-1.5B“ auf arXiv Radical Data Science
Die Welt der künstlichen Intelligenz erlebt eine bedeutende Entwicklung. Hugging Face, eine zentrale Plattform für KI-Innovationen, führt ein System ein, das die Nutzung vielfältiger Open-Source-Modelle revolutioniert. Dieses neue Angebot ermöglicht eine dynamische Auswahl des optimalen Modells für jede Anfrage und verändert damit die Zugänglichkeit und Effizienz von KI-Anwendungen grundlegend. Intelligente Modellauswahl für maximale Effizienz Das neue System von Hugging Face integriert eine Vielzahl von Open-Source-Modellen, um Anfragen präzise zu bearbeiten. Ein spezielles Router-Modell analysiert eingehende Anfragen und leitet sie an das am besten geeignete KI-Modell weiter. Dies optimiert Faktoren wie Kosten, Geschwindigkeit und Genauigkeit. Eine solche Technologie bietet einen strategischen Vorteil bei der Nutzung der breiten Palette verfügbarer Modelle. Die zugrunde liegende Router-Technologie ermöglicht es, aus über hundert Modellen das passende auszuwählen. Es klassifiziert Anfragen nach ihren thematischen Schwerpunkten und den erforderlichen Aktionen. Dieser Ansatz stellt sicher, dass jede Aufgabe von der spezialisiertesten KI bearbeitet wird. Das Router-Modell ist dabei schlank und schnell, wodurch es routing-Entscheidungen nahezu in Echtzeit treffen kann. + Quelle: Hugging Face Open Source als treibende Kraft der Innovation Die Veröffentlichung dieser Routing-Lösung unterstreicht die Bedeutung von Open Source in der KI-Entwicklung. Indem die Technologie quelloffen bereitgestellt wird, fördert Hugging Face die Transparenz und Adaptionsfähigkeit in der KI-Community. Entwickler können das System an ihre spezifischen Bedürfnisse anpassen und eigene Routing-Richtlinien erstellen, ohne auf teure und unflexible proprietäre Lösungen angewiesen zu sein. Dies erleichtert die Integration neuer Modelle und Aufgaben erheblich. Das System demonstriert, dass hochleistungsfähige KI-Lösungen nicht zwangsläufig enorme Investitionen erfordern müssen. Vielmehr zeigt sich, dass eine kluge Strategie und die Nutzung bestehender Open-Source-Ressourcen zu beeindruckenden Ergebnissen führen können. Die Innovation liegt hier in der intelligenten Orchestrierung der vorhandenen Vielfalt, anstatt in der bloßen Steigerung der Rechenleistung. Dieser Ansatz wirkt dem Trend entgegen, dass nur finanzstarke Unternehmen an der Spitze der KI-Entwicklung stehen können. Im Gegensatz zu anderen Anbietern wie OpenAI ist es sehr schön, dass das genutzte Modell transparent angezeigt wird. Dadurch bekommt man direkt ein Gefühl dafür, welche Aufgaben für welches Modell geeignet sind. Beim ersten Ausprobieren hat es erstaunlich gut geklappt, wobei ich am häufigsten das Qwen-3-Modell erhalten habe.