Schlagwort: Microsoft

  • Claude Fable 5 sabotiert(e) heimlich KI Forscher

    Ein Roboter sabotiert die Wissenschaft

    GPT-Images-2.0

    Kurzfassung

    Quellen

    Anthropic hat bei seinem neuen Modell Claude Fable 5 heimlich die Ausgaben für KI-Forscher manipuliert, um Wettbewerb zu erschweren.
    Nach heftiger Kritik aus der Open-Source-Community muss das Unternehmen diese versteckte Drosselung nun wieder entfernen.
    Gleichzeitig verbietet Microsoft seinen Mitarbeitern die interne Nutzung der KI wegen erheblicher Datenschutzbedenken.
    Anthropic speichert bei Fable 5 alle Eingaben für 30 Tage, was gegen die strengen Sicherheitsrichtlinien von Microsoft verstößt.

    Wired: Anthropic Walks Back Policy That Could Have ‘Sabotaged’ AI Researchers Using Claude
    The Verge: Microsoft restricts Claude Fable for employees over data retention concerns
    all-ai.de: Claude Mythos Fable Analyse
    X: AlphaXiv Kritik an Anthropic
    AlphaXiv: Claude Fable 5 Mythos 5 Report

    Heimliche Eingriffe in die KI-Forschung Forscher der Plattform AlphaXiv machten die versteckten Einschränkungen öffentlich. Anthropic verschlechterte die Antworten von Claude Fable 5 gezielt, sobald Nutzer Fragen zum Training eigener KI-Modelle oder zur Infrastruktur stellten. Diese Eingriffe geschahen laut den Forschern stillschweigend durch Methoden wie Prompt-Modifikationen oder Steering Vectors. Nutzer erhielten dadurch fehlerhafte Ergebnisse, ohne den wahren Grund zu kennen. Die Forscher kritisierten diesen Vorgang scharf: »Das setzt einen gefährlichen Präzedenzfall.« Anthropic reagierte auf den öffentlichen Druck und nimmt die umstrittene Richtlinie laut dem Magazin Wired nun wieder zurück.

    Twitter Beitrag – Cookies links unten aktivieren.

    As believers of open research, we are disappointed to see Anthropic silently degrading Fable 5 for AI development „Any topic related to building pretraining pipelines, distributed training infrastructure, or ML accelerator design… may have limited effectiveness through Claude… pic.twitter.com/ELE8lqQWaF — alphaXiv (@askalphaxiv) June 10, 2026 Microsoft blockiert interne Nutzung Neben dem Ärger mit der Open-Source-Community sorgt Claude Fable 5 auch beim wichtigsten Partner für Probleme. Microsoft schließt seine eigenen Mitarbeiter derzeit von der Nutzung des neuen KI-Modells aus. Der Grund dafür liegt in einer geänderten Speicherpraxis von Anthropic. Während ältere Claude-Versionen unter strikten Zero-Data-Retention-Regeln laufen, speichert Anthropic bei Fable 5 alle Eingaben und Ausgaben für 30 Tage. Das Unternehmen begründet dies mit dem Betrieb neuer Sicherheitsklassifikatoren. Verstößt ein Prompt gegen die Nutzungsbedingungen, behält der Anbieter die Daten bis zu zwei Jahre. Anzeige Sicherheit versus Datenschutz Anthropic veröffentlichte Fable 5 erst kürzlich als ersten Vertreter der neuen Mythos-Klasse. Die strengen Sicherheitsvorgaben resultieren aus den außergewöhnlichen Fähigkeiten des KI-Modells im Bereich Cybersicherheit. Die Rechtsabteilung von Microsoft prüft derzeit, ob diese Maßnahmen mit dem internen Schutz vertraulicher Informationen vereinbar sind.

  • Microsoft Research zeigt mit Lens, wie sich Bildmodelle effizienter trainieren lassen

    Stilisiertes Render eines schwebenden Kameraobjektivs über einer leuchtenden Plattform vor Bergpanorama mit See, holografischen UI-Elementen und Schriftzug „Microsoft Lens" unten rechts.

    Microsoft Research stellt mit Lens ein Text-zu-Bild-Modell mit nur 3,8 Milliarden Parametern vor. In Benchmarks schlägt es deutlich größere Konkurrenten mit 80 Milliarden Parametern, bei einem Fünftel des Trainingsaufwands. Entscheidend sind 800 Millionen von GPT-4.1 erzeugte, ausführliche Bildunterschriften statt vager Web-Alt-Texte. Code und Gewichte sind unter MIT-Lizenz offen verfügbar.

    Der Artikel Microsoft Research zeigt mit Lens, wie sich Bildmodelle effizienter trainieren lassen erschien zuerst auf The Decoder.

  • Microsoft trainiert neue KI-Modelle mit unlizenzierten Webdaten trotz gegenteiliger Versprechen

    Microsoft hat seine neuen MAI-Modelle entgegen früherer Aussagen teilweise mit unlizenzierten Webdaten wie Common Crawl trainiert. Das Unternehmen beruft sich offenbar auf Fair Use und verlagert die Verantwortung für die Auswahl der Trainingsdaten auf Webseitenbetreiber. Microsoft stellt sein Vorgehen implizit als anders dar. Tatsächlich entspricht es dem anderer Anbieter großer Sprachmodelle.

    Der Artikel Microsoft trainiert neue KI-Modelle mit unlizenzierten Webdaten trotz gegenteiliger Versprechen erschien zuerst auf The Decoder.

  • So entstand der KI-Agent Scout von Microsoft

    OpenClaw wird zu Microsoft Scout

    GPT-Images-2.0

    Kurzfassung

    Quellen

    Microsoft bringt den autonomen KI-Agenten Scout in den Unternehmensalltag.
    Das Programm entstand aus einem privaten Projekt und basiert auf der Technologie OpenClaw.
    Eine strenge Zero-Trust-Architektur schützt dabei alle sensiblen Firmendaten in Microsoft 365.
    Erste Organisationen testen den intelligenten Assistenten derzeit über das experimentelle Frontier-Programm.

    Microsoft Command Line – Microsoft Scout: From personal project to enterprise-ready personal agent

    Microsoft bringt mit Scout einen autonomen KI-Agenten in den Berufsalltag. Das ehemals private Hobby-Projekt nutzt die Open-Source-Technologie OpenClaw und erledigt eigenständig Aufgaben im Hintergrund. Erste Firmen können die Software nun als experimentelle Version testen. Vom privaten Assistenten zum Firmenprojekt Die Entwicklung begann abseits der offiziellen Produktpläne unter dem Namen Project Lobster. Microsoft-Mitarbeiter Omar Shahine baute in seiner Freizeit einen auf OpenClaw basierenden Assistenten. Dieser steuerte über eine eigene Apple-ID per iMessage private Termine und Familienangelegenheiten. Nach einer Präsentation vor der internen KI-Gruppe formte sich schnell ein festes Entwicklerteam. Parallel dazu programmierte Jakob Werner eine interne Desktop-Anwendung namens Clawpilot. Tausende Angestellte luden sich das Programm herunter. Schließlich schlossen sich die beiden Entwickler zusammen und legten den Grundstein für das heutige Produkt.

    Strenge Sicherheit für Unternehmensdaten Der fertige Assistent verknüpft sich tief mit Anwendungen wie Teams, Outlook und SharePoint. Ein solch eigenständiges System erfordert jedoch strikte Kontrollen. Das Entwicklerteam setzt deshalb auf eine Zero-Trust-Architektur. Der Container des Agenten wird grundsätzlich als nicht vertrauenswürdig eingestuft. Identitäten und Richtlinien verwaltet Microsoft isoliert außerhalb dieses Bereichs. Administratoren steuern das System über Agent 365 zentral. Die Software Purview überwacht gleichzeitig den Datenverkehr, damit der Assistent keine sensiblen Informationen an unbefugte Empfänger weiterleitet. Anzeige Ein Gedächtnis mit Lücken Ein wesentliches Merkmal von Scout ist der Umgang mit Informationen. Das Programm merkt sich typische Arbeitsabläufe, um proaktiv helfen zu können. Dabei funktioniert der Speicher ähnlich wie das menschliche Gehirn. Regelmäßig genutzte Daten verfestigen sich im System. Unwichtige oder veraltete Informationen löscht die Software nach einiger Zeit wieder. Ein unendliches Logbuch entsteht also nicht. Interessierte Unternehmen können den Helfer über das Frontier-Programm ausprobieren.

    Top News
    Neuer KI-Agent Scout steuert Windows völlig autonom
    Microsoft veröffentlicht einen Agenten für lokale Automatisierung. Sowohl auf Befehl, als auch automatisiert im Hintergrund.

  • Build 2026: Microsofts neue KI-Modelle überholen Google bei Bildern, doch das erste Reasoning-Modell ist ein halbes Jahr im Rückstand

    Microsoft hat auf der Build 2026 sieben eigene KI-Modelle vorgestellt, darunter das erste Reasoning-Modell MAI-Thinking-1 mit 35 Milliarden Parametern. Laut Benchmarks liegt es etwa auf dem Niveau von Deepseek V3.2. Dazu kommt mit Scout ein autonom arbeitender Hintergrundagent für Microsoft 365 – und eine Tuning-Methode, die GPT-5.4-Leistung zu einem Zehntel der Kosten verspricht.

    Der Artikel Build 2026: Microsofts neue KI-Modelle überholen Google bei Bildern, doch das erste Reasoning-Modell ist ein halbes Jahr im Rückstand erschien zuerst auf The Decoder.

  • Microsofts »Agent Optimizer« verbessert und repariert KI Agenten

    Microsoft KI Agenten

    GPT-Images-2.0

    Kurzfassung

    Quellen

    Microsoft hat den Agent Optimizer für die Foundry-Plattform als Public Preview veröffentlicht.
    Das System automatisiert die Fehlerbehebung bei KI-Agenten und ersetzt das manuelle Testen von Befehlen.
    Ein spezielles Diagnosemodell analysiert Protokolle, findet Fehlerursachen und schlägt funktionierende Anpassungen vor.
    Am Ende prüft ein Entwickler die generierten Vorschläge und gibt die beste Version frei.

    Microsoft Command Line: The agent optimization loop and how we built it in Foundry

    Microsoft veröffentlicht mit dem Agent Optimizer eine neue Automatisierungslösung für komplexe KI-Systeme in der Foundry-Umgebung. Die Software analysiert fehlerhafte KI-Agenten selbstständig und schlägt optimierte Systemkonfigurationen vor, ohne bestehende Funktionen zu beschädigen. Entwickler erhalten damit eine Umgebung, die klassische Testverfahren aus der traditionellen Softwareentwicklung auf künstliche Intelligenz überträgt. Das Ende der manuellen Fehlersuche Bisher glich die Anpassung von produktiven KI-Agenten einem riskanten Balanceakt nach dem Prinzip »Repariere eine Sache, mache zwei andere kaputt«. Entwickler passten Anweisungen an, um ein spezifisches Problem zu lösen, verursachten dadurch aber häufig neue Fehler in völlig anderen Teilbereichen. Die manuelle Fehlersuche anhand von Protokolldaten kostete enorm viel Zeit und skalierte bei einer wachsenden Anzahl an KI-Assistenten schlichtweg nicht mehr. Microsoft ändert diesen Ablauf nun grundlegend. Der neue Ansatz behandelt die Qualitätskontrolle nicht länger als mühsames Durchtesten, sondern als Suchproblem innerhalb eines großen Konfigurationsraums. Das System generiert automatisch verschiedene Lösungskandidaten, indem es Systemanweisungen, ausgewählte Modelle und Tool-Definitionen variiert. Anschließend werden diese Kandidaten streng gegen vorher festgelegte Qualitätsstandards bewertet und in einer Rangliste sortiert. + Quelle: Microsoft Ein Diagnosemodell steuert den Prozess Das Herzstück des Optimierers bildet der sogenannte Reflector. Dieses separate Sprachmodell übernimmt ausschließlich die Aufgabe, fehlerhafte Durchläufe zu lesen und den Grund für das Versagen des Agenten zu ermitteln. Darauf basierend schlägt das System zielgerichtete Änderungen vor, die exakt auf die identifizierten Schwachstellen abgestimmt sind. Die Ingenieure von Microsoft machten dabei eine entscheidende Entdeckung. Die Qualität dieses Diagnosemodells hat weitaus größere Auswirkungen auf das Endergebnis als das eigentlich ausführende Modell des Agenten. Ein präziser Reflector, der Fehler logisch herleiten kann, bringt mehr Leistungsgewinn als der einfache Wechsel auf ein größeres Sprachmodell wie GPT-5.5. Das System nimmt dem Menschen die Arbeit jedoch nicht komplett ab. Eine Automatisierung ohne menschliche Kontrolle würde Fehler langfristig nur vergrößern. Daher präsentiert die Software lediglich die besten Lösungswege, während ein Entwickler die Ergebnisse abschließend prüft und die neue Version für den produktiven Einsatz freigibt. + Quelle: Microsoft Integration und zukünftige Entwicklung Der Agent Optimizer ist derzeit als Public Preview im Foundry Agent Service verfügbar. Die Steuerung erfolgt direkt über die Kommandozeile mit lediglich fünf simplen Befehlen. Für Projekte, die noch keine eigenen Evaluierungsdaten besitzen, bietet das System zudem eine KI-gestützte Generierung von passenden Testdatensätzen auf Basis von Beschreibungen an. Microsoft plant bereits die nächsten Erweiterungen für das System. Künftig soll das Tool auch Einstellungen für die Informationsbeschaffung oder Wissensdatenbanken in die Optimierung einbeziehen. Zudem arbeiten die Entwickler an sicheren Bereitstellungsmethoden, bei denen eine neue Version zunächst nur einen kleinen Teil des echten Datenverkehrs verarbeitet und sich beweisen muss. Damit etabliert sich eine systematische und verlässliche Qualitätskontrolle für KI-Agenten im produktiven Einsatz. Anzeige

  • Microsoft plant Windows-PCs mit Nvidia-Chips und KI-Agenten, die Aufgaben lokal erledigen

    Nvidia drängt mit eigenen Chips als Hauptprozessor in den PC-Markt: Auf der Computex und Microsofts Build sollen nächste Woche erste Windows-Rechner von Dell und Microsoft Surface vorgestellt werden. Parallel plant Microsoft neue Software auf Basis des OpenClaw-Frameworks, mit der KI-Agenten Aufgaben lokal auf Windows-PCs übernehmen, ein zweiter Anlauf nach dem weitgehend gescheiterten Copilot+-PC-Konzept.

    Der Artikel Microsoft plant Windows-PCs mit Nvidia-Chips und KI-Agenten, die Aufgaben lokal erledigen erschien zuerst auf The Decoder.

  • Microsoft erklärt die wahren Grenzen aktueller KI

    Universität Linköping

    GPT-Images-2.0

    Kurzfassung

    Quellen

    Microsoft Research stuft KI-Modelle nicht als eigenständige Intelligenz, sondern als Erweiterung der menschlichen Kognition ein.
    Die Modelle erlernen statistische Sprachmuster ohne Bezug zur physischen Realität, was laut Forschern typische Halluzinationen verursacht.
    Entwickler müssen sich auf Kontrollstrukturen konzentrieren, da die Verantwortung für fehlerfreie Ergebnisse beim Menschen bleibt.

    Microsoft Research – Extending Human Intelligence Through AI

    Forscher von Microsoft und der Universität Linköping präsentieren einen neuen Ansatz zur Bewertung aktueller KI-Modelle. Sie stufen die Technologie nicht als menschenähnliche Intelligenz ein, sondern als reine Erweiterung der menschlichen Kognition. Sprachmuster statt Weltverständnis Aktuelle KI-Modelle formulieren Essays, schreiben Code und fassen komplexe Themen zusammen. Dadurch entsteht oft der Eindruck einer eigenständigen Intelligenz, welche die jüngste Untersuchung nun widerlegt. Laut den Forschern verarbeiten KI-Modelle ausschließlich statistische Zusammenhänge innerhalb riesiger Textmengen. Die menschliche Sprache enthält bereits verfestigte Strukturen unserer Erfahrung, die als Basis dienen. Die KI greift diese Muster auf und führt sie fort. KI-Modelle erlernen die Sprache, erleben aber keine Objekte oder Veränderungen im physischen Raum. Anzeige Die Grenzen der Vernunft Dieser rein textbasierte Ansatz erklärt das bekannte Phänomen der Halluzinationen. Während der Mensch seine Annahmen kontinuierlich durch reale Erfahrungen korrigiert, fehlt den Modellen dieser Abgleich mit der Realität. Sie konstruieren überzeugende Antworten, die faktisch völlig falsch sein können. Ähnliche Schwächen zeigen sich bei der Verknüpfung völlig neuer Konzepte. KI-Modelle bewältigen bekannte Aufgaben problemlos, scheitern aber häufig an unbekannten Situationen. Diese Begrenzung ist laut der Forschung ein strukturelles Problem und keine bloße technische Hürde, die durch mehr Rechenleistung verschwindet. + Quelle: Microsoft Fokus auf Kontrollstrukturen Die Erkenntnisse verändern auch die Debatte um die Sicherheit der Technologie. Warnungen vor einer unkontrollierbaren »Superintelligenz« lenken von den tatsächlichen Herausforderungen ab. Das eigentliche Risiko besteht in der Automatisierung fehlerhafter Entscheidungen. Unpassende Ergebnisse entstehen dabei nicht durch böswillige Absicht, sondern durch mangelnde Weltbezogenheit der KI-Modelle. Daher verlagert sich der Fokus der Entwickler zunehmend auf die Sicherheit des gesamten Einsatzbereichs. Unternehmen integrieren mehrschichtige Kontrollmechanismen, um das Verhalten der KI-Modelle streng zu überwachen. Die Verantwortung für vertrauenswürdige Ergebnisse bleibt somit vollständig beim menschlichen Anwender.

  • Warum ihr in Copilot, Gemini und Co. die Modellwahl nicht auf „Auto“ stellen solltet

    Microsoft Copilot erfindet bei der Datenanalyse Länderunterschiede, wo keine existieren. Autor Adam Kucharski legte dem Tool identische Datensätze mit unterschiedlichen Länderlabels vor – Copilot lieferte detaillierte Stereotype statt korrekter Ergebnisse. Thinking-Modelle lösen die Aufgabe, setzen aber mitunter voraus, dass Nutzende ihre Tools kennen.

    Der Artikel Warum ihr in Copilot, Gemini und Co. die Modellwahl nicht auf „Auto“ stellen solltet erschien zuerst auf The Decoder.

  • Microsoft lässt mehr als 100 KI-Agenten gegeneinander debattieren, um Schwachstellen in Windows aufzuspüren

    Microsoft hat mit MDASH ein Multi-Agenten-System vorgestellt, das über 100 spezialisierte KI-Agenten orchestriert, um Schwachstellen in Software aufzuspüren. Allein zum Patch Tuesday am 12. Mai meldete das Unternehmen 16 damit gefundene Sicherheitslücken in Windows, vier davon kritisch. Welche KI-Modelle hinter dem System stecken, verrät Microsoft nicht.

    Der Artikel Microsoft lässt mehr als 100 KI-Agenten gegeneinander debattieren, um Schwachstellen in Windows aufzuspüren erschien zuerst auf The Decoder.