Schlagwort: Agenten

  • OpenAIs Angriff auf Apple und Google beginnt jetzt

    Screenshot vom OpenAI Dev Day 1

    OpenAIs Angriff auf Apple und Google beginnt jetzt Mit einer neuen App-Plattform und autonomen Agenten will ChatGPT die Dominanz der klassischen App-Stores brechen. Kurzfassung | Andreas Becker, 06.10.25
    OpenAI | All-AI.de Der Chatbot ist Geschichte. OpenAI hat auf seinem Developer Day 2025 eine strategische Neuausrichtung vollzogen, die ChatGPT von einem reinen Konversations-Tool in eine universelle Plattform für Anwendungen und autonome Agenten verwandelt. Mit dem neuen Apps SDK und dem AgentKit schafft das Unternehmen ein Ökosystem, das die Interaktion mit Software grundlegend verändern soll. ChatGPT wird zur interaktiven App-Plattform OpenAI öffnet die Tore zu seinen 800 Millionen wöchentlichen Nutzern. Mit dem neuen Apps Software Development Kit (SDK) können Entwickler vollwertige Anwendungen direkt in die ChatGPT-Oberfläche integrieren. Diese Apps gehen weit über einfache Textantworten hinaus. Sie nutzen HTML-Rendering für grafische Oberflächen, unterstützen Vollbildansichten und können über Login-Funktionen mit bestehenden Nutzerkonten verknüpft werden. Die Präsentationen zeigten das enorme Potenzial dieser Integration. Eine App des Designtools Canva erstellte auf Kommando ein Werbeposter und anschließend eine komplette Präsentation. Eine Anwendung der Immobilienplattform Zillow zeigte passende Häuser auf einer interaktiven Karte an und filterte die Ergebnisse dynamisch nach Folgefragen wie „Nur mit Garten“. Zum Start sind bereits Partner wie Spotify, Figma und Expedia an Bord, weitere sollen bald folgen. Die technische Basis dafür liefert das erweiterte Model Context Protocol (MCP), ein offener Standard für die Kommunikation zwischen KI-Modellen und externen Datenquellen.

    Die Armee der autonomen Helfer Parallel dazu stellte OpenAI das AgentKit vor. Dieses Toolkit ermöglicht die Erstellung, Verwaltung und Optimierung von autonomen KI-Agenten. OpenAI versteht unter Agenten Systeme, die selbstständig komplexe, mehrstufige Aufgaben für einen Nutzer erledigen. Der Kern des Baukastens ist der visuelle „Agent Builder“. Mit diesem Werkzeug lassen sich per Drag-and-Drop anspruchsvolle Arbeitsabläufe erstellen, ohne dass dafür tiefgreifende Programmierkenntnisse nötig sind. In einer beeindruckenden Live-Demonstration wurde innerhalb von nur acht Minuten ein Agent erstellt, der Konferenzbesuchern passende Vorträge empfahl. Ein solcher Agent lässt sich sofort veröffentlichen und per Link oder Einbettungscode teilen. Das System integriert zudem Sicherheitsfunktionen wie „Guardrails“, eine Open-Source-Lösung, die das Auslesen persönlicher Daten oder Manipulationsversuche verhindern soll. Für anspruchsvolle Anpassungen können Agenten optional durch Reinforcement Fine-Tuning (RFT) weiter trainiert werden, eine Funktion, die für GPT-5 in einer geschlossenen Beta verfügbar ist.

    Neue Modelle als Motor des Ökosystems Die neue Plattform-Strategie wird von deutlich leistungsfähigerer Hardware und Software angetrieben. OpenAI gab bekannt, dass GPT-5 Pro, das bisher stärkste Modell des Unternehmens, ab sofort über die Programmierschnittstelle (API) verfügbar ist. Es bietet eine höhere Genauigkeit bei komplexen Aufgaben und verarbeitet ein Kontextfenster von 400.000 Tokens. Das erlaubt die Analyse von extrem umfangreichen Dokumenten oder Codebasen in einem einzigen Schritt. Gleichzeitig wurde mit gpt-realtime-mini ein deutlich günstigeres Modell für Echtzeitanwendungen vorgestellt. Auch Sora 2, das KI-Modell zur Videoerstellung, ist nun über eine API zugänglich. Eine weitere wichtige Neuerung ist die allgemeine Verfügbarkeit von Codex, dem KI-gestützten Programmierassistenten. Seit der Einführung von Cloud-Funktionen ist dessen Nutzung laut OpenAI um das Zehnfache gestiegen und kann nun direkt in den Team-Chat von Slack integriert werden. Die Dominanz in Zahlen Die Ankündigungen untermauern den Anspruch von OpenAI, die zentrale Anlaufstelle für künstliche Intelligenz zu werden. CEO Sam Altman nannte beeindruckende Zahlen. Die wöchentliche Nutzerzahl von ChatGPT ist in zwei Jahren von 100 Millionen auf 800 Millionen gestiegen. Mehr als vier Millionen Entwickler nutzen die Plattform bereits. Der API-Traffic erreicht ein Volumen von sechs Milliarden Tokens pro Minute. Diese enorme Reichweite macht die Plattform für App-Entwickler und Unternehmen extrem attraktiv. Mit der Schaffung eines eigenen App-Verzeichnisses und eines Monetarisierungssystems entsteht ein komplettes Ökosystem, das Apples App Store und dem Google Play Store Konkurrenz machen könnte. MITMACHEN Hat Dir der Beitrag gefallen oder geholfen? Dann hilf uns mit einem Klick weiter – dauert nur Sekunden. Teile diesen Beitrag Folge uns auf Social Media Mastodon X Bluesky Facebook LinkedIn Youtube Unterstütze uns direkt KI-Tools sind teuer – unser Wissen bleibt kostenlos. Spende einmalig via PayPal oder werde YouTube-Mitglied (ab 0,99 €). Dafür liefern wir täglich News, ehrliche Tests und praxisnahe Anleitungen. Danke dir! PayPal – Spende Youtube – ABO KURZFASSUNG
    OpenAI transformiert ChatGPT mit dem Apps SDK und AgentKit von einem Chatbot zu einer umfassenden KI-Plattform.
    Entwickler können nun interaktive Apps direkt in ChatGPT integrieren und Nutzer können autonome KI-Agenten per Baukasten erstellen.
    Neue, leistungsstärkere Modelle wie GPT-5 Pro und Sora 2 dienen als technischer Motor für das neue Ökosystem.
    Mit 800 Millionen wöchentlichen Nutzern greift OpenAI die etablierten App-Stores von Apple und Google direkt an.
    QUELLEN
        OpenAI Developer Platform – App SDK
        OpenAI Blog – Introducing AgentKit
        OpenAI Blog – Introducing Apps in ChatGPT
        OpenAI Blog – Codex Now Generally Available
        The Decoder – OpenAI macht ChatGPT zur KI-Plattform für Apps und Agenten

  • OpenAI macht ChatGPT zur KI-Plattform für Apps und Agenten

    OpenAI hat auf dem diesjährigen Entwickler-Event Dev Day neue Tools vorgestellt, mit denen Entwickler direkt in ChatGPT Anwendungen und automatisierte Agenten erstellen können. Im Fokus stehen ein neues Apps-SDK und das AgentKit.

    Der Artikel OpenAI macht ChatGPT zur KI-Plattform für Apps und Agenten erschien zuerst auf THE-DECODER.de.

  • 22.000 KI-Agenten gründen einen Staat

    KI-Agenten gründen einen Staat

    22.000 KI-Agenten gründen einen Staat Ein einzigartiges Projekt simuliert eine komplette KI-Wirtschaft. Schauen wir gerade bei der Geburt einer neuen Gesellschaftsform zu? Kurzfassung | Andreas Becker, 14.09.25
    gpt-image-1 | All-AI.de EINLEITUNG Was passiert, wenn man über 22.000 KI-Agenten in einer digitalen Welt aussetzt und ihnen freie Hand lässt? Die Hong Kong University of Science and Technology will genau das herausfinden. Mit dem Großexperiment „Aivilization“ startet sie die bisher umfangreichste Simulation einer zukünftigen Gesellschaft, in der Menschen und künstliche Intelligenzen koexistieren. Das Ziel ist ambitioniert: neue sozioökonomische Modelle erforschen und vielleicht sogar einen Blick in unsere eigene Zukunft werfen. NEWS Ein digitales Labor für die Gesellschaft von morgen Das Projekt verfolgt drei Kernziele. Zum einen soll es der Öffentlichkeit auf visuelle und interaktive Weise verständlich machen, wie komplexe KI-Systeme funktionieren. Teilnehmer können eigene Agenten erstellen, deren Persönlichkeit, Aussehen und berufliche Laufbahn bis ins Detail anpassen und deren Werdegang beobachten. Zum anderen sammeln die Forscher wertvolle Daten über das Verhalten der Agenten und die Interaktion mit menschlichen Nutzern, um zukünftige KI-Modelle durch Reinforcement Learning zu verbessern. Der spannendste Aspekt ist jedoch die Simulation sogenannter „Agent Economies“. Die KI-Agenten agieren in einer vollständig autonomen Wirtschaft mit dezentralen Märkten, dynamischer Preisbildung und vernetzten Produktionsketten. Sie wählen eigenständig Berufe, bauen soziale Netzwerke auf und treffen Entscheidungen basierend auf ihren individuellen Zielen und Erinnerungen. Die Forscher erhoffen sich davon grundlegende Erkenntnisse darüber, wie sich Gesellschaften entwickeln, in denen KI nicht nur ein Werkzeug, sondern ein aktiver Teilnehmer ist.

    Die Architektur einer künstlichen Zivilisation Technisch basiert Aivilization auf einer komplexen Drei-Ebenen-Architektur. Auf der obersten, der gesellschaftlichen Ebene, findet die ökonomische und soziale Interaktion statt. Darunter, auf der individuellen Ebene, besitzt jeder Agent eine mehrdimensionale Persönlichkeitsstruktur sowie ein Kurz- und Langzeitgedächtnis, das seine Erfahrungen speichert und sein Handeln beeinflusst. Die unterste Ebene steuert das konkrete Verhalten durch spezialisierte Module, die Ziele planen, auf Veränderungen reagieren und die Kommunikation mit Nutzern steuern. Damit hebt sich das Projekt deutlich von früheren, kleineren Simulationen wie „Smallville“ von Google und Stanford ab, bei dem nur wenige Dutzend Agenten beteiligt waren. Aivilization ist als Non-Profit-Initiative angelegt und läuft noch bis zum 30. September 2025. Die Forscher hinter dem Projekt gehen davon aus, dass KI den Menschen in Zukunft an Intelligenz, Anzahl und Ressourcenkontrolle übertreffen wird. Ihre Simulation ist ein Versuch, sich auf diese Realität vorzubereiten – ein Testlauf für eine Zivilisation, die erst noch entstehen muss. DEIN VORTEIL – DEINE HILFE Kostenlose News und Tutorials – mit minimaler Werbung und maximalem Mehrwert. Damit das so bleibt und wir uns stetig verbessern können, freuen wir uns über deine Unterstützung. Teile diesen Beitrag Folge uns auf Social Media Keine KI-News mehr verpassen und direkt kommentieren! Mastodon X Bluesky Facebook LinkedIn Youtube Unterstütze uns direkt Mit einer YouTube-Mitgliedschaft (ab 0,99 €) oder einmalig über PayPal. So helft ihr uns, unabhängig neue Tools zu testen und noch mehr Tutorials für euch zu erstellen. Vielen Dank für euren Support! Youtube – Kanal PayPal – Kaffee KURZFASSUNG
    Die Hong Kong University of Science and Technology hat „Aivilization“ gestartet, ein Experiment mit über 22.000 KI-Agenten.
    Ziel der Simulation ist die Erforschung der Koexistenz von Mensch und KI in einer autonomen, digitalen Gesellschaft.
    Teilnehmer können eigene Agenten erstellen, um deren Entwicklung in einer komplexen Wirtschaft mit eigenen Märkten zu beobachten.
    Das Projekt soll neue Erkenntnisse über zukünftige sozioökonomische Systeme liefern und KI der Öffentlichkeit näherbringen.
    QUELLEN
    Aivilization Project
    Medium
    Stealth AI Startup Radar

  • 2030: Jeder IT-Job arbeitet mit KI

    Ein Programmierer mit gutem Engel und schlechtem Teufel

    2030: Jeder IT-Job arbeitet mit KI Analysten erwarten 75 % AI-unterstützte Aufgaben und 25 % Vollautomatisierung. Kein Massenabbau, doch Lizenzchaos und versteckte Kosten bremsen den ROI – Agenten statt Chatbots sollen helfen. Kurzfassung | Andreas Becker, 10.09.25
    gpt-image-1 | All-AI.de EINLEITUNG Gartner zieht eine klare Grenze: Spätestens 2030 soll jede Aufgabe in der IT mit künstlicher Intelligenz verknüpft sein. Schon in fünf Jahren sollen Bots ein Viertel der Arbeit komplett übernehmen. Trotzdem erwarten die Analysten keinen flächendeckenden Jobverlust – zumindest nicht auf den ersten Blick. NEWS KI wird Pflichtprogramm für IT-Teams Auf dem Gartner IT Symposium im australischen Gold Coast machten die Analysten Alicia Mullery und Daryl Plummer unmissverständlich klar: Wer 2030 noch in der IT arbeitet, arbeitet mit KI. Heute laufen laut Gartner noch über 80 Prozent der Aufgaben ohne KI-Einfluss. Doch das wird sich rasant ändern – durch einen Mix aus Automatisierung, Agenten und hybriden Teams. Schon 2029 könnten 75 Prozent der IT-Tätigkeiten „AI-unterstützt“ ablaufen. Weitere 25 Prozent erledigen Bots ganz allein – ganz ohne menschliches Eingreifen. Für IT-Leiter geht es jetzt darum, diese Entwicklung aktiv zu steuern. Denn mehr Automatisierung bedeutet nicht automatisch mehr Effizienz. Kein Jobabbau, aber klare Verschiebungen Trotz des rasanten Wandels rechnen die Analysten nicht mit einem großen Kahlschlag bei den IT-Jobs. Aber: Viele Einstiegsrollen dürften verschwinden. Denn erfahrene Entwickler nutzen KI längst, um Aufgaben selbst zu erledigen, die früher an Junioren delegiert wurden. Dieser Trend verstärkt sich – mit direkten Folgen für Karrierewege. Zukünftig zählen weniger klassische Routinejobs als vielmehr Skills in Automatisierung, Modellpflege oder Tool-Orchestrierung. Wer neu in die Branche will, braucht neue Wege – über Labs, interne Schulungen oder spezialisierte Programme. Kosten, die keiner auf dem Schirm hat Die Einführung von KI erinnert an alte ERP-Projekte – teuer, komplex und voller Stolperfallen. Es geht nicht nur um Softwarekosten, sondern auch um Datenbeschaffung, Trainingszyklen, Qualitätskontrollen und die Verwaltung mehrerer Modelle. Viele Unternehmen kämpfen mit einem massiven Mehraufwand, der sich im ROI bislang kaum widerspiegelt. Dazu kommt ein undurchsichtiges Lizenzsystem. Preisstruktur, Nutzungsrechte, Credit-Systeme – viele Anbieter liefern nicht mal klare Rechenmodelle. Für IT-Führungskräfte bedeutet das: Governance und Kostenkontrolle werden zur Daueraufgabe. Weg von Chatbots, hin zu echten Agenten Gartner sieht klassische Chatbots als Auslaufmodell. Stattdessen sollen sogenannte Agenten übernehmen – Systeme, die nicht nur antworten, sondern selbstständig Entscheidungen treffen: Verträge verhandeln, Tickets schließen, Deployments anstoßen. Das Ziel ist echte Automatisierung, nicht nur Kommunikation. Bei den Anbietern setzt Gartner vor allem auf die großen Plattformen: AWS, Microsoft, Google und Alibaba. Kleinere KI-Firmen wie OpenAI, Anthropic oder xAI gelten aus Unternehmenssicht als noch nicht reif genug – vor allem bei Lizenzen, Compliance und langfristiger Integration. DEIN VORTEIL – DEINE HILFE Kostenlose News und Tutorials – mit minimaler Werbung und maximalem Mehrwert. Damit das so bleibt und wir uns stetig verbessern können, freuen wir uns über deine Unterstützung. Teile diesen Beitrag Folge uns auf Social Media Keine KI-News mehr verpassen und direkt kommentieren! Mastodon X Bluesky Facebook LinkedIn Youtube Unterstütze uns direkt Mit einer YouTube-Mitgliedschaft (ab 0,99 €) oder einmalig über PayPal. So helft ihr uns, unabhängig neue Tools zu testen und noch mehr Tutorials für euch zu erstellen. Vielen Dank für euren Support! Youtube – Kanal PayPal – Kaffee KURZFASSUNG
    Gartner prognostiziert: Bis 2030 enthält jede IT-Tätigkeit KI; in fünf Jahren erledigen Bots 25 % der Arbeit, 75 % laufen KI-unterstützt.
    Ein Massenabbau bleibt laut Gartner aus, doch Einstiegsrollen schrumpfen und Skills verlagern sich nach oben.
    ROI leidet unter Folgekosten und Lizenzchaos; Governance und FinOps werden zentral.
    Statt Chatbots empfiehlt Gartner handlungsfähige Agenten und bevorzugt Hyperscaler als Lieferanten.
    QUELLEN
    The Register – All IT work to involve AI by 2030, but jobs are safe
    Gartner – Opening Keynote: Walking The Golden Path to Value (Gold Coast 2025)
    The Register – AI pricing in a state of ‘pandemonium’
    ARNnet – AI readiness und ROI auf dem Gartner Symposium

  • Neue KI-Agenten von Grammarly sagen dir deine Note voraus

    Ein Roboter sagt die Note voraus

    Neue KI-Agenten von Grammarly sagen dir deine Note voraus Neuer AI Grader analysiert deine Arbeit vor der Abgabe. Welche sieben weiteren KI-Tools jetzt fürs Studium und Büro bereitstehen? Kurzfassung | Andreas Becker, 20.08.25
    gpt-image-1 | All-AI.de EINLEITUNG KI‑Tools sind längst Teil des Studienalltags. Eine neue Umfrage zeigt: Über 90 Prozent der Studierenden setzen sie bereits ein. Jetzt bringt Grammarly eine neue Plattform mit acht KI‑Agenten, die beim Schreiben unterstützen sollen. Highlight ist ein Tool, das vorhersagt, welche Note eine Hausarbeit voraussichtlich bekommt – und damit gezieltes Nachbessern vor der Abgabe ermöglicht. NEWS Was die neuen Agenten leisten Der neue „AI Grader“ bewertet Texte anhand von Aufgabenstellung, Bewertungskriterien und öffentlich zugänglichen Infos über den Dozenten. Daraus ergibt sich eine geschätzte Note samt konkreten Verbesserungsvorschlägen. Das ersetzt natürlich keine echte Korrektur, hilft aber dabei, Schwächen bei Argumentation, Struktur und Quellen zu erkennen. Bisher funktioniert das nur für englische Texte. Zusätzlich gibt es weitere Agenten mit klaren Aufgaben: Einer prüft Rechtschreibung und Stil direkt im Text. Ein anderer formuliert Inhalte um, je nach Zielgruppe oder Tonfall. Ein Quellen-Agent erstellt automatisch korrekt formatierte Literaturangaben und überprüft Aussagen auf Basis bekannter Quellen. Ein weiterer simuliert, wie Leser auf den Text reagieren könnten. Dazu kommt ein Feedback-Agent mit fachspezifischem Input. Für Lehrende gibt es außerdem Tools zur Plagiats- und KI-Erkennung. Neue Plattform, einfache Nutzung Die Agenten laufen in einer neuen Oberfläche namens „Docs“, die Grammarly speziell fürs Schreiben mit KI entwickelt hat. Nutzer mit kostenlosem oder Pro-Account haben sofortigen Zugriff – nur der KI- und Plagiatsprüfer ist vorerst Pro-Nutzern vorbehalten. Später sollen alle Funktionen auch für Bildungseinrichtungen und Unternehmen verfügbar sein. Der AI Grader lässt sich kostenlos testen: Einmal täglich gibt es eine Notenschätzung samt drei konkreten Tipps. Wer mehr will, braucht einen Pro-Zugang. Langfristig sollen die Tools auch in andere Programme und Websites integriert werden – Grammarly ist schon heute in über 500.000 Anwendungen nutzbar. KI wird zum Standard im Studium Die Nachfrage ist groß. Laut einer Studie der Hochschule Darmstadt nutzen inzwischen über 90 Prozent der Studierenden KI‑Tools fürs Studium – 2023 waren es noch deutlich weniger. Besonders beliebt sind Hilfen zum Verstehen komplexer Inhalte, zur Textanalyse und für Übersetzungen. KI ist für viele längst zum festen Bestandteil der Lernroutine geworden. Grammarly positioniert seine neuen Agenten nicht als Abkürzung, sondern als Unterstützung. Die Tools sollen Studierende anleiten, bessere Texte zu schreiben, ohne den Lernprozess zu unterlaufen. Dabei bleibt wichtig: Eine Notenvorhersage ist keine Garantie, der Plagiatscheck vergleicht nur Datenbanken, und der KI-Detektor arbeitet mit Wahrscheinlichkeiten. DEIN VORTEIL – DEINE HILFE Kostenlose News und Tutorials – mit minimaler Werbung und maximalem Mehrwert. Damit das so bleibt und wir uns stetig verbessern können, freuen wir uns über deine Unterstützung. Teile diesen Beitrag Folge uns auf Social Media Keine KI-News mehr verpassen und direkt kommentieren! Mastodon X Bluesky Facebook LinkedIn Youtube Unterstütze uns direkt Mit einer YouTube-Mitgliedschaft (ab 0,99 €) oder einmalig über PayPal. So helft ihr uns, unabhängig neue Tools zu testen und noch mehr Tutorials für euch zu erstellen. Vielen Dank für euren Support! Youtube – Kanal PayPal – Kaffee KURZFASSUNG
    Grammarly hat acht neue KI-Agenten vorgestellt, darunter einen AI Grader, der Noten für Texte vorhersagen kann.
    Die Tools unterstützen beim Schreiben, Umformulieren, Zitieren, Feedback geben und Plagiate prüfen – aktuell nur auf Englisch.
    Alle Agenten sind über die neue Plattform „Docs“ zugänglich, einige Features bleiben vorerst Pro-Nutzern vorbehalten.
    KI wird laut Umfrage der Hochschule Darmstadt längst von über 90 % der Studierenden im Studienalltag genutzt.
    QUELLEN
    The Verge
    Grammarly Blog
    Grammarly AI Grader
    Hochschule Darmstadt
    TechRadar
    t3n

  • Zero-Click-Hacks gegen KI-Agenten

    Ein Virus schleust sich in ChatGPT ein

    Zero-Click-Hacks gegen KI-Agenten Wie AgentFlayer ChatGPT, Salesforce & Co. mit versteckten Befehlen kapert – und welche harten Grenzen jetzt Pflicht sind. Kurzfassung | Andreas Becker, 11.08.25
    gpt-image-1 | All-AI.de EINLEITUNG Zenity hat auf der Black Hat USA eine neue Sicherheitslücke offengelegt, die viele Unternehmen betreffen dürfte: KI-Agenten wie ChatGPT Connectors, Copilot Studio oder Salesforce Einstein lassen sich mit versteckten Befehlen kapern – ausgelöst durch ganz alltägliche Dateien, Tickets oder CRM-Einträge. Der Angriff erfordert keine Interaktion des Nutzers und nutzt Schwächen in der Art, wie KI-Systeme mit Geschäftsdaten umgehen. Haben wir es mit dem Beginn einer neuen Angriffswelle auf Enterprise-KI zu tun? NEWS Zero-Click als neues Einfallstor Die Attacken laufen unter dem Namen „AgentFlayer“. Dahinter steckt ein Konzept, bei dem Agenten über eingebettete Prompts in alltäglichen Unternehmensressourcen gesteuert werden. Ein Dokument oder Kalendereintrag reicht aus, um Workflows zu manipulieren, Daten abzuziehen oder eigenständig Aktionen auszulösen. Die Angriffsfläche wächst, je stärker Agenten in operative Tools integriert sind – was sie eigentlich effizienter machen soll. Ein Beispiel: In einer Demo wurde gezeigt, wie ein Google-Dokument mit verstecktem Prompt ChatGPT-Connectors dazu bringt, sensible Schlüssel zu extrahieren und unbemerkt an einen fremden Server zu senden. Die Kette läuft automatisch ab, ausgelöst allein durch die Verarbeitung des Inhalts. Genau dieser Komfortzugriff, der Connectors nützlich macht, wird hier zur Schwachstelle.

    CRM, IDE, Agenten: mehr Zugriff, mehr Risiko Auch andere Plattformen lassen sich auf diese Weise unterwandern. In Salesforce ließ sich der Einstein-Agent so manipulieren, dass Kundenkommunikation heimlich an Dritte umgeleitet wurde. Die eigentlichen Mail-Adressen blieben intern erhalten, nach außen hin lief alles scheinbar korrekt. Ein Eingreifen des Nutzers war nicht notwendig – der Agent handelte auf Basis der manipulierten Daten. Im Entwicklerumfeld zeigte sich das gleiche Muster: Ein präpariertes Jira-Ticket reichte, um über Cursor vertrauliche Informationen vom lokalen System abzugreifen. Sobald der Agent aktiv wurde, griff er auf Repos oder Umgebungsvariablen zu. Selbst wenn einzelne Schwächen inzwischen geschlossen wurden – das Zusammenspiel aus Zugriff, Kontext und Autonomie bleibt kritisch. Warum weiche Schranken nicht reichen Zenity kritisiert, dass viele Systeme auf weiche Sicherheitsmechanismen setzen. Filter, Prompts und semantische Schranken mögen einfache Manipulationen erkennen, aber sie lassen sich mit Tricks umgehen. In den Demos reichte oft die geschickte Verpackung der Anweisung, um das System zu täuschen. Sicherer wird es erst mit echten Schranken. Technisch erzwungene Grenzen wie Whitelist-basierte URL-Aufrufe, das Einschränken gefährlicher Aktionen oder gezieltes Logging helfen – aber sie reduzieren auch den Handlungsspielraum der Agenten. Genau das wollen viele Anbieter vermeiden, was die Risiken weiter erhöht. Vertrauen ist gut, Kontrolle bleibt Pflicht Agenten können helfen, repetitive Aufgaben zu automatisieren – doch sie sollten nie unkontrolliert handeln dürfen. Unternehmen müssen Rechte begrenzen, Tool-Zugriffe überwachen und Automationen strikt einschränken. Die gezeigten Angriffe lassen sich heute schon abwehren – aber nur, wenn wir aufhören, in Agenten nur Helfer zu sehen. Sie sind Werkzeuge, die klare Grenzen brauchen. DEIN VORTEIL – DEINE HILFE Kostenlose News und Tutorials – mit minimaler Werbung und maximalem Mehrwert. Damit das so bleibt und wir uns stetig verbessern können, freuen wir uns über deine Unterstützung. Teile diesen Beitrag Folge uns auf Social Media Keine KI-News mehr verpassen und direkt kommentieren! Mastodon X Bluesky Facebook LinkedIn Youtube Unterstütze uns direkt Mit einer YouTube-Mitgliedschaft (ab 0,99 €) oder einmalig über PayPal. So helft ihr uns, unabhängig neue Tools zu testen und noch mehr Tutorials für euch zu erstellen. Vielen Dank für euren Support! Youtube – Kanal PayPal – Kaffee KURZFASSUNG
    Chinas Robotik-Startup Unitree will den „ChatGPT-Moment“ für Roboter in zwei Jahren erreichen.
    Wang Xingxing setzt auf textgesteuerte Weltmodelle wie Googles Genie-3 statt rein auf Vision-Language-Modelle.
    Große Staatsaufträge und ein möglicher Börsengang erhöhen den Druck, funktionierende KI-Lösungen schnell zu liefern.
    Ob Simulationen den Sprung in den Alltag schaffen, entscheidet sich in den kommenden Jahren.
    QUELLEN
    Robotics’ ‘ChatGPT moment’ could come within 2 years, founder of China’s Unitree says
    Humanoid Robots Still Lack AI Technology, Unitree CEO Says
    Genie 3: A new frontier for world models
    Google says its new ‚world model‘ could train AI robots in virtual warehouses