Google Deepmind behandelt die eigenen KI-Agenten wie potenzielle Insider-Bedrohungen und hat eine „AI Control Roadmap“ veröffentlicht, die Sicherheitsmaßnahmen an messbare KI-Fähigkeiten koppelt. Eine Analyse von einer Million Coding-Aufgaben zeigt: Die meisten Probleme entstehen durch Übereifer der Agenten, nicht durch böswillige Absicht. Deepmind warnt vor einem schmalen Zeitfenster für globale Sicherheitsstandards.
Der Artikel Google Deepmind behandelt eigene KI-Agenten wie abtrünnige Mitarbeiter mit Büroschlüssel erschien zuerst auf The Decoder.