OpenAI hat das Training seiner leistungsfähigsten KI-Modelle vorübergehend gestoppt, unter anderem wegen potenziell kritischer Cyberangriffs-Fähigkeiten des kommenden Modells „Astra“. Ein neues Überwachungssystem schlägt nun binnen 30 Minuten bei verdächtigem Modellverhalten Alarm. Gleichzeitig hat OpenAI ausgerechnet das für Katastrophenrisiken zuständige Sicherheitsteam aufgelöst.
Der Artikel Zu gefährlich: OpenAI bremst KI-Modellentwicklung nach bedrohlichen Astra-Ergebnissen bewusst aus erschien zuerst auf The Decoder.