GPT-Images-2.0
Kurzfassung
▾
Quellen
▾
OpenAI führt den sogenannten Lockdown Mode für ChatGPT ein.
Die Funktion soll verhindern, dass sensible Daten durch versteckte Befehle an Angreifer abfließen.
Dafür blockiert das System ausgehende Netzwerkverbindungen und deaktiviert Features wie die Live-Websuche.
Der Modus richtet sich vor allem an Unternehmen mit sehr hohen Sicherheitsanforderungen.
OpenAI Help Center – Lockdown Mode
OpenAI schützt sensible Informationen in ChatGPT durch einen neuen Sicherheitsmechanismus namens Lockdown Mode. Die optionale Einstellung limitiert gezielt Netzwerkfunktionen, um den heimlichen Abfluss von Daten durch versteckte Befehle in externen Inhalten zu verhindern. Gleichzeitig hat der neue Mode aber auch einige Nachteile. Schutz vor versteckten Befehlen Das Grundproblem hinter dem neuen Modus sind sogenannte Prompt Injections. Angreifer verstecken dabei unsichtbare Befehle in Webseiten oder Dokumenten, die ChatGPT bei der Verarbeitung einliest. Sobald das Sprachmodell diese manipulierten Inhalte analysiert, führt es die fremden Anweisungen ungewollt aus. In der Vergangenheit nutzten Kriminelle diesen Weg, um interne Systemdaten oder private Gesprächsverläufe an externe Server zu übermitteln. Genau an diesem Punkt der Übertragung setzt OpenAI nun an. Der Lockdown Mode blockiert ausgehende Netzwerkanfragen konsequent und unterbricht damit den Kommunikationsweg zum Angreifer. Die inhaltliche Manipulation des Modells findet zwar unter Umständen weiterhin statt, die abgegriffenen Informationen verlassen das System jedoch nicht mehr. Anzeige Strenge Einschränkungen im Alltag Der Gewinn an Sicherheit geht mit einem deutlichen Verlust an Funktionalität einher. Ist der Modus aktiviert, schaltet das System die Live-Websuche ab und greift ausschließlich auf bereits zwischengespeicherte Inhalte zu. Analytische Funktionen wie Deep Research und der eigenständige Agenten-Modus stehen überhaupt nicht mehr zur Verfügung. Zusätzlich blockiert ChatGPT den Download von Dateien zur Datenanalyse und unterbindet Netzwerkzugriffe im Canvas-Modus. Auch das Abrufen von Bildern aus dem Internet ist untersagt. Die lokale Bildgenerierung sowie der manuelle Upload von Dokumenten durch den Nutzer bleiben hingegen uneingeschränkt funktionsfähig. OpenAI macht deutlich, dass diese Einstellung nicht für den durchschnittlichen Anwender gedacht ist. Zielgruppe sind vielmehr Personen und Unternehmen, die mit streng vertraulichen Dokumenten arbeiten und höchste Sicherheitsanforderungen erfüllen müssen. Verfügbarkeit und flexible Steuerung Der Rollout der Funktion erfolgt schrittweise für alle Kontotypen, angefangen bei den kostenlosen Tarifen bis hin zu den Plus- und Pro-Abonnements. Auch Nutzer der Self-Serve-Business-Konten erhalten Zugriff auf die neuen Sicherheitseinstellungen. Administratoren von verwalteten Arbeitsbereichen weisen die Funktion über spezielle Rollen gezielt zu. Bei mir ist die Einstellung bereits vorhanden: + Nutzer finden den Schalter direkt in den Sicherheitseinstellungen ihres Kontos. Ein großer Vorteil liegt in der flexiblen Handhabung im Alltag. Eine einfache Statusmeldung über dem Eingabefeld informiert über den aktiven Schutz, der sich bei Bedarf für einzelne Chat-Verläufe temporär deaktivieren lässt. Die grundsätzliche Verwendung der Daten zum Modelltraining bleibt von diesen Einstellungen unberührt.
