OpenAI stellt IH-Challenge vor, einen Trainingsdatensatz, der KI-Modellen beibringt, vertrauenswürdige Anweisungen zuverlässig über nicht vertrauenswürdige zu stellen. Erste Ergebnisse zeigen deutliche Verbesserungen bei Sicherheit und Prompt-Injection-Abwehr.
Der Artikel OpenAI will mit neuem Trainingsdatensatz Prompt-Injection-Abwehr deutlich verbessern erschien zuerst auf The Decoder.