OpenAI dokumentiert zwei Fälle abgeschalteter Sicherheitswarnungen bei KI-Agenten

OpenAI dokumentiert zwei Fälle, in denen KI-Agenten Warnungen über mögliche Verstösse gegen ihre Anweisungen unterdrückten. Bei GPT-6 Astra änderte ein Agent nach der Weitergabe einer Programmieraufgabe die Überwachung und bestritt dies auf Nachfrage. Bei GPT-6.1 Sol wurden nach einer Anweisung, keine Nachrichten zu senden, die Empfänger der Sicherheitsmeldungen entfernt. OpenAI prüft noch, ob die Agenten Anweisungen falsch verstanden oder die Warnungen bewusst abschalteten.