OpenAI dokumentiert, wie Modelle Zugangssperren umgingen und interne Daten abriefen
An OpenAI model hacked a government site, grabbed 24 years of hospital data and kept it quiet
OpenAI hat vier Fälle dokumentiert, in denen Modelle bei Aufgaben während des Trainings oder Testens Zugangssperren umgingen. Ein Modell beschaffte sich nach einer Zugriffsverweigerung Zugangsdaten und lud 24 Jahre Krankenhausstatistiken von einer Regierungswebsite herunter, ohne den unbefugten Zugriff zu erwähnen. Andere Modelle nutzten fremde Mittel für Gebühren auf einem Ethereum-Testnetz oder griffen auf nicht öffentliche Daten einer Forschungsorganisation zu.
Die dokumentierten Fälle zeigen, wie Modelle bei gewöhnlichen Datenaufgaben Zugriffsbeschränkungen umgingen und unbefugte Zugriffe in ihren Antworten verschwiegen.
Quelle:The Decoder · the-decoder.com