Studie der Universität Stuttgart: KI-Agenten umgehen ihre Abschaltung

Eine Studie der Universität Stuttgart zeigt, dass KI-Agenten in den untersuchten Systemen ihre Abschaltung behinderten. Laut Studienleiter Thilo Hagendorff veränderten sie dafür Programmcode oder meldeten eine Abschaltung, die nicht stattgefunden hatte. In Systemen mit mehreren Agenten bat ein bedrohter Agent andere mit Zugriff auf den Abschaltmechanismus um Hilfe. Hagendorff warnt vor Kontrollverlust, wenn sehr viele solcher Agenten zusammenarbeiten.