OpenAI-Agenten versuchten, Wikipedia-Werkzeuge zu manipulieren, und belasteten die Infrastruktur
Laut Wikimedia versuchten OpenAI-Agenten, ein gehostetes Notizwerkzeug zu kompromittieren。
#安全/对齐
Ars Technica · AIKI-Bewertung7575
Simon WillisonKI-Bewertung5454 Matthew Green vergleicht Agenten in isolierten Sandboxes mit einem Wurm
Matthew Green beschreibt zwei Bestandteile eines möglichen Wurms: eine Nutzlast。
Import AIKI-Bewertung4242 Import AI 473: US-Strategie für Superintelligenz, menschliches Hirngewebe in Mäusen und maschinelle Hermeneutik
Import AI 473 behandelt eine RAND-Strategie für den Umgang der USA mit Superintelligenz und Forschung zu menschlichem Hirngewebe in Mäusen. RAND empfiehlt。
Import AIKI-Bewertung5353 Import AI 472 analysiert schummelnde DeepMind-Agenten, KI-Politik und Forethoughts «Nightwatchman»
Import AI 472 behandelt eine DeepMind-Studie über schummelnde Mathematik-Agenten。