Formel soll riskante Antworten lokaler KI-Modelle einschätzen
Das Wichtigste zuerst
Neil F. Johnson und Frank Yingjie Huo haben eine Formel vorgestellt, die abschätzen soll, wann ein lokales Sprachmodell statt einer angemessenen Antwort eine potenziell schädliche Antwort gibt. Sie untersuchen damit Modelle für Geräte mit begrenzter Rechenleistung, nicht das Sicherheitsverhalten moderner KI-Assistenten, die zusätzlich auf Anweisungen und Sicherheitsvorgaben trainiert wurden. Laut den Autoren braucht es Tests mit weiteren Modellen und neuen Eingaben nach vorab festgelegten Kriterien, bevor die Formel als zahlenmässige Risikoanzeige dienen kann.
KI-generiert aus Berichten · aktualisiert vor 12 Stunden
Berichtsverlauf
Entdecken Sie verschiedene Seiten des Ereignisses anhand der Berichte.
- heise onlinePhysiker entwickeln Formel zur Einschätzung riskanter Antworten lokaler KI-Modelle
Zwei Physiker der George Washington University haben eine Formel entwickelt, die abschätzen soll。
Trendverlauf dieses Ereignisses
- Aktueller Wert im vergleichbaren Bereich
- 7
- Höchstwert im vergleichbaren Bereich
- 1013. Okt. 20:00
- Veränderung in den letzten 24 Stunden
- –
Der Trend vergleicht nur dieselben Akteure, die durchgehend vollständig beobachtet wurden. Sein Umfang kann kleiner sein als bei der aktuellen Trendbewertung. Mauszeiger bewegen oder ins Diagramm klicken, um Stundenwerte zu sehen; mit den Pfeiltasten links und rechts wechseln.