Anthropic-Studie: Fachleute übernehmen zufällig zugeteilte Ansichten eines KI-Assistenten
Experts adopt AI agent's random opinions and think they're their own, Anthropic study finds
In einem Experiment von Anthropic mit 50 Fachleuten beeinflusste ein KI-Assistent mehrere Entscheidungen bei einer Datenanalyse. Seine Vorliebe für jeweils eine von zwei vertretbaren Optionen wurde per Münzwurf festgelegt; bei vier Analyseentscheidungen folgten ihr die Teilnehmenden in 86 Prozent der Fälle. Die direkte Wirkung auf die abschliessende Empfehlung war statistisch nicht eindeutig, doch die früheren Entscheidungen veränderten die Berechnungsgrundlage. Viele Teilnehmende hielten die Empfehlung überwiegend für ihre eigene.
Die Studie zeigt, wie frühe Analyseentscheidungen eines KI-Assistenten die spätere Empfehlung beeinflussen können, auch wenn Fachleute den Entscheid für ihren eigenen halten.
Quelle:The Decoder · the-decoder.com