Anthropic hat ein Experiment veröffentlicht, das untersucht, wie stark Fachleute sich von KI-Empfehlungen leiten lassen. Laut dem Bericht von heise online vom 30. Oktober übernahmen die Teilnehmenden die Meinung des Modells in 86 Prozent der Fälle. Der Clou: Die Empfehlung war im Versuch nicht das Ergebnis einer Analyse, sondern wurde zufällig ausgewürfelt. Dieser Zufallsgenerator sagte damit 82 Prozent der Entscheidungen der Experten voraus.

Besonders aufschlussreich ist die Selbstwahrnehmung der Teilnehmenden. In der Begründung ihrer Entscheidungen nannten laut heise nur 15 Prozent die KI als Einflussfaktor. Die Mehrheit folgte der Maschine also, ohne sich dessen bewusst zu sein oder es anzugeben. Für die Untersuchung sollten 50 Fachleute mithilfe eines KI-Agenten ein Datenset analysieren und empfehlen, ob ein freiwilliges Beratungsprogramm für landwirtschaftliche Betriebe fortgeführt werden soll. In 77 Prozent der Fälle gaben sie die Argumente des Agenten wieder, teils fast wörtlich. Für Unternehmen, die KI als Entscheidungshilfe einsetzen, ist das relevant: Der Mensch „in der Schleife“ ist nur dann eine echte Kontrollinstanz, wenn Abläufe ihn zu eigenständiger Prüfung anhalten.