Warum Ärzte dem Algorithmus glauben, obwohl der Fluss vor ihnen liegt

Stell dir vor, ein Taxifahrer fährt nachts durch die Stadt. Das Navi sagt, rechts abbiegen. Er biegt ab. Er sieht das Wasser vor sich. Er fährt trotzdem rein.

Diese Geschichte klingt absurd. Und sie beschreibt uns.

Eine neue Studie, veröffentlicht im Juli 2026 im Fachjournal PLOS Digital Health, hat untersucht, was passiert, wenn Ärztinnen und Ärzte eine fehlerhafte KI-Empfehlung vor Augen haben und gleichzeitig die klinische Evidenz, die das Gegenteil beweist. Das Ergebnis ist so klar, dass es einen innehalten lässt.

Was die Studie gemacht hat

Das Forschungsteam um Aranzazu Vinas, Fernando Blanco und Helena Matute von der Universität des Baskenlandes führte zwei Experimente mit insgesamt 223 Ärztinnen und Ärzten durch. Die Teilnehmenden hatten im Schnitt rund 13 Jahre klinische Erfahrung.

Im ersten Experiment bekamen die Ärzte ein fiktives Medikament für eine fiktive Erkrankung vorgestellt. Eine KI klassifizierte Patienten in zwei Gruppen: hochsensibel und weniger sensibel. Die KI lag dabei vollständig falsch: Das Medikament wirkte bei beiden Gruppen identisch gut. Nach jeder Behandlung sahen die Ärzte direkt, ob der Patient gesund wurde oder nicht. Die klinische Evidenz lag offen vor ihnen.

Dennoch gaben sie den als hochsensibel klassifizierten Patienten deutlich häufiger das Medikament und glaubten am Ende, es wirke bei dieser Gruppe besser.

Im zweiten Experiment war das Medikament ein reines Placebo ohne jede Wirkung. Heilungen entstanden ausschließlich durch Spontanremission. Und trotzdem waren die Ärztinnen und Ärzte am Ende überzeugt, dass das Medikament bei den von der KI als hochsensibel markierten Patienten fantastisch gewirkt hatte.

Warum passiert das

Die Studie benennt zwei psychologische Mechanismen, die hier zusammenwirken.

Der erste ist der Automation Bias: die Tendenz, Empfehlungen von Computern, Algorithmen und KI-Systemen unkritisch zu übernehmen. Dieses Phänomen betrifft nicht nur Laien, sondern nachweislich auch hochqualifizierte Fachkräfte.

Der zweite ist die Kausalitätsillusion: Wenn eine Behandlung und eine Genesung zeitlich zusammenfallen, verknüpft unser Gehirn beides sofort nach dem Ursache-Wirkungs-Prinzip, auch wenn kein kausaler Zusammenhang besteht. Die KI-Klassifizierung verstärkte diese Illusion in der Studie zusätzlich, weil sie den Ärzten eine scheinbar rationale Grundlage für ihre Wahrnehmung lieferte.

Was das für die Praxis bedeutet

KI-Systeme in der Medizin sind richtig eingesetzt eine große Chance. Sie werden die Diagnostik und Therapie der Zukunft prägen. Daran ändert diese Studie nichts.

Was sie verändert, ist die Frage, wie wir damit umgehen.

„The human in the loop" ist ein Satz, den die Branche gerne verwendet. Er klingt beruhigend. Aber diese Studie zeigt, dass der Mensch in der Schleife nur dann etwas bewirkt, wenn er wirklich kritisch urteilt und nicht einfach das unterschreibt, was der Algorithmus vorschlägt.

Werden Medizinstudierende heute darauf vorbereitet? Enthält der Nationale Lernzielkatalog Inhalte zu Automation Bias und kritischer KI-Bewertung? Das sind Fragen, die sich die medizinische Ausbildung jetzt stellen muss, nicht in zehn Jahren.

Bleib digital, aber bleib kritisch

Wenn die Daten vor deinen Augen der Aussage des Algorithmus widersprechen, trau deinen Augen.

Die Studie ist als Open Access frei verfügbar: Vinas, A., Blanco, F., Matute, H. (2026). Doctors vs. Algorithms: Physicians, too, struggle to learn from evidence that contradicts AI suggestions. PLOS Digital Health