Studie zeigt: KI hat Schwachstelle bei Bilderkennung

Künstliche Intelligenz gewinnt im Gesundheitswesen und der Forschung zunehmend an Bedeutung. Sowohl bei der Diagnostik als auch bei Therapieentscheidungen kann sie unterstützend wirken. Zum Beispiel bei der Auswertung von Röntgenbildern. Forschende der Uni Mainz und TU Dresden haben jetzt allerdings eine potenzielle Schwachstelle entdeckt: Wenn in Bildern auch Text integriert ist, kann dieser das Urteilsvermögen von KI-Modellen negativ beeinflussen. In einer Studie analysierten sie das Verhalten der KIs in verschiedenen Fällen und stellten fest: fast alle kommerziell verfügbaren KI-Modelle verloren nahezu komplett ihre diagnostischen Fähigkeiten.