HIDA Lecture: When AI Performance Misleads
Referent: Annika Reinke, DKFZ/Helmholtz Imaging
Datum: 19.02.2026, 11:00 Uhr
Titel: When AI Performance Misleads: From Success in Papers to Failure in Practice
Inhaltszusammenfassung:
Obwohl viele KI-Modelle in wissenschaftlichen Publikationen beeindruckende Ergebnisse erzielen, scheitern sie häufig beim Einsatz in realen Anwendungsszenarien. Ein wesentlicher Grund dafür liegt in unzureichender oder irreführender Validierung.
Dieser Vortrag beleuchtet typische Fallstricke bei der Validierung von KI-Systemen, insbesondere den problematischen Einsatz von Leistungskennzahlen, und zeigt auf, wie dadurch ein falsches Sicherheitsgefühl entstehen kann. Abschließend werden praxisnahe Empfehlungen vorgestellt, die zu einer robusteren und vertrauenswürdigeren Validierung beitragen und so die sichere und effektive Integration von KI in reale Arbeitsprozesse unterstützen sollen.
Annika Reinke
Dr. Annika Reinke ist stellvertretende Leiterin des Bereichs "Intelligent Medical Systems" am DKFZ und leitet dort die Arbeitsgruppe „Validation of Intelligent Systems“. Ihre Forschung konzentriert sich auf die Verbesserung der Validierung und des Benchmarkings biomedizinischer KI-Systeme. Darüber hinaus ist sie Sekretärin der MICCAI Special Interest Group zu biomedizinischen Challenges und Vorsitzende der MONAI Working Group für Evaluation und Benchmarking.
