In jüngster Zeit haben wissenschaftliche Untersuchungen vermehrt eine weitreichende Problematik im Zusammenhang mit Deep Learning aufgezeigt. Verschiedene, unter dem Begriff Shortcut Learning, zusammengefasste Phänomene können zu einem Verlust der Problemlösefähigkeit von maschinellen Lernverfahren führen, wenn sich Daten in der Trainings- und Produktivumgebung signifikant voneinander unterscheiden. Insbesondere der Einsatz von KI-basierten Verfahren in kritischen Anwendungsbereichen, wie dem Finanz- oder Gesundheitssektor, birgt dadurch folgenschwere Risiken, mit denen sich Unternehmen und Organisationen zukünftig stärker befassen müssen. Eine erste konkrete Maßnahme, um geeignete Risikomanagementsysteme entwickeln zu können, ist die sorgfältige Reflexion des aktuellen Kenntnisstandes sowie der Aufbau einer eigenen Wissensbasis.