Kreuzentropie
Kreuzentropie ist ein zentrales Konzept sowohl in der Informationstheorie als auch im maschinellen Lernen und dient als Maß zur Bestimmung der Divergenz zwischen zwei Wahrscheinlichkeitsverteilungen. Im maschinellen Lernen wird sie als Verlustfunktion eingesetzt, um Abweichungen zwischen vorhergesagten Ausgaben und tatsächlichen Labels zu quantifizieren und die Modellleistung zu optimieren, insbesondere bei Klassifikationsaufgaben.