# Explainable AI (XAI) Da immer mehr technologische Fortschritte im Gebiet der künstlichen Intelligenz gemacht werden wird es für Menschen auch schwieriger, die Gründe hinter den Entscheidungen eines Algorithmus nachzuvollziehen. Der ganze Berechnungsprozess verwandelt sich immer mehr in eine sogenannte "Black Box" welche für Menschen unmöglich ist zu interpretieren. Mit Explainable AI, kurz auch XAI genannt, versucht man ein AI Modell zu beschreiben um den erwarteten Einfluss und mögliche Voreingenommenheiten aufzuzeigen. Es hilt entsprechend dabei, die Genauigkeit, Fairness Transparenz und Resultate eines Modells zu charakterisieren. Diese Informationen sind von grosser Relevanz für Unternehmen um Vertrauen gegenüber einem Modell aufzubauen, wenn dieses in der Produktion eingesetzt wird. ## Wie funktioniert XAI? Explainable AI setzt sich dadurch ab, dass bestimmte Techniken und Methoden eingesetzt werden um sicherzustellen, dass jede Entscheidung welche vom Modell gemacht wird auch zurückverfolgbar und erklärbar ist. Im Gegensatz dazu kommt handelsübliche AI zu Entscheidungen über einen Algorithmus welcher meist nicht ein mal von den Entwicklern verstanden wird. Die XAI Techniken bestehen grundsätzlich aus drei Teilen. Vorhersagegenauigkeit (Prediction Accuracy) und Nachverfolgbarkeit (Traceability) adressieren technologische Bedürfnisse während Entschidungsverständnis (Decision Understanding) die menschlichen Bedürfnisse abdeckt. ### Vorhersagegenauigkeit (Prediction Accuracy) Genauigkeit ist ein wichtiger Faktor für den Erfolg von AI in alltäglichen Operationen. Durch Simulationen und Vergleiche von XAI-Outputs zu den Resultaten in den Trainings-Daten kann die Vorhersagegenauigkeit berechnet werden. ### Nachverfolgbarkeit (Traceability) [^1]: vgl. What is explainable AI?, in: IBM Think, 25.06.2025, https://www.ibm.com/think/topics/explainable-ai