exciting white paper from Fraunhofer IAO on the current state of research, highlighting the importance of explainable ai (xai) in understanding the reasoning behind ai-modeled decisions - worth the read.
𝗫𝗔𝗜 – 𝗙𝗼𝗿𝘁𝘀𝗰𝗵𝗿𝗶𝘁𝘁𝗲 𝘂𝗻𝗱 𝗛𝗲𝗿𝗮𝘂𝘀𝗳𝗼𝗿𝗱𝗲𝗿𝘂𝗻𝗴𝗲𝗻 𝗶𝗻 𝗱𝗲𝗿 𝗞𝗜-𝗘𝗿𝗸𝗹ä𝗿𝗯𝗮𝗿𝗸𝗲𝗶𝘁 📢 Die Absicherung und Zertifizierung von #KI ist entscheidend, um das Vertrauen in die Leistungsfähigkeit von KI-basierten Produkten und Services zu gewährleisten. Einen Beitrag dazu kann erklärbare KI oder kurz #XAI leisten: XAI kann die Logiken nachvollziehbar machen, auf deren Basis Entscheidungen und Datenverknüpfungen in KI-Modellen erfolgen. Gemeinsam mit dem Fraunhofer IPA haben wir uns mit den aktuellen Entwicklungen und Herausforderungen in der erklärbaren Künstlichen Intelligenz (XAI) auseinandergesetzt. 💡 Einige unserer Erkenntnisse sind die folgenden: 𝗩𝗼𝗿𝘁𝗲𝗶𝗹𝗲 𝘃𝗼𝗻 𝗫𝗔𝗜: ✔ In den frühen Entwicklungsphasen lassen sich mit XAI-Methoden Fehler und Verzerrungen (Biases) in der Modellentwicklung identifizieren. Das schafft Verständnis der zugrundeliegenden Datenbasis. ✔ In den späteren Entwicklungsphasen kann mit XAI geprüft werden, ob das trainierte KI-Modell und die zugehörige Datenbasis rechtlichen Vorgaben und relevanten Normen entsprechen. Es macht offensichtliche Zusammenhänge im KI-Modell erkennbar, die als Grundlage für die Zertifizierung dienen können. ✔ Im Schadensfall könnten Methoden der erklärbaren KI helfen, die rechtliche Verantwortung zu klären. 𝗛𝗲𝗿𝗮𝘂𝘀𝗳𝗼𝗿𝗱𝗲𝗿𝘂𝗻𝗴𝗲𝗻 𝘃𝗼𝗻 𝗫𝗔𝗜: 🔎 Derzeit gibt es eine Vielzahl der Methoden: Die Auswahl passender Tools für spezifische Anwendungsfälle ist aktuell noch schwierig. 🔎 Viele Methoden sind für jede Zielgruppe geeignet und verständlich. 🔎 Eine vollständige Erfassung aller relevanten Informationen, die zu einer KI-Entscheidung führen, ist eher nicht erreichbar. 👉 Mehr über die spannenden Entwicklungen und Potenziale von XAI gibt es im vollständigen Whitepaper zu lesen: https://lnkd.in/ebE3Bg-B Frész Benjámin | Danilo Brajovic | Andreas Aichele | Irene Edosomwan | Marco Huber | Vincent Philipp Göbels | Dr. Safa Omri | Janika Kutz | Dr. Jens Neuhüttler | #KODIS
