{"id":180919,"date":"2023-07-20T09:54:34","date_gmt":"2023-07-20T08:54:34","guid":{"rendered":"https:\/\/liora.io\/de\/?p=180919"},"modified":"2026-02-06T06:32:41","modified_gmt":"2026-02-06T05:32:41","slug":"maschinelles-lernen-leistung-und-interpretierbarkeit","status":"publish","type":"post","link":"https:\/\/liora.io\/de\/maschinelles-lernen-leistung-und-interpretierbarkeit","title":{"rendered":"Maschinelles Lernen: Leistung und Interpretierbarkeit"},"content":{"rendered":"

Leistung und Interpretierbarkeit: Ein notwendiger Kompromiss?<\/h2>\n

In den letzten zehn Jahren haben sich immer mehr Unternehmen der digitalen Transformation verschrieben und Methoden der k\u00fcnstlichen Intelligenz in die Konzeption ihrer Produkte und die Gestaltung ihrer Prozesse integriert. Das Sammeln, Analysieren und Nutzen von Daten wird in immer mehr Bereichen als wesentlicher Faktor f\u00fcr das Unternehmenswachstum angesehen.<\/h4>\nDa diese Aufgaben jedoch f\u00fcr die meisten Unternehmen in unserem digitalen Zeitalter zur allt\u00e4glichen Praxis geworden sind, werden heute viele Bedenken hinsichtlich der Anwendung von KI f\u00fcr bestimmte Zwecke oder in bestimmten Branchen laut.\nNehmen wir ein Beispiel aus unserem t\u00e4glichen Leben, um diese Aussage zu veranschaulichen. Stell dir vor, dein Kreditantrag wird aufgrund eines neuen Scoring-Algorithmus deiner Bank abgelehnt. Auch wenn diese Algorithmen das Risikoprofil einer Person effizient bewerten, bringen sie die Bankberater aufgrund ihrer mangelnden Transparenz in eine schwierige Situation, in der sie die Entscheidung der Bank nicht begr\u00fcnden k\u00f6nnen.\n\nDie Undurchsichtigkeit von K\u00fcnstlicher Intelligenz ist eines der gr\u00f6\u00dften Hindernisse f\u00fcr ihre Einf\u00fchrung in den meisten Unternehmen und Organisationen. Sie stellt eine st\u00e4ndige Herausforderung f\u00fcr Data Scientists dar, denn sie m\u00fcssen eine hohe Genauigkeit ihres Modells sicherstellen und gleichzeitig ein ausreichendes Ma\u00df an Verst\u00e4ndlichkeit wahren.\n\nIn diesem Zusammenhang ist das Verst\u00e4ndnis der Bedeutung der Modellinterpretierbarkeit f\u00fcr die L\u00f6sung konkreter Probleme der erste Schritt zu erfolgreichen Data Science-Projekten.\n

Explicability vs. Interpretability<\/h2>\nBeginnen wir mit den wichtigsten Definitionen.\nErkl\u00e4rbarkeit. Eine algorithmische Entscheidung wird als erkl\u00e4rbar bezeichnet, wenn sie auf der Grundlage bekannter Daten und Merkmale der Situation explizit erkl\u00e4rt werden kann. Mit anderen Worten, wenn es m\u00f6glich ist, die Werte bestimmter Variablen (die Merkmale) und ihre Auswirkungen auf die Vorhersage, z. B. einer Punktzahl, und damit auf die Entscheidung zu verkn\u00fcpfen.\n\nUm das Beispiel des Bankkredits zu verwenden, kann das Modell als erkl\u00e4rbar angesehen werden, wenn es die Beziehung zwischen den Werten der Variablen (Alter, Familiensituation, Gehalt usw.) und der endg\u00fcltigen Punktzahl explizit angibt.\n\nInterpretierbarkeit. Eine algorithmische Entscheidung gilt als interpretierbar, wenn es m\u00f6glich ist, die Merkmale oder Variablen zu identifizieren, die am meisten an der Entscheidung beteiligt sind, oder sogar ihre Bedeutung zu quantifizieren.\n\nDas Modell, das f\u00fcr die Kreditw\u00fcrdigkeitspr\u00fcfung verwendet wird, ist beispielsweise interpretierbar, wenn es die relative Bedeutung der verwendeten Variablen (Alter, famili\u00e4re Situation, Gehalt usw.) bei der Ermittlung der endg\u00fcltigen Punktzahl messen kann.\n\nBeachte, dass eine erkl\u00e4rbare Entscheidung interpretierbar ist.\nJetzt ist uns der Zusammenhang klar, aber wie wird er in der Praxis angewendet?\n\nDie folgende Grafik veranschaulicht dies am Beispiel des Kreditantrags\n
\n\t\t\t\t\t\t\t\t\t\t\"\"
Abbildung – Illustration f\u00fcr den Fall eines Kreditantrags, \u00fcbernommen aus [3]<\/figcaption><\/figure>\n

Warum ist das wichtig?<\/h2>\n\"\"\n

Eine Klassifizierung von Algorithmen f\u00fcr maschinelles Lernen<\/h2>\nWie lassen sich also Algorithmen f\u00fcr maschinelles Lernen in die beiden Kategorien einteilen?\n\nGrob gesagt lassen sich Algorithmen f\u00fcr maschinelles Lernen in zwei Gruppen einteilen, je nachdem, ob sie konstruktionsbedingt zu einem expliziten Modell (White Box) oder einer Black Box f\u00fchren.\n\nDiese Klassifizierung kann weiter verfeinert werden, indem die aktuellen Modelle in drei Gruppen eingeteilt werden:\n
    \n \t
  1. Die erste Gruppe umfasst Regressionsalgorithmen,<\/a> Entscheidungsb\u00e4ume und traditionelle Klassifizierungsregeln. Sie stehen monotonen linearen Funktionen nahe und werden h\u00e4ufig in der Wirtschaft und Soziologie verwendet;<\/li>\n \t
  2. Die zweite Gruppe umfasst fortgeschrittenere Algorithmen<\/strong> wie grafische Modelle<\/li>\n \t
  3. Die dritte Gruppe besteht aus fortgeschrittenen maschinellen Lerntechniken wie SVM,<\/a> Ensemble-Lernen und Deep-Learning-Methoden.<\/li>\n<\/ol>\nSie sind nur in der Lage, Informationen \u00fcber die Bedeutung der Variablen f\u00fcr die Erkl\u00e4rbarkeit des Modells zu liefern.\n
    \n\t\t\t\t\t\t\t\t\t\t\"\"\n\n
    <\/figcaption><\/figure>\n

    Die Wahl des richtigen Modells<\/h2>\nWas ist der richtige Kompromiss zwischen Modellvorhersagekraft und Interpretierbarkeit?\nSchauen wir uns die wichtigste Frage an, die du untersuchen solltest:\n\nBrauchst du ein Modell mit einer intrinsischen oder post-hoc<\/strong> Interpretierbarkeit?\nJe nachdem, welches Ma\u00df an Interpretierbarkeit du brauchst, kannst du dich f\u00fcr ein Modell entscheiden, das leicht zu erkl\u00e4ren ist (intrinsische Interpretierbarkeit), oder f\u00fcr ein Backbox-Modell, das f\u00fcr das Training und die Verwendung der Ergebnisse, z. B. die Merkmalsbedeutung, zu erkl\u00e4ren ist (post-hoc Interpretierbarkeit).\nBrauchst du modellspezifische oder modellagnostische Interpretierbarkeit?\nEs muss unterschieden werden zwischen der modellspezifischen Interpretierbarkeit,<\/strong> z. B. bei der linearen Regression, bei der die Gewichte interpretiert werden k\u00f6nnen, und der Interpretierbarkeit, die sich aus allgemeinen Werkzeugen ergibt, die nach dem Training des Modells angewendet werden (z. B. Korrelation, Matrixkonfusion oder modellspezifische Metriken)\nBrauchst du lokale oder globale Interpretierbarkeit?\nDie Anforderung der globalen Erkl\u00e4rbarkeit soll den Entscheidungsprozess f\u00fcr alle Daten transparent machen, w\u00e4hrend das Kriterium der lokalen Erkl\u00e4rbarkeit Erkl\u00e4rungen f\u00fcr eine einzelne Entscheidung in einer begrenzten Umgebung von Daten liefern soll.\n\nDeshalb ist es wichtig, vor dem Start eines Data Science-Projekts<\/strong> zun\u00e4chst den Grad der Interpretierbarkeit des gew\u00fcnschten Modells zu bestimmen.\n

    Willst du mehr \u00fcber Algorithmen des maschinellen Lernens erfahren?\nDann melde dich bei uns und erfahre mehr \u00fcber unsere Programme!<\/h4>\n\n
    Entdecke unsere Kurse<\/a><\/div><\/div>\n\n

    Referenzen<\/h2>\n[1] C. Molnar, Interpretable Machine Learning<\/i>\n\nhttps:\/\/christophm.github.io\/interpretable-ml-book\/<\/a>\n\n[2] Probl\u00e9matiques juridiques et analyse automatique des donn\u00e9es,<\/i> Machine Learning and the Law\n\nhttps:\/\/perso.math.univ-toulouse.fr\/mllaw\/home\/statisticien\/explicabilite-des-decisions-algorithmiques\/<\/a>\n[3] A. Verin\u00e9, S. Mir, L\u2019interpr\u00e9tabilit\u00e9 du Machine learning: quels d\u00e9fis \u00e0 l\u2019\u00e8re des processus de la d\u00e9cisions automatis\u00e9s ?<\/i> Wavestone report\nhttps:\/\/www.wavestone.com\/app\/uploads\/2019\/09\/Wavestone_Interpretabilite_Machine_learning.pdf<\/a>\n[4] J. Cupe, L\u2019interpr\u00e9tabilit\u00e9 de l\u2019IA \u2013 Le nouveau d\u00e9fi des data scientists, <\/i>octobre 2018\n\nhttps:\/\/www.actuia.com\/contribution\/jean-cupe\/linterpretabilite-de-lia-le-nouveau-defi-des-data-scientists\/<\/a>","protected":false},"excerpt":{"rendered":"

    Leistung und Interpretierbarkeit: Ein notwendiger Kompromiss? In den letzten zehn Jahren haben sich immer mehr Unternehmen der digitalen Transformation verschrieben und Methoden der k\u00fcnstlichen Intelligenz in die Konzeption ihrer Produkte und die Gestaltung ihrer Prozesse integriert. Das Sammeln, Analysieren und Nutzen von Daten wird in immer mehr Bereichen als wesentlicher Faktor f\u00fcr das Unternehmenswachstum angesehen. […]<\/p>\n","protected":false},"author":76,"featured_media":180920,"comment_status":"open","ping_status":"open","sticky":false,"template":"elementor_theme","format":"standard","meta":{"_acf_changed":false,"editor_notices":[],"footnotes":""},"categories":[2472],"class_list":["post-180919","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-data-ki"],"acf":[],"_links":{"self":[{"href":"https:\/\/liora.io\/de\/wp-json\/wp\/v2\/posts\/180919","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/liora.io\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/liora.io\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/liora.io\/de\/wp-json\/wp\/v2\/users\/76"}],"replies":[{"embeddable":true,"href":"https:\/\/liora.io\/de\/wp-json\/wp\/v2\/comments?post=180919"}],"version-history":[{"count":1,"href":"https:\/\/liora.io\/de\/wp-json\/wp\/v2\/posts\/180919\/revisions"}],"predecessor-version":[{"id":217364,"href":"https:\/\/liora.io\/de\/wp-json\/wp\/v2\/posts\/180919\/revisions\/217364"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/liora.io\/de\/wp-json\/wp\/v2\/media\/180920"}],"wp:attachment":[{"href":"https:\/\/liora.io\/de\/wp-json\/wp\/v2\/media?parent=180919"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/liora.io\/de\/wp-json\/wp\/v2\/categories?post=180919"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}