{"id":184692,"date":"2023-08-31T10:25:10","date_gmt":"2023-08-31T09:25:10","guid":{"rendered":"https:\/\/liora.io\/de\/?p=184692"},"modified":"2026-02-06T06:18:27","modified_gmt":"2026-02-06T05:18:27","slug":"trojannet-revolution-bei-angriffen-auf-modelle-kuenstlicher-intelligenz","status":"publish","type":"post","link":"https:\/\/liora.io\/de\/trojannet-revolution-bei-angriffen-auf-modelle-kuenstlicher-intelligenz","title":{"rendered":"TrojanNet: Revolution bei Angriffen auf Modelle k\u00fcnstlicher Intelligenz"},"content":{"rendered":"<p><strong>In einem Artikel mit dem Namen &#8218;An Embarrassingly Simple Approach for Trojan Attack in Deep Neural Networks&#8216;, der von der Texas A&amp;M University ver\u00f6ffentlicht wurde, beleuchten Forscher einen neuartigen Computerangriff: die TrojanNet-Attacken. Diese Angriffe, die auf Modelle des maschinellen Lernens und genauer gesagt auf die tiefen neuronalen Netze von Deep-Learning-Algorithmen abzielen, sind revolution\u00e4r, weil sie sehr einfach durchzuf\u00fchren sind und daher auch f\u00fcr die kleinsten Hacker sehr leicht zug\u00e4nglich sind.<\/strong><\/p>\n<p>Wie funktioniert dieser Angriff? Welche Gefahren birgt dieser Angriff? Wie kann man sich davor sch\u00fctzen? Hier ist ein kleiner \u00dcberblick \u00fcber diesen neuen Angriff, der viele Fragen aufwirft.<\/p>\n<style>\n.elementor-heading-title{padding:0;margin:0;line-height:1}.elementor-widget-heading .elementor-heading-title[class*=elementor-size-]>a{color:inherit;font-size:inherit;line-height:inherit}.elementor-widget-heading .elementor-heading-title.elementor-size-small{font-size:15px}.elementor-widget-heading .elementor-heading-title.elementor-size-medium{font-size:19px}.elementor-widget-heading .elementor-heading-title.elementor-size-large{font-size:29px}.elementor-widget-heading .elementor-heading-title.elementor-size-xl{font-size:39px}.elementor-widget-heading .elementor-heading-title.elementor-size-xxl{font-size:59px}<\/style>\n<h3>Les attaques TrojanNet : comment \u00e7a marche<\/h3>\n<p><strong>TrojanNet-Angriffe<\/strong> zielen auf die tiefen <a href=\"https:\/\/liora.io\/de\/neuronale-netze-einfach-erklaert\">neuronalen Netze<\/a> (DNN) von Deep-Learning-Modellen ab. Deep Learning ist die derzeit am weitesten verbreitete Technik unter den <a href=\"https:\/\/liora.io\/de\/machine-learning-kurs-starte-durch\">Machine-Learning-Techniken<\/a>. Diese Technik ist von der Funktionsweise des menschlichen Gehirns inspiriert und basiert auf einem k\u00fcnstlichen neuronalen Netz. Dieses Netz kann mehr oder weniger Schichten enthalten, und je mehr Schichten es gibt, desto tiefer ist das Netz.<\/p>\n<style>\n.elementor-widget-image{text-align:center}.elementor-widget-image a{display:inline-block}.elementor-widget-image a img[src$=\".svg\"]{width:48px}.elementor-widget-image img{vertical-align:middle;display:inline-block}<\/style>\n<figure>\n\t\t\t\t\t\t\t\t\t\t\t<a href=\"https:\/\/www.futura-sciences.com\/tech\/definitions\/intelligence-artificielle-deep-learning-17262\/\"><br \/>\n<img decoding=\"async\" width=\"512\" height=\"275\" src=\"https:\/\/liora.io\/app\/uploads\/sites\/8\/2023\/02\/unnamed-2.jpeg\" alt=\"\" loading=\"lazy\" srcset=\"https:\/\/liora.io\/app\/uploads\/sites\/8\/2023\/02\/unnamed-2.jpeg 512w, https:\/\/liora.io\/app\/uploads\/sites\/8\/2023\/02\/unnamed-2-300x161.jpeg 300w\" sizes=\"(max-width: 512px) 100vw, 512px\">\t\t\t\t\t\t\t\t<\/a><figcaption>Source : \u00a9 MapR, C.D, Futura<\/figcaption><\/figure>\n<p>Um zu verstehen, wie <strong>TrojanNet-Angriffe<\/strong> funktionieren, m\u00fcssen wir uns mit den klassischen Angriffen auf die DNNs von <a href=\"https:\/\/liora.io\/de\/deep-learning-oder-tiefes-lernen-was-ist-das-denn\">Deep-Learning-Modellen<\/a> besch\u00e4ftigen. Diese Angriffe werden als Backdoor-Trojaner bezeichnet. Mit anderen Worten: Man \u00fcbernimmt die Fernsteuerung eines Computers \u00fcber ein &#8218;<a href=\"https:\/\/liora.io\/de\/adversarial-attack-definition-und-schutz-vor-dieser-bedrohung\">Trojanisches Pferd&#8216;<\/a>, das eine b\u00f6sartige Software ist, die jedoch die Form einer harmlosen Software annimmt. Was ist das Ziel dieser Angriffe? Der Hacker verschafft sich Zugang zum <strong>Machine-Learning-Modell<\/strong> und trainiert dieses Modell neu, damit es auf versteckte Ausl\u00f6ser (hidden triggers) reagiert. Dies hat den doppelten Effekt, dass die Ergebnisse des Modells verf\u00e4lscht werden, wenn diese Trigger im Bild versteckt sind, und dass die Genauigkeit des Modells generell verringert wird.<\/p>\n<p><a href=\"https:\/\/portswigger.net\/daily-swig\/trojannet-a-simple-yet-effective-attack-on-machine-learning-models\"><br \/>\n<img decoding=\"async\" width=\"512\" height=\"237\" src=\"https:\/\/liora.io\/app\/uploads\/sites\/8\/2023\/08\/unnamed-1-2.png\" alt=\"\" loading=\"lazy\" srcset=\"https:\/\/liora.io\/app\/uploads\/sites\/8\/2023\/08\/unnamed-1-2.png 512w, https:\/\/liora.io\/app\/uploads\/sites\/8\/2023\/08\/unnamed-1-2-300x139.png 300w\" sizes=\"(max-width: 512px) 100vw, 512px\">\t\t\t\t\t\t\t\t<\/a><\/p>\n<p><strong>TrojanNet-Angriffe<\/strong> haben das gleiche Ziel: das Deep-Learning-Modell falsch reagieren zu lassen, wenn die Ausl\u00f6ser im Bild versteckt sind. Die Funktionsweise ist jedoch anders. Anstatt das Modell neu zu trainieren, erstellt der Hacker ein paralleles tiefes <strong>neuronales Mini-Netzwerk<\/strong>, das darauf trainiert ist, diese versteckten Ausl\u00f6ser zu erkennen und darauf zu reagieren. Dann kombiniert er den Output seines Modells mit dem Output des bestehenden Modells.<\/p>\n<p><a href=\"https:\/\/portswigger.net\/daily-swig\/trojannet-a-simple-yet-effective-attack-on-machine-learning-models\"><br \/>\n<img decoding=\"async\" width=\"512\" height=\"354\" src=\"https:\/\/liora.io\/app\/uploads\/sites\/8\/2023\/08\/unnamed-2.png\" alt=\"\" loading=\"lazy\" srcset=\"https:\/\/liora.io\/app\/uploads\/sites\/8\/2023\/08\/unnamed-2.png 512w, https:\/\/liora.io\/app\/uploads\/sites\/8\/2023\/08\/unnamed-2-300x207.png 300w\" sizes=\"(max-width: 512px) 100vw, 512px\">\t\t\t\t\t\t\t\t<\/a><\/p>\n<p>TrojanNet-Angriffe haben im Vergleich zu Backdoor-Trojan-Angriffen mehrere Vorteile.<\/p>\n<p>Zun\u00e4chst einmal muss der <a href=\"https:\/\/liora.io\/de\/data-poisoning-eine-bedrohung-fuer-machine-learning-modelle\">Hacker nicht auf die Einstellungen des bestehenden Modells zugreifen<\/a>, was oft besonders kompliziert ist.<br \/>\nAu\u00dferdem \u00e4ndern diese Angriffe nicht die allgemeine Genauigkeit des bestehenden Modells, was sie schwerer zu entdecken macht.<\/p>\n<p>Schlie\u00dflich k\u00f6nnen TrojanNet-Angriffe mehr als 100-mal schneller auf Trigger eingestellt werden als herk\u00f6mmliche Angriffe. W\u00e4hrend also herk\u00f6mmliche Trojanerangriffe besonders ressourcenintensiv und zeitaufw\u00e4ndig waren, k\u00f6nnen TrojanNet-Angriffe von einfachen Computern durchgef\u00fchrt werden. Dieser Angriff ist daher f\u00fcr die kleinsten Hacker extrem zug\u00e4nglich geworden.<\/p>\n<h3>Bedrohungen und Verteidigungsm\u00f6glichkeiten<\/h3>\n<p>Die sehr leichte <strong>Zug\u00e4nglichkeit von TrojanNet-Angriffen<\/strong> und die zunehmende Abh\u00e4ngigkeit unserer Gesellschaften von Modellen der k\u00fcnstlichen Intelligenz stellen eine echte Gefahr dar.<\/p>\n<p>Deep-Learning-Modelle werden in immer mehr Bereichen eingesetzt, von der medizinischen Diagnostik \u00fcber die Weltraumforschung bis hin zu selbstfahrenden Autos. Wenn ein Deep-Learning-Modell, das ein selbstfahrendes Auto betreibt, angegriffen wird, k\u00f6nnte es durchaus ein Stoppschild mit einem Geschwindigkeitsbegrenzungsschild verwechseln.<\/p>\n<p>Dieser Angriff ist besonders problematisch, da er sehr schwer zu erkennen ist. Da der Angriff noch recht neu ist, gibt es noch keine wirksamen Erkennungstechniken. W\u00e4hrend herk\u00f6mmliche Erkennungswerkzeuge Trojan-Backdoor-Angriffe erkennen k\u00f6nnen, indem sie digitale Spuren von Malware in Bin\u00e4rdateien aufsp\u00fcren, sind sie bei neuen TrojanNet-Angriffen nicht mehr wirksam. Es wird jedoch viel geforscht, um Werkzeuge und Techniken zu entwickeln, mit denen Modelle der<strong> K\u00fcnstlichen Intelligenz<\/strong> widerstandsf\u00e4higer gegen diese Angriffe werden k\u00f6nnen.<\/p>\n<p>Die TrojanNet-Angriffe stellen daher wahrscheinlich eine Revolution bei den Angriffen auf Machine-Learning-Modelle dar. Data Scientists und Data Engineers konstruieren und produzieren die Vorhersagemodelle der k\u00fcnstlichen Intelligenz und sind daher von diesem neuen Angriff besonders betroffen. Wenn du mehr dar\u00fcber erfahren m\u00f6chtest, wie diese Modelle funktionieren und wie du sie sch\u00fctzen kannst, dann wirf einen Blick auf unsere Schulungen im Bereich der Datenverarbeitung unter diesem Link.<\/p>\n<p><a href=\"https:\/\/liora.io\/de\/weiterbildung-data-scientist\"><br \/>\nEntdecke unsere Kurse<br \/>\n<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>In einem Artikel mit dem Namen &#8218;An Embarrassingly Simple Approach for Trojan Attack in Deep Neural Networks&#8216;, der von der Texas A&amp;M University ver\u00f6ffentlicht wurde, beleuchten Forscher einen neuartigen Computerangriff: die TrojanNet-Attacken. Diese Angriffe, die auf Modelle des maschinellen Lernens und genauer gesagt auf die tiefen neuronalen Netze von Deep-Learning-Algorithmen abzielen, sind revolution\u00e4r, weil sie [&hellip;]<\/p>\n","protected":false},"author":74,"featured_media":184693,"comment_status":"open","ping_status":"open","sticky":false,"template":"elementor_theme","format":"standard","meta":{"_acf_changed":false,"editor_notices":[],"footnotes":""},"categories":[2473],"class_list":["post-184692","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-cybersicherheit"],"acf":[],"_links":{"self":[{"href":"https:\/\/liora.io\/de\/wp-json\/wp\/v2\/posts\/184692","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/liora.io\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/liora.io\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/liora.io\/de\/wp-json\/wp\/v2\/users\/74"}],"replies":[{"embeddable":true,"href":"https:\/\/liora.io\/de\/wp-json\/wp\/v2\/comments?post=184692"}],"version-history":[{"count":1,"href":"https:\/\/liora.io\/de\/wp-json\/wp\/v2\/posts\/184692\/revisions"}],"predecessor-version":[{"id":217194,"href":"https:\/\/liora.io\/de\/wp-json\/wp\/v2\/posts\/184692\/revisions\/217194"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/liora.io\/de\/wp-json\/wp\/v2\/media\/184693"}],"wp:attachment":[{"href":"https:\/\/liora.io\/de\/wp-json\/wp\/v2\/media?parent=184692"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/liora.io\/de\/wp-json\/wp\/v2\/categories?post=184692"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}