{"id":180148,"date":"2023-07-16T10:43:48","date_gmt":"2023-07-16T09:43:48","guid":{"rendered":"https:\/\/liora.io\/de\/?p=180148"},"modified":"2026-02-06T06:33:41","modified_gmt":"2026-02-06T05:33:41","slug":"halluzination-ki-wie-man-sie-intelligenzen-stoppen-kann","status":"publish","type":"post","link":"https:\/\/liora.io\/de\/halluzination-ki-wie-man-sie-intelligenzen-stoppen-kann","title":{"rendered":"Halluzination KI: Wie man sie stoppen kann"},"content":{"rendered":"

Seit jeher haben k\u00fcnstliche Intelligenzen Antworten halluziniert, um kreativ zu sein und Geschichten zu erfinden. Doch angesichts der Beliebtheit von generativen k\u00fcnstlichen Intelligenzen als Informationsquelle suchen Experten nach M\u00f6glichkeiten, diese Halluzinationen zu reduzieren oder sogar zu stoppen.<\/strong><\/p>\n

Was ist das Problem mit Halluzinationen?<\/h3>\n

K\u00fcnstliche Intelligenzen hatten schon immer die Tendenz, Antworten zu „halluzinieren“.<\/p>\n

Diese sind so codiert, dass sie eine Antwort erfinden<\/strong>, anstatt zu sagen „Ich wei\u00df es nicht“. Seitdem sie der breiten \u00d6ffentlichkeit zug\u00e4nglich gemacht wurden, werden sie jedoch von vielen Menschen t\u00e4glich genutzt, um schnell und auf einfache Weise an Informationen zu gelangen. Da sie heute in komplexen Bereichen wie der Medizin oder dem Recht eingesetzt werden, ist das Problem der Halluzinationen kritisch geworden.<\/p>\n

Verschiedenen Forschungszentren zufolge<\/strong> liegt der Ursprung der Halluzinationen in der Gestaltung der LLM-Modelle. Sie sind darauf trainiert, riesige Datenbanken zu verarbeiten und anzuh\u00e4ufen, k\u00f6nnen aber nicht unterscheiden, was faktisch ist und was nicht. Ihre Hauptaufgabe besteht darin, vorherzusagen, welches Wort nach dem anderen kommt.<\/p>\n

\n\t\t\t\t\t\t\t\t\t\t\"\"
<\/figcaption><\/figure>\n

Wie kann man diese Halluzination stoppen?<\/h3>\n

Um diese Gewohnheit einzud\u00e4mmen, wurden bereits zahlreiche Experimente durchgef\u00fchrt.<\/p>\n

Das j\u00fcngste betrifft Forscher des MIT,<\/a> die versucht haben, eine „Gesellschaft der Geister“ unter KIs zu schaffen. Das Ziel bestand darin, mehreren KIs eine Frage zu stellen und sie so lange diskutieren zu lassen, bis sich eine einzige Antwort durchsetzt<\/p>\n

Andere Unternehmen wie Google und Microsoft<\/strong> versuchen ihrerseits, diese generativen KIs „intelligenter“ zu machen.<\/p>\n

Eine Technik namens Verst\u00e4rkungslernen mit menschlichem Feedback, bei der menschliche Tester die Antworten eines Bots manuell verbessern und sie dann zur Verbesserung an das System zur\u00fcckgeben, ist weithin anerkannt und hat ChatGPT<\/a> dazu verholfen, viel besser zu sein als die Chatbots, die vor ihm kamen.<\/p>\n

Ein beliebter Ansatz ist auch, Chatbots mit Datenbanken<\/a> mit faktischen oder vertrauensw\u00fcrdigeren Informationen zu verbinden, wie z. B. Wikipedia, Google search oder ma\u00dfgeschneiderte Sammlungen von akademischen Artikeln oder Gesch\u00e4ftsdokumenten.
\nEine andere M\u00f6glichkeit w\u00e4re, die KIs weniger kreativ zu machen, wie es derzeit von gro\u00dfen Unternehmen praktiziert wird.<\/p>\n

Wenn Google mithilfe seiner Chatbot-Technologie<\/strong> Suchergebnisse generiert, f\u00fchrt es parallel dazu auch eine normale Suche durch und vergleicht dann, ob die Antwort des Bots und die Ergebnisse der traditionellen Suche \u00fcbereinstimmen. Wenn das nicht der Fall ist, wird die KI-Antwort gar nicht erst angezeigt. Das Unternehmen hat seinen Bot so ver\u00e4ndert, dass er weniger kreativ ist, d. h. er ist nicht besonders gut darin, Gedichte zu schreiben oder interessante Gespr\u00e4che<\/strong> zu f\u00fchren, aber er ist weniger anf\u00e4llig f\u00fcr L\u00fcgen.<\/p>\n

Indem das Unternehmen seinen Suchroboter darauf beschr\u00e4nkte, bestehende Suchergebnisse zu best\u00e4tigen, konnte es die Anzahl der Halluzinationen und Ungenauigkeiten reduzieren.<\/p>\n

\"\"<\/p>\n

Doch Halluzinationen sind auch gut f\u00fcr KIs, denn sie erm\u00f6glichen es ihnen, kreativ zu sein und sich Geschichten oder Szenarien auszudenken. Sind wir an einem Wendepunkt der generativen KI angelangt, oder entstehen Unterarten der generativen KI?<\/a><\/p>\n

Einige w\u00fcrden sich auf das Erstellen von Geschichten oder Drehb\u00fcchern spezialisieren und die anderen w\u00fcrden als Such- und Informationswerkzeug dienen. Wenn dir dieser Artikel gefallen hat und du eine Karriere in der Data Science in Betracht ziehst, z\u00f6gere nicht, unsere Artikel oder unsere Ausbildungsangebote auf Liora zu entdecken.<\/p>\n

Quelle: washingtonpost.com<\/p>\n


\nEntdecke unsere Weiterbildungen
\n<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Seit jeher haben k\u00fcnstliche Intelligenzen Antworten halluziniert, um kreativ zu sein und Geschichten zu erfinden. Doch angesichts der Beliebtheit von generativen k\u00fcnstlichen Intelligenzen als Informationsquelle suchen Experten nach M\u00f6glichkeiten, diese Halluzinationen zu reduzieren oder sogar zu stoppen. Was ist das Problem mit Halluzinationen? K\u00fcnstliche Intelligenzen hatten schon immer die Tendenz, Antworten zu „halluzinieren“. Diese sind […]<\/p>\n","protected":false},"author":76,"featured_media":180149,"comment_status":"open","ping_status":"open","sticky":false,"template":"elementor_theme","format":"standard","meta":{"_acf_changed":false,"editor_notices":[],"footnotes":""},"categories":[2472],"class_list":["post-180148","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-data-ki"],"acf":[],"_links":{"self":[{"href":"https:\/\/liora.io\/de\/wp-json\/wp\/v2\/posts\/180148","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/liora.io\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/liora.io\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/liora.io\/de\/wp-json\/wp\/v2\/users\/76"}],"replies":[{"embeddable":true,"href":"https:\/\/liora.io\/de\/wp-json\/wp\/v2\/comments?post=180148"}],"version-history":[{"count":1,"href":"https:\/\/liora.io\/de\/wp-json\/wp\/v2\/posts\/180148\/revisions"}],"predecessor-version":[{"id":217377,"href":"https:\/\/liora.io\/de\/wp-json\/wp\/v2\/posts\/180148\/revisions\/217377"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/liora.io\/de\/wp-json\/wp\/v2\/media\/180149"}],"wp:attachment":[{"href":"https:\/\/liora.io\/de\/wp-json\/wp\/v2\/media?parent=180148"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/liora.io\/de\/wp-json\/wp\/v2\/categories?post=180148"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}