{"id":174726,"date":"2026-01-28T11:56:25","date_gmt":"2026-01-28T10:56:25","guid":{"rendered":"https:\/\/liora.io\/de\/?p=174726"},"modified":"2026-02-23T12:33:48","modified_gmt":"2026-02-23T11:33:48","slug":"chatgpt-wie-funktioniert-dfer-nlp-algorithmus","status":"publish","type":"post","link":"https:\/\/liora.io\/de\/chatgpt-wie-funktioniert-dfer-nlp-algorithmus","title":{"rendered":"ChatGPT: Wie funktioniert der NLP Algorithmus ?"},"content":{"rendered":"\n

Du hast bestimmt schon von ChatGPT geh\u00f6rt, dem Tool, das all deine Fragen in Echtzeit beantworten kann? Es wird Ende 2022 eingef\u00fchrt und scheint den Bereich der k\u00fcnstlichen Intelligenz zu revolutionieren. Wir erz\u00e4hlen dir mehr dar\u00fcber!<\/strong><\/p>\n\n\n\n

ChatGPT (Chat Generative Pretrained Transformer)<\/strong> wurde im November 2022 von der US-amerikanischen Firma OpenAI<\/strong> entwickelt. Es ist ein Sprachmodell, das es seinen Nutzern erm\u00f6glicht, in Echtzeit mit einem Bot in einem Online-Chat zu kommunizieren. Der Bot ist damit in der Lage, eine Unterhaltung in mehreren Sprachen zu f\u00fchren, Fragen zu beantworten, Informationen zu vielen Themen zu \u00fcbermitteln oder Ideen zu teilen.<\/p>\n\n\n\n

Neben diesen vielf\u00e4ltigen F\u00e4higkeiten zeichnet sich ChatGPT dadurch aus, dass er sich Unterhaltungen merkt, so dass er fr\u00fchere Antworten ber\u00fccksichtigen kann und der Nutzer ihm Korrekturen mitteilen kann. Es ist also ein intelligentes und innovatives Werkzeug, das die Kommunikation und den Zugang zu Wissen erleichtert!<\/p>\n\n\n\n

Aber wie funktioniert ChatGPT?<\/h2>\n\n\n\n

ChatGPT ist ein NLP-Algorithmus (Natural Language Processing), der nat\u00fcrliche Sprache versteht und selbstst\u00e4ndig generiert. Genauer gesagt ist es eine f\u00fcr die breite \u00d6ffentlichkeit bestimmte Version von GPT3, einem Algorithmus zur Textgenerierung, der sich auf das Schreiben von Artikeln und die Analyse von Gef\u00fchlen spezialisiert hat. ChatGPT funktioniert also wie GPT3, dank eines Modells, das mit einem riesigen Korpus von 500 Milliarden Textdaten vorab trainiert wurde. Es verwendet zwei verschiedene Arten des Lernens: \u00fcberwachtes Lernen und verst\u00e4rktes Lernen.<\/p>\n\n\n\n

In der Phase des \u00fcberwachten Lernens erh\u00e4lt er Konversationen, bei denen beide Rollen (Bot und Nutzer) gespielt werden, sodass die Daten mit Labels versehen werden (Fragen und dazugeh\u00f6rige erwartete Antworten). W\u00e4hrend der Phase des Reinforcement Learning werden die vorherigen Interaktionen genutzt, um die Antworten zu klassifizieren. Diese Einstufung wird von menschlichen Trainern vorgenommen (Reinforcement Learning from Human Feedback)<\/strong> und erm\u00f6glicht die Erstellung eines Belohnungsmodells auf der Grundlage dieser Einstufung.<\/p>\n\n\n\n

Auf diese Weise trainiert sich der Algorithmus zus\u00e4tzlich zum Pre-Training auch w\u00e4hrend der Interaktion mit den Nutzern selbst weiter. Dadurch merkt er sich den Kontext und erinnert sich an die Botschaften einer Konversation.<\/p>\n\n\n\n

>> Auch interessant: Python Deep Learning – Die Basics<\/a><\/p>\n\n\n\n

Reinforcement Learning from Human Feedback im Detail<\/h2>\n\n\n\n

Wie bereits erw\u00e4hnt, handelt es sich bei der Phase des Reinforcement Learning genauer gesagt um eine Phase des Reinforcement Learning from Human Feedback (RLHF),<\/strong> die mit echten menschlichen Trainern arbeitet. Diese Phase ist in zwei Schritte unterteilt, die wir n\u00e4her erl\u00e4utern:<\/p>\n\n\n\n

Nachdem die Phase des \u00fcberwachten Lernens an gelabelten Daten durchgef\u00fchrt und eine \u00fcberwachte Schriftart gelernt wurde, wird ein SFT-Modell (Supervised Fine Tuning)<\/strong> generiert. Die menschlichen Trainer stimmen dann \u00fcber die Relevanz der Modellausgaben ab und erstellen einen Vergleichsdatensatz, auf dem ein RM (Reward Model) trainiert wird. <\/strong>
Das RM-Reward-Model<\/strong>l wird mithilfe des PPO Reinforcement Learning-Algorithmus optimiert. Der PPO-Algorithmus ist ein „on-policy“-Algorithmus, der eine aktuelle Police lernt und aktualisiert, indem er sich direkt auf die erhaltenen Aktionen und Belohnungen st\u00fctzt. Dadurch wird ein neues Modell, das sogenannte Policy Model,<\/strong> generiert.<\/p>\n\n\n\n

Mit diesem „Policy model“ kann das urspr\u00fcngliche SFT-Modell verbessert und ein neues Vergleichsdataset erstellt werden. Dann k\u00f6nnen die beiden Schritte in einer Schleife wiederholt werden.<\/p>\n\n\n\n

>> Auch interessant: SpaCy: Die Open-Source Bibliothek<\/a> f\u00fcr NLP<\/p>\n\n\n\n

Frage ChatGPT nach Informationen \u00fcber Data Scientists!<\/h2>\n\n\n\n

Nachdem wir nun die wichtigsten Modelle und Algorithmen verstanden haben, auf denen ChatGPT basiert, wollen wir gemeinsam seine Leistung testen.<\/p>\n\n\n\n

Dazu treten wir dem Chat unter folgender Adresse bei: https:\/\/chat.openai.com\/auth\/login<\/a>. Dann bitten wir den Bot, die Rolle eines Data Scientists zu beschreiben. Um eine optimierte Antwort zu erhalten, verwenden wir einen pr\u00e4zisen Prompt, d. h. eine Formulierung, die das Gespr\u00e4ch auf klare Weise einleitet.<\/p>\n\n\n\n

\"chatgpt\"<\/figure>\n\n\n\n
\n
Erlerne die Mechanismen von ChatGPT<\/a><\/div>\n<\/div>\n\n\n\n

ChatGPT ist sehr wohl in der Lage, uns \u00fcber den Beruf des Data Scientists zu informieren und die begonnene Unterhaltung fortzusetzen. Das ist nur ein winziger Einblick in die F\u00e4higkeiten dieses Tools, das nicht nur eine Informationsquelle ist, sondern auch einen Text schreiben, einen anderen zusammenfassen oder themenbezogene Inhalte vorschlagen kann. Seine Entwicklung k\u00f6nnte also den Textern Konkurrenz machen!<\/strong><\/p>\n\n\n\n

Wie sieht ChatGPT auf der Seite der Entwickler aus?<\/h2>\n\n\n\n

ChatGPT hat auch F\u00e4higkeiten, die normalerweise f\u00fcr Computerentwickler typisch sind. Es kann Code in verschiedenen Programmiersprachen (Python, Java, C++ …) generieren und einen Algorithmus entwickeln, um ein Problem zu l\u00f6sen. Um ein solches Ergebnis zu erzielen, muss man ihm nur klar sagen, was der zu generierende Code zur\u00fcckgeben soll. Es setzt sich auch im Bereich Debugging durch und ist in der Lage, die Quelle eines Computerfehlers zu identifizieren und ihn zu beheben, wie jede andere Debugger-Software auch.<\/p>\n\n\n\n

F\u00fcr Data Engineers ist ChatGPT<\/a> ebenfalls von gro\u00dfem Nutzen, da es eine virtuelle Maschine (VM) mit einem Linux-Terminal simulieren kann. Schlie\u00dflich kann ChatGPT auch Schwachstellen in einem Programm aufsp\u00fcren.<\/p>\n\n\n\n

ChatGPT ist also ein Modell f\u00fcr NLP<\/a>, das sowohl aus redaktioneller Sicht als auch aus Sicht der Informatik funktioniert, und zwar in vielen Bereichen!<\/p>\n\n\n\n

ChatGPT – Was sind seine Grenzen ?<\/h2>\n\n\n\n

Auf unsere Frage antwortet ChatGPT: „Ich bin ein Sprachverarbeitungsmodell, das von OpenAI trainiert wurde. Mein Wissen ist auf das Abschaltdatum meiner Trainingsdaten beschr\u00e4nkt, das 2021 ist.<\/strong> Ich kann nicht im Internet surfen, um Informationen zu \u00fcberpr\u00fcfen oder auf Daten zuzugreifen, die nicht Teil meines Ged\u00e4chtnisses sind. Ich gebe mein Bestes, um Fragen genau und vollst\u00e4ndig zu beantworten, aber es ist m\u00f6glich, dass meine Antwort nicht immer richtig oder aktuell ist“.<\/p>\n\n\n\n

Seit seinem Start betreffen die Hauptkritikpunkte an ChatGPT <\/strong>seine zeitliche Begrenzung, da sein Wissen bei Ereignissen vor dem Jahr 2021 aufh\u00f6rt, und falsche Antworten, die dazu f\u00fchren k\u00f6nnen, dass falsche Informationen geteilt werden, auch wenn die Fehlerquote minimal ist.<\/p>\n\n\n\n

Was den Code angeht, hat ChatGPT <\/strong>auch seine Grenzen, da der erzeugte Code ab einem bestimmten Schwierigkeitsgrad viele Fehler enthalten kann. Das Tool ist auf klassische und sich wiederholende Programme beschr\u00e4nkt, kann aber z. B. keine Computeranalyse durchf\u00fchren. Schlie\u00dflich sind seine Cybersicherheitskompetenzen <\/strong>zu leicht zug\u00e4nglich und viele bef\u00fcrchten, dass sie von Hackern f\u00fcr b\u00f6sartige Zwecke missbraucht werden k\u00f6nnten.<\/p>\n\n\n\n

Aus ethischer Sicht steht das Tool vor weiteren Problemen. Aufgrund zahlreicher Plagiatsf\u00e4lle wurde seine Verwendung verboten und sein Zugang von den Computerstationen einiger amerikanischer Schulen verbannt.<\/p>\n\n\n\n

Schlie\u00dflich hat ChatGPT, wie jedes statistische Modell, emotionale Grenzen<\/strong>. Im Gegensatz zur menschlichen Intelligenz hat es keine Gedanken, keine Intuition, keine Moral und auch keine Emotionen, was eine gewisse Gefahr darstellen kann.<\/p>\n\n\n\n

Wie jede Innovation hat auch ChatGPT seine Grenzen.<\/strong> Es bleibt dennoch ein Werkzeug der k\u00fcnstlichen Intelligenz mit gro\u00dfem Potenzial, dessen Leistung mit der Zeit immer besser wird!<\/p>\n\n\n\n

Wenn du mehr \u00fcber andere NLP-Algorithmen und andere starke Bereiche erfahren m\u00f6chtest, in denen die KI immer mehr in den Vordergrund r\u00fcckt, dann schau dich in unserem Blog um.<\/p>\n\n\n\n

\n
Entdecke unsere Weiterbildungen<\/a><\/div>\n<\/div>\n\n\n\n