Anthropic – Künstliche Intelligenz neu gedacht: Ethik im Mittelpunkt

Gegründet von ehemaligen Führungskräften von OpenAI und stark unterstützt von Amazon, hat Anthropic die KI namens Claude geschaffen. Diese möchte sich in Bereichen, in denen man es nicht unbedingt erwartet hätte, von ChatGPT oder Gemini unterscheiden. Ab 2015 begannen zahlreiche Größen der Technologie, darunter Elon Musk und Bill Gates, ihre Besorgnis gegenüber künstlicher Intelligenz zu äußern. Sobald sie in Bereiche wie Gesundheit, Militär oder Überwachung eindringt, könnte ein Fehler schwerwiegende Folgen haben.

Die Amodeis

Im Jahr 2019, drei Jahre vor der Veröffentlichung von ChatGPT, erreicht diese Besorgnis zwei Vizepräsidenten von OpenAI: Dario und Daniela Amodei (Bruder und Schwester). Bereits 2016 äußerte Dario Amodei seine Besorgnis in einem Artikel, der in Zusammenarbeit mit Forschern von Google veröffentlicht wurde: „Concrete Problems in AI Safety“, in dem er sich über die Unvorhersehbarkeit von KI-Modellen im großen Maßstab äußerte. OpenAI war ursprünglich als gemeinnützige Organisation gegründet worden, mit der Mission, eine „sichere allgemeine KI zu bauen und die Vorteile mit der Welt zu teilen.“ Doch im Jahr 2019 erhält sie eine bedeutende Investition von 1 Milliarde US-Dollar von Microsoft. Von da an gefällt OpenAI die Aussicht, Gewinne für seine Investoren zu generieren. Die potenziellen Gefahren der KI erscheinen nicht länger als Hauptanliegen der Führungskräfte. Die Situation führt zu verschiedenen internen Spannungen. Wie Dario Amodei bezeugte: „Wir waren eine ganze Gruppe innerhalb von OpenAI, die nach der Schaffung von GPT-2 und GPT-3 fest an bestimmte Ideen glaubte. Die erste war, dass es kaum Grenzen geben würde, wenn man mehr Rechenleistung für diese Modelle aufwendet. Die zweite war, dass über die Perfektionierung der Modelle hinaus deren ethische Ausrichtung und Sicherheitsfragen in Betracht gezogen werden müssen.“

Gründung von Anthropic

Diese Fragen zum zivilisatorischen Rolle der KI führen dazu, dass Dario Amodei OpenAI im Dezember 2020 verlässt. In den darauffolgenden Wochen folgen ihm 14 weitere Forscher, darunter seine Schwester Daniela. Die Gründung von Anthropic erfolgt gleich darauf, im Januar 2021. Sie verkündet ihren Ehrgeiz folgendermaßen: „eine übermächtige, aber ungefährliche KI für die Zukunft der Menschheit zu entwickeln“.

Konstitutionelle KI

Der Versuch von Anthropic, ethische Prinzipien in die KI zu integrieren und unvorhersehbare, unzuverlässige und intransparente Elemente zu reduzieren, wird durch einen Namen zusammengefasst: konstitutionelle KI. Sie umfasst 10 Leitsätze, die garantieren, dass ihre Antworten genau, ethisch und nützlich für die Nutzer sind, und sich im Laufe der Zeit verbessern, indem sie verschiedene von Menschen gesetzte Prinzipien einhalten.

Frühe Finanzierungen

Um ein KI-Modell zu entwickeln, sind Mittel erforderlich. Anthropic wird schnell Ziel von Finanzierungen. Die erste – 124 Millionen US-Dollar – wird von dem estnischen Milliardär Jaan Tallinn, Mitbegründer von Skype, bereitgestellt. Im Oktober 2021 lässt Sam Bankman-Fried, Gründer der Kryptowährungsplattform FTX, 500 Millionen US-Dollar in Anthropic fließen – wie bekannt, wird FTX ein Jahr später scheitern. Gegen Ende des Jahres sammelt PitchBook, eine Plattform, die private Investmentdaten verfolgt, 704 Millionen US-Dollar.

Die Geburt von Claude

Es dauert bis zum Sommer 2022, bis Anthropic die erste Version seiner generativen KI enthüllt: Claude. Die Amodeis entscheiden sich, sie nicht zu veröffentlichen, mit dem Hinweis auf die Notwendigkeit weiterer Sicherheitstests. Somit ist es ChatGPT von OpenAI, das der Welt die Potenziale der künstlichen Intelligenz aufzeigt. Ende 2022 werden 300 Millionen US-Dollar von Google investiert, die damit eine Beteiligung von 10 % an dem Startup erwirbt. Diese Investition fördert den Zugriff auf umfangreiche Rechenressourcen. Erst im März 2023 stellt Anthropic die erste Version von Claude vor. Um sich von ChatGPT zu unterscheiden, betonen die Amodeis, dass ihr Chatbot sich weigert, schädliche oder voreingenommene Inhalte zu generieren und Quellen angibt, um seine Antworten zu untermauern. Im Juli 2023 überrascht eine neue Version, Claude 2, durch ihre Kreativität und ihren Humor. In demselben Monat tritt Dario Amodei vor dem amerikanischen Senat auf, um zu erklären, dass unkontrollierte KI bei der Schaffung von Massenvernichtungswaffen helfen könnte. Das wichtigste Ereignis findet im September statt, als Amazon 1,25 Milliarden US-Dollar in Anthropic investiert und sich verpflichtet, die Summe auf bis zu 4 Milliarden US-Dollar zu erhöhen. Die Arbeit der Amodeis wird vom Time 100 gewürdigt, das sie zu den einflussreichsten Personen der Welt im Jahr 2023 zählt.

Eine hohe Bewertung

Das Jahr 2024 hat fulminant begonnen. Im Februar beschließt das Risikokapitalunternehmen Menlo Ventures, 750 Millionen US-Dollar in Anthropic zu investieren, wodurch der Wert auf 18,4 Milliarden US-Dollar steigt. Im Juni desselben Jahres startet Anthropic die Claude 3 Familie – Opus, Sonett und Haiku. Dieses Modell wird als eines der besten auf dem Markt gepriesen. Eine Neuigkeit ist, dass sowohl Anthropic als auch OpenAI zugestimmt haben, ihre neuen Modelle der US-Regierung vorzulegen, um den wachsenden Bedenken hinsichtlich der Sicherheit und Ethik der KI zu begegnen. Das Nationale Institut für Standards und Technologie (NIST) hat mitgeteilt, dass es nun „Zugang zu den neuen Hauptmodellen jeder Firma vor und nach ihrer öffentlichen Verfügbarkeit haben wird“. Indem Anthropic den Fokus auf die Sicherheit und Ethik der KI legt, hat es eine bedeutende Bewegung in der Geschichte dieser Technologie eingeleitet.