Anthropic hat einen demokratischen KI-Chatbot geschaffen, indem seine Prinzipien von den Benutzern ausgewählt werden konnten.

In einer bahnbrechenden Untersuchung der KI-Fähigkeiten hat Anthropic, ein Unternehmen für künstliche Intelligenz (KI), ein großes Sprachmodell (LLM) maßgeschneidert, um benutzerdefinierte Werte widerzuspiegeln. Bei dieser einzigartigen Studie wurden Eingaben von 1,000 Teilnehmern gesammelt, um die Antworten des LLM auf der Grundlage ihrer kollektiven Urteile zu verfeinern.

Im Gegensatz zu herkömmlichen LLMs, die mit vordefinierten Leitplanken ausgestattet sind, um bestimmte Ergebnisse einzuschränken, umfasst der Ansatz von Anthropic die Entscheidungsfreiheit des Benutzers. Modelle wie Claude von Anthropic und ChatGPT von OpenAI halten sich häufig an voreingestellte Sicherheitsreaktionen, insbesondere bei sensiblen Themen. Kritiker argumentieren jedoch, dass solche Eingriffe die Autonomie der Benutzer beeinträchtigen könnten, da die Definition von Akzeptanz je nach Kultur und Zeitrahmen unterschiedlich und subjektiv ist.

Eine mögliche Lösung für diese komplexe Herausforderung besteht darin, Benutzern die Möglichkeit zu geben, die Wertausrichtung von KI-Modellen zu gestalten. Anthropic startete in Zusammenarbeit mit Polis und dem Collective Intelligence Project das Experiment „Collective Constitutional AI“. Sie befragten 1,000 Benutzer mit unterschiedlichem Hintergrund und stellten durch Umfragen eine Reihe von Fragen, um wertvolle Erkenntnisse zu gewinnen.

Bei dem Experiment geht es darum, Benutzern die Befugnis zu geben, die Angemessenheit zu bestimmen, ohne sie unerwünschten Ergebnissen auszusetzen. Dieser Prozess umfasste das Ermitteln von Benutzerwerten und deren Integration in ein vorab trainiertes Modell. Anthropic verwendet eine Technik namens „Constitutional AI“, bei der das Modell mit einer Reihe von Regeln ausgestattet wird, die es zu befolgen gilt, ähnlich einer Verfassung, die die Regierungsführung in Nationen leitet.

Beim Collective Constitutional AI-Experiment zielte Anthropic darauf ab, Feedback von Benutzergruppen in die Verfassung des Modells zu integrieren. Laut dem Blogbeitrag von Anthropic deuten die Ergebnisse auf einen wissenschaftlichen Erfolg hin und werfen ein Licht auf die Herausforderungen, die damit verbunden sind, dass Benutzer die Werte eines LLM-Produkts gemeinsam definieren können.

Eine besondere Hürde für das Team war die Entwicklung eines neuartigen Benchmarking-Prozesses. Angesichts des bahnbrechenden Charakters des Experiments und der Abhängigkeit von der Constitutional AI-Methodik von Anthropic gibt es keinen etablierten Test zum Vergleich von Basismodellen mit Modellen, die mithilfe von Crowdsourcing-Werten verfeinert wurden.

Letztendlich scheint es, dass das Modell, das Daten aus Benutzerumfrage-Feedback einbezieht, eine „leichte“ Verbesserung gegenüber dem Basismodell bei der Abschwächung verzerrter Ergebnisse aufweist. Anthropic drückt seine Begeisterung nicht nur über das resultierende Modell aus, sondern, was noch wichtiger ist, über den bahnbrechenden Prozess selbst. Dieses Experiment stellt einen der ersten Fälle dar, in denen die Öffentlichkeit als Kollektiv absichtlich das Verhalten eines großen Sprachmodells beeinflusste. Die Hoffnung besteht darin, dass Gemeinschaften auf der ganzen Welt auf solchen Techniken aufbauen, um Modelle zu entwickeln, die auf ihre spezifischen kulturellen und kontextuellen Bedürfnisse abgestimmt sind.