Anthropic creëerde een democratische AI-chatbot door gebruikers de principes ervan te laten kiezen.

In een baanbrekende verkenning van AI-mogelijkheden heeft Anthropic, een bedrijf op het gebied van kunstmatige intelligentie, een groot taalmodel (LLM) op maat gemaakt om door de gebruiker gedefinieerde waarden te weerspiegelen. Bij dit unieke onderzoek werd input verzameld van 1,000 deelnemers om de antwoorden van de LLM te verfijnen op basis van hun collectieve oordelen.

In tegenstelling tot conventionele LLM's die zijn uitgerust met vooraf gedefinieerde vangrails om bepaalde outputs te beperken, omvat de aanpak van Anthropic user agency. Modellen als Claude van Anthropic en ChatGPT van OpenAI houden zich vaak aan vooraf ingestelde veiligheidsreacties, vooral als het gevoelige onderwerpen betreft. Critici beweren echter dat dergelijke interventies de autonomie van de gebruiker in gevaar kunnen brengen, aangezien de definitie van aanvaardbaarheid varieert en subjectief is tussen culturen en tijdsperioden.

Een mogelijke oplossing voor deze complexe uitdaging is het in staat stellen van gebruikers om de waardeafstemming van AI-modellen vorm te geven. Anthropic begon aan het ‘Collective Constitutional AI’-experiment in samenwerking met Polis en het Collective Intelligence Project. Ze engageerden 1,000 gebruikers met verschillende achtergronden en stelden via opiniepeilingen een reeks vragen om waardevolle inzichten te verzamelen.

Het experiment draait om het verlenen van de autoriteit aan gebruikers om de geschiktheid te bepalen zonder hen bloot te stellen aan ongewenste resultaten. Dit proces omvatte het uitlokken van gebruikerswaarden en het opnemen ervan in een vooraf getraind model. Anthropic maakt gebruik van een techniek die bekend staat als ‘Constitutionele AI’, waarbij het model wordt voorzien van een reeks regels die moeten worden gevolgd, vergelijkbaar met een grondwet die het bestuur in landen leidt.

In het Collective Constitutional AI-experiment wilde Anthropic feedback van gebruikersgroepen integreren in de samenstelling van het model. Volgens de blogpost van Anthropic suggereren de resultaten een wetenschappelijk succes, dat licht werpt op de uitdagingen die gepaard gaan met het gezamenlijk laten definiëren van de waarden van een LLM-product door gebruikers.

Een opmerkelijke hindernis waarmee het team werd geconfronteerd, was het ontwikkelen van een nieuw benchmarkingproces. Gezien het baanbrekende karakter van het experiment en de afhankelijkheid van de Constitutionele AI-methodologie van Anthropic, bestaat er geen gevestigde test voor het vergelijken van basismodellen met modellen die zijn verfijnd met behulp van crowdsourced-waarden.

Uiteindelijk lijkt het erop dat het model waarin gegevens zijn verwerkt die zijn afgeleid van de feedback van gebruikersonderzoeken, een “kleine” verbetering ten opzichte van het basismodel vertoonde wat betreft het verminderen van vertekende resultaten. Anthropic drukt niet alleen zijn enthousiasme uit over het resulterende model, maar, nog belangrijker, over het baanbrekende proces zelf. Dit experiment is een van de eerste voorbeelden waarin het publiek, als collectief, opzettelijk het gedrag van een groot taalmodel beïnvloedde. De hoop is dat gemeenschappen wereldwijd op dergelijke technieken zullen voortbouwen om modellen te ontwikkelen die aansluiten bij hun specifieke culturele en contextuele behoeften.