Anthropic je ustvaril demokratičnega klepetalnega robota z umetno inteligenco, tako da je dovolil, da njegova načela izberejo uporabniki.

V prelomnem raziskovanju zmogljivosti AI je Anthropic, podjetje za umetno inteligenco (AI), prilagodilo velik jezikovni model (LLM), da odraža uporabniško določene vrednosti. Ta edinstvena študija je vključevala zbiranje prispevkov 1,000 udeležencev za natančno nastavitev odzivov LLM na podlagi njihove skupne presoje.

Za razliko od običajnih LLM-jev, opremljenih z vnaprej določenimi zaščitnimi ograjami za omejitev določenih izhodov, Anthropicov pristop vključuje posredovanje uporabnikov. Modeli, kot sta Claude iz Anthropic in ChatGPT iz OpenAI, se pogosto držijo prednastavljenih varnostnih odzivov, zlasti glede občutljivih tem. Vendar pa kritiki trdijo, da bi takšni posegi lahko ogrozili avtonomijo uporabnika, saj se definicija sprejemljivosti razlikuje in je subjektivna glede na kulture in časovna obdobja.

Potencialna rešitev tega kompleksnega izziva je opolnomočenje uporabnikov, da oblikujejo vrednostno usklajenost modelov umetne inteligence. Anthropic se je lotil eksperimenta »Collective Constitutional AI« v sodelovanju s Polisom in Collective Intelligence Project. Pritegnili so 1,000 uporabnikov iz različnih okolij in z anketiranjem zastavili vrsto vprašanj, da bi zbrali dragocene vpoglede.

Poskus se vrti okoli podelitve pooblastil uporabnikom za ugotavljanje primernosti, ne da bi bili izpostavljeni neželenim rezultatom. Ta proces je vključeval pridobivanje uporabniških vrednosti in njihovo vključitev v predhodno usposobljen model. Anthropic uporablja tehniko, znano kot »ustavna umetna inteligenca«, kjer je model opremljen z nizom pravil, ki jih je treba upoštevati, podobnih ustavi, ki vodi upravljanje v državah.

V eksperimentu Collective Constitutional AI je Anthropic želel integrirati povratne informacije skupin uporabnikov v sestavo modela. V skladu z objavo v spletnem dnevniku Anthropic rezultati kažejo na znanstveni uspeh, saj osvetljujejo izzive, povezane z omogočanjem uporabnikom, da skupaj definirajo vrednosti izdelka LLM.

Pomembna ovira, s katero se je soočila ekipa, je bil razvoj novega postopka primerjalne analize. Glede na pionirsko naravo eksperimenta in odvisnost od Anthropicove metodologije ustavne umetne inteligence ni uveljavljenega testa za primerjavo osnovnih modelov s tistimi, ki so natančno nastavljeni z uporabo množičnih vrednosti.

Na koncu se zdi, da je model, ki vključuje podatke, pridobljene iz povratnih informacij o anketah uporabnikov, pokazal "rahlo" izboljšanje v primerjavi z osnovnim modelom pri ublažitvi pristranskih rezultatov. Anthropic izraža navdušenje ne le nad nastalim modelom, ampak, kar je še pomembneje, nad samim prelomnim procesom. Ta eksperiment pomeni enega od začetnih primerov, ko je javnost kot kolektiv namerno vplivala na vedenje velikega jezikovnega modela. Upamo, da bodo skupnosti po vsem svetu gradile na takih tehnikah za razvoj modelov, ki bodo usklajeni z njihovimi posebnimi kulturnimi in kontekstualnimi potrebami.