Anthropic lõi demokraatliku tehisintellekti vestlusroti, lubades selle põhimõtted kasutajatel valida.

Tehisintellekti (AI) ettevõte Anthropic on AI võimaluste murrangulise uurimise käigus kohandanud suure keelemudeli (LLM), et see peegeldaks kasutaja määratud väärtusi. See ainulaadne uuring hõlmas 1,000 osaleja panuse kogumist, et täpsustada LLM-i vastuseid nende kollektiivsete otsuste alusel.

Erinevalt tavalistest LLM-idest, mis on varustatud teatud väljundite piiramiseks etteantud kaitsepiiretega, hõlmab Anthropicu lähenemisviis kasutajate agentuuri. Sellised mudelid nagu Anthropicu Claude ja OpenAI ChatGPT järgivad sageli eelseadistatud ohutusmeetmeid, eriti tundlike teemade puhul. Kriitikud aga väidavad, et sellised sekkumised võivad kahjustada kasutaja autonoomiat, kuna vastuvõetavuse määratlus on kultuuride ja ajavahemike lõikes erinev ja subjektiivne.

Selle keerulise väljakutse potentsiaalne lahendus on anda kasutajatele võimalus kujundada tehisintellektimudelite väärtuste joondamist. Anthropic alustas koostöös Polise ja Collective Intelligence Projectiga katset "Kollektiivne põhiseaduslik AI". Kaasates 1,000 erineva taustaga kasutajat, esitasid nad küsitluse kaudu hulga küsimusi, et koguda väärtuslikku teavet.

Eksperimendi eesmärk on anda kasutajatele õigus määrata sobivus, ilma et nad saaksid soovimatuid väljundeid. See protsess hõlmas kasutaja väärtuste esilekutsumist ja nende kaasamist eelkoolitatud mudelisse. Anthropic kasutab tehnikat, mida nimetatakse põhiseaduslikuks AI-ks, kus mudelil on järgitavad reeglid, mis on sarnased riikide valitsemist suunava põhiseadusega.

Collective Constitutional AI eksperimendis oli Anthropic eesmärk integreerida kasutajarühmade tagasiside mudeli põhikirja. Anthropicu ajaveebipostituse kohaselt viitavad tulemused teaduslikule edule, valgustades väljakutseid, mis on seotud kasutajatel LLM-i toote väärtuste ühise määratlemisega.

Märkimisväärne takistus, millega meeskond silmitsi seisis, oli uudse võrdlusuuringu protsessi väljatöötamine. Arvestades katse teedrajavat olemust ja tuginemist Anthropicu põhiseaduslikule tehisintellekti metoodikale, puudub väljakujunenud test baasmudelite võrdlemiseks rahvahulgast pärinevate väärtuste abil peenhäälestatud mudelitega.

Lõppkokkuvõttes näib, et kasutajate küsitluste tagasisidest saadud andmeid sisaldav mudel näitas kallutatud väljundite leevendamisel põhimudeliga võrreldes "kerget" paranemist. Anthropic väljendab põnevust mitte ainult tulemuseks oleva mudeli, vaid, mis veelgi olulisem, murrangulise protsessi enda pärast. See eksperiment tähistab ühte esimestest juhtudest, kus avalikkus kollektiivina tahtlikult mõjutas suure keelemudeli käitumist. Loodetakse, et kogukonnad kogu maailmas tuginevad sellistele tehnikatele, et töötada välja mudelid, mis vastavad nende konkreetsetele kultuurilistele ja kontekstuaalsetele vajadustele.