Az Anthropic egy demokratikus mesterséges intelligencia chatbotot hozott létre, lehetővé téve, hogy a felhasználók megválasszák alapelveit.

Az AI-képességek úttörő feltárása során az Anthropic, a mesterséges intelligenciával (AI) foglalkozó vállalat egy nagy nyelvi modellt (LLM) alakított ki, hogy tükrözze a felhasználó által meghatározott értékeket. Ebben az egyedülálló tanulmányban 1,000 résztvevőt gyűjtöttek össze, hogy finomhangolják az LLM válaszait kollektív ítéleteik alapján.

Ellentétben a hagyományos LLM-ekkel, amelyek előre meghatározott védőkorlátokkal vannak felszerelve bizonyos kimenetek korlátozására, az Anthropic megközelítése a felhasználói ügynökséget foglalja magában. Az olyan modellek, mint a Claude az Anthropictól és a ChatGPT az OpenAI-tól, gyakran betartják az előre beállított biztonsági válaszokat, különösen az érzékeny témákat illetően. A kritikusok azonban azzal érvelnek, hogy az ilyen beavatkozások veszélyeztethetik a felhasználói autonómiát, mivel az elfogadhatóság meghatározása kultúránként és időszakonként eltérő, és szubjektív.

Egy lehetséges megoldás erre az összetett kihívásra, ha a felhasználókat felhatalmazzuk arra, hogy alakítsák az AI-modellek értékrendjét. Az Anthropic a Polisszal és a Collective Intelligence Projecttel együttműködve belekezdett a „kollektív alkotmányos AI” kísérletbe. 1,000, különböző hátterű felhasználó bevonásával egy sor kérdést tettek fel a szavazás során, hogy értékes betekintést nyerjenek.

A kísérlet a körül forog, hogy a felhasználók felhatalmazást kapjanak a megfelelőség meghatározására anélkül, hogy nemkívánatos kimeneteknek tennék ki őket. Ez a folyamat magában foglalta a felhasználói értékek előhívását és beépítését egy előre kiképzett modellbe. Az Anthropic az „alkotmányos mesterséges intelligencia” néven ismert technikát alkalmazza, ahol a modell egy követendő szabályrendszerrel rendelkezik, hasonlóan a nemzetek kormányzását irányító alkotmányhoz.

A Collective Constitutional AI kísérletben az Anthropic arra törekedett, hogy a felhasználói csoportoktól származó visszajelzéseket integrálja a modell felépítésébe. Az Anthropic blogbejegyzése szerint az eredmények tudományos sikerre utalnak, és rávilágítanak azokra a kihívásokra, amelyek azzal kapcsolatosak, hogy a felhasználók közösen határozhatják meg az LLM-termékek értékeit.

A csapat előtt álló jelentős akadály egy újszerű benchmarking folyamat kidolgozása volt. Tekintettel a kísérlet úttörő jellegére és az Anthropic Constitutional AI módszertanára való támaszkodásra, nincs bevált teszt az alapmodellek összehasonlítására a tömegből származó értékeket használó finomhangolt modellekkel.

Végül úgy tűnik, hogy a felhasználói közvélemény-kutatási visszajelzésekből származó adatokat tartalmazó modell „enyhe” javulást mutatott az alapmodellhez képest a torzított kimenetek mérséklésében. Az Anthropic nemcsak az eredő modell miatt fejezi ki az izgalmat, hanem, ami még fontosabb, magával az úttörő folyamattal kapcsolatban. Ez a kísérlet az egyik kezdeti eset, amikor a nyilvánosság, mint kollektív szándékosan befolyásolta egy nagy nyelvi modell viselkedését. A remény az, hogy a közösségek világszerte ilyen technikákra építve olyan modelleket dolgozzanak ki, amelyek igazodnak sajátos kulturális és kontextuális szükségleteikhez.