Microsoft tilfører AI med menneskelignende resonnement via en "algoritme for tanker" - Dekrypter

Microsoft tilfører AI med menneskelignende resonnement via en "algoritme for tanker" - Dekrypter

Tidsstempel: 28. august 2023 11:40

Teknikgiganten Microsoft har avduket en ny AI-treningsmetode kalt "Algorithm of Thoughts" (AoT), designet for å gjøre store språkmodeller som ChatGPT mer effektive og menneskelignende i sine resonneringsevner.

Den nye tilnærmingen er det naturlige neste steget for selskapet, som har investert tungt AI, og spesielt i OpenAI – skaperne av DALL-E, ChatGPT og den kraftige GPT-språkmodellen.

Microsoft sier at AoT-teknikken er en potensiell spillskifter, ettersom den "leder språkmodellen gjennom en mer strømlinjeformet problemløsningsvei," ifølge en publisert forskningsartikkel. Denne nye tilnærmingen bruker "in-context learning", som gjør det mulig for modellen å utforske ulike løsninger på en organisert måte systematisk.

Resultatet? Raskere, mindre ressurskrevende problemløsning.

"Teknikken vår utkonkurrerer tidligere enkeltspørringsmetoder og er på nivå med en nyere tilnærming til flere spørringer som bruker omfattende tresøk," heter det i avisen. "Interessant nok tyder resultatene våre på at å instruere en modell med en algoritme kan føre til at ytelsen overgår selve algoritmen."

Forskerne hevder at modellen får en forbedret "intuisjon" når denne teknikken optimaliserer søkeprosessen.

En menneskelig-algoritmisk hybrid?

AoT-metoden adresserer begrensningene til gjeldende læringsteknikker i kontekst som "Chain-of-Thought" (CoT)-tilnærmingen. CoT gir noen ganger feil mellomtrinn, mens AoT veileder modellen ved å bruke algoritmiske eksempler for mer pålitelige resultater.

AoT henter inspirasjon fra både mennesker og maskiner for å forbedre ytelsen til en generativ AI-modell. Mens mennesker utmerker seg i intuitiv kognisjon, er algoritmer kjent for sin organiserte, uttømmende utforskning. Forskningsartikkelen sier at Algorithm of Thoughts søker å "smelte sammen disse doble fasettene for å øke resonnementevner innen LLMs."

Microsoft sier at denne hybridteknikken gjør det mulig for modellen å overvinne begrensninger i menneskelig arbeidsminne, og tillater mer omfattende analyse av ideer.

I motsetning til CoTs lineære resonnement eller "Tankenes tre" (ToT)-teknikk, tillater AoT fleksibel kontemplasjon av forskjellige alternativer for underproblemer, og opprettholder effektiviteten med minimal tilskyndelse. Det konkurrerer også med eksterne tresøkeverktøy, som effektivt balanserer kostnader og beregninger.

Algorithm of Thoughts versus andre AI-resonneringsmetoder. Bilde: Microsoft

Totalt sett representerer AoT et skifte fra veiledet læring til å integrere selve søkeprosessen. Med forbedringer for rask ingeniørarbeid, mener forskere at denne tilnærmingen kan gjøre det mulig for modeller å løse komplekse problemer i den virkelige verden effektivt, samtidig som den reduserer deres karbonpåvirkning.

Gitt sine betydelige AI-investeringer, virker Microsoft godt posisjonert til å inkorporere AoT i avanserte systemer som GPT-4. Selv om det er utfordrende, kan det være transformativt å lære språkmodeller å "tenke" på denne mer menneskelige måten.

Hold deg oppdatert på kryptonyheter, få daglige oppdateringer i innboksen din.

Tidstempel:

Mer fra dekryptere