Microsoft ingjuter AI med mänskliga resonemang via en "tankealgoritm" - Dekryptera

Microsoft ingjuter AI med mänskliga resonemang via en "tankealgoritm" - Dekryptera

Teknikjätten Microsoft har avtäckt en ny AI-träningsmetod som kallas "Algorithm of Thoughts" (AoT), designad för att göra stora språkmodeller som ChatGPT mer effektiva och människoliknande i sina resonemangsförmåga.

Det nya tillvägagångssättet är det naturliga nästa steget för företaget, som har investerat mycket AI, och särskilt i OpenAI — skaparna av DALL-E, ChatGPT och den kraftfulla GPT-språkmodellen.

Microsoft säger att AoT-tekniken är en potentiell spelväxlare, eftersom den "vägleder språkmodellen genom en mer strömlinjeformad problemlösningsväg", enligt en publicerad forskningsartikel. Detta nya tillvägagångssätt använder "in-context learning", vilket gör det möjligt för modellen att utforska olika lösningar på ett organiserat sätt systematiskt.

Resultatet? Snabbare, mindre resurskrävande problemlösning.

"Vår teknik överträffar tidigare enfrågemetoder och är i paritet med en nyligen genomförd multi-query-metod som använder omfattande trädsökning," skriver tidningen. "Intressant nog tyder våra resultat på att instruktion av en modell med en algoritm kan leda till att prestanda överträffar själva algoritmen."

Forskarna hävdar att modellen får en förbättrad "intuition" när denna teknik optimerar sin sökprocess.

En mänsklig-algoritmisk hybrid?

AoT-metoden tar itu med begränsningarna hos nuvarande inlärningstekniker i sammanhanget, som tillvägagångssättet "Chain-of-Thought" (CoT). CoT ger ibland felaktiga mellansteg, medan AoT vägleder modellen med hjälp av algoritmiska exempel för mer tillförlitliga resultat.

AoT hämtar inspiration från både människor och maskiner för att förbättra prestandan hos en generativ AI-modell. Medan människor utmärker sig i intuitiv kognition, är algoritmer kända för sin organiserade, uttömmande utforskning. Forskningsdokumentet säger att Algorithm of Thoughts försöker "sammanfoga dessa dubbla aspekter för att förstärka resonemangsförmågan inom LLM."

Microsoft säger att denna hybridteknik gör det möjligt för modellen att övervinna mänskliga arbetsminnesbegränsningar, vilket möjliggör en mer omfattande analys av idéer.

Till skillnad från CoT:s linjära resonemang eller "Tankens träd" (ToT)-teknik, tillåter AoT flexibel övervägande av olika alternativ för delproblem, och bibehåller effektiviteten med minimal uppmaning. Det konkurrerar också med externa trädsökningsverktyg, som effektivt balanserar kostnader och beräkningar.

Algorithm of Thoughts kontra andra AI-resonemangsmetoder. Bild: Microsoft

Sammantaget representerar AoT ett skifte från övervakat lärande till att integrera själva sökprocessen. Med förbättringar för snabb ingenjörskonst, tror forskare att detta tillvägagångssätt kan göra det möjligt för modeller att lösa komplexa verkliga problem effektivt samtidigt som de minskar deras koldioxidpåverkan.

Med tanke på dess betydande AI-investeringar verkar Microsoft väl positionerat för att införliva AoT i avancerade system som GPT-4. Även om det är utmanande, kan det vara transformerande att lära språkmodeller att "tänka" på detta mer mänskliga sätt.

Håll dig uppdaterad om kryptonyheter, få dagliga uppdateringar i din inkorg.

Tidsstämpel:

Mer från Avkryptera