Microsoft는 "생각의 알고리즘"을 통해 AI에 인간과 같은 추론을 주입합니다.

Microsoft는 "생각의 알고리즘"을 통해 AI에 인간과 같은 추론을 주입합니다.

타임 스탬프 : 28 년 2023 월 11 일 오후 40:XNUMX

거대 기술 기업 마이크로소프트는 공개 AoT(Algorithm of Thoughts)라는 새로운 AI 교육 방법은 ChatGPT와 같은 대규모 언어 모델을 추론 능력에서 보다 효율적이고 인간과 유사하게 만들기 위해 설계되었습니다.

새로운 접근 방식은 AI, 특히 DALL-E, ChatGPT 및 강력한 GPT 언어 모델을 만든 OpenAI에 막대한 투자를 해온 회사의 자연스러운 다음 단계입니다.

발표된 연구 논문에 따르면 Microsoft는 AoT 기술이 “더 효율적인 문제 해결 경로를 통해 언어 모델을 안내”하므로 잠재적인 판도를 바꿀 수 있다고 밝혔습니다. 이 새로운 접근 방식은 "상황 내 학습"을 활용하여 모델이 체계적인 방식으로 다양한 솔루션을 탐색할 수 있도록 합니다.

결과? 더 빠르고 리소스 집약적인 문제 해결.

"우리 기술은 이전 단일 쿼리 방법보다 성능이 뛰어나며 광범위한 트리 검색을 사용하는 최근 다중 쿼리 접근 방식과 동등합니다."라고 논문은 말합니다. "흥미롭게도 우리의 결과는 모델에 알고리즘을 지시하면 알고리즘 자체를 능가하는 성능을 얻을 수 있음을 시사합니다."

연구자들은 이 기술이 검색 프로세스를 최적화할 때 모델의 "직관"이 향상된다고 주장합니다.

인간-알고리즘 하이브리드?

AoT 방법은 "사고 사슬"(CoT) 접근 방식과 같은 현재 상황 내 학습 기술의 한계를 해결합니다. CoT는 때때로 잘못된 중간 단계를 제공하는 반면, AoT는 보다 안정적인 결과를 위해 알고리즘 예제를 사용하여 모델을 안내합니다.

AoT는 인간과 기계 모두로부터 영감을 얻어 생성 AI 모델의 성능을 향상시킵니다. 인간은 직관적인 인지 능력이 뛰어난 반면, 알고리즘은 체계적이고 철저한 탐색으로 유명합니다. 연구 논문에 따르면 사고 알고리즘은 "이러한 이중 측면을 융합하여 LLM 내 추론 기능을 강화"하려고 합니다.

마이크로소프트는 이 하이브리드 기술을 통해 모델이 인간의 작업 메모리 한계를 극복하고 아이디어를 보다 포괄적으로 분석할 수 있다고 밝혔습니다.

CoT의 선형 추론 또는 "생각의 나무"(ToT) 기술과 달리 AoT는 하위 문제에 대한 다양한 옵션에 대한 유연한 고려를 허용하여 최소한의 프롬프트로 효율성을 유지합니다. 또한 외부 트리 검색 도구와 경쟁하여 비용과 계산의 균형을 효율적으로 유지합니다.

생각의 알고리즘과 다른 AI 추론 방법. 이미지: 마이크로소프트

전반적으로 AoT는 지도 학습에서 검색 프로세스 자체 통합으로의 전환을 나타냅니다. 신속한 엔지니어링을 위한 개선을 통해 연구원들은 이 접근 방식을 통해 모델이 복잡한 실제 문제를 효율적으로 해결하는 동시에 탄소 영향을 줄일 수 있다고 믿습니다.

상당한 AI 투자를 고려할 때 Microsoft는 AoT를 GPT-4와 같은 고급 시스템에 통합할 수 있는 유리한 위치에 있는 것으로 보입니다. 비록 어려운 일이지만, 보다 인간적인 방식으로 "생각"하도록 언어 모델을 가르치는 것은 변화를 가져올 수 있습니다.

암호화 뉴스를 최신 상태로 유지하고 받은 편지함에서 매일 업데이트를 받으십시오.

타임 스탬프 :

더보기 해독