微软通过“思维算法”为人工智能注入类人推理能力 - 解密

微软通过“思维算法”将类人推理融入人工智能 – Decrypt

科技巨头微软已经 亮相 一种名为“思想算法”(AoT)的新人工智能训练方法,旨在使 ChatGPT 等大型语言模型的推理能力更加高效且类似于人类。

对于该公司来说,新方法是自然而然的下一步,该公司已大力投资人工智能,尤其是 OpenAI——DALL-E、ChatGPT 和强大的 GPT 语言模型的创造者。

微软表示,AoT 技术是一个潜在的游戏规则改变者,根据一份已发表的研究论文,它“引导语言模型通过更简化的问题解决路径”。 这种新颖的方法利用“上下文学习”,使模型能够以有组织的方式系统地探索不同的解决方案。

结果? 更快、更少占用资源地解决问题。

“我们的技术优于以前的单查询方法,并且与最近采用广泛树搜索的多查询方法相当,”论文指出。 “有趣的是,我们的结果表明,用算法指导模型可以使性能超越算法本身。”

研究人员声称,当该技术优化其搜索过程时,该模型获得了改进的“直觉”。

人类算法的混合体?

AoT 方法解决了当前情境学习技术(例如“思想链”(CoT)方法)的局限性。 CoT 有时会提供不正确的中间步骤,而 AoT 使用算法示例来指导模型以获得更可靠的结果。

AoT 从人类和机器中汲取灵感,以提高生成式人工智能模型的性能。 虽然人类擅长直觉认知,但算法却以其有组织、详尽的探索而闻名。 该研究论文称,思维算法旨在“融合这些双重方面,以增强法学硕士的推理能力。”

微软表示,这种混合技术使该模型能够克服人类工作记忆的限制,从而可以更全面地分析想法。

与 CoT 的线性推理或“思想树”(ToT) 技术不同,AoT 允许灵活地思考子问题的不同选项,以最少的提示保持效率。 它还可以与外部树搜索工具相媲美,有效地平衡成本和计算。

思维算法与其他人工智能推理方法。 图片:微软

总体而言,AoT 代表了从监督学习到集成搜索过程本身的转变。 通过改进以促进工程设计,研究人员相信这种方法可以使模型有效地解决复杂的现实问题,同时减少其碳影响。

鉴于其大量的人工智能投资,微软似乎处于有利地位,可以将 AoT 纳入 GPT-4 等先进系统中。 尽管具有挑战性,但教授语言模型以这种更人性化的方式“思考”可能会带来变革。

随时了解加密新闻,在您的收件箱中获取每日更新。

时间戳记:

更多来自 解码