更高效的计算能力
主要特征
一种新的人工智能训练方法旨在提高效率并在大型语言模型中模仿人类推理。
微软研究人员声称该方法具有突破性的潜力。
然而,实现类人智能仍然是一个遥远的目标。
新的研究表明,模仿人类的思维方式可以让计算机变得更聪明。
微软研究人员提出了一种名为“思想算法”(AoT)的新型人工智能训练技术,旨在提高ChatGPT等大型语言模型(LLM)的效率和类人推理能力。这是研究人员尝试利用类人智慧来增强人工智能 (AI) 的方法之一。
机器学习算法在识别相关性方面非常强大,但不一定是因果关系,”生成式人工智能公司Doppl.ai的首席产品官Chris Anderson在电子邮件采访中告诉 Lifewire。“人工智能无法像人类那样解释其推理。人类对世界有了更加基础和象征性的理解,这些理解源自公理智慧和经验学习。”
思维机器
微软研究人员在他们的新论文中断言,新的算法方法可能是革命性的,因为根据已发布的研究论文,它“将语言模型引向更有效的解决问题的轨迹”。该技术采用“上下文学习”,允许模型以结构化方式检查各种解决方案。
安德森说,思维算法技术使法学硕士能够有效地搜索解决问题的推理步骤。它可以允许模型通过回溯到先前计算的步骤并从那里恢复来模仿经典编程算法的行为。他建议,例如,假设您要求法学硕士为您提供地图上两点之间的路线。
他说:“如果模型产生幻觉并告诉你走它所组成的路,或者即使它在许多步骤后开始失去连贯性,那么一个简单的 LLM 查询的性能可能会很差。” “通过 AoT,法学硕士可以接受训练,像传统的寻路算法一样完成解决问题的步骤,只需采取必要的回溯步骤即可有效地到达目的地。把它想象成一名计算机科学专业的学生,??正在学习算法、手动写出步骤并解决多个示例。”
“如果模型产生幻觉,简单的 LLM 查询可能会产生很差的性能。”
Wiley智能服务事业群及人工智能研发总监周宏通过电子邮件表示,通过思维链,人类将一个问题分解为一系列简单问题,帮助法学硕士进行中间推理。
“由于每个子问题都有多个可能的探索方向,因此思想树提供了决策树模式来帮助法学硕士全面探索问题,”他补充道。“然而,思想树需要多个查询,而 AoT 只需要一个查询即可生成整个思维过程。”
人工智能的未来?
Raymond 指出,尽管 ChatGPT 等法学硕士实力雄厚,但仍有很长的路要走。他表示,更多像 AoT 这样的发展可能会以可解释的人工智能的形式出现
“当人工智能能够像人类一样解释它们的推理时,它们将使我们能够与它们一起学习和成长,”他补充道。随着这些模型容量的增长,如果它们不暴露其推理,我们将达到这样的程度:幻觉和错误对我们来说将不再明显。”
Gridspace 首席执行官 Evan Macmillan 在电子邮件中表示,AoT 等新算法方法可以提高法学硕士的质量和产出。
“法学硕士构建者已经通过少量的人类反馈极大地改进了他们的模型,”他补充道。“如果法学硕士能够从更复杂的反馈和在职工作中学习,我们可以期待更令人印象深刻和更高效的人工智能系统。”
微软的新方法是在人工智能已经发展到像人类一样推理之后提出的。今年 3 月,微软研究团队发布了一篇名为《通用人工智能的火花:GPT-4 的早期实验》的论文。研究人员在文件中断言,GPT-4 显示了通常所说的“通用人工智能”(AGI)的迹象。
人工智能公司Yellow.ai的首席执行官拉古·拉维努塔拉 (Raghu Ravinutala)在一封电子邮件中表示,微软的 AoT 是“朝着正确方向迈出的一步”,但距离类人智能还有很长的路要走。
他补充说:“要实现这一目标,需要在人工智能研究的各个领域取得重大进展,以缩小当前人工智能能力和人类推理能力之间的差距。” “描述法学硕士类人推理现状的更好方法是‘复杂理解’。”