编者按：2023年是微软亚洲研究院建院25周年，借此机会，我们特别策划了“智汇对话”系列内容，邀请全球各领域顶尖专家学者共同畅谈研究文化，探讨跨学科创新，展望技术未来。
11月14日，微软亚洲研究院与东京大学联合举办了以“人工智能协同：社会与科学（AI Synergy: Society and Science）”为主题的2023年人工智能论坛（查看回放视频）。在圆桌讨论环节，东京大学新一代智能科学研究中心负责人、信息科学系研究部智能机械信息技术学教授 Yasuo Kuniyoshi （国吉康夫）、东京大学神经智能国际研究机构特聘教授 Yukie Nagai（长井志江），以及微软亚洲研究院副院长邱锂力、微软亚洲研究院全球研究合伙人韦福如、微软亚洲研究院资深首席研究员谢幸、微软亚洲研究院资深首席研究员边江，共同探讨了人工智能对社会和科学的重大影响，以及人工智能在解决复杂社会挑战和促进科学发现方面的潜力和作用。
谢幸：人工智能不仅是一项技术奇迹，也是助力我们改变世界的催化剂。从教育、医疗到娱乐，人工智能与不同领域的融合都给人类社会带来了巨大的变革，为我们带来了前所未有的机遇和挑战。那么，先请各位畅想一下人工智能的未来发展，它将带来哪些影响？
国吉康夫：上个月我在《新科学家》（New Scientist）杂志上看到了一篇文章，介绍了当 ChatGPT 在回答用祖鲁语提出的恐怖袭击问题时，竟然也给出了一些建议。如今，几乎每周都有关于如何欺骗大语言模型以及如何应对这些欺骗的论文发布。人工智能正在不断对齐人类的价值观，但我认为这还不是最终的解决方案。
我一直从事有关具身认知（Embodied Cognition）产生和发展方面的研究，专注于构建能够模拟婴儿的具身模型和大脑模型，希望通过感知和运动的交互，让模型能够自主发展。目前，我们正在努力让模型拥有初级的道德意识。
这看起来似乎还很遥远，但是发展心理学的研究表明，6个月大的婴儿就已经具备道德判断和惩罚坏人的能力。这意味着在掌握语言之前，人类已经具有道德意识，这或许有助于我们在一开始就让具身交互的人工智能系统具备道德意识。这一研究涉及多个跨学科领域，包括人文学科、心理学、神经科学、人工智能、机器人等，最终可能发展成为一门关于人类的建构性科学。
在人工智能快速发展的背景下，对人性的探讨将成为一个重要问题。每个人都应该思考人类存在的意义，以及如何让人工智能与人类价值观对齐。为了解决这些问题，我们需要广泛的合作和持续的研究，也许我们能够创造出真正理解人性与人类共同发展的人工智能系统。
邱锂力：我们与计算机交互的方式正在发生变化。过去，我们主要是依靠键盘输入信息，而未来，我们的动作、面部表情、呼吸、心跳，甚至脑电波信号，都有可能被计算机感知。通过对自身情绪、健康状况、幸福感以及周围环境的感知，我们可以相应地调整环境，让自己更加舒适。比如，当我们呼吸急促，心跳加快时，系统可以感知到我们可能正面临压力，然后通过调节环境温度或播放舒缓的音乐来帮助我们放松。再比如，我们可以通过某些信号来判断一个人是否有抑郁症或者是否有早期症状，那么系统就可以建议用户尽早就医进行检测或诊断。
当了解到用户更多的详细信息时，我们就可以为用户提供更个性化和有效的医疗服务。人工智能将给未来的医疗带来革命性的变化。
当然，我们在使用人工智能时仍需谨慎，因为人工智能也会犯错，人工智能可以提供关键信息供医生参考，关键决策还需要由人类医生做出。
长井志江：人工智能在工业领域取得了显著进展，为人们的工作和医疗诊断提供了有效的辅助。然而，这些进展主要集中在特定的领域，我们还需要从整个社会的角度思考，如何让人工智能真正改善我们的日常生活，尤其是我所关注的人工智能技术和机器人的社交互动方面。
发展心理学研究显示，婴儿的许多感觉和运动经验并不是建立在语言基础上的，在他们还不会说话的时候，就能够学习大量知识。那么，这些经验知识是否能够帮助我们丰富人工智能系统的交互模式？毕竟，目前的语言模型还无法处理多种模态的交互。语言是人脑的一种抽象表达，而不是基于感觉运动经验的。在社交中，我们会接收到丰富的感觉信号，除了符号语言，还有视觉、听觉、触觉等多种感官刺激，以及身体内部的一些状态，比如，情感就与我们身体内部的表征密切相关。
对于大语言模型，我们还需要思考能从哪些方面来完善它，以及如何将语言模型与我们的经验建立联系，让人工智能技术不仅仅应用于特定的医疗或工业领域，而是让人工智能技术与人们的日常生活紧密连接，并从中受益。
边江：微软亚洲研究院与一些产业界的合作伙伴建立了紧密的合作关系，涵盖金融、物流、能源、汽车和医疗等多个领域。我们发现，大语言基础模型的蓬勃发展，使我们能够模拟更加复杂的真实世界。
例如，通过与金融企业合作，我们利用基础模型来模拟金融市场，通过模拟特定的金融场景，甚至是一些极端情况，来测试我们的技术能否应对这些挑战。构建逼真的数字世界，为不同产业领域提供支持，推动产业发展，也是人工智能发展的一个方向。
谢幸：人工智能正在与社会科学、自然科学、健康医疗、脑科学等领域交叉融合。那么，各位专家认为人工智能将如何影响和改变计算机科学之外领域的研究和实践？
长井志江：人工智能与其他学科融合的一个成功案例是借助人工智能技术处理医学、人文科学等领域的大数据。人工智能拥有强大的计算能力，能够利用的知识量远超人类，因此可以更快速和更准确地分析数据。
同时，我们也需要探索人工智能的新应用，改变人类研究或神经科学研究的方式。例如，我们与发展心理学家合作，利用人工智能技术分析儿童的行为以及他们与周围人的互动，借助人工智能技术模拟和预测人类的发展。人类在婴幼儿时期的个体差异要小于成年以后，我们希望可以模拟人类的智能和智能的发展，以便更好地预测未来。
我们还与研究自闭症谱系障碍的研究员合作，他们希望了解哪些神经机制的差异影响了自闭症儿童长大后的社会行为，以及他们可能遇到的困难和解决办法。在这方面，人工智能具有很强的分析预测能力，不仅可以分析大量数据，还可能预测人类的智力，从而促进和改变其他研究领域。
邱锂力：我们的团队与上海的几家医疗机构有着密切的合作，积累了一些人工智能在医疗领域的应用经验。我们发现，医生在监测癫痫患者是否发病时需要全天紧盯屏幕。为此，我们开发了一种基于脑电信号（EEG）的癫痫自动检测系统，可以大幅减轻医生的负担，让他们能够专注于更重要的事情。这个系统还可以用于培训新一代的医护人员。
此外，人工智能还可以自动生成医学报告。现在我们需要专家来解读医学图像、X 射线或 CT 等资料，但可以解读的专业医生数量是有限的。通过人工智能，我们可以让解读过程自动化，甚至还可以得到更准确的结果，提供更全面的诊断报告。我们希望未来人工智能可以成为医生的得力助手。
边江：在我们与产业界的跨学科合作中，会涉及到知识整合、知识生成等多个维度，这意味着每个行业都有大量特定领域的知识。例如，我们与物流企业合作，利用物流领域的知识库构建了一个能够解决物流问题的基础模型。这其中的挑战在于如何将领域知识库整合到当前的基础模型中。
另一点我想强调的是知识生成，就是在特定领域现有知识库的基础上，利用基础模型生成新的知识。我们正在尝试利用基础模型来实现工业企业的研发过程自动化。借助基础模型强大的推理能力，我们可以创造出特定领域的新知识。相信基础模型将在工业领域发挥巨大的作用，成为其发展的基石。我们很乐意与各领域的企业和研究人员共同开展跨学科、跨领域的合作。
谢幸：人工智能、大语言模型已经改变了许多行业的格局，自然语言处理、计算机视觉、系统等领域都受到了影响。在大语言模型时代，人工智能的研究是否会有一些不同的方法和重点？
韦福如：我们已经看到人工智能技术的范式正在发生转变，所以我们确实需要关注研究模式和组织形式的变革。人工智能不同研究领域之间的界限正在变得模糊，各种技术和模态也开始融合。因此，在这个新的时代，我们需要以更通用和更本质的方式来思考问题，这意味着我们不能仅满足于针对特定任务5%、10% 改进的增量式研究，而是需要思考能带来十倍，甚至百倍提升的研究方法，并重新定义研究主题，从更广泛、更深入的角度探索研究。
邱锂力：我们需要不断学习新的知识，尤其是跨领域的知识，因为人工智能正在飞速发展，并广泛应用于医疗、社会科学等不同领域。对于人工智能研究者而言，持续学习和快速学习的意愿和能力将成为至关重要的特质。
现场观众：我的专业是软件工程，我会接触到黑盒测试和白盒测试等概念，而深度神经网络这样的人工智能模型更像是一个黑盒。我们一直在关注人工智能的负责任和可靠性问题，那么，我们现在能够在多大程度上信任人工智能模型？是否需要先理解人脑在生物层面的工作机理，才能创造出更完善的人工智能？
韦福如：我们现在还无法真正理解大语言模型的运行原理，但随着研究的深入，这些机制将逐渐为人们所了解。虽然我们不能完全相信模型的输出结果，但我认为它们会越来越可靠。当然，在做出重要决策时，还是需要将人工智能和人类智能相结合，人类将发挥非常重要的决定性作用，而人工智能将成为一个越来越强大的工具。
邱锂力：了解人脑的生物学原理，会有助于我们更深入地探索人工智能。例如，目前的神经网络主要是前馈的结构。但是神经科学家发现，人脑的神经元不仅有前馈，还有后馈、抑制、促进等多种信号传输机制。也就是说，神经元的信号传递并不是多个独立一对一的输入结构，而是各个输入之间存在依赖关系，涉及多种反馈机制的综合作用。
因此，我的同事们设计了融合多种反馈机制的新型网络结构 CircuitNet，相比传统的前馈网络结构，CircuitNet 体量更小，性能更好。他们的研究经验表明，脑启发研究可以帮助我们改进传统的 Transformer 或其他神经网络结构，设计出更优越的下一代神经网络。
国吉康夫：我认为没有百分之百确定的神经网络系统，因为它是一个概率系统。人工智能的可靠性和可解释性是非常重要的问题，而随着技术的发展，这些问题也在得到改善。我们也不应该期望有百分之百的正确性，系统会犯错，就像人也会犯错一样，但有时候错误是可以理解的。目前的人工智能会犯一些很荒谬的错误，这才是真正的问题。
另外，邱老师刚刚提到的是一个很好的方法。我认为现在是时候重新审视人脑的生物学特征，来启发下一代人工智能的设计了。除了循环性，生物大脑中还有许多特征是当前人工智能所缺少的，例如，动态功能连接性。人脑结构并不是为特定任务固定形成的，而是随着上下文输入的变化而变化，这就是功能连接性。这不是线路的改变，是信息传输的动态变化形成了一个能够适应当前情境和任务的动态系统。这一特征非常有趣，或许能给人工智能发展带来新的动力。
还有一个例子是情绪系统，它与皮层下系统有关，常常进行一些“神秘”的信息处理，而这一系统在当前的模型中并没有被建模。此外，我们对于好坏的判断是一种直觉，需要回顾历史经验、评估多方面因素，经过多道处理流程，但这个过程是在大脑皮层系统之外，以一种非常迅速的方式完成的，这也是一个非常有用的功能。生物大脑中还存在许多有趣的特征和功能，值得我们深入研究。
现场观众：我的问题是关于人工智能教育的。有两种观点，一种观点认为我们需要人工智能教育，因为它影响着我们日常生活的方方面面。另一种观点认为我们不需要教育，就像我们在不了解电力基础知识的情况下也能受益于电力一样。对于人工智能教育，你们有什么看法？
国吉康夫：目前的大语言模型并不是总能给出准确的答案，因此我们必须培养学生具备独立思考和批判性思维的能力。
我认为随着人工智能的进一步发展，或许我们不再需要担心模型输出结果的不恰当性。回顾计算机的发展历史，我们从键盘输入和字符显示开始，必须输入命令才能进行交互。后来，有了鼠标和显示器，发展到现在，我们已经可以直接用自然语言与系统对话而无需专业知识。但是，即使在这一阶段，我们仍需了解如何提问，理解提示工程（prompt engineering）。这只是一个过渡状态，未来我们将不再需要知道如何提问就能获得准确答案。
但其中最重要的问题是确保人工智能与人类对齐，也就是让系统的决策符合人类的利益和价值观。人类应该拥有最终的决策权，我们的价值体系和激励机制是决定人类偏好和行为的关键因素。未来的教育不仅要传授各种知识，更重要的是培养人类的价值观。
邱锂力：在人工智能时代，我们应该掌握如何用好人工智能这个工具，让我们在工作和生活中如虎添翼。同时，人工智能也将赋能教育，通过感知加上人工智能的分析，我们可以更好地感知学生的学习状态，比如他们是否集中精力或感到疲劳。然后根据感知信息，及时调整教学，从而提高教育质量。
我们特别为大家准备了 AI Forum 2023 的视频回放！扫描下方海报二维码或点击“阅读原文”，快来观看吧！
