专题：2026北京智源大会

　　6月12日至13日
，2026第八届北京智源大会在北京中关村国际创新中心举行 。中国计算机学会会士 、中国人工智能学会会士
、北京大学计算机学院教授黄铁军出席并对话
。

　　谈及如何界定AI智能体的危机 ，并将其控制在可控范围内、确保对人类有益时
，黄铁军表示，“我觉得‘控制’ 、‘确保’这些词大概都不现实。”他认为 ，这将是一个复杂的互动过程 。

　　他提出，未来必然是共存的状态
。“智能体也是智能
，我们也是智能。我们每个人将来可能自己都会有很多智能体，然后大家去互动 。在这样的多智能体世界中 ，包括人
、机器智能体、物理智能体 、具身智能等在内
，总要有一个界面和共识，否则就无法运转。 ”

　　那么 ，这个世界应该是什么呢？黄铁军认为
，是“理性世界
”
。

　　他解释说，人们常说智能体是黑箱 ，它只告诉我们答案
，却不告诉我们它是怎么想到的。但实际上，人类也一样 ，每个人的大脑也是一个黑箱 。“你跟一个人交流时
，你是只相信他告诉你的结论，还是要跟他探讨一下‘你为什么这么想’？就像医生给出建议后 ，你一定会关心背后的依据，将来也是一样的
。”

　　他进一步指出
，智能体首先能给出不错的答案，这很好。但下一步 ，人们一定会去挖掘“背后的为什么 ”
，进而展开讨论 。尤其是在医疗等安全至关重要的领域，包括蛋白质等有害物质的检测 ，他强调
，最后一定要有一个明确结论，才能变成行动
。在此之前的过程 ，应该是一个开放的讨论、头脑风暴
、相互思考的过程。

　　因此
，黄铁军认为，“一方面 ，我们无法完全确保对AI的控制
，但另一方面，我们能够共同找出一条路来 ，共存、理性地发展下去 。”

　　新浪声明：所有会议实录均为现场速记整理，未经演讲者审阅
，新浪网登载此文出于传递更多信息之目的，并不意味着赞同其观点或证实其描述
。