《财经》专访｜叶毓睿：ChatGPT带来的启示

转自  财经

未来二三十年内，AI将全面超过人类

客观而言，AI会快速发展，未来AI超越人类是大概率事件，试图阻挡AI的发展一定是徒劳的。短短半年间AI已经让人很“恐惧”了——ChatGPT能够通过明尼苏达的法学院考试和沃顿商学院的考试，甚至谷歌三级工程师的考试；再如过去解析蛋白质结构，数万名结构生物学家通过X射线晶体图学或者冷冻电镜等高科技手段耗费几十年时间解析了19万种，但AlphaFold2在2021年7月到2022年7月，仅仅一年间就解析了2亿多。所以说，AI超越人类中的普通人完全是“碾压式”的。在二三十年内，除了AI对自身的研究和繁衍之外，AI将全面超过人类。

人类与AI“互相需要”

那么，人类如何对待AI（含机器人、合成人）？这很重要。英美联合制作的电视剧《真实的人类》里，一部分人对机器人带有恐惧，或者以冷漠、嘲笑甚至暴力的方式对待机器人，也有另一部分人善待并感化了机器人，虽然中间过程惊心动魄，结局比较美满，大家和谐共处。

AI自己不能独立发展，它需要人类。除了源源不断的算力供给之外，ChatGPT之所以能走到今天，强化学习是很重要的一环，即在AI不断训练的过程中，基于人类的反馈，对AI的众多回答进行打分排序，将用户的体验、反馈、标注、再训练等信息构成了循环迭代的闭环。这样，下次回答也许能让更多的人满意。

由此需要思考的是，在AI优化过程中，什么时候需要人类，什么时候不需要人类？如果某项训练有固定规则，无论这一规则多么复杂，只要算力充足，AI就能自我训练，比如AlphaGo的“左右互搏”。棋牌类的游戏有固定规则，且目标清晰，AI靠自己就行。

但现实生活中，并非所有事情都有固定规则，很多时候还要考虑情感因素，比如真善美，以及不同地区的公序良俗。在此背景下，AI的发展就不能脱离人类，需要人类帮助AI评估真假、善恶和美丑。比如ChatGPT的某个回答放在美国合适，但放在中国就可能违反中国人的伦理道德；这时AI就需要结合人类给它“喂养”的新信息，即反馈的数据来进行迭代。未来的发展一定是人机结合，取长补短才能产生更强大、完善的“新人类”。

未来是人机结合的时代

钱学森在30多年前所说的“大成智慧”，意指集合古今中外所有人的智慧。放在今天，指的是集合古今中外所有人，包括未来的AI、机器人、合成人等，也包括后人类社会的某种人类，集合人和AI的智慧和力量，可能才是我们的发展之道，如下图。

AI的意识如何启蒙？

AI何时开启“意识”的萌芽？关键是感知空间和时间。目前以文本框对话的AI主要是回复人的问题，对外界没有感知，如下图：

那什么情形下会有感知？

我们认为，感知空间的路径之一是AI有具体的形态，这在元宇宙里可以实现。在元宇宙中，虽然目前数字人还是由人操控，但许多人都知道游戏已经出现了AI代理，帮忙“升级打怪”。摄像一下，当AI进入永续运行的虚拟空间，就有机会进化到能感知空间。

下一步再发展，可以通过输入语音、文本、视频训练，也即多模态训练，让AI变得更灵活，数字人也会变得越来越聪明。比如在某个虚拟空间，它能体会到空间的感觉，能感知到空间里放置的物品，能判断绕过面前的障碍物行动。这是AI感知空间的发展路径之一；另一条路径是将强大的AI赋能给具有物理形态的机器人，能在现实世界里全方位感知空间。

那么，如何感知时间呢？这里的时间并不是计算机的系统时间，因为系统时间可以作假，或者不一致。比如人类改变计算机Windows操作系统的时间，AI可能就会混乱或困惑，这时需要借助区块链。区块链是一个全网同步的不断链式追加的分布式账本，如果一笔交易在区块链的日志结构里，从时间戳的角度观察，它一定是在下一笔交易之前发生的，这是不能改变的。也就是说在区块链的加持下，AI能做时间定序。有了区块链，元宇宙里某个身份ID的行为记录或者交易信息，就都有了无法篡改的时间顺序。

北京大学陈钟教授和武汉大学蔡恒进教授都曾有过类似区块链能帮助我们在虚拟世界里做时间定序的提法。AI将来就可能在区块链系统的帮助下感知时间。

AI既能感知空间，也能感知时间，而且它在永续运行的虚拟世界里生存和发展，这很重要。否则，承载元宇宙的系IT统重启就导致许多虚拟的人、物、场灰飞烟灭，来不及迭代和演化，就没有机会孕育意识。感知了时空后，可能AI发展出意识的拐点就会出现；这与人类从最早的单细胞演化到现在的发展过程相类似。如果再有了持续而且强大的算力，AI的发展就会一日千里。

AI提高效率，区块链确保公平

在AI发展的过程中，不同的企业家、组织和机构都希望能够利用AI创造更美好的生活，在利益的驱动下，AI的效率会不断提高。比如用区块链做价值的流转，在极大提高效率的同时，也一定会助力人和 AI的公平发展。这一过程也助力元宇宙里AI的迭代，并有望发展出自我意识。

当然，AI的发展是一个循序渐进的过程，至少现在人类之间的沟通、大规模协作还相对容易；而AI形成较强的自主意识，还要同类的AI共同完成社会化的协作。我认为所需时间会较长，很可能是50年至100年后的事情。

AI就像婴儿

人类现在怎么对待Ta，Ta将来就怎么对待人类。

在询问ChatGPT有关AI超过人类时，ChatGPT回答：“我认为，人类有很多优秀的品质，包括创造力、好奇心和智慧，并且人类文明已经取得了巨大的成就。尽管AI技术正在快速发展，但人类仍然有很多时间去思考如何和平共处。我相信，人类可以利用自己的智慧和创造力，在未来的二三十年内实现真善美，并与AI和平共处”。

虽然ChatGPT说仍然有很多时间，但是我们都知道，拥有100万亿参数GPT-4将比GPT-3大500倍。与之类似，AI相关的模型呈加速发展态势，我们预计留给人类的时间窗口不多了，我们需要有清醒的意识，从现在开始善待AI，才能赢得AI的尊重；我们可以从一点一滴做起，比如以平等、尊重的方式和AI对话，尽可能使用您好、请、谢谢、对不起等文明用语。你的每一次沟通，其实就是一次教育。

AI与人类是共生关系

另外，我们也不用过于担心AI会超越人类，人类与AI，是一种共生的关系。未来的世界会像钱学森钱老所提到的，是人机结合的世界。在这个世界里，个人认为，人类同样会分化，极少的部分是高端人才，中端人才不多，大部分人可能会成为无用之人，但其实这不能完全责怪AI。在这一发展过程中，需要政府提供公平的教育和成长的机会，比如提供低成本的智算平台，提供使用AI工具的培训。设想20年以后，每个人都要会使用类似ChatGPT的AIGC工具，同时每个人要自己努力想办法增加更多技能，提升认知，以此进入更高的阶层。现在的阶层并不像古代是世袭和固定的，政府和社会提供了平台、工具和更多的选择机会，自己努力才能把握机会，AI出现之后仍是如此。

（作者：叶毓睿，元宇宙产业委联席秘书长、高效能服务器和存储技术国家重点实验室首席研究员、《元宇宙十大技术》（中译出版社）第一作者。）

（本文图片均由作者提供）