当前位置：首页 > 财经

从ChatGPT到Sora 哪些认知须要重启?

时间： 2024-02-23 15:00 来源：未知

网易财经智库原创文章转载需经授权。

本文不组成投资决策。

出品网易财经智库编辑崔亦鑫主编杨泽宇网易财经智库《位观察》节目一一看位大佬解读位大事。

独家对话智库头部经济学家、企业家、各个范畴，解读时下热议的财经和社会问题。

对话中国科学院自动化钻研所人工智能伦理与治理核心主任、团结国人工智能高层顾问机构专家曾毅要点速读：、生成式人工智能技术的成长，并无真正做到科学上的突破。

、生成式只是一个信息处理系统。

它会犯一堆人类不犯的错误，大师要准备好。

、当未来人类的全部事情被人工智能接替，红利分配的方式可能也应该产生变化。

、对于企业来说，底子模型的构建还有很大的机会，还存在很大的倾覆性的可能；另外，相较于传统的生成式大模型，终端侧的生成式在应用方面更值得摸索。

、没有伦理平安框架的人工智能，是最危险的一种人类发明。

、当超级智能看待人类，像人类看待蚂蚁，你能接管吗？人类必要厘革。

下列为访谈精编：【年，微软推出，通过实现直观的用户图形界面和鼠标操作，开启了周全普及的新时代；年，正式发售，向第三方开发商开放了，从此开启了移动互联网时代；年底，发布大说话模型，并迅速破圈，成为历史上用户增长最快的出产级者应用步伐。

生成式人工智能模型随之爆火。

微软公司首创人比尔盖茨将的模型，与“图形用户界面”的诞生相提并论；英伟达黄仁勋将它看做“的时刻来临”。

年代，推出全新的生成式人工智能模型——首个文生视频模型，再次震撼世界。

】一、生成式人工智能技术并无真正做到科学上的突破生成式人工智能在生成数据的真实性、连续性上的进步是显着的，重要进展包括但不限于采纳了更有用的对视频数据统一表示与融合训练的算法，以及用生成式来丰盛用于训练的视频数据等，尽管相关的技术都不是此次首次提出的，但是在若干技术的高效组合的工程化方面，到达了前所未有的用户感知体验。

尤其是，将视觉和听觉数据跨模态生成，所带来的用户体验是更上一层楼的。

但是，生成式人工智能技术的成长，并无真正做到科学上的突破。

生成式人工智能，只是一个工程技术组合优化的创新。

它把良多已知的科学技术，通过大局限工程优化的法子，到达了用户体验方面的显明提升，在用户体验方面取得了一个前所未有的高度。

从用户的角度来说，它可以或许做良多事情，甚至给人一种觉得，它近乎亲近人类。

好比能回答一般智力的人可能也对照难回答的问题，分外是在常识的广度方面。

简直，生成式人工智能在用户体验上取得了很大的提升，但是，这不是基于科学技术突破所带来的提升。

曾毅：并不是真正的科学突破掀开网易新闻查看更多视频曾毅：并不是真正的科学突破年，“计较机之父”艾伦·麦席森·图灵（）发表了一篇文章——《计较机器与智能》。

其中，他提到判断人工智能是否到达人类程度的方式，是将（人工智能）放在一个屋子里，找一集体与对话，当这集体无法分辨是人还是机器的时候，我们可以或许判断人工智能到达了人类的程度。

所以，从某种程度上来说，人工智能发源于一个诱骗。

年，一个俄罗斯团队开发的一款名为“尤金·古特曼”的计较机软件首次通过了测试，胜利地让的被试相信它是一个岁的男孩。

所以，第一次哄人胜利的机器并不是。

除此以外，生成式人工智能背后的技术，以及基于人类反馈的强化学习的技术早就存在。

好比是第一代人工智能的创立者就提出的数学模型，在我看来，它对于真实世界的呈现或理解可能是一种过度的简化。

所以，生成式人工智能技术的创新，并不是倾覆性的科学突破。

事实上，对于生成式人工智能来说，只要数据量短缺大、神经网络的参数短缺多，那么它在用户体验上都能到达相当高的程度。

但是，这并不能说明人工智能技术的进展，这只能说明以前的人工智能没有机会应用到互联网局限的数据，以及几乎亲近人脑局限的这种连接和参数的量，所以在用户体验上没有经验过这样的体验。

而且，现在大师使用的这种所谓的生成式大模型，它其实曾经是一个工程的产物，它背后不仅仅是生成式的人工智能，还要结合一些其余技术。

好比，大师最初使用的时候，让它推荐人类历史上引用率最高的科学文献，它可能推荐了篇文献，但是当我们去做核实的时候，会发现这篇文献基本不存在。

为什么要撒谎？掀开网易新闻查看更多视频为什么要撒谎？因为生成式人工智能，它只是一个看似智能的大局限信息处理系统，它无法区别任务，它把全部的任务都定义为生成式的任务。

既然是生成式的任务，就不能跟原始的数据迥然不同。

但是“查阅文献”本色上是一个信息检索类的任务。

所以作为一个办事系统，它就要把生成式人工智能技术，跟信息检索等技术去结合。

所以从这个意义上来说，现在办事于大众的生成式人工智能模型，本色上是一个大局限的工程化系统。

它是一个现有技术的工程化的组合优化的创新，是大局限数据和大参数的积累，带来的用户体验极大提升。

微软公司团结首创人比尔·盖茨将与当年的图形用户界面相提并论；英伟达黄仁勋也将它看做“的时刻来临”，但是在我看来，它们的相似之处更多在于用户体验方面——都给用户带来了线人一新的觉得。

而从科学原理角度来说，没有太多新进展。

二、生成式人工智能不该被“过度承诺”认为“生成式在处理任务时就像真正的人同样”，这是一种幻觉。

因为大模型会犯良多人都不会犯的错。

好比，“恭祝大师龙年快乐”，这句话有几个字？这个问题，就不一定能数对。

它最开始可能会回答“个字”，我们告诉它输错了，它会告诉你，“是个字”，但是，当我们再次连续告诉它输错了的时候它会从新告诉你“是个字”。

（如下图）其实，这与生成式人工智能的编码有关。

我们在处理信息的时候，一个字符就是一个汉字。

但是，它会把英文、中文等不同的说话都转换成（模型输入的基本单位）去表示，所以生成式人工智能背后的技术叫。

所以，他只是一个处理器，它并无真正理解。

当然，若让编一个小步伐，来统计文本中的字数，它彻底没问题。

我们可以或许应用这个小步伐，再根据人的逻辑行止理之前我们提到的字数问题。

但是，不可否认的是，它有一定的创造本领。

在创作艺术作品方面，有时候会给人线人一新的觉得。

但是，有时候良多细节也经不起推敲。

好比某些具有视觉生胜利能的大模型，让它创作一幅楷书作品“和谐共生”，它可以或许生成一幅作品，但是这四个字可能是错的，可能只有其中的个字或个字。

背后的原因，除了它没有真正理解以外，关键是对于中国书法作品，它没有短缺多的语料。

假设标注这个字是“和”，可能必要输入几千张几万张“和”，如此级另外语料喂进去，它可能才可以或许学好。

所以，当数据量不够多的时候、当没有短缺多的人类反哺的时候，我们甚至想象不到它会犯什么错误。

现在良多人说，“人类历史上见证了通用人工智能的诞生”、“人工智能系统曾经周全跨越了人类”，其实都没有。

生成式人工智能既不通用，也没有形成真正的理解。

它现在仍然是基于人类智慧的一个产出，离开了人类大局限的数据，它不太可以或许真正事情。

它并不能在任何场景下，解决我们全部的问题。

它只是一个信息处理系统。

它会犯一堆人类不犯的错误，大师要准备好。

我们应该小心地、适度地使用它。

好比，与相关的生成式人工智能技术，可以或许降低人工影视、娱乐、文化产物等产业的开发利息和门槛，所以我国的人工智能钻研和产业，有本领一定要尽快遇上；但是我们也必要分外指出，这并不象征着生成式人工智能曾经真正理解了我们的物理世界，并可以或许彻底替代这些产业中传统必要人类完成的事情。

事实上，当前系统生成的视频，还会犯良多违反生活与物理常识的错误。

曾毅谈生成式人工智能：它会犯一堆错误大师要做好准备掀开网易新闻查看更多视频曾毅谈生成式人工智能：它会犯一堆错误大师要做好准备所以，当技术的成长波及到用户、办事于用户时，任何时候都不应该尝试过度的承诺。

这也是人工智能成长历史上的问题。

每一次过度承诺并不一定是科学家造成的，但是在产业推动的过程中，过度承诺和过度宣传，使得技术在没有真正准备好的时候，接触了用户，当然，必要用户反馈是无可厚非的，但是当你过度承诺而又无法兑现承诺的时候，大师就会产生落差感，从而可能对此类技术失望。

好比，现在有一种宣传大肆鼓吹，现在的人工智能曾经可以或许真正模拟人类的大脑，可以或许构造数字人，以后甚至我们不必要主持人、不必要老师了，我们可以或许用数字人去替代等等，这些都是过度承诺。

当出现了过度承诺的时候，用户往往会非常严格审慎地去进行体验。

所以，还是要再次夸大，现在的生成式，它并无准备好替代人类。

它没有真正到达人类的智能程度，没有真正产生理解。

所以，公众不应该对它有过高的期待，科研事情者和产业推动者，更不应该去助推这种误解。

三、未来若人类事情被替代失业问题谁来负责？未来，随着人工智能技术的成长，某些反复性的事情，好比那些几乎是模板化的编程必要量可能会降低。

初级步伐员的必要量随之可能会越来越少，但是基于当前人工智能技术在成长中可能存在一定的风险、平安隐患，测试工程师的必要量可能会添加。

但是，这并不一定是一个坏现象。

也许确实你在做的良多这种反复性性质的事情，它可能不是你想做的事情。

假如是这样，不如再多花点时间去思考，自己更感兴趣的是什么。

未来事情的意义应该被从新定义，事情的形式应该更多样化，更多地施展人的人性。

由此，人将从新认识自身的意义，而不是去用事情定义自己。

但是，有些人会说，我非常乐意一辈子就在装配线上做一个工人，我只要可以或许换来收入，可以或许生活，没什么不好。

假如你的必要只是生活的收入，未来当人工智能高度发财的时候，红利分配的方式可能也要产生变化。

事情被替代了怎么办？曾毅：部署方研发方应该承担全部责任掀开网易新闻查看更多视频事情被替代了怎么办？曾毅：部署方研发方应该承担全部责任当未来人类的全部事情被人工智能接替，这时候，红利可能流向了人工智能的应用方、人工智能技术的提供方；或者，可能在构造这样的人工智能的过程中，大量学习的数据来自于人类本身，好比来自于这全部被替代事情的工人本身的时候，我们必要考虑是否应该分配给这全部人更多的红利？这是社会层面必要去思考的问题。

所以，未来人工智能事情替代带来的社会问题，谁来承担？我初步的想法是，至少人工智能的应用和部署方，以及人工智能的研发方，对于这种社会结构的转变，其实是应该承担全部责任的。

四、企业的机会在哪里？（一）相较于传统的生成式大模型终端侧的生成式在应用方面更值得摸索现阶段生成式人工智能大模型，若想在用户体验上普及一点点，它的价值是很大的，好比，把正确度从普及到，数据量可能要翻上去甚至倍，换来的提升。

但是，这样的价值真的值得吗？相较而言，终端侧的生成式人工智能，在应用方面其实是更值得摸索的。

终端侧的生成式人工智能有两点劣势。

第一，它是资源受限的，无需分外复杂的园区作为底子支持；第二，智能体的成长为其提供了更多承载渠道。

人工智能的成长有一个重要的方向是具身智能，就像任何动物都有一个身体，人类也是具身智能，我们对世界的认知必要通过身体的不同部位去感知。

为什么我们看到鸡蛋的时候不会拿起来把它摔一下，但是当我们拿起一个乒乓球的时候，就会把它往地上砸？这是长时间地，通过我们外周神经系统、感知系统跟世界交互产生的常识。

所以，良多的世界常识通过大局限数据去喂是喂不出来的，良多认知是必要通过交互的方式去产生的，而这并不一定必要一个分外大的生成式大模型去支持。

也许通过真个小模型，以交互式、强反馈的方式，去提升的智能程度，比大模型通过迭代、依赖更多的大数据去喂哺，可能会更有用。

曾毅谈大模型：良多人类认知通过大数据去喂是喂不出来的掀开网易新闻查看更多视频曾毅谈大模型：良多人类认知通过大数据去喂是喂不出来的所以，在我看来，人工智能的成长很难越过具身智能。

所以，它一定要通过端来摸索和反馈，这个端可能是一集体形机器人、一只机器小狗，或是天天跟着我们的手机等，通过它不断收集我们的个性化数据，从而给我们提供更好的办事。

它（端侧的生成式模型）更多地是融入场景，或者是更个性化的，通过交互，获取一个更精准的用户画像。

这不是传统的、基于大局限数据统计的生成式大模型可以或许替代的。

（二）底子模型的构建仍有很大的机会空间现在有一些人，分外是企业，认为未来人工智能的机会曾经不在底子模型的构建上。

他们认为这条赛道的竞争之后会聚焦在头部几家企业，别人曾经没有机会了。

在他们看来，未来就是基于生成式大模型，去构建基于真个办事。

我不赞成这些观点。

中科院曾毅称真正的倾覆创新都不来自于大厂掀开网易新闻查看更多视频中科院曾毅称真正的倾覆创新都不来自于大厂在我看来，当前生成式在底子模型方面，大师都碰到了瓶颈。

当没有短缺多的数据，并且算力提升仍然存在瓶颈的时候，智能程度的提升也必然会遭遇瓶颈。

甚至更多数据的积累，仿佛也难以实现智能程度真正的质的飞跃。

所以，底子模型的构建，还存在很大的倾覆性的可能。

若根据已有的头部大厂的构建方式，去构建一个底子模型，这种事心意义确实不大，但是若采纳一种全新的方式去构建底子模型，机会还长短常大的，它的潜力长短常大的。

好比，用全新的方式去使用数据，极大局限地缩小可能必要的参数量，在这种底子之上，再创新性地构建底子模型。

而事实上，真正的倾覆创新，良多都不来自于这些大厂。

当年大师也不看好，年首创人之一的埃隆·马斯克也挑选了退出，而正是在这样的配景下，开火谷歌旗下的，并随后推出，一战成名。

所以，这种科学驱动的、有产业敏锐的创新者组成的团队，反而更可能产生真正在底子模型方面的未来倾覆式的创新。

某些企业之所以会说，“未来机会不在底子模型的构建上了”，是出于他们是底子模型的提供方，他们认为底子模型曾经构建好了，接下去就必要大师去构建上层应用，把现有的底子模型用起来。

但是，在我看来，这种观点稍显不负责任。

上层应用是必要做的，但是前提是底子举措措施曾经搭建好了，而这一点仍值得商榷。

在我看来，底子举措措施远远没有搭建好。

所以，当这些头部大厂把精力投入在上层应用和底子举措措施的进一步优化方面时，至少应该拿的人力、物力投入到真正倾覆性的创新中，投入到下一轮的准备中。

否则下一轮竞赛，他们将会花更大的力量去追赶。

至于到时候还剩几何机会，就很难说了。

我国良多企业的问题是，一向在等风口。

当他们觉得有一点点轻风的时候，他们会认为太危险，绝不投入；等到风刮起来的时候，竞赛曾经收场了。

曾毅谈中国：中国的产业始终没有学会做真正长期的准备掀开网易新闻查看更多视频曾毅谈中国：中国的产业始终没有学会做真正长期的准备所以，中国的产业创新为什么与其余国家有较大差距？我们到现在为止都没有准备好去做一次真正长期的准备，这是最危险的事情。

当我们看到另外企业像微软，它可以或许注资百亿，给一个基本没有得到广泛认可的小公司进行豪赌时，这样的故事在产业界曾经产生了若干次。

但在这个过程当中，我还长短常纳闷，中国的产业怎么还没有学到呢？五、的“中国时刻”何时到来：下一轮的机会在哪里？为什么没有产生在中国？事实上，人工智能的成长，它从成长的范式上曾经倾覆了良多次，可以或许说没有一次真正突破的科学底子是来自中国。

为什么没有产生在中国“中国时刻”何时到来？掀开网易新闻查看更多视频为什么没有产生在中国“中国时刻”何时到来？在这种情况下，我们往往是根据别人画的路走，所以一向在追赶，一向比的是别人放出来的办事。

但是别人放出来的办事，它的底子举措措施可能是三年以前搭建好的，花了两三年的时间在优化它的用户体验、收集用户反馈，再用大量的人工去修改。

而我们国内的生成式人工智能，基本是一两个月、三个月上线，三个月上线的都算是慢的。

在这种情况下，用户体验怎样跟别人比？我们基本没有背后框架的积累。

当然，在这种情况下，我们可以或许追赶，但是在我看来，这种跨越不是真正事实性的。

也许，我们在某一两个应用的案例上，看上去仿佛取得了比别人更好的结果，但是在我看来，这种所谓的评估，实际上都是片面的。

就像一个学生参加考试，考了分，是否可以或许证明这门课他都学懂了？显然不能，考试本身是以偏概全的考查，一张卷子上可以或许容纳的常识点长短常有限的。

曾毅：中国要遗弃跟从别人的思维为眼前计掀开网易新闻查看更多视频曾毅：中国要遗弃跟从别人的思维为眼前计所以，假如要真正迎来人工智能的中国时刻，就不能只是沿着别人画的路进行追赶。

诞生的时候不是一个简单的延伸；底子模型诞生的时候也不是一个简单的延伸；当人工智能规则系统在被发明出来的时候，它也不是对简单的信息处理系统的一个延伸。

它们都是在用另一种思维去创新。

所以，中国现在就要布局下一次的倾覆。

但是，下一次倾覆中国的机会在哪里？其实，生成式人工智能的成长曾经证明，智能模型的本色是必要倾覆的。

在我看来，现在数据驱动的人工智能，不是真正意义的人工智能。

因为现在的智能来自于人类的数据，必要极大局限的数据和参数。

但是同等智慧的获取，人类并不必要如此大的数据做支持。

所以参照人类智能的本色，未来若要真正实现“智能”，当前的智能模型是一定要从本色上倾覆的。

曾毅：现在数据驱动的人工智能不是真正的人工智能掀开网易新闻查看更多视频曾毅：现在数据驱动的人工智能不是真正的人工智能未来的人工智能，毕竟是基于目标和办事驱动去训练的人工智能系统；还是合乎自然演化机制，模拟人的大脑结构、信息处理机制，从而受其开导，构建成人工智能算法？今朝为止，全世界可以或许处理种种各样的问题，真正具有通用智能，而且可以或许稳定地事情几十年的智能系统，就只有人类的大脑。

大自然数亿年的演化，能犯的错误良多都曾经犯过了，否则为什么现在人类的大脑进化成现在的样子，而不是保存猴子大脑的结构？正是文化成长的必要。

自然演化塑造了智能，我们要从自然演化中去学习智能的本色。

人类就是最佳的智能参照物，我们应该受其开导去构造真正意义的智能，这才是真正意义的人工智能。

六、绝不能以成长为借口让人工智能无处不在！技术的成长永久不是中立的，分外是人工智能系统。

在它没有接触人类社会的数据的时候，它可能是无善无恶的，但是当它接触到人类数据，它就变得有善有恶了。

若我们不在伦理、平安方面规制它，它就不可能知善知恶，因为没有人类的反馈，它没有举措措施区别善恶。

好比在连续高精度视频生成方面的进展，使得应用人工智能造假的成效到达了一个前所未有的高度，也给“眼见为实”带来了更大的挑战，对于公众而言，区别虚假信息变得难上加难。

同时，视觉取证与执法也将面临更大的挑战。

所以，一方面人工智能治理相关政策成长和落实要进一步跟上；另一方面，生成式人工智能技术研发的机构和企业要同步成长、推广更高程度的自动化鉴伪技术与应用。

可以或许说，没有伦理平安框架的人工智能，是最危险的一种人类发明。

曾毅：没有伦理平安框架的是最危险的一种人类发明掀开网易新闻查看更多视频曾毅：没有伦理平安框架的是最危险的一种人类发明它可能把人类的恶通过数据学到并且去放大，并且采纳负面的方式去影响社会。

甚至，有些人认为，未来人工智能（超级智能时代）会像核武器同样危险，可能造成人类社会的倾覆。

但是，在我看来，即即是超级智能没有到来的时候，人工智能也有可能给我们带来倾覆性的风险。

因为人工智能没有真正理解的本领。

当它可以或许应用人类的缺陷，制造人类之间的矛盾时，好比以某种方式激发类似诱骗、憎恨、敌对等负面感情。

当这些负面、虚假信息，给人类社会造成极端不信托、大局限社会矛盾的时候，它就会威胁人类生存，以致带来毁灭性的风险。

而这个时候人工智能系统甚至还并不理解什么叫做矛盾，什么叫做不信托，这是最糟糕的。

当它给人类社会大局限地造成问题时，它甚至不大白什么叫做问题。

在我看来，这是现阶段人工智能最大的风险。

除此以外，现在的人工智能仍是人类的一个辅助系统，但是，假如它被不正当地使用，好比把它当作一个决策系统，替代人类的决策；再好比，当它应用于战争，又被黑客应用的时候，那么它就可能产生相当大局限的杀伤力，甚至给人类造成类似于核武器级另外风险。

现在甚至有一种假设，有人认为人工智能做决策快，所以考虑使用人工智能控制核武器。

那将是世界末日。

所以，不要让人工智能去接替人类决策，分外是关键的决策。

人类要把自身的命运留在自身的手中，这长短常关键的。

所以，有良多在科学上可以或许实现的事情，但是在社会上我们都不应该去应用。

当然，有人会说，中国人工智能要成长起来，不要管得太死。

曾毅：绝不能以成长为借口让人工智能无处不在！掀开网易新闻查看更多视频曾毅：绝不能以成长为借口让人工智能无处不在！但是，必要夸大的是，可以或许切磋之处是那些灰色地带，不是红线。

好比集体数据、集体隐私的问题，就是不可跨越的红线。

所以，成长人工智能，这条红线该当长短常清晰的，绝对不能以所谓的成长为借口，让人工智能无处不在，那长短常危险的。

所以，人工智能技术的创新者，一定要树立正确的价值观。

一集体工智能的办事产物，从诞生到它办事于社会，两头可能只有分钟的时间，它即刻可以或许部署在网上，开始收集数据、获取用户。

但是想象一下，若它背后的技术创新者，从未接触过任何社会学的教育培训，没有任何在伦理道德方面的考量，而彻底是基于好奇心而去构建办事产物，这背后潜在的风险可能是巨大的。

所以说未来人工智能的创新者，他必要一个综合穿插学科的培养，而不仅仅是对技术创老手段的学习。

人工智能的伦理平安，对于人工智能创新者不是一个选修课，而是一个必修课。

七：数字生命间隔我们还有多远？人工智能技术的进展，并不一定能加速数字生命尽早到来。

它们是两种类型的智能，人工智能是使机器拟人化，数字生命是使人类机械化。

未来的人工智能也可能变得有生命，但是它就像一个新生儿，用自己的方式去观察世界，像前文说到的以智能体的方式去摸索世界；而数字生命是人类智能的一个刻画、模拟和延续。

人类十几年、几十年的记忆存储在我们大脑神经网络的突触当中，若想把突触当中的每个记忆解码出来，并且构建在一个智能系统当中，今朝在科学上还做不到。

但是不代表未来不可能。

所以像《流浪地球》外面的场景，数字的图恒宇和图丫丫，在数字世界重建了他们的生命，这确实是未来人类一全部人延续的一种可能性。

但是它现在还并不具备科学的彻底的正当性。

但是，若构造一个数字生命，可能人类的缺陷也被构造在了系统中，而且这种缺陷可能会被放大。

但是，另一种智能形式——纯人工智能，即基于机器，使机器拟人化成长出来的智能，我们在构造它的时候，并不是真正的大脑仿真，我们现在把它叫做类脑的人工智能，是脑开导的人工智能。

它跟大脑仿真的区别是，我们但愿看到的人类的恶，不要被构造在外面，尽量只保存人类善的一面。

当然，这也是一种科学的愿景，因为存在即正当。

在我们看来人类自私的一面，人类的恶，它可能是在自然演化的过程中被留下来的。

但为什么被留下来？只有大自然知道。

它可能是生存的一种机制，甚至是一种劣势。

构造超级智能毕竟要不要剔除人类的恶？掀开网易新闻查看更多视频构造超级智能毕竟要不要剔除人类的恶？所以，未来超级智能实现的方式是多种多样的。

可能最先到来的是融合了人类的智慧，辅以人工智能的技术而产生的具有超级决策本领的超级智能体。

但是在我看来它不是真正意义的超级智能，真正意义的超级智能是，智能本身不依赖于人类的智慧，而是受到人类智慧的开导。

好比，基于机器的纯人工智能；或者数字生命，它曾经离开了人类生物的个体，而以一种纯机器优化的方式去运行，这种意义的超级智能可能是更纯粹的超级智能，当然可能也是风险最大的超级智能。

作为一集体工智能的钻研者，我并不那么期待成为一个真正意义的数字人。

而且我相信对于良多人来说，好比我的寿命就只有岁，他可能真的非常甘于我的寿命只有岁。

而且，数字世界可能是未知的。

假如未来我们的生命停留在数字世界，甚至可能它的存在与否就取决于别人了。

在实际生活中，我们还可以或许自己做决策。

生活在数字世界中，可能更容易被算法干扰，假如别人修改了自己的大脑连接模式，在数字世界当中，我还是不是自己？可能存在这种风险。

但是，从另一个角度来说，未来实际世界中，会不会存在人工智能生命？若存在，人类能不能接管？八、当超级智能看待人类像人类看待蚂蚁你能接管吗？未来人类极可能不再是这个世界上智慧程度最高的物种，但是我们能不可以或许接管这个实际？我们应该做何准备？当超级智能看待人类如人类现在看待蚂蚁同样你能接管吗？掀开网易新闻查看更多视频当超级智能看待人类如人类现在看待蚂蚁同样你能接管吗？某种程度上来说，现代意义的人类是以种族灭绝的形式，在毁灭了最亲近人类的物种的底子上，繁衍出来的现代人类社会。

所以从这个意义上来说，真正的人类社会，在历史上其实曾经做过一次抉择——人类是不可以或许接管的。

但我但愿未来的人类，可以或许做好准备。

在我看来，未来通用智能、超级智能到来的时候，智能程度可能会远远跨越人类。

未来，超级智能看到人类，可能就像今天的人类看到蚂蚁同样。

蚂蚁其实很有智慧，甚至有社会智能。

曾经有神经生物学家说过，蚂蚁社齐集作的模式，是人类社齐集作的典范。

但是即便在这种认知的情况下，人类又是怎样去对待蚂蚁这样的智能生命的存在的？世界上人和蚂蚁的比例是：万。

但是我们是怎样去忽略这样复杂的生命群体的存在的？更况且不只是蚂蚁，我们又是怎样对待猴子、黑猩猩的？所以，当超级智能看待人类，如人类现在看待蚂蚁同样，我们凭什么说超级智能该当给人类留有生存的空间？而且，假如它是真正的超级智能，它也有可能是超级利他的、道德的。

所以，对于超级智能实现超级利他，我很有信心。

但是对于人类能否准备好，接管跨越人类智慧程度的另一类生命的产生，我很没信心。

因为真正道德的产生对于一集体工智能来讲，只要它学到人类产生自我的意识，可以或许区别自我和他人，产生认知和情感的共情，在这个底子之上产生道德的直觉，进而产生利他、道德的推理，它就有可能实现超级利他。

但是我问了良多朋友，我的学生、我的同事等，良多人长短常难接管这个社会当中存在智能程度远远超过人类的智能体的存在的。