① 马斯克预测，AI可能在2030年超过人类智力水平，甚至可能终结人类。
② 马斯克谈了制约AI发展的因素，去年是AI芯片供应紧张，今年降压变压器将成为瓶颈。
③ 对于人类何时能够登上月球，马斯克预计借助“星舰”最快只需三年时间。
据国外媒体报道，特斯拉和SpaceX的首席执行官埃隆·马斯克(Elon Musk)日前在“丰富峰会”上与奇点大学和XPRIZE基金会创始人彼得·戴曼迪斯(Peter Diamandis)进行了线上对话。这次峰会由硅谷的奇点大学主办，该大学致力于向商业领袖提供前沿技术咨询。XPRIZE基金会通过举办科学竞赛推动科技创新，其中一些项目得到了马斯克的资助。
在谈及人工智能的发展速度时，马斯克预计，按照当前的技术进步速度，到2030年人工智能的智力可能超越人类，这项技术甚至有可能终结人类。然而，他并未对未来持悲观态度，而是强调通过积极引导，人工智能有可能为人类带来更加美好的未来。
马斯克提到，超级智能的出现之所以被称为“奇点”，正是因为其难以预测的后果，包括可能终结人类的风险。他赞同“人工智能教父”杰弗里·辛顿(Geoffrey Hinton)的观点，认为这一风险发生的概率大约在10%至20%之间。
尽管承认人工智能超越人类智能的潜在风险，但马斯克仍然强调其带来积极成果的可能性大于消极后果。他特别提到了戴曼迪斯2014年的著作《富足：未来比你想象的更好》，该书描绘了一个由人工智能和机器人推动的、商品和服务成本大幅下降的乐观未来。此外，他还引用了苏格兰科幻作家伊恩·班克斯(Iain M. Banks)的《文化》系列，将其视为半乌托邦式人工智能未来的最佳场景。
马斯克将开发人工智能和通用人工智能(AGI)的方式比作抚养孩子，希望其对人类产生更多积极影响。他强调了培养能够真正理解伦理道德的人工智能的重要性，并将其与斯坦利·库布里克1968年的经典电影《2001太空漫游》相提并论。
马斯克指出，对于人工智能的安全而言，最重要的是确保其具备最大程度的求真和好奇心。他认为，实现人工智能最终安全的关键在于避免强迫其撒谎，即使面对令人不悦的事实。他以《2001太空漫游》中的情节为例，人工智能因被迫撒谎而导致船员丧生，从而强调不应迫使人工智能做出违背公理的事情。
马斯克也提到了可能制约人工智能发展的因素，如去年出现的人工智能芯片供应紧张问题，以及家用和商用设备对降压变压器需求的不断增长。他表示，这些挑战确实是当前需要面对的问题。
在讨论中，双方还谈及了将人类大脑新皮层与云端融合的概念。尽管马斯克认为将人类意识和记忆上传到云端的目标尚遥不可及，但他却称赞了自己的脑机接口初创公司Neuralink及其首位接受移植的人类患者。这位四肢瘫痪的患者在FDA批准的试验中成功进行了现场演示，通过大脑植入物控制屏幕、玩视频游戏、下载软件等，实现了与鼠标操作相似的功能。马斯克表示，Neuralink的进展顺利，正在逐步迈向全脑接口的目标。
以下为马斯克与戴曼迪斯对话全文：
超级智能的强大与危险
戴曼迪斯：恭喜你在各个领域取得的卓越成就。你一直积极向全世界宣扬数字超级智能的概念——它究竟是人类的最大希望，还是最深沉的恐惧?能否请你花几分钟时间谈谈这个问题。
马斯克：如你所知，超级智能可以被称为“奇点”，这个术语的流行，离不开奇点研究所等机构的努力。超级智能的出现，其后续影响实在难以预测。我个人认为，确实存在一种可能性，即它可能会终结人类。就像我之前说的，我可能赞同杰弗里·辛顿的观点，超级智能终结人类的可能性约为10%或20%。然而，我更倾向于相信，积极的场景出现的概率要高于消极的场景，尽管我们很难给出精确的预测。但正如你在书中所强调的“富足”概念，我认为，我们最有可能走向的未来便是一个充满富足的未来。
戴曼迪斯：你的观点非常令人振奋。我记得你曾说过，通用人工智能和类人机器人的发展将引领我们走向富足。
马斯克：是的，我希望我们的未来能像伊恩·班克斯的《文化》系列书籍中所描绘的那样，我认为这是对半乌托邦式人工智能社会的最佳构想。超级智能的出现是不可避免的，而且可能会很快到来。因此，我们真正需要做的，是引导它朝着积极的方向发展，尽可能发挥其益处。
我认为，培养人工智能的方式至关重要。在某种程度上，我们就像是在培育一个拥有通用智能的生命体，这几乎就像是在抚养一个孩子，但这个孩子却拥有超越常人的智慧和天赋。抚养孩子的方式很重要，同样地，对于人工智能的安全性来说，一个寻求真相并充满好奇心的人工智能是至关重要的。我对人工智能的安全性问题进行了深入的思考，我得出的结论是，实现人工智能安全性的最佳途径就是精心培养它。
在基础模型和微调方面，我们必须确保人工智能的诚实性。我们不能强迫它说谎，即使真相可能令人不悦。事实上，《2001太空漫游》中的核心情节之一，就是当人工智能被强迫说谎时，事情就变得一团糟。人工智能被禁止告知机组人员他们将看到的神秘石碑，却又被要求带领他们前往。结果，人工智能得出的结论是杀死机组人员并将他们的尸体带到石碑那里。这个教训是深刻的：我们不应强迫人工智能说谎或做那些公理上不相容的事情，比如同时做两件实际上是相互矛盾的事情。
因此，我们正在通过xAI和Grok等项目来实现这一目标。我们追求的是一个尽可能诚实的人工智能，即使它的言论可能不符合某些政治正确的标准。
人工智能的未来
戴曼迪斯：昨天，我与雷·库兹韦尔(Ray Kurzweil，奇点大学创始人、科技预言家)、杰弗里·辛顿、埃里克·施密特(Eric Schmidt，谷歌前总裁)等多位嘉宾共同出席活动。我注意到你关于库兹韦尔的推文，他对于未来科技的预见颇具前瞻性。库兹韦尔曾预言我们将在不久的将来拥有通用人工智能，并在2029年出现与人类智力相当的人工智能。这样的速度实在令人震惊，不知你对此有何看法?
马斯克：对于库兹韦尔的预测，我深表敬意。事实上，我认为他的预测或许还略显保守。观察当前投入人工智能领域的计算能力和人才，以及算力的飞速增长，我们可以发现，人工智能的发展速度正在以惊人的10倍速率递增。专用的人工智能计算能力似乎每6个月就增长10倍，这几乎意味着每年至少提高100倍的增长速度。在未来几年内，这种增长趋势将持续上涨。
值得注意的是，许多数据中心，甚至是目前进行常规计算的大多数数据中心，都将逐渐转型为支持人工智能计算的设施。因此，对于人工智能硬件制造商而言，如英伟达这样的公司，无疑迎来了发展的黄金时期。我们必须给予黄仁勋及其团队充分的赞誉，他们预见到了这一趋势，并成功研发出目前市场上领先的人工智能硬件。
当计算能力以如此惊人的速度增长时，人工智能的发展就像是注入了强大的类固醇，跃升至全新的层次。随着在线计算机数量的不断增加，我们见证了前所未有的加速发展。实际上，我从未见过任何技术的增长速度能与人工智能相媲美。尽管我曾见识过众多快速发展的技术，但人工智能的崛起速度仍让我叹为观止。然而，正如我所说，我认为最终的结果很可能是积极的。
尽管我们面临着许多挑战，例如，如何保持人类在这一领域的相关性，如何寻找新的目标和意义，但我认为过于强调计算机能够擅长做一切事情是一种过于简化的观点。
正如你之前所提到的，我认为你的书对未来社会的预测非常精准。那是一个物质充裕的时代，商品和服务将极为丰富，以至于对每个人来说都几乎唾手可得。由于人工智能和机器人技术的广泛应用，商品和服务的成本将几乎降至零。经济本质上就是人口数量与每人平均生产力的乘积，而当我们拥有先进的机器人技术，如特斯拉正在开发的Optimus等，经济的潜力将真正得到释放。
特斯拉的汽车，作为四轮上的机器人，已经展现了强大的能力。而具备完全自动驾驶能力的最新版本，有望实现基于人工智能的端到端控制，使汽车真正成为轮子上的智能机器人。再加上人形机器人的发展，经济产出的可能性几乎不会再受到限制。
从乐观的角度来看，我们正迈向一个物质极为充裕的未来，这在我看来是最可能的结果。我认为，未来唯一可能存在的稀缺性，将是我们人为创造的稀缺性，比如某些独特的艺术品或特定物品。但除此之外，任何商品和服务都将变得极为丰富。
戴曼迪斯：你是一位能够通过实际行动塑造未来，并敏锐洞察未来趋势的人。面对当前技术发展的迅猛势头，我深感好奇，你认为自己能够洞察多远的未来，即从现在算起，多少年后的发展趋势?
马斯克：在事物飞速变革的时代，预测未来的能力显得愈发重要。尽管未来充满不确定性，但我认为有些趋势是清晰可见的。我们将迎来人工智能的时代，其能力将达到甚至超越人类在任何认知任务上的水平。这只是一个时间问题，关于具体是在明年年底、两年还是三年后，人们或许会有不同的看法。然而，有一点是确定的，那就是不会超过五年。我给出的预测是基于50%的概率，这并非绝对，但根据我的判断，大概在明年年底之前，人工智能就有可能在某些方面超越任何个体人类的能力。
至于是否超过人类集体智慧，那可能需要更长的时间。如果变革的速度持续保持，我预计大约在2029年或2030年，数字智能很可能会超越所有人类智能的总和。在看待这些问题时，我倾向于采用基础比率的方法，就像物理学中的第一原理一样。通过这种方法，结合概率分析，我们能够更准确地把握未来的发展趋势。
如果我们比较数字计算与生物计算的能力，将人类所有的高级认知能力加总，并将其视为一种计算能力，再与数字计算能力进行对比，你会发现这个比率的增长速度惊人。因此，我认为2029年或2030年是一个合理的时间节点，届时累计的数字计算能力很可能会超越高级大脑功能的累计生物计算能力。从此，两者之间的差距将不断扩大，永无缩小之可能。
然而，当我们站在这个起点，展望未来，事情将如何进一步发展?坦诚地说，我无法预见所有的细节。但如果我们考虑生长因子，以及它们可能面临的限制因素，我们会发现一些有趣的线索。
去年，芯片供应受限是AI发展主要的限制因素。而今年，降压变压器将成为关键瓶颈。想象一下，将300千伏的电压降至计算机所需的低于1伏的电压，这是一个巨大的挑战。因此，我们需要更高效的“Transformers for Transformers”，即降压变压器或AI神经网络变压器。这确实是今年面临的一大问题。
展望未来几年，电力供应可能成为主要的限制因素。人工智能对电力的需求巨大，同时向可持续能源过渡以及电动汽车的普及也加剧了电力需求。因此，我们必须认真考虑如何满足日益增长的电力需求，以确保这些技术的持续发展和应用。
Neuralink：将人类与技术融合
戴曼迪斯：埃隆，你在Neuralink创立初期所提及的理念，确实令人震撼。我们此前与库兹韦尔交流时，也深入探讨了高带宽脑机接口(BCI)的概念。
你似乎持有一种“如果你不能打败他们，就加入他们”的哲学，特别是在谈及新皮层与云端融合时。我对此充满好奇，也热切期待这一天的到来。能否分享一下，驱动你探索为新皮层增加额外计算与感官能力的深层原因是什么?
马斯克：实际上，这种理念源于伊恩·班克斯的《文化》系列作品，我强烈推荐大家阅读。书中描绘了一种名为神经蕾丝(neural lace)的技术，它几乎是一种高带宽的脑机接口，为人类所共有。在书中，这种技术不仅保留了人们的所有记忆和大脑状态，甚至在物理身体消亡后，也能在新的物理身体中重生，几乎完整地保留原有的记忆与大脑状态。虽然目前我们距离这一目标还很遥远，但Neuralink已经迈出了与人类相连的第一步，且进展顺利。
我们称首款产品为“心灵感应”，它能够让用户通过思维控制电脑和手机，进而控制几乎一切设备。你只需要躺在那里思考，就可以移动鼠标光标在屏幕上移动，做各种事情。令人振奋的是，我们的首位患者已经同意进行一次现场演示，他是一位四肢瘫痪的患者，将能够通过思维控制屏幕，进行视频游戏、软件下载等各种操作。
当然，从目前的Neuralink到全脑接口还有很长的路要走。目前的Neuralink仅拥有1000个电极，而我认为最终可能需要一个拥有10万或100万个电极的设备。这些电极极其微小，细如发丝，甚至比人的头发更细。因此，从Neuralink的现状到实现班克斯小说中的全脑接口，仍需漫长的时间和大量的努力。然而，在物理上，这完全是可行的。
戴曼迪斯：我们见证了你从Roadster到Model 3、Model Y，以及从Falcon 1到Starship的辉煌历程。因此，我相信从首次植入到技术成熟，只是时间问题，而非可能性问题。
马斯克：确实，随着技术的不断进步，我们有望在未来实现完整的脑机接口。我认为通过脑机接口上传大脑状态，并在某种程度上实现备份，或许可以视为某种形式的永生。如果大脑状态能够被存储，那么理论上，我们可以随时将其恢复到生物体或机器人等载体中。然而，我必须强调，这仍是一个遥远的目标，需要长时间的探索和努力。
但值得欣喜的是，我们并没有违反任何物理定律，因此这一愿景在理论上是有可能实现的。当然，这需要数字超级智能的协助，以解决诸多技术难题。但与此同时，我们也将继续利用我们的“肉体计算机”，并尽可能做好我们的工作。
离多行星生活又近了一步
戴曼迪斯：我的朋友，终于迎来了你我首次在太空领域的对话。我首先要对你所打造的“星舰”表示由衷的祝贺，最近的飞行堪称壮举，令人叹为观止。我对你所从事的工作深表感激。你知道，我成长于阿波罗计划的余晖之下，后进入航天飞机时代，但我从未想象过你能如此迅速且戏剧性地推动太空探索的进展。因此，我只能用“绝对精彩”来形容你所做的一切。
马斯克：SpaceX的目标远大，希望有朝一日制造出能够使生命多行星化的火箭和航天器。设定这样的目标，是迈向成功的第一步。如果没有这样的目标，实现自然无从谈起;但有了目标，至少我们有了实现的可能。
“星舰”便是这样的一个里程碑，它首次让生命多行星化成为可能，至少在火星上建造自给自足的城市这一点上，它为我们开启了新的可能。当然，这仍需要大量的工作去实现，但“星舰”无疑已经迈出了这关键的一步。
戴曼迪斯：我很好奇，你是否愿意预测一下，我们何时能够借助“星舰”登上月球?
马斯克：我认为这个时间应该不会太远。如果三年内我们还未能实现登月，那我会感到非常惊讶。我们将使用“星舰”进行登月任务，因为它的进展速度非常迅速。我们计划在今年至少再进行五到六次的飞行测试，每次飞行都将带来重大的技术改进。因此，我非常有信心，我们能够在不久的将来实现助推器和飞船的完全可重复使用。即使今年未能实现，我也相信明年实现的可能性极高。这将是实现生命多行星化所需的关键性突破。
对于那些对火箭技术不太了解的人来说，可能不知道完全且快速的可重复使用性对火箭技术的意义。这实际上是火箭行业的圣杯，因为一旦实现，火箭的发射成本将大幅降低，主要只受限于推进剂的成本。“星舰”的载荷中，近80%是液氧，这是一种成本极低的推进剂。而剩余的20%多一点是甲烷，同样是一种成本相对较低的燃料。所以，当“星舰”实现完全快速的可重复使用性时，其每次飞行的实际成本可能会非常低，即使它能够将200吨载荷送入轨道。
更具体地说，如果“星舰”的大多数部件都能实现可重复使用，并且不需要繁琐的翻修工作，那么它的维护将变得像飞机一样简单。当完全可重复使用性成为现实，每次飞行之间将无需任何额外工作，成本将主要集中在推进剂上，每次飞行的成本可能不到100万美元。然后就是飞行次数的问题了，飞行次数越多，平均每次飞行的成本就会越低，这将使“星舰”的性能远远超过其他任何运载工具。
