奥特曼最新播客谈：揭秘与马斯克的冲突以及OpenAI的未来之战。英文访谈带读【含访谈全文】

在这场深入访谈中，山姆·奥尔特曼作为OpenAI的联合创始人，探讨了与埃隆·马斯克的分歧、AI的商业化挑战以及对未来技术影响的深刻洞见。**1.埃隆·马斯克与OpenAI的冲突：马斯克与OpenAI的冲突起源于对AI控制权和发展方向的根本性分歧。**马斯克对OpenAI从非营利组织向混合盈利模式的转变表示不满，认为这背离了其最初的使命。**2.OpenAI的商业模式转变：**经历了**从非营利到混合盈利模式的转变，**以吸引资金支持AI技术的发展，尤其是在模型训练的计算成本大幅上升的情况下。**3.AI技术的资金需求：**山姆·奥尔特曼强调，**为了实现AI技术的快速发展，需要资本市场的支持**，因为非营利模式难以满足巨额的资金需求。**4.AI技术的迅速采纳：**AI技术的迅速采纳，**尤其是在ChatGPT的普及上，已经改变了人们的工作和日常生活方式**，这种技术融入社会的速度快于预期。**5.AI监管的必要性：**奥特曼支持适度的AI监管，特别是在安全性方面，以确保AI技术的安全和伦理发展，同时强调与其他国家在AI领域的合作与竞争。**6.AI技术的社会影响**：**AI技术的发展不仅是技术问题，也是社会和伦理问题**，需要全社会的共同努力和责任，特别是在处理AI中的偏见和审查问题。**7.经济增长与技术革命**：阿尔特曼认为经济增长是民主运作良好的核心因素，并将AI技术的发展比作历史上的技术革命，如工业革命和晶体管的发明，预示着**AI技术将深刻影响经济的各个方面。**综上所述，山姆·奥尔特曼在对话中展现了他对人工智能未来发展的深刻见解，同时也坦诚地讨论了与埃隆·马斯克的冲突以及AI领域所面临的挑战和伦理考量。以下是本次访谈的完整内容。

---**巴里**埃隆·马斯克和他的各个盟友之间的根本冲突是什么？Meta是其中之一。你们从根本上讲，分歧是什么？**奥特曼**看，我不住在埃隆的脑袋里，所以这有点只是猜测。在早期阶段，埃隆确实为OpenAI提供了很多帮助。尽管如此，我非常感激，我认为他只是一位传奇企业家。他显然也是一个恃强凌弱的人，而且他也是一个明显喜欢打架的人。现在是我，曾经是Beos Gates、Zuckerberg和其他很多人。**巴里**嗨，说实话，巴里在这里，我很高兴你们听到这个与OpenAI的山姆·阿尔特曼的广泛而迷人的对话。就在几年前，随着人工智能技术开始从硅谷的初创公司中溢出并进入我们的智能手机领域，关于这种新兴技术的政治和文化对话尚不清楚，或者至少像我这样的平民还不清楚。我记得在2022年1月，我诚实地问前谷歌首席执行官埃里克·施密特，人工智能是否就像，这实际上就是我所说的，Ex Machina中的性感机器人，我真的对他说，什么是人工智能？你如何定义它？我不明白？我畏缩聆听这个问题，因为今天，在2024年逐渐减弱的日子里，人们不仅清楚什么是AI以及如何使用它，ChatGPT平均每天有超过1.2亿的活跃用户，每天处理超过10亿个查询。但也越来越清楚，围绕AI的政治和文化影响、争论和辩论是什么，以及未来几年它们将成为什么。这些都是重大问题。谁来带领我们进入人工智能技术的新时代？哪个公司会首先到达那里并实现市场主导地位，这些公司将如何构建，以便有不良动机的不良行为者可以出于恶意目的操纵这项技术？政府在监管所有这些方面应该扮演什么角色？这些重要问题的中心，至少就目前而言，是两个男人山姆·阿尔特曼和埃隆·马斯克。如果你没有跟随，它们并不完全对齐。**马斯克 **我不信任OpenAI，我不信任Sam Alman，我认为我们不希望世界上最强大的AI被不值得信任的人控制。**巴里**他们起初是朋友和商业伙伴。山姆和埃隆在2015年共同创立了制造ChatGPT的OpenAI公司，但多年来，埃隆·马斯克对OpenAI越来越感到沮丧，直到他最终于2018年从董事会辞职。阿尔特曼和马斯克之间的争执在过去一年升级，当时埃隆多次起诉萨姆和OpenAI，试图阻止OpenAI成立一个营利性部门，埃隆声称这种结构不仅永远不会在OpenAI中发生，他喜欢提醒人们，一个非营利组织，透明的公司不应该成为一个封闭的营利公司，但他认为以这种方式改变其结构甚至可能是非法的。现在，一方面，理解其中的每一个细节是一个非常复杂的分歧，你可能需要一个法律学位和美国税法的特殊专业知识，这两者我都没有。但是你不需要任何特殊的学位或专业就能理解，这场争执的核心是比OpenAI的业务模式更大、更具有存在性的东西，尽管这是非常重要的，我们今天要讨论的东西。我认为，实际上基本上是一场关于谁将最终控制这项技术的斗争，有人说，如果使用不当，这项技术很可能会使人类过时。所以这里的风险很低。讲述他故事的是山姆·阿尔特曼。我们谈论人工智能的发展方向，他为什么认为超级智能，换句话说，人工智能超越人类能力的时刻比以往任何时候都更接近了。我们谈论了AI偏见和审查的危险，为什么他作为长期反对特朗普的人向特朗普的创始基金捐赠了一百万美元。山姆·阿尔特曼，非常感谢你的到来。诚实地说。**奥特曼**谢谢。**巴里**上一次我们交谈时，我知道你从那以后接受了无数的采访，但那是在2023年的April，感觉就像一个遥远的世界，ChatGPT刚刚启动，人们才刚刚开始。我正在尝试抽象地弄清楚这项技术是什么以及它如何改变他们的日常生活。现在，在2024年12月坐在这里，ChatGPT是一个家喻户晓的名字，OpenAI也是如此。当然，你的一些竞争对手也一样，比如困惑、双子座和克劳德，普通美国人每天都在使用这些工具，从数学辅导到调试代码到起草工作。它非常非常擅长这样做。告诉我ChatGPT，我猜AI技术自从我们上次一年半前发言以来已经发生了更广泛的变化，以及它是否符合你今天或未来的预期。**奥特曼**所以我认为当你谈论时，有两件不同的事情，一是技术本身发生了多大的变化？这已经变得更好了。如果你想到我们在2023年April时兴奋不已的AI，相对于我们现在所拥有的，它是如此原始，这项技术所能做的事情对我来说是相当令人兴奋的，但更重要的是，在接下来的一年里，它将继续变得更好的速度。如果我们在18个月后回来谈论它可以做什么，我认为它会感觉像从2023年April到2024年12月的差距一样大，甚至可能更大，因为预计同样的时间量。我想这更像是未来20个月。发生的另一件事是它真正融入了社会。就像当时一样，这仍然是一种好奇心。很多人都听说过。人们现在在很多工作、个人生活等方面都经常使用它。我从未见过一项技术如此迅速地被广泛采用，而不仅仅是人们喜欢涉足的东西，而是人们喜欢在你所说的所有方面真正使用的东西。所以采纳曲线的那一部分比我想象的要快得多。我预计这项技术会很快发生。**巴里**请给我一个感知，你是如何使用你在日常生活中帮助创建的工具的，就像我认识的大多数人使用它的方式一样？对于许多像热情的早期采用者一样的人来说，它似乎已经取代了谷歌。它就像一个更深入的谷歌。这是它的工作原理吗？当我为你工作的时候。**奥特曼**我以各种方式使用它，但最新的一个，几个月前，我们发布了搜索集成，现在ChatGPT可以在互联网上搜索我们所交付的一切的实时信息。就是那个感觉我的使用量一下子翻了一番的那个。从那时起，我的意思是，我一定还在使用谷歌，但我不记得它是什么了。哇，我在Chrome中ChatGPT了我的默认搜索，我并没有回顾这种行为对我来说改变的程度，这是非常根深蒂固的。现在的事实是，就像当我记得我过去搜索的方式时，感觉就像是，天哪，就像是iPhone之前的一种等价物。这就是我所感受到的转变程度。在过去的几个月中，对我来说最令人惊讶的变化是我不这样做，我现在在chechi中进行所有搜索。**巴里**你叫它什么？你把它叫做搜索，还是像谷歌搜索一样有一个动词？**奥特曼**我仍然称之为搜索。我的意思是，我只是喜欢人。其他人说就像我聊过它或者我聊过，我聊过它。人们说我像年轻人一样聊天，似乎只是称之为聊天，但我会说我只是使用搜索。**巴里**山姆在九月。所以就在几个月前，你在你的网站上发布了这份宣言，预测超级智能将在未来几年内出现，或者像你说的那样，在接下来的几千日里令人难忘。向我们解释什么是超级智能。告诉我们如何知道它是否真的在这里，它将如何在未来几十年改变人们的生活。**奥特曼**我用一件事作为我对自己心理框架的尝试，那就是科学进步的速度。如果整个世界上发生的科学进步速度增加了三倍或者可能增加了10倍，你知道，我们过去预计需要10年的发现和我们过去预计需要10年的技术进步，如果每年都发生这种情况，然后我们在下一次，对我来说，感觉超级智能已经到来。我认为，它会在很多方面改变社会和经济的运作方式，它不会改变的是，很多AI评论员都错了，它不会像人类深层基本驱动力那样改变，因此在这个感知，我们之前经历过许多技术革命，我们倾向于关心的事情以及驱动我们所有人的东西，我认为，改变很少或可能根本没有改变，但我们存在的世界将发生很大变化。**巴里**好的，山姆，我们今天想和你进行这次对话的原因之一不仅仅是因为我们想听到人工智能将如何改变我们的生活和工作方式。但是因为你现在正在和你最初的OpenAI联合创始人进行一场非常公开的战斗，埃隆。我认为可以肯定地说，这个节目的大多数听众都会模糊地知道马斯克与此事之间存在冲突。他的公司之一，他的许多公司之一。他们肯定没有更广泛地关注各种诉讼和冲突的细节。我想尝试用最公平的方式为你总结一下。然后你会告诉我我是否做错了，或者我在哪里越位了。所以OpenAI始于2015年，起初是一个非营利组织，并在一篇博客文章中向世界介绍OpenAI。在那一年的十二月，你写了这篇文章。OpenAI是一家非营利性的人工智能研究公司。我们的目标是以最有可能造福整个人类的方式推进数字智能，而不受产生财务回报需求的约束。由于我们的研究没有财务义务，我们可以更好地关注积极的人类影响。这是该品牌的一个重要方面。然后快进四年。在2019年，OpenAI转向所谓的混合模式，盈利部门在那一年获得了微软十亿美元的投资。从那以后，微软已经投入了大约130亿美元。这可能是一个更高的数字进入公司。正如我所提到的，埃林从一开始就是其中的扮演者之一，但随着时间的推移，他与公司的关系恶化了，因为他不同意我刚才描述的从非营利模式转变为混合模式的转变，最终他离开了公司，退出了董事会。这就把我们带到了今年，埃隆在今年到目前为止的几个不同场合起诉了你，OpenAI，他接受了许多采访，发布了无数的推文或exes，或者其他我们应该称之为关于这场冲突的东西。所有的诉讼都声称你在推进AI的过程中把利润置于公共利益之上，是在某种程度上违反了合同。然后上个月，这是最新的进展，埃隆要求加州地区法官阻止OpenAI转向盈利结构。**奥特曼**埃隆开始经营一个非常直接的竞争对手，试图做OpenAI所做的事情。我会指出作为一个结构，你知道，它就像一个公共利益公司，我听说埃隆拥有多数所有权和控制权似乎是他会做的合理的事情。我认为很多媒体都在进行不专业的报道，我们不像非专业人士，即使我们经历了其中的一些，我们正在谈论的任何转换想法或进化想法，这不是非营利组织消失，非营利组织不喜欢停止，非营利组织变成了营利性组织，我们已经公开谈论过，也许我们会将目前的公司发展成为一家PBC，但是我们利用非营利组织的力量所做的任何事情，非营利组织将继续存在，将继续服务，希望更好地服务于您所谈到的公司的相同目标和整体使命。正在开发这项令人难以置信的技术，以我们认为对人类最有益的方式进行，并将其传播给我们一直在做的人，我为我们在这方面的记录感到非常自豪，就像你之前所说的那样，人们使用ChatGPT并热爱它，有一个令人难以置信的免费层，ChatGPT我们在上面赔钱，它不是广告支持的，也不是我们只想把AI放在人们手中，我们仍然想部署这项技术，以便人们与它共同进化，理解世界正在经历这个过程。它正在经历与AI的竞争，最终会认为它会影响我们正在做的一切。我相信如果埃隆能够掌控公司，他会很高兴的，当他认为我们正处于肯定失败的轨道上时，他离开了，他也不会做一些他完全控制OpenAI的事情。但我觉得这有点像一个小场。对我们来说，正确的事情就是继续进行令人难以置信的研究，继续运送人们喜爱的产品，最重要的是，继续追求AGI的使命，造福人们，并将其走向世界。**巴里**对于那些只是在关注这个话题的人来说，为什么重要的是，像你一直在谈论的那样，OpenAI有一个以盈利为目的的部门或皈依者？为什么这对你的成长至关重要？**奥特曼**当我们开始OpenAI时，我们认为很难回去记住2015年的事情有多不同。那是在语言模型和聊天机器人之前。早在ChatGPT之前，我们就在做研究，发表论文，开发能够完成视频游戏和控制机器手等功能的人工智能。我们本应该获得十亿美元，但最终没有获得，我们认为有了十亿美元，我们可以在我们试图做的事情上取得实质性进展，因为我们学到了更多并进入了缩放语言模型世界，我们意识到它不会花费10亿甚至10亿，而是超过1000亿。作为一个非营利组织，我们无法做到这一点。这就是它的根本原因。**巴里**好的，这可能是另一种说法，它对于计算能力的创造是绝对必要的。**奥特曼**好吗？而所有追求人工智能的其他努力都意识到了这一点，并以某种方式建立了他们可以进入资本市场的环境。**巴里**最近几天你说了很多关于埃隆的不同事情。你在dealbook的采访中，安德鲁·罗斯·索金询问了你对这场冲突的感受。你说悲伤。你还说你认为埃隆的公司很棒。然后他问你知道，你认为他会利用他新发现的政治影响力来惩罚你或惩罚OpenAI或惩罚他的竞争对手吗？你在那次采访中说，你认为他会做正确的事情。你怎么把这和你刚才告诉我的那个埃隆是恶霸？恶霸通常不会做正确的事情？**奥特曼**我认为他们完全可以做到。我认为有些人会在推特上真正成为一个混蛋，**巴里**直到现在，这场战斗的大部分时间，你知道，对于我们这些像永远在线，永远在Twitter上的人来说，我们一直在通过推文，高高在的子推文来关注冲突。这一切都在Twitter上实时上演，我们观看OpenAI，尽管有时或大部分情况下都处于类似的响应模式，但忽略了一切。这就是我对它的描述。几天前，当你们在Open上发布了这篇非常长的备忘录时，情况发生了变化。这就像OpenAI网站上的一篇博客文章，人们应该再去阅读一遍，我们会把它放在节目说明中，它就像是完整的。这就像是一个追溯到2015年的时间线，从你的角度证明，通过电子邮件和文本截图以及对这些截图的解释，以及那些埃隆想要开放AI的文本，或者更确切地说埃隆曾经对开放AI持开放态度，成为一个盈利的企业。我为那些不想这样做的人阅读了全部29页，他们可以去ChatGPT并要求他们总结聊天来总结，这就是你总结的方式。这篇文章详细介绍了埃隆·马斯克与OpenAI领导层之间的分歧，特别是萨姆·阿尔特曼，源于马斯克对OpenAI从非营利组织转变为混合盈利模式的不满。聊天告诉我，这种争执至关重要，因为它强调了AI应该如何开发和控制的更广泛的道德困境，是否应该优先考虑公共利益或企业利润，特别是随着强大的AI技术在社会和经济中的影响力越来越大。我觉得很不错，你觉得呢？**奥特曼**不，但在你的总体观点上，你是对的，我们不会坐在那里，喜欢在推特上来回扔西红柿。这样做的原因是我们必须进行法律备案，我们想提供一些背景信息。我们之前已经发表过一次关于这个的文章，也是在我们必须进行法律备案时。我已经不知道埃隆起诉我们多少次了，就像我认为这就像是4次，你知道，撤回修改是为了这个初步禁令，无论我们的工作是以一种有益于人类的方式建立AGI，并找出如何安全和广泛地分发它。我们的工作不是像在Twitter上与埃隆进行争斗，但当我们必须回应法律文件时，我们会有时提供上下文。我想我们只做了两次。**巴里**在OpenAI的早期阶段，品牌就像我遇到它的品牌一样，是透明和非营利的，这些都是它反复强调的东西。你说你不能拿任何股权，拿这么低的薪水的原因是因为你说，你知道，我不想有矛盾。我希望始终有动力去做对人类最好的事情。OpenAI在2015年十二月推出后的第二天，你向《虚荣展览会》描述它是一家非营利公司，旨在将世界从一个反乌托邦的未来中拯救出来。你还说试图让OpenAI成为营利性企业会导致不协调的激励措施，这对整个世界来说都是次优的。我想问一下，你还同意这个观点吗？但简单地说，我们必须适应现实，即开发这些模型需要数十亿美元。**奥特曼**有两件事。有一件事，我认为我有点错了，虽然我有些担忧，但给我留下深刻印象的不仅仅是我们，还有其他的AI实验室，即使他们有疯狂的市场或经济激励，一直专注于开发安全的模型。我认为有很多因素导致了这一点。我们在技术方向上确实有点幸运，但如果你以一种对人类有害的方式部署这些模型，我相信如果这是一个明显的情况，你很快就会失去运营许可。现在，有些微妙的事情可能会出错，就像我认为社交媒体就是一个例子，其中危害可能在当时并不那么明显，然后在规模上出现了一个新兴的财产，你可以想象发生了什么事情。但激励问题比我当时想象的要好。我会高兴地说，10年前我对世界的运作方式有点天真，现在我感觉好多了。**巴里**如何天真。**奥特曼**即使是面对巨大的利润动机，大公司也承受着社会压力，研究人员也有力量推动他们的公司做正确的事情，这已经是相当不错的了。但也有一些我当时并不天真的感觉，那就是对我来说，这件事在少数私营公司手中发生仍然相当疯狂，这感觉就像我们时代的曼哈顿项目或阿波罗计划。而这些不是由私营公司完成的，我认为这就像是社会中运作良好的标志。**巴里**你认为我们这里需要一个曼哈顿项目吗？**奥特曼**我认为公司会做正确的事情，而且会进展顺利，我认为在当前世界中政府的努力根本行不通。说实话，我认为如果这样做了也不好。我只是，我希望我们处在一个我说这是，你知道的，或者我觉得这是应该发生的方式的世界。**巴里**几天前，Meta也与埃隆站在一起，Meta要求加州的AG阻止OpenAI成为盈利组织，这就是他们在信中所说的，如果OpenAI的新业务模式有效，OpenAI的行为可能会对硅谷产生地震影响。非营利投资者将获得与那些以传统方式投资营利性公司的投资者相同的利润上涨，同时也受益于政府赠送的税收冲销。这与马斯克去年所说的相呼应，当时他说我很困惑，我捐赠的非营利组织如何以某种方式成为利润的市值，换句话说，如果这是合法的，为什么不是每个人都这样做。**奥特曼**我不知道为什么我会遇到那封信，但我知道他们知道事情不是这样的。我知道那部分是恶意的，如果你的话。在这些世界中的任何一个，我们的非营利组织都将继续下去。而那些投资于非营利组织的人不喜欢你，当然也不能从非营利组织的捐赠中获益，从而获得一种营利性股权。他们也知道这一点。你可以想象夫人发这封信的其他许多原因。你可以想象他们想要它。我的意思是，你可以想象他们想讨好埃朗。你可以想象他们觉得这有助于他们与我们竞争。你可以想象他们对我们的反印章立场感到恼火，我认为这并不准确，或者我觉得我不知道。你应该问他们原因是什么。**巴里**这是给平民听的。非营利组织如何变成盈利组织？答案是什么？**奥特曼**它不喜欢非营利组织保持非营利组织的身份。我相信开放非营利组织正在发展，我希望如果我们做得好，成为有史以来最大、最有影响力的非营利组织，那么非营利组织就不会变成其他任何东西。像许多其他事情一样，我们的世界，我们的生态系统也可以有一个以盈利为目的的业务。但这不会，非营利组织不会转变，非营利组织会去任何地方，非营利组织不会停止做非营利的事情。**巴里**最后，山姆，谁将从OpenAI的成功中获利最多？**奥特曼**每个人？我来告诉你，我希望每个人都能给出他们最喜欢的技术革命的类比。你知道，这是工业革命，就像电一样，就像网络一样。我所希望的是它像晶体管一样。我们发现了一个新的重要的基本物理定律，不管你想怎么称呼它。我们做了很多研究，其他人也做了很多研究，它将渗透到经济的各个方面，产品，一切。今天你和我正在使用许多带有晶体管的设备，使这个播客成为可能。电脑有一些，你的麦克风有一些，你和我之间的所有互联网设备都有很多，但我们不会坐在这里思考晶体管，晶体管公司也不会坐在这里赚钱。这个新的令人难以置信的科学发现渗透到我们所做的一切事情中。每个人都赚了很多钱。这就是我希望AI会是什么样子，我认为有很多原因可以证明这是最好的类比。**巴里**您将拥有股权还是股权，或者您在这个新的利润上限中拥有什么样的股权？**奥特曼**所以我们还没有成立一个新的实体。我们显然考虑过成立一个新的实体，或者将我们现有的交流转换成一个实体更准确。我有一小部分旧的YC基金的股权，我曾经通过红杉基金拥有一些，但事实证明那只基金更容易出售，而不是保持头寸。所以我只有很少的数量。就我将会做什么而言，这对我来说相当微不足道，我不会继续前进。我不知道，这并不像现在没有计划或承诺让我得到任何东西，如果我得到了什么，那就不会了，有一些奇怪的谣言说一些数字不会发生。**巴里**你肯定明白为什么人们会执着于这一点。**奥特曼**正如我之前多次说过的，如果我能回到过去，我会拿走股权。我再想想，我更理解为什么我之前的疑虑是错误的。我也明白现在接受它很奇怪，另一方面，我希望永远不必再回答这个问题，我这里有一些股权投资者，不必担心我在那里错位，整个怀疑的气氛让我没有任何决定。我很后悔打开一个有结构的东西，但我理解为什么人们执着于它。这很感知。**巴里**如果你能回到过去，你会从一开始就怎么做？就像，让我们把时钟倒回到2015年。**奥特曼**如果一位先知在2015年11月对我说，在我们开始排名第一之前，你将需要1000多亿美元。第二，即使你今天不知道你将如何产品化，你把自己看作一个研究实验室，最终，你将成为一家确实有能力将其产品化和业务模式的公司，这样你就可以向投资者解释为什么他们不只是资助一个研究实验室，第三，人们工作的激励在这件事上，我们将更自然地加以控制，因为这不会是我和许多其他人在努力时所认为的远远领先于其他人，而是更多的东西。就像渗出的晶体管一样，如果一个先知告诉我这三件事都是真的，那么就不会有比MS更好的平衡了，我会说太棒了，让我们成为一个公共的好处。Cor。**巴里**埃尔顿对于打开大门有多重要，就像如果先知也告诉你这场战斗会接踵而至，因为你认为某人是你的亲密朋友，你会说，你知道，不需要他，可以自己做吗？**奥特曼**不，他真的很有帮助。我非常感激。**巴里**我想这是我第一次看到埃隆·马斯克在会议上的舞台上，你在采访他，你们有一个美好的动态，你们看起来像是真正的好朋友，他说了一些关于你的非常严厉的话。他在权力的游戏中将你与小手指进行比较，最具破坏性的是我不信任他，我不希望世界上最强大的AI被不值得信任的人控制。他为什么这么说？**奥特曼**我想这是因为他想让世界上最强大的生活被他控制，我再次看到埃隆对许多其他人的攻击，我的许多朋友，你知道，每个人都在他的聚光灯下待了一段时间。但这一切似乎都像是他的标准行为。**巴里**我试图把自己置于一个前朋友、前原产地证明的挡泥板的位置，说出那些关于我的事情。你似乎对此相对平静。**奥特曼**不知道？我肯定对此感到不安。我最近和一个我认为很亲近的人交谈。我说，埃利没有任何朋友。埃隆不做同龄人，埃隆不做朋友。这对我来说是一个悲伤的时刻，因为我确实把他当作朋友，但我不知道，我可以冷静地看待这个。我记得当他说打开冰有0% 的成功机会时是什么样的。而且，你知道，你们都是白痴，我在玩资金游戏。我是gon na，做我自己的事。从那时起，他曾经有过一些时刻，感觉像是想要和解并找出一种合作的方式，而我还记得一些时刻，他就像是在推特上做他的事情一样。但如果只是针对我，我想会痛苦得多。但是，你知道，我想你在推特上看到他是谁了，所以我可以在某种程度上客观地持有它，只是说，这是关于埃隆的，不是关于我的。它仍然很糟糕。我已经习惯了很长时间了。**巴里**我想，最近在OpenAI网站上发表的一篇博客文章说，Elon应该在市场上竞争，而不是在法庭上竞争。当然，愤世嫉俗的观点是，你在这次谈话中暗示，那个现在拥有OpenAI竞争对手X AI的埃隆起诉你并不是出于对AI安全或其他任何问题的担忧。但实际上只是为了参与竞争。你对此有何看法？你知道，这真的是愤世嫉俗的观点吗？这真的只是一场争夺第一个主导市场的战斗吗？**奥特曼**你应该问他。**巴里**我希望。是的，我希望如此。我邀请他参加。**奥特曼**太好了。**巴里**你不仅仅是世界上最重要的AI Ceo的AI开发者之一，你也是一个非常知名的AI监管的吨支持者，这里的愤世嫉俗的观点是，你可以以同样的方式对埃隆的动机进行中伤，你可以看看你游说AI法规的方式，以此来扼杀竞争并使你的公司受益。显然，你以前听过这个论点。**奥特曼**我认为过多的监管显然会在社会上产生巨大的负面影响，现在在许多地方，我们有太多的自我。和大多数其他大型努力的负责人一样，Ela也一直是AI监管硬币的很多支持者。当你踏上飞机时，你会想，你知道，这很可能是一次安全的体验。当你在美国吃食物时，你不会过多考虑食品安全。有些规定显然是好事。现在，我可以想象AI监管的版本确实存在问题，并且会对较小的努力造成不利影响。我认为这将是一个真正的错误。对于一些最强大系统上的安全护栏，它们只会影响边境的人们，当然只会影响开放的眼睛和少数其他人。我认为我们还没有达到这些系统具有巨大安全影响的水平，但我也不认为我们离得太远了。**巴里**其中一些初创公司正在制造的论点，像有一家名为拥抱脸的AI初创公司，这是一个令人难以置信的名字。作为一家名为稳定AI的公司的创始人，他们基本上是在说山姆和其他大公司，即老牌企业，正在试图做什么。谷歌和苹果基本上要求政府在你周围建立护城河，通过监管俘虏扼杀竞争。你对那些人说什么？这有点像大型科技公司和小型科技公司之间的争论。我们可以用各种方式来构建它。你对那些说我们想加入竞争的人说什么，像山姆和其他人这样的人在许多其他时候推动的规定会伤害我们并使他们受益？**奥特曼**好吧，如果他们说的是我们落后于睁开眼睛，那么这并不重要。我们所呼吁的只是在边界上的监管，只是一些东西，只是一些新的和未经测试的东西，但是，你知道，否则就会推出你想要的任何开源模型，我认为他们提出这样的论点是不合理的，我不知道。我很好奇你的想法。如果我们这样做了，假设我们成功地制造了超级智能，我们就制造了这个计算机程序，它比所有人类加在一起都更聪明，也许更有能力。你认为应该有任何规定吗？或者他们只是说不？**巴里**我绝对认为，首先，当我们谈论超级智能时，我甚至不理解我们在谈论什么，就像你以一种我不理解的方式理解它的含义及其影响一样。所以这是第一。第二，如果这项技术像你、埃隆和许多其他接近它的人一样强大，当然，我认为它应该受到某种方式的监管。如何以及何时显然是确定的相关问题。**奥特曼**如何以及何时很重要，但是。我同意这一点，而且我很容易就能看出它真的很糟糕。**巴里**最近马克·安德森参加了这个节目，他和我谈到了他对拜登政府试图围绕人工智能技术做什么的看法。他来了，提出了论点，讲了一个他真正经历过的故事。他说，拜登政府试图完全控制AI，他们的目标是让它受到政府的严格监管。用他的话说，他们只会与两三家大公司合作，并且他们试图最终保护他们免受竞争，这是真的吗？你知道他指的是什么与OpenAI，其中一家公司有关吗？**奥特曼**我不知道他在引用什么。我也会非常明确地说，我认为减少AI竞争的监管是一件非常糟糕的事情。**巴里**所以OpenAI不是那些公司之一。**奥特曼**不，我实际上不知道那是什么，但据我所知，我们当然知道。**巴里**我从来没有，你从来没有和拜登政府或其他AI公司在一个房间里过。**奥特曼**我甚至认为拜登政府还没有足够的能力去做。我的意思是，我们和他们在一个房间里，但从来没有在其他公司的管理中，但从来没有像我们的阴谋论一样，我们只会把它变成少数能够建立AI的公司，然后你必须总是说永远不要，类似的事情。**巴里**你对拜登政府对AI和技术的总体态度有什么感觉，你只是说，你认为他们没有信心。**奥特曼**我觉得吉娜·雷蒙多很棒，你知道的，我和她的每次谈话，我觉得她都有点全面，我会说政府不是那么有效，我最想做的事情应该是政府的优先事项，我希望下一届政府的优先事项是在美国建立大规模的AI基础设施，在美国建立供应链，诸如此类。**巴里**马克在的时候，我让他去偷那个人，拜登政府的观点或钢铁人的观点，认为这应该受到严格的监管，他基本上将其类比于曼哈顿项目和原子弹的开发，当时政府认为需要确保这种新科学和创新得以保留首先，你认为这是一个很好的比喻吗？如果是这样的话，如果它像核武器一样强大，那么这不是一个开放的双子座和Claud，而是一个联邦政府的项目，不是很感知吗？**奥特曼**我认为所有的类比都很困难，因为它们在某些方面起作用，而在其他方面不起作用，比如你可以指出类似于核时代的事情，你可以谈论，你知道，一方面需要大量的资源和能量来浓缩铀，另一方面也需要生产这些模型。这样你就能找到这样的工作。**巴里**在核时代开始时，我们国家有些人几乎像首席科学官一样工作，对吧？我在想像瓦内夫·布什这样的人，他帮助启动了曼哈顿项目，创立了国家科学基金会，并为最初的几个关键年份提供了美国政策的指导。那个人现在是否存在，无论他们是否在DC，那个人存在吗？就像如果我们想要有这样的人，他有点了解这项技术，没有经济利益，并且可以谈论，无论是总裁拜登还是特朗普，或者任何跟随他的人，有点利弊，不仅仅是这里的AI发展，。**奥特曼**我认为这种意愿有点回归了，但长期以来，美国公众对未来科技发展感到兴奋的意愿已经消失了。我觉得它随着核武器消失了。实际上，如果我必须选择一个时间点，那就是在它之前的几十年宿醉，有点奇怪。当炸弹被投下时，世代的变化变得有点老了，在权力方面，我认为美国从来没有像过去那样拥抱过科学和技术推动世界前进的兴奋和信念。你可以读到这些故事，讲述像这样的人过去经常做什么，他们有多虔诚，以及人们如何相信更广泛的科学技术进步将使世界更美好。现在似乎缺失了，我不认为这是因为我们没有一个人可以做到这一点。我想这是因为政府不想要，公众也不想要。**巴里**我的意思是，你对我们自5月1日以来所经历的不仅是氛围的转变，而且是文化氛围的转变有何看法？就像你在8周前提出这个论点，并说是的，山姆可能现在感觉就像一个不同的国家。**奥特曼**有一个巨大的文化氛围转变。我认为有一个非常积极的因素，在许多方面都有积极的势头。我不确定它是否存在，嘿，我们认为科学再次非常重要，科学将拯救我们，解决我们所有的问题。你觉得呢，还是你觉得这是我没有感觉到的一个领域？**巴里**我只是认为增长方向发生了转变是一件好事。技术进步是一件好事。虚无主义感觉像是过时了，失宠了。我感到变化正在发生，以一种戏剧性的方式发生了变化。现在，也许是因为我花了很多时间在X上，而且很多时候它有点像煽动，从在线跳跃到现实世界。所以，你知道，如果你去和哥伦比亚大学上城区的普通博士生交谈，我认为他们不会有同样的经历，因为一切都变得巴尔干化了。**奥特曼**正如我之前所说，我认为即使在科学方面也越来越好。我非常同意你的观点，即普遍转向对增长和成功以及国家和经济表现良好的兴奋。我有点同意，正如我之前所说的，我认为即使是对科学的兴奋也比最低点更好。但是当你谈论那些像国家的科学大使一样的人，人们喜欢真正倾听，我们很兴奋，你知道，向愿意的观众传道。我还是不确定我是否有那种感觉。我认为商业上有兴奋，但科学上没有。**巴里**嗯，我感到兴奋的公司之一，也许这样说有争议，但我只是认为创始人是这个国家最有趣的人之一，帕尔默幸运和他的公司以及所有行业。和OpenAI最近与开发军事应用的AI达成协议。现在，以前OpenAI禁止将其技术用于武器装备。当然，现在有个警告，你目前正在专注于系统的防御，你知道的，可以保护我们免受像无人机群这样的攻击，也许就像现在在新泽西州发生的事情一样。我们知道我在试图谈论这个问题。是什么让你从根本上改变了对将公司技术整合到防御性武器系统中的想法？**奥特曼**我们已经建立了一套原则，并且我们批准了一些符合这些原则的用例。但我认为，如果美国的主要努力不能帮助保卫美国和我们的盟友对抗我们的对手，我们将处于非常糟糕的位置。所以我们需要想出办法来做到这一点。**巴里**你认为这种情况发生的可能性是真的吗？**奥特曼**当我的意思是，我们打算他妈的尽最大努力确保他们不会这样做。**巴里**我们怎么知道他们是否赢了，考虑到他们撒谎和偷东西的程度？**奥特曼**这很难，对吧？我们知道他们公开发布什么，我们不知道他们不公开发布什么，我们有很多信号，我们有一个智能系统，但这是我自己的立场，我们必须尝试合作，军备竞赛对所有参与者都不利。我们在历史上一次又一次地吸取了这个教训，但如果需要，我们需要有能力获胜。我希望这将是世界和平的伟大时刻。我相信，如果有时间让人类走到一起，这似乎是一个不错的选择。我想在那里坚持下去。但我们不能天真。**巴里**总裁特朗普总是大谈特谈，你知道，通过力量实现和平。你的是山姆阿尔特曼OpenAI版本的 “通过力量实现和平”。我们必须在人工智慧上粉碎，获得成功并取得胜利。**奥特曼**不要压榨。我们必须领先，然后我们必须尽可能愿意共同努力。我认为这有点类似于通过力量实现和平。这就像如果有一场军备竞赛，我们会赢，但我们不想赢。**巴里**意思是如果存在军备竞赛，我们想要赢，但我们不想要军备竞赛，就是这样。**奥特曼**但我们会。甚至不是那个。这更像是如果有任何途径可以通过协作来做到这一点，我们应该这样做，但我们必须这样做，我们无法控制其他实体所做的事情。**巴里**你是说合作？**奥特曼**我认为我们与那些我们并不一直相处的人合作，在那些符合我们战略利益的领域这样做。这是我认为世界的利益以及我们公司的使命所决定的，如果有可能实现真正的合作，我们就应该这样做。我想说的是，你可能知道的比我喜欢的更多。**巴里**如果特朗普明天打电话给你说，嘿，山姆，我想让你像AI一样，你是AI监管负责人，在这个职位上你可以做任何你想做的事情，你会做的第一件事是什么？那个人最重要的事情是什么？**奥特曼**位置可以吗？美国基础设施和供应链。**巴里**为那些不知道这意味着什么的人添加更多。**奥特曼**在这里建造我们自己的芯片，建造足够的能源来运行数据中心，改变它的需求，在这里建造数据中心，但要能够在美国建造非常昂贵、复杂的供应链和非常昂贵的基础设施。**巴里**AI中的偏见和审查是一个巨大的话题，也是我们在自由新闻界经常思考的话题。而且，你知道的，最明显的例子就是当双子座生成了像黑人乔治·华盛顿州和跨纳粹的图像时，这个趋势已经持续了好几天，每个人都在嘲笑它。这很搞笑。但在某种程度上，这真的很严重，因为它感觉只是一个最夸张、最明显的例子，一个更深层次的地方性问题，即嵌入这些技术中的偏见，这既是因为编程这些技术的人，也是因为他们在网上搜集的信息。和我们谈谈你在ChatGPT上是如何思考它的，因为很明显，最接近现实的系统，在我看来会，如果ChatGPT给我的图像，你知道，告诉我乔治·华盛顿州是跨性别者，最终会获胜。我就像我不会依赖这个，去做那个。好的，但你明白我的意思吗？你是如何看待偏见的问题以及你是如何解决它的？**奥特曼**我认为有两件事很重要？一个是用户需要什么样的灵活性才能让系统按照他们想要的方式运行。我认为我们认为应该有非常广泛的限制。就像，你知道，有一些事情，比如你不希望有一个系统告诉你如何制造核武器。好的，我们都同意这一点。但是，如果你希望一个系统是相当冒犯的，并且你要求它这样做，我认为对齐的一部分就是在社会认可的这些广泛范围内按照用户的要求去做。第二件真正重要的事情是默认值是什么。所以如果你不做任何事情，大多数用户不会做，并且你问了任何有争议的问题，系统应该如何回应？我们在这两件事情上都投入了吨的工作。我们还试图写出模型应该如何表现。我们称之为模型规范，这样你就可以判断它是否是一个错误，或者你在某些立场上不同意我们的观点。**巴里**是否有可能建造出像ChatGPT这样的东西或任何其他技术，我们甚至无法想象，这难道不是不可避免的吗？**奥特曼**我认为无论你写的东西多么中立，它要么毫无用处，因为它会说，我不能回答，因为有政治和一切，或者它会有某种观点。这就是为什么我们认为我们可以做的是写下我们打算为我们的默认设置。人们可以就此进行辩论。如果里面有bug，我们可以看看bug。如果我们定义它的方式存在问题，我们可以更改定义并重新训练系统。但是，我认为任何系统都不可能是两个人都会同意一个系统是完全公正的，但这也是个性化如此重要的另一个原因。**巴里**你认为AI或ChatGPT有责任打击有害的思想吗？让我举一个例子说明我的意思，就像如果你知道通过以最微小、最微小的方式将你的拇指放在秤上，你可能能够开创一个种族主义、反犹太主义和厌女症较少的世界。也许人们甚至会看不到它，因为你知道，他们不会知道，你知道，在某个时候，正如我们刚刚谈到的，这将是，你知道，我不知道这是马克还是其他人。我们所有信息的控制层。你对此有什么看法？**奥特曼**实际上，这是我最近作为校长一直在思考的一件事。像OpenAI一样根本没有采用这一点，但这只是一个想法，我认为理解了你所说的。假设我们发现了一些新事物，比如，如果你这样做，人们学得更好，如果ChatGPT总是用苏格拉底方法或其他方法做出回应，那么学生就会学得更好。但是让我们说用户偏好并不是为了得到苏格拉底式的信息。用户只是说，就像，我只是想回答我的问题。那么，我们应该如何决定在默认行为中做什么？我越来越多地思考的一个想法是，如果我们在修改规范时总是非常清晰呢？因此，你永远不会在算法背后隐藏我们的拇指，例如，我认为Twitter一直在做的各种奇怪的事情。就像我们总是会告诉你行为是什么，预期的行为是什么，如果我们做出改变，我们会解释为什么。但是如果我们确实发现了像你刚才说的或我刚才用作例子的东西，我们说，好的，当人们将其用于教育时，我们将使用一种苏格拉底方法，因为它似乎确实具有这种可衡量的效果。这就是我们这样做的原因。我们可以公开辩论。也许我们改变默认设置。如果你说服了我们，任何人都可以，当然，改变这一点和他们的用户偏好，因为AI就像你的工具，应该做你想做的事情。但我认为错误的是，如果我们改变了它，并且没有在规范中反映出来，也没有告诉人们我们正在改变它，你知道，我认为像Twitter算法的黑盒子一样，对我来说感觉不好。**巴里**你内心的氛围变化是什么？我们知道，硅谷内部正在发生一件事，文化中也正在发生一件事。你在过去几年中有什么变化？**奥特曼**我的意思是，有吨方法，但其中之一是我，你知道，我已经观察了大约1012年，因为我认为事情已经偏离了轨道。在某些方面，情况是好的，但我认为在我们如何看待增长和经济成功的重要性以及如何更广泛地关注国家和世界的正确事物方面，情况确实偏离了轨道。我认为它已经非常偏离轨道了。我想说氛围的转变是一种希望，当我们面对技术历史上最重要的时刻之一时，它可以帮助推动。我已经回到了我深深相信的东西，即增长是唯一的好前进方向。**巴里**你认为OpenAI的增长和AI的增长更普遍地是一种爱国义务吗？是的。**奥特曼**我实际上写了一些东西，就像有人刚才说的那样。十多年前，我写了一些关于增长如何的文章，就像我认为这是我的第一篇博客文章一样，关于增长如何成为民主运作良好的核心因素。我认为世界对此感到非常困惑，我很高兴看到它重新得到认可。**巴里**我将在闪电轮上使用我的30秒。山姆，闪电轮，无人机是什么？现在飞越新泽西的飞行物体是什么？**奥特曼**我不知道我对这个问题真的感兴趣，你知道吗？**巴里**你认为自埃隆·马斯克控制推特以来，推特变得更好还是更差了？更糟糕的是，你要生孩子了。你会让你的孩子有一个AI朋友吗？是的，你会在某个时候让他们出现在社交媒体上吗？你会让他们有屏幕时间吗？是的，你最喜欢的跑车是什么？你喜欢跑车。**奥特曼**有很多好的。我不能选择1。**巴里**你最喜欢的是什么？**奥特曼**我不能挑选一个最喜欢的，我是claen F1。**巴里**最喜欢的电影《黑暗骑士》你有什么正常的爱好吗？**奥特曼**我喜欢？和朋友共进晚餐，我去徒步旅行，我喜欢运动，我只是坐在朋友身边做一些愚蠢的事情。我不知道，是的，这感觉很正常。**巴里**你最近建了一个树屋？你为什么要这样做？**奥特曼**你为什么要这样做？这是感恩节，我们看了活动，就像成年人和孩子们一样，我们都认为每个人都在我们的牧场，我们想要一个我们都认为有趣的活动，而不仅仅是整天坐在那里喝酒，这很棒。**巴里**你会把Logan Paul给我吗？**奥特曼**不。**巴里**我们会在2025年进入第三次世界大战吗？**奥特曼**我希望不会**。****巴里**你的新年愿望是什么？**奥特曼**我知道你的新年愿望是什么。**巴里**山姆，非常感谢您来到《Honestly》节目---以上内容由【通义效率】生成。[https://tongyi.aliyun.com/efficiency/](https://tongyi.aliyun.com/efficiency/)① 快速多语种互译 ② 视频记录转文字 ③ 区分访谈发言人 ④ 要点快速提取总结 ⑤ 生成思维导图 ⑥ 笔记随心记