腾讯科技
整合编辑：赵凯松
发布于：2025-02-01 00:15
|
近日，Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）在达沃斯峰会期间接受了《华尔街日报》的独家专访，深入探讨了这家和OpenAI比肩的AI公司对人工智能发展的思考。  和其它AI公司不同，Anthropic主打企业级市场。其旗舰产品Claude是一个与ChatGPT竞争的大语言模型，以安全性和高效性著称。Anthropic团队包括多位OpenAI前核心成员，并获得谷歌等顶级机构支持，是AI领域的重要竞争者。 达里奥·阿莫代伊是AI领域的知名研究者和企业家，曾在OpenAI担任研究副总裁，领导了GPT-3等大规模语言模型的开发。2021年，他创立了Anthropic，专注于开发安全、可靠且对人类有益的AI系统，尤其是解决AI对齐问题（确保AI目标与人类价值观一致），他也是“缩放定律”的主要提出者之一。 在访谈中，达里奥·阿莫代伊透露，Claude的许多新功能即将上线，包括网络访问、语音交互以及记忆等功能。他同时还宣布，将会在近期发布下一代模型。 在"虚拟协作者"（Agent）方面，Anthropic期待在今年上半年有重大突破，这种智能助手将能够像人类同事一样处理复杂任务序列，实现真正的长期协作。 特别值得关注的是他对AI发展速度的判断。他认为，基于"缩放定律"，未来2-3年内AI可能在几乎所有任务上超越人类。 在6个月前，他对此还是持怀疑态度，但近3个月内，他认为这是极有可能发生的。他提出了短期和长期的分析框架：短期内，人类可以通过发挥比较优势与AI形成互补；但到2027年左右，AI可能全面超越人类能力，届时将面临重新组织经济体系的挑战。 划重点 在未来两到三年内，AI将逐渐在几乎所有任务上超越人类。 能力强大的智能体系统可能会在半年内出现。 Anthropic的收入在2024年增长了约10倍，增长到10亿美元量级。 它们正与亚马逊合作，计划在2026年部署可能上百万颗Tranium 2芯片。 Anthropic将在“不久的将来”发布更强大的模型。 Claude上线浏览网页、语音交互以及记忆等功能。 以下为达里奥·阿莫代伊专访精华版： 提问：我用Claude构建了一个达沃斯助手，它帮我管理日程、记录笔记，功能非常强大。不过，它也有一些不足之处，我想借此机会提出一些产品问题。我会列出一系列我希望Claude改进的功能，你可以告诉我这些功能是否会实现，或者大概的时间表吗？首先是网络访问功能。 达里奥·阿莫代伊：我们正在开发这个功能，很快就会推出。Anthropic的业务主要是面向企业，因此企业需求通常会被优先考虑。网络访问功能更多是针对消费者，但我们已经研发了一段时间。我们已经有一些独特的想法，与其他模型提供商的做法不同。虽然无法给出具体时间，但这个功能很快就会上线。 提问：然后是语音交互模式方面。达里奥·阿莫代伊：语音模式最终会实现。目前，Claude可以转录语音并朗读内容，但双向语音交互功能还需要一些时间。我要再次强调下，由于企业用户和深度用户对语音模式的需求较少，所以我们会逐步推进这一功能。提问：图像生成功能呢？ 达里奥·阿莫代伊：图像或视频生成与生成式AI的其他功能有所不同。人类可以摄取音频、照片和视频信息，但无法创造图像（除了画家）。图像生成在安全和隐私方面存在独特的问题，且企业用户对此需求较少。因此，我们目前不打算优先开发这一功能。如果消费者需求增加，我们可能会与专门从事图像生成的公司合作。 提问：我们都很关心提高使用限制的问题，这个会解决吗？ 达里奥·阿莫代伊：我们正在努力解决这个问题。过去一年，尤其是最近三个月，需求的激增超出了我们的计算资源供应能力。大规模采购计算资源需要时间。我们的收入在2024年增长了约10倍，我不能说明确的数字，但从大约1亿美元量级增长到10亿美元量级，且增长势头未减。我们正在尽快提升效率，并与亚马逊合作，计划在2026年部署数十万颗Tranium 2芯片，甚至可能超过100万颗。我们正在全力推进这些芯片的上线，并优化推理效率，但这需要时间。 提问：最后是记忆功能，就是让Claude不仅能记住单个项目中的内容，还能跨项目记忆。 达里奥·阿莫代伊：这确实非常重要，也是我们“虚拟协作者”（Virtual Collaborators）愿景的一部分。想象一下，当你与同事交流时，他们需要记住之前的对话内容。因此，这一功能对企业用户和消费者都至关重要，我们很快就会推出。 提问：你提到Anthropic主要面向企业用户，但作为消费者，Claude的“性格”非常吸引人，这也是我经常选择Claude而非其他大语言模型的原因。你们是如何设计这种“性格”的？ 达里奥·阿莫代伊：Claude的“性格”对企业用户和消费者都很重要。例如，我们为Intercom等公司提供客户服务解决方案，模型的交互方式对用户体验至关重要。即使是编码应用，模型的“性格”也很重要。斯坦福医学院最近的一项研究发现，医生更倾向于采纳Claude的建议，这可能与它的交互方式有关。无论是面向企业还是消费者，我们都投入了大量精力，确保与Claude的交互是一种良好且真实的体验。我们希望通过长期使用，用户不仅能提高工作效率，还能从中学习并成长。这与社交媒体的体验不同，社交媒体的即时反馈可能让人上瘾，但长期来看可能对用户产生负面影响。我们希望人工智能不会重蹈覆辙，Claude的“性格”设计正是为了避免这种情况。 提问：关于模型更新，OpenAI已经推出了新的推理模型（如o1、o3），你们的计划是什么？ 达里奥·阿莫代伊：我们很快会发布一些非常强大的模型，但我不能具体透露名称。关于推理模型，我们的看法稍有不同。现在大家讨论的推理模型和测试时计算等，似乎认为这些是完全不同的东西，但我们并不这么认为。我们更倾向于把它看作是一个连续的谱系，这些模型能够思考、反思自己的思维，并最终给出结果。如果你已经使用过Sonnet 3.5，你会发现它已经在某种程度上做到了这一点。我认为我们即将看到的变化是，我们会看到强化学习的更大规模应用。当模型通过强化学习训练时，它开始更多地进行思考和反思。所以，推理或测试时计算并非全新的方法，它们更像是训练模型时的一种涌现属性。我认为，这将引导我们进入一个更加连续、流畅结合推理和模型其他功能的状态。正如你所说，我们一直致力于确保使用模型的体验流畅，让用户能够充分利用它。我相信你会看到，推理模型也会有类似的趋势，我们的模型可能会做一些与其他推理模型不同的事情。 提问：你能给出具体的更新日期吗？ 达里奥·阿莫代伊：我不会在这次活动中给出任何日期。但会比6个月短。 问：现在有很多关于人工智能发展速度的讨论。比如，最近有报道称OpenAI已经开发出博士级别的AI智能体，人工智能的发展真的这么快吗？ 达里奥·阿莫代伊：是的，人工智能的发展速度确实非常快。以我自己的经历为例，从2017年、2018年开始，刚进入这个领域几年的时候，我和Anthropic的联合创始人首次提出了“缩放定律”（scaling laws），即随着计算资源的增加，模型在所有任务上的表现都会提升。当时，我的观点是，基于这些趋势，我猜测我们会很快看到比几乎所有人类都更强大的模型，几乎在所有领域都能超过人类。我曾预期这一突破可能会出现在2025年左右。但我总是说，我不能确定，也许我们会犯错。尤其是作为一家公司CEO，不能轻易说“这一定会发生”，那样听起来像是过度宣传。 直到大约三到六个月前，我对这种进展还是充满不确定的，但现在这种不确定性已经大大减少。我现在认为，在未来两到三年，我们将看到模型在工作场所和消费者生活中得到广泛应用，虽然它们最初只是作为人类的辅助工具，但它们会逐渐在几乎所有领域超过我们。 这种进步带来的积极影响将是巨大的，但我们也必须警惕潜在的负面后果。我确实认为，技术进展的速度确实比人们想象的还要快，但人工智能行业有责任以严肃的态度对待这些进展。有些公司（未提具体名字）喜欢在社交媒体上散布一些模糊的传言，比如“我们正在做一些惊人的事情”，这种行为其实很危险，因为它会让外界觉得这些讨论不够严肃。 问：你提到“虚拟协作者”，而其他人则称之为“智能体”。能否谈谈你们在这方面取得的进展？ 达里奥·阿莫代伊：首先，我想澄清一下，智能体这个词在我们的领域里经常被使用，但它并没有明确的定义。类似的术语还有“通用人工智能”（AGI）、“超级智能”（ASI）和“推理”（reasoning）等。关于“虚拟协作者”，我们的目标是让人工智能成为用户的长期合作伙伴，而不仅仅是一个工具。我们设想的未来是这样的：你可能会有一个工作助手或个人助手，这个助手可以在计算机屏幕上完成任何人类可以做的事情，你可以与它对话，给它任务。比如你告诉它，你要实现某个产品特性，这个助手可能会负责写代码、测试代码、将代码部署到测试环境，与同事沟通、撰写设计文档、编辑Google Docs、发送Slack消息和电子邮件等。就像人类一样，这个模型会处理很多事务，然后定期向你汇报进展。你可以把它看作是一个长时间段内，代替你处理事务的虚拟合作伙伴，和你保持定期的联系。 问：那么，今年我们能看到哪些具体的进展？ 达里奥·阿莫代伊：虽然我不会给出具体的时间表，但我们可以期待在“虚拟协作者”方向上有更多突破。我认为今年内（也许是在今年上半年），我们很可能会看到这些能力上线。 问：智能体将如何影响人类的工作？你刚才提到很多工作将由人工智能来完成。 达里奥·阿莫代伊：我通常会将这个问题分为短期和长期来看。在短期内，我们已经多次见证了技术对劳动力的颠覆。虽然我们没有完美的解决方案，但历史表明，工人可以通过适应性和利用比较优势来应对这种变化。比较优势非常强大：即使机器完成了你90%的工作，剩下的10%也会被高度放大。你会把所有时间都花在这10%上，做得比以前多10倍，因为另外90%的工作已经被机器高效处理了。从产品设计的角度来看，我们可以思考如何让人工智能与人类互补，而不是替代人类。经济学家Erik Brynjolfsson的一项研究发现，企业在部署人工智能时，默认模式往往是替代人类工作，但如果他们更仔细地思考部署方式，通常会找到让人工智能与人类互补的方法。这种互补模式往往能带来更大的生产力提升。当然，市场力量非常强大。如果互补模式在市场上无法与替代模式竞争，整个行业将面临困境。但我们认为，可能存在一种既能提升人类福祉，又能在市场上胜出的创新路径。 在长期，我强烈认为，人工智能系统将在几乎所有任务上超越人类——不仅是大多数人类，甚至可能是所有人类。这个时间最早可能在2027年左右。即使是机器人技术，随着人工智能系统的进步，我们也能制造出更好的机器人。当这一天到来时，我们需要在像达沃斯这样的场合讨论如何重新组织经济，以及人类如何找到意义。 我们过去基于“人类是地球上最智能物种”这一假设建立的许多观念，都将被人工智能的发展颠覆。唯一的好消息是，我们将共同面对这一挑战。我真正担心的是，如果只有30%的人类劳动被人工智能完全自动化，而另外70%没有，这将引发严重的社会冲突。但如果所有人都处于同一境地，我们虽然面临困难，但至少可以坐下来共同解决问题。作为人工智能公司，我们有责任为迎接这样的未来做好准备，并找到应对之策。 文章来源：腾讯科技 |
原创栏目
IT百科
网友评论
聚超值•精选
腾讯科技
硬件编年史
