太平洋科技要闻

大模型落地，要追求极致的务实主义

钛媒体整合编辑：太平洋科技发布于：2024-10-28 14:34

“能够像人类一样操作电脑。”这一堪称革命性的新技能来自10月23日Anthropic最新推出的升级版Claude 3.5 Sonnet模型，据介绍该模型不仅各项性能指标上取得显著提升，并在多项测评中超过OpenAI的GPT-4o、谷歌的Gemini 1.5 Pro，以及自家的Claude 3 Opus。

目前，升级版Claude 3.5 Sonnet已经在Amazon Bedrock平台可用，与此同时，新模型Claude 3.5 Haiku发布，预计将于本月晚些时候在平台上推出。Anthropic的产品经理Michael Gerstenhaber曾表示，Anthropic正致力于每隔几个月大幅度改进性能、速度和成本之间的权衡曲线。此前，今年3月Claude 3系列发布、6月Claude 3.5 Sonnet发布时，都是在Amazon Bedrock上同步上线。这意味着当客户用上Amazon Bedrock服务时就已经拿到了最领先AI大模型的钥匙。

Amazon Bedrock已经成为过去十年中增长最快的亚马逊云科技服务之一。这也反映出亚马逊提供多种领先基础模型和广泛功能的策略正在引起客户的共鸣，目前数以万计的活跃客户正在使用Amazon Bedrock，包括Intuit、丰田和纽约证券交易所。

当越来越多的客户开始尝试生成式AI，这场市场竞速，就已经不单单是看谁能够最快构建最领先的大模型应用，而是谁能更好满足客户需要。

没有一个大模型可以一统天下

以往观点认为，生成式AI的竞赛是看谁能够最快构建最领先的大模型及应用。

能做到这一点，不但要有技术实力更要有持续烧钱的魄力。为此你能看到，很多跑得快的大模型企业基本都会搭上拥有强大算力的云计算大佬的“快车” ，为了“省钱”。

投行Jefferies分析师Brent Thill在一份报告中援引亚马逊云科技的数据显示，只有3%的企业只使用一个语言模型，34%的企业使用两个，41%的企业使用三个，22%的企业使用四个。

回头再来看，这与Amazon Bedrock亮相之初的市场预判基本吻合：没有一个模型可以适用于所有场景，企业需要各种模型来解决其在实际业务中遇到的问题。

2023年之后，Amazon Bedrock便持续接入Anthropic、Stability AI、AI21 Labs、Meta、Cohere、Mixtral等第三方主流AI厂商的四十几款领先基础大模型服务，并推出一系列配套功能，以便企业在实现简化开发的同时确保隐私性和安全性。

极致的技术务实主义

但并非所有企业都能快速跟上时代步伐，与客户的交流中，亚马逊云科技频繁发现一件事情：在寻找合适的大模型过程中投入的试错时间、资源等各方面成本颇高。

一位中国企业CIO表达了一个观点，就目前企业对生成式AI的尝试，还需要时间持续解决。他的建议是，一是低成本试错的能力，如果成本太高就等不到场景跑出来；二是长期系统性的思考能力，一定要把技术结合到业务流程和场景中。

亚马逊云科技大中华区产品总经理陈晓建近期就生成式AI价值化分享表示，企业应该将注意力集中在少数的几个能实现业务价值的Use Case（用例）上，而不是先花太多时间深入技术细节。

而Amazon Bedrock就是降低试错成本最好的“双向门”：在Bedrock上，模型和场景不匹配，就退出去，重选一个。

Amazon Bedrock已经成为客户使用基础模型构建和扩展生成式AI应用程序的最简单方法，降低了所有开发者的使用门槛。这种优势正在不同行业、不同场景上体现出来。

全球最大的对冲基金桥水基金（Bridgewater Associates）很早就开始涉足生成式AI应用。桥水基金长达50年的全球市场投资经验，使其深入理解了市场运作的核心驱动因素，并将这些知识编写成复杂的专家系统，通过每天接收并处理大量外部数据，生成市场观点。随着AI技术的日益成熟，桥水基金意识到，通过AI和机器学习可以进一步优化这一过程。

2023年，在联席首席投资官Greg Jensen的主导下，桥水基金构建了全新投资逻辑生成系统人工智能投资助手（AIA）。以前需要人工初步处理的问题可以交给AIA全面处理，然后再进行人工审查。整体来说，分析师可以更聚焦精力处理20%有难度的问题，剩下80%的基础问题交给AIA智能投资助手处理，节省了大量时间。

在构建AI投资助手的过程中，Amazon Bedrock成为了一个至关重要的工具。通过Amazon Bedrock中不同模型的分析特性，灵活调用，以适应从基础的推理任务到更高阶的市场分析等不同场景。今年7月，桥水基金做出了新的尝试，发行了一支完全由AI操盘的规模20亿美金的基金。

另一个案例是智能语音助手服务商Poly AI，主要服务各行各业的企业客服中心，包括旅游、住宿、零售、金融服务等，比如 Poly AI的AI语音客服可以解答账户管理问题、安排交货、零售比价等。

Poly AI的AI语音客服可以模仿人工客服人员，有助于减少用户等待时间并提高用户满意度和保留率，并针对不同企业客户的行业属性和场景需求进行个性化定制。这种定制不仅体现在语音助手的内容上，更深入到语调、语速等细节，根据目标群体的特性调整交流方式、专业表述的程度、热情程度、关切程度等，比如在针对老年群体或教育的场景会调整语气、语调、语速、音色，确保客户体验的最佳化。

Poly AI还在基于Amazon SageMaker平台进行大规模语音克隆和合成算法的训练。这个过程中，Poly AI为企业构建的解决方案可以将企业品牌个性融入其中，更有识别度，使语音助手不仅仅是一个工具。

今年8月，Poly AI宣布与亚马逊云科技达成战略合作协议，增强了Poly AI在大模型和生成式AI上的应用深度。

初创公司NinjaTech AI是一家智能体（Agent）系统开发商。该公司面临的现实挑战之一是算力问题。由于英伟达H100的高成本和短缺，NinjaTech AI选择了亚马逊云科技自研的两款AI芯片——Trainium和Inferentia。经过双方努力和协作，NinjaTech AI目前基于亚马逊自研芯片成功训练AI模型，并构建AI智能体。与传统GPU解决方案相比，NinjaTech在使用Trainium和Inferentia时，成本节约达82%-89%。这一显著的成本优势使得他们能够以更具竞争力的价格为客户提供高效、经济实惠的AI服务。

除了芯片，NinjaTech还利用Amazon SageMaker进行生成式AI模型的微调和优化。在复杂的AI模型训练中，NinjaTech需要处理不同的上下文、内存管理、数据存储等挑战，而SageMaker的按需服务模式，使其能够快速进行实验、训练，并在不浪费资源的前提下高效部署AI应用。

作为一款生产力工具，Goodnotes通过生成式AI应用提高用户在电子文档处理和学习过程中的体验。基于Amazon Bedrock，Goodnotes将生成式AI服务无缝集成进现有产品，包括手写笔记识别、自然语言与笔记互动、文档分析助手等功能。为了确保用户数据隐私及教育合规，Goodnotes利用Guardrails功能确保安全性与合规性，防止用户恶意使用AI生成有害内容

不难看出，每家企业构建生成式AI应用推动业务创新，对于模型或工具平台的选择，往往会从可靠性、经济性、准确性等维度入手。与此同时，大模型仍在快速升级，不断进行算法优化、参数扩增。而通过Amazon Bedrock，让各种技能水平的开发人员和各种规模的组织都有机会使用生成式AI进行创新，新的浪潮正加速到来。

本文来源：钛媒体

大模型生成式AI Amazon Bedrock

钛媒体

原创栏目