亚马逊云科技Bedrock:重塑大模型应用生态,加速生成式AI落地

   时间:2024-12-10 14:11 来源:天脉网作者:杨凌霄

在云计算与生成式AI领域,亚马逊云科技re:Invent全球大会再次成为万众瞩目的焦点。此次大会不仅展示了亚马逊云科技在云计算领域的持续强化,更围绕生成式AI推出了多项重磅更新与发布,引领行业风向。

亚马逊全球副总裁、亚马逊云科技大中华区总裁储瑞松在与媒体交流时,强调了生成式AI创新的关键不仅在于大模型本身,更在于支持客户应用创新的平台和工具链。他提到,亚马逊云科技正致力于改变大模型落地应用的游戏规则,以满足用户需求。

此前,亚马逊云科技已展示了其将数据与AI融合,通过升级Amazon SageMaker加强训练功能,构建一站式数据处理和机器学习平台的成果。而此次,Amazon Bedrock的推出成为另一个亮点,它是亚马逊云科技构建生成式AI竞争能力的关键,也是用户生成式AI推理的重要构建模块。

Amazon Bedrock为用户提供了多种选择,打开了通往大模型新世界的大门。亚马逊云科技内部已构建或正在构建近1000个生成式AI应用程序,这些应用程序使用了包括Anthropic的Claude、Llama、Mistral等多种模型,展现了模型多样性的重要性。亚马逊云科技正在通过Amazon Bedrock扩展客户访问的模型数量,包括来自最热门初创公司的最新模型。

Dr. Swami在大会上宣布,亚马逊云科技将成为首家提供Poolside的Malibu和Point模型访问权限的云服务提供商,这些模型在代码生成、测试、文档编制以及实时代码补全方面表现出色。Amazon Bedrock还将添加Stable Diffusion 3.5 Large这一领先的文本转图像模型,以及Luma AI的Luma Ray 2视频生成模型,为用户提供更多创新选择。

为了帮助客户充分释放生成式AI的潜力,Amazon Bedrock不仅提供了丰富的模型选择,还通过一系列优化功能降低成本、提升效率。例如,模型蒸馏功能可以将特定知识从大模型转移到小模型,速度提高高达500%,成本降低高达75%。同时,提示词缓存功能可以降低响应延迟和成本,智能提示词路由功能则可以根据成本和延迟的期望阈值,动态将请求路由到最合适的模型。

Amazon Bedrock还通过发布Amazon Bedrock Marketplace,让客户能够访问来自领先提供商的100多个新兴和专业基础模型,并将模型与Amazon Bedrock的统一API安全集成。Amazon Bedrock知识库的新功能支持自然语言检索和图像内容RAG功能,助力客户最大程度发挥数据价值。

在生成式AI的落地应用中,Amazon Bedrock展示了其强大的工程化能力和业务结合能力。在展厅的模型都市中,一列由Anthropic的Haiku模型驱动的高速列车和Sonnet模型调度的复杂交通网络令人印象深刻。而在电子自行车智能工厂演示区,Amazon Bedrock与Amazon SageMaker、Amazon Q for Business等技术结合,展示了从数据收集、质量诊断到业务分析的全过程。

亚马逊云科技大中华区产品总经理陈晓建表示,Amazon Bedrock的功能远不止于帮助客户访问业界最强的大模型,更重要的是提供工程化能力,将业务和生成式AI结合,为业务赋能。亚马逊云科技在大模型领域的竞争优势依旧明显,通过打破大模型的应用规则,正在加速生成式AI的落地应用步伐,真正释放AI的力量。

 
反对 0举报 0 收藏 0
 
更多>同类天脉资讯
全站最新
热门内容
媒体信息
新传播周刊
新传播,传播新经济之声!
网站首页  |  关于我们  |  联系方式  |  版权隐私  |  网站留言  |  RSS订阅  |  违规举报