亚马逊对人工智能初创公司Anthropic押下重注,投资高达80亿美元,并通过其云服务AWS积极推广Anthropic的AI技术。然而,这一合作近期却遭遇了波折,AWS因对Anthropic的AI功能实施限制而面临客户的不满。
据悉,AWS推出的一项名为Bedrock的关键服务旨在帮助客户基于Anthropic的AI模型构建应用,但客户反馈称该服务的API对Anthropic模型的使用量实施了不合理限制,且缺乏必要功能。消息人士及两家为AWS客户服务的咨询公司证实了这一说法。
AWS方面表示,此类使用限制在行业内并不罕见。然而,这一问题暴露出AWS要么在支持Anthropic的使用上服务器容量不足,要么是为某些大客户预留了过多资源。在AWS内部,高层领导最近将Bedrock的容量问题形容为一场“灾难性事故”。
由于Bedrock的问题,一些客户选择直接向Anthropic购买模型,这可能导致AWS失去潜在的大客户,尤其是那些未来可能成为云应用巨头的初创企业。值得注意的是,谷歌作为AWS的主要竞争对手,同样投资了Anthropic,并可能从AWS客户的转向中受益。
多位客户表示,他们现在通过Anthropic官网的自主API获取模型访问权限,而非使用Bedrock。据透露,Anthropic除了使用AWS服务器外,还借助谷歌的服务器支撑其API业务。这种同时调用两家云服务商的能力或许解释了Bedrock与Anthropic自有API之间的容量差距,也意味着谷歌可能正在夺取本应属于AWS的收入。
AWS发言人表示,已有“数万客户”通过Bedrock使用Anthropic模型,随着更多客户将生成式AI集成至其云端应用中,该服务正面临“前所未有的需求”。AWS在Bedrock中采用速率限制,以确保所有客户能“公平获取”热门AI模型资源,并在其云服务器业务中“保护技术安全与连续性”。
AWS高层近期对快速增长的初创公司Lovable可能弃用Bedrock表示担忧,因为AWS难以支撑该公司对Anthropic模型的使用需求。Lovable致力于帮助非工程师群体利用AI编写应用程序代码,其CEO安东·奥西卡证实,公司正在使用Anthropic的API。
作为Bedrock的替代方案,谷歌云提供的类似服务Vertex同样托管了Anthropic的模型,并吸引了超过4000名客户。自AWS一年半前推出Bedrock服务以来,容量短缺问题一直存在,且过去几个月使用该服务时遇到的错误信息频率和严重性有所增加。
尽管面临挑战,亚马逊在云计算领域仍占据主导地位。部分AWS客户表示,尽管Bedrock存在问题,他们并不打算将所有支出转向Anthropic的API,而是更信任AWS处理客户数据的安全能力。然而,AWS的领导层似乎已意识到这一问题的严重性,并在最近的管理层重组中将Bedrock业务划归其EC2云服务器业务负责人管辖。
为了绕过Bedrock API的访问限制,部分AWS客户通过创建多个账户并开发应用程序从这些账户的聚合容量中获取资源。亚马逊建议需要更多容量的客户使用Provisioned Throughput服务,但客户发现很难预测他们需要使用该服务的时间,而基于令牌的计费方式对他们来说更容易操作。
亚马逊在将Anthropic自身API客户已享有的某些功能引入Bedrock版本时也行动迟缓。例如,Anthropic去年12月推出的提示缓存功能直到本月早些时候才在Bedrock中提供。这导致一些公司,如为大学教授开发虚拟助教的Praxis AI,已转而使用Anthropic自己的API。
然而,并非所有Bedrock客户都遇到过容量问题。网络安全软件供应商Druva利用Bedrock接入Anthropic等公司的AI技术,开发了一款聊天机器人,并表示未遭遇任何限流情况。