全球知名IT市场研究咨询公司IDC近期发布了《中国生成式AI应用开发平台市场洞察报告》,该报告聚焦于企业统一AI开发平台的初期形态,并定义了包含模型开发平台和应用开发平台两大部分的大模型平台。
模型开发平台专注于提供模型训练与调优工具,使开发者能够基于基础模型进行自主开发;应用开发平台则支持低代码、无代码开发,帮助开发人员专注于应用层面的创新。报告不仅深入分析了市场上主流的大模型平台厂商,还为企业用户提供了选择平台时的关键技术指标。
在此次评估中,百度智能云脱颖而出,荣获七项满分,位居榜首。紧随其后的是亚马逊云AWS和阿里云,二者并列第二。
IDC指出,大模型平台为应用程序开发开辟了新路径,企业在选择平台时,应着重考察厂商在模型层和数据层的能力。模型层能力的关键在于模型如何更好地适应企业的实际应用场景,而数据层能力则聚焦于如何通过RAG(检索增强生成)技术确保生成内容的准确性,消除幻觉现象。
百度智能云凭借深厚的技术积累,在大模型平台领域展现出强大实力。其千帆大模型平台为企业提供从模型开发、模型服务到应用开发的全流程服务。文心大模型日均调用量超过15亿次,千帆平台已助力客户精调3.3万个模型,开发出77万个企业应用。
模型精调是推动大模型与行业深度融合的关键。由于不同行业具有独特的专业知识、逻辑和数据特点,通用大模型往往难以完全满足特定需求。模型精调通过将行业知识和数据特征融入大模型,显著提升了应用的准确性和可靠性。目前,行业主流大模型服务商均通过平台提供模型精调服务,助力企业快速构建AI应用。
百度智能云千帆平台提供了完整的工具链,是业界首个支持DPO、KTO等先进模型训练方法的平台。平台提供高质量通用语料数据和即用的模型精调模板,无论是自行准备数据、进行精调,还是快速复制行业最佳实践,都能得到高效支持。目前,千帆平台上超过一半的调用量来自精调后的模型。
以医疗行业为例,杭州全诊医学利用千帆平台和文心大模型打造了AI医疗助理应用,覆盖导诊、预诊、诊间、入院、手术、随访等全阶段,极大提升了医生的工作效率和病历质量。通过20万份精标病历数据对大模型进行精调,AI医疗助理的医学用语更加准确、规范,病历生成准确度提升45%,医生接诊量提高20%,为患者带来更多福祉。
RAG技术已成为企业解决大模型幻觉问题的有效手段。生成式AI正成为企业布局和投资的热点,但通用大语言模型在实际应用中常出现幻觉问题或回答不准确,难以满足企业需求。RAG技术通过将生成式AI与企业内部数据库、知识库相结合,使生成内容更加准确、合理。IDC发布的另一份报告显示,41%的高管认为构建RAG架构至关重要,81%的IT领导者认为基于业务数据的生成式AI模型能为企业带来显著竞争优势。
在评估市场上主要厂商时,百度智能云的向量数据库VectorDB在核心性能、功能全面性、大模型支持、战略与生态合作、工程化落地五个关键领域保持领先,综合排名并列第一。VectorDB已在超过500家客户中落地使用,支持多种常用算法和主流LLM、RAG框架,以及百度智能云千帆和开源Embedding模型,为企业提供一站式部署落地服务。