AIBetas消息,2023年9月5日,在2023 百度云智大会上,百度智能云宣布千帆大模型平台 2.0 全面升级发布。
据百度云官方介绍,千帆大模型平台 2.0 升级带来了多项改进:
在工具链方面,大模型开发、训练、部署、应用开发各个环节是紧密结合的。据介绍,千帆整套的工具链可以无缝衔接全生命周期的各个业务流程,最大化提升效率。以前,技术团队一个月才能调试、跑通看到大模型的效果,在千帆一站式工具链平台,当天就可以实现。
在算力效能方面,千帆底层是一套集合了异构算力集群、高速互联的网络、高性能存储,能够支撑万卡规模训练的 AI 算力基础设施,可将大模型训练、推理的成本降到最低。
在数据方面,千帆不仅纳管大模型,还可增强大模型的能力。本次全新升级中文增强,可大幅提升大模型中文理解和生成能力,例如 LIama2 的国外大模型,也可实现中文对话好的效果。同时还全面提升训练和推理性能,训练 LlaMA 2 的总体吞吐可以提升 1/4,推理甚至能提升 3 倍。
在企业级安全方面,通过千帆的安全机制,企业能够构建四层安全防线,全方位保障大模型的内容安全、数据安全和系统安全。对合规要求很高的客户,千帆支持国内、国外主流芯片和操作系统,也支持私有化部署,确保每个企业自己的大模型都自主可控。
同时,百度智能云推出了大模型重构四大行业解决方案和11款AI原生应用产品,并发布大模型生态伙伴系列计划,以大模型激发智能生产力,实现产业智能化跃迁。
截止目前,百度智能云千帆大模型平台上已经入驻了42个大模型,金山办公通过百度智能云千帆大模型平台接入了文心一言,快速推出了 “WPS AI”,这是中国协同办公赛道首个生成式AI应用!
百度网盘基于文心大模型全面升级、推出了“云一朵”智能助理。通过自然对话,“云一朵”就可以帮助用户快速搜索文件和视频、总结知识、翻译文档,甚至进行内容创作。截至目前累计使用人数已经超过600万
此前消息,8 月初,千帆大模型平台完成第一轮升级,全面接入了 LLaMA2 全系列、ChatGLM2 等 33 个大模型,成为国内拥有最多大模型的平台;同时,千帆大模型平台上线 103 个预置 Prompt 模板,覆盖对话、编程、电商十余个场景。
暂无评论内容