中国科商网
一叶“方舟”入“模”来:火山引擎发布MaaS平台 首创大模型安全互信计算
发布日期: 2023-06-28 20:27:42 来源: 每日经济新闻

围绕大模型的创业热潮方兴未艾,互联网大厂不想错过这一机遇。

在6月28日“V-Tech体验创新科技峰会”上,火山引擎发布了大模型服务平台“火山方舟”。


(相关资料图)

《每日经济新闻》记者了解到,火山方舟本质是个MaaS(Model-as-a-Service)平台。作为平台,“火山方舟”已经集合了百川智能、出门问问、复旦大学MOSS、IDEA研究院、澜舟科技、MiniMax、智谱AI等多家AI科技公司及科研院所的大模型。

火山方舟的多模型架构支持企业同步试用多个大模型,选用更适合自身业务需要的模型组合,并提供模型精调、评测、推理等多项服务。

作为MaaS平台,火山方舟的意义在于可以显著为企业降低训练大模型的资金门槛。火山引擎智能算法负责人吴迪认为,长期来看,模型的推理开销会超过训练开销,降低推理成本会是大模型应用落地的重要因素。“一个经过良好精调的中小规格模型,在特定工作上的表现可能不亚于通用的、巨大的基座模型,而推理成本可以降低到原来的十分之一。”吴迪说。

吴迪认为,企业可以用统一的工作流对接多家大模型,对于复杂需求可设置高级参数、验证集、测试集等功能,再通过自动化和人工评估直观对比模型精调效果,在不同业务场景里还可灵活切换不同的模型,实现最具性价比的模型组合。这些自定义指标和评估数据的积累,将成为企业在大模型时代宝贵的数据资产。

当天,火山方舟开放首批的邀测企业,分布在金融、汽车、消费等众多行业。

火山引擎总裁谭待表示,企业使用大模型的担心之一,是自身数据泄露。他认为,“火山方舟”的首要任务是,做好大模型使用者、提供者和云平台可以互相信任的安全保障。

对此,“火山方舟”上线了基于安全沙箱的大模型安全互信计算方案,利用计算隔离、存储隔离、网络隔离、流量审计等方式,实现了大模型安全互信计算,可确保企业客户数据资产安全。

目前,抖音集团内部已有十多个业务团队试用“火山方舟”,主要用于代码纠错等研发提效场景,文本分类、总结摘要等知识管理场景,以及数据标注、归因分析等方面。

大厂都不想错过大模型创业潮。6月19日下午,腾讯云宣布推出MaaS大模型服务,依靠腾讯云TI平台建造行业大模型精选商店,基于腾讯HCC高性能计算集群和大模型能力,为客户提供一站式大模型服务。

而在一天之前,亚马逊云科技也宣布联合28家投资及产业机构,共同推出“亚马逊云科技创业加速器”,首期将聚焦AI领域的初创企业,助其在生成式AI、企业服务软件、电商解决方案、智能汽车解决方案多个赛道找准业务场景,快速上线产品,并加速全球业务部署。

“产业场景是大模型最佳练兵场。”大模型带来的创业热浪已来。

关键词: