(资料图片仅供参考)
7月7日下午,天壤创始人、CEO薛贵荣接受了《每日经济新闻》记者的专访。在2023世界人工智能大会上,该公司发布了一种大模型产品生态——“天壤小白”。其中包含最高1860亿参数的通用大语言模型、语义搜索引擎和开发平台。
目前,国内已是“百模混战”,天壤推出的大模型生态有何别致之处呢?薛贵荣首先向记者介绍了大模型存在的四大挑战,即大模型产生真假难辨的“幻觉”,所谓“一本正经的胡说八道”;政企私有数据的保密性要求,不能对外公开;缺少可靠的企业级中文大模型;大模型存在封闭性,无法自动更新信息。
关于天壤如何解决大模型“一本正经的胡说八道”,薛贵荣表示:“用‘提示词’去控制大模型,大模型还是会胡说八道。后来,有人尝试输入一些简单的上下文,以及对大模型进行fine-tune,但这个也不够。我们为了解决‘幻觉’问题,做了一个语义搜索引擎。先把需要的所有文档,放到语义引擎里面,比如法律书、知识库或者企业内部各种数据。该引擎使用了一个核心技术,即embedding。”
薛贵荣进一步解释:“生成式模型,最大的特点就是结果的不确定性。”那么,如何提高生成式模型的准确性呢?
薛贵荣认为:“现在给你100个字,你的答案就在这100个字里面总结。”那么是否为了提高准确性,限定生成(内容)的范围?薛贵荣回答称:“你只能用这里面的内容,做一次理解上的修饰。”
据其介绍,上述限制是放在推理端。简而言之,就是训练好大模型,为了得出一个精确值,在推理端限定一个范围。
薛贵荣介绍称,目前公司主要有三个团队,一个专门训练大模型;第二个是Fine-tune,做行业专用模型;第三个是做应用提示。
对于天壤小白大模型通过什么算力训练的?薛贵荣表示:“我们(基础)大模型的算力是租的,比如租用苏州超算(的算力),上海像商汤(的算力)我们也租。它们(商汤)有1万多张A100。另外,我们家里也有大概300张卡,以3090为主。”
关键词:
相关内容
- 大模型结果“真假难辨”如何解决?对话天壤创始人、CEO薛贵荣:用这个技术丨WAIC 2023 a>
- 一手出口,一手新能源!车市“半年考”交卷,自主品牌又是大赢家! a>
- 商丘市人民检察院开展“扫黄打非”专项宣传活动 a>
- 德深手提音响批发_德深输入法 a>
- “凉茶争夺战”烽烟再起!加多宝:立即上诉 广药集团回应→ a>
- 根号3等于多少怎么算_根号3等于多少怎么算 a>
- 官宣!北京:无人驾驶的出租车将正式上路 a>
- 国际清算银行:全球 24 家央行将在 2030 年前实现数字货币流通 a>
- NATIONAL ELEC H(00213)7月10日斥资约1.94万港元回购2.4万股 a>
- 盐海崛起·产业集群①|五百年造就“膏盐盛都” a>
- 2023年养老金上调最新方案公布!辽宁省人社厅养老金怎么调整,哪些人多涨钱 a>
- 美少女成长计划嫁给魔界王子(美少女成长计划攻略魔嫁) a>
- 【共同缔造安全江夏59】创意海报:有安全才会有效益 a>
- 西湖龙井审评几分钟 a>
- 一周趣评:电动执行器市场规模逐年递增;中国零部件产业强势崛起 a>
- 原神:回归古玩世界任务指南 a>
- 盈康生命控股子公司1.74亿项目环评获原则同意 a>
- 意大利、克罗地亚、斯洛文尼亚举行三方会谈 聚焦移民问题 a>
- 端午节快乐句子简短经典3篇 a>
- 三个常用的云渲染平台渲染价格对比,究竟哪家便宜呢? a>