当前位置:首页 > 焦点 > 搜索增强剑指大模型落地

搜索增强剑指大模型落地

来源:千龙网    时间:2023-12-22 10:44    阅读量:12538   

昨天,百川智能宣布开放基于搜索增强的Baichuan2-Turbo系列API,在支持192K超长上下文窗口的基础上还增加了搜索增强知识库的能力。

搜索增强剑指大模型落地

尽管大模型是划时代的技术突破,但现阶段并不完美,幻觉、时效性差、缺乏专业领域知识等问题,是其落地千行百业必须要面对的挑战。百川智能CEO王小川说,搜索增强是大模型落地应用的关键,能够有效解决幻觉、时效性差、专业领域知识不足等阻碍大模型应用的核心问题。

王小川介绍,一方面,搜索增强技术能有效提升模型性能,并且使大模型能外挂硬盘,实现既能获得互联网实时信息,又能接入企业完整知识库;另一方面,搜索增强技术还能让大模型精准理解用户意图,在互联网和专业知识库海量的文档中找到与使用者意图最相关的知识,然后将足够多的知识加载到上下文窗口,借助长窗口模型对搜索结果做进一步的总结和提炼,帮助模型生成最优结果,从而实现各技术模块之间的联动,形成一个更为强大的能力网络。

昨天,百川智能宣布开放基于搜索增强的Baichuan2-Turbo系列API,在支持192K超长上下文窗口的基础上还增加了搜索增强知识库的能力。

尽管大模型是划时代的技术突破,但现阶段并不完美,幻觉、时效性差、缺乏专业领域知识等问题,是其落地千行百业必须要面对的挑战。百川智能CEO王小川说,搜索增强是大模型落地应用的关键,能够有效解决幻觉、时效性差、专业领域知识不足等阻碍大模型应用的核心问题。

王小川介绍,一方面,搜索增强技术能有效提升模型性能,并且使大模型能外挂硬盘,实现既能获得互联网实时信息,又能接入企业完整知识库;另一方面,搜索增强技术还能让大模型精准理解用户意图,在互联网和专业知识库海量的文档中找到与使用者意图最相关的知识,然后将足够多的知识加载到上下文窗口,借助长窗口模型对搜索结果做进一步的总结和提炼,帮助模型生成最优结果,从而实现各技术模块之间的联动,形成一个更为强大的能力网络。

声明:本网转发此文章,旨在为读者提供更多信息资讯,所涉内容不构成投资、消费建议。文章事实如有疑问,请与有关方核实,文章观点非本网观点,仅供读者参考。