让金融大模型超越“实习生”？不透隐私算出张三李四谁更有钱？上海数商出圈了

日前在贵阳开幕的2023中国国际大数据产业博览会上，透出“上海军团”的低调实力——贵州当地许多银行成熟的对公数字化转型解决方案，多来自“上海籍”数商手笔。
一年半前，上海数据交易所揭牌，首提“数商”概念。一年半后，上海数商花开四方，已在贵阳、深圳、北京等多家数交所频频挂牌数据产品，凭硬核实力出圈。
今年以来，以chatgpt为代表的大模型火速蹿红，各行各业都在推各自领域的专业大模型。作为上海数交所首批数商的星环科技，近期也推出了金融行业大模型“无涯”，以及数据查询和分析智能助手“求索”，旨在解决大模型在金融等特定领域只是一“实习生”的痛点。

星环科技创始人兼ceo孙元浩解释，造成“实习生”专业知识储备不足的客观原因，一在于训练大模型至少需半年至一年时间，而实时新闻资讯、市场行情等快速的变化信息难以内置到模型中。第二，无论通用还是行业大模型的输入均有字数限制，若将上市公司年报全部放入即可能超限，导致大模型“罢工”。
星环科技的解决方案是用一个向量（指具有大小和方向的量）数据库，承担中间存储的角色，将最新的、经常变化的信息放入向量数据库。当提问大模型时，先把问题转成高维向量，进行语义搜索，找到相关信息，再把它拼接成提示词发给大语言模型，由大模型生成答案。
当提问一个拥有70亿个参数的开源大模型时，通过“外挂”一个农业知识图谱后，大模型便不再“一本正经胡说八道”。孙元浩现场演示，当提问某粮食集团的玉米最新收储价时，大模型立刻回答3元，并指出该价格所形成的影响。同样，在金融量化领域，“无涯”可回答研报分析，能对个股、债券、基金等各类市场事件进行复盘和推演。“求索”大模型也是同理，数据工程师、数据科学及业务人员可以用自然语言按需查询数据，让每个人都能拥有“虚拟业务助手”。