大模型商业化开荒 微软走到哪里了( 二 )


“我们推荐客户通过engineering和embedding的方式去做匹配,效果要比微调要好一些,比如万科,它并没有做特别多的微调,它也是通过engineering以及embedding的方式,将物业管理中的一些分类工作交给Azure OpenAI,像门禁、下水道以及安保等问题,这些原来是人工来做的,可能大部分情况是对的,现在用AI分拣,试了一下,效果有一点点差距 。AI没有取代人,但是极大辅助了团队,这是我们看到的一个案例 。”李冕补充道 。
值得说明的是,engineering,即“提示工程”,是指由于大模型可能生成不准确或不当的文本,通过优化输入提示,引导大模型生成更加准确、可靠、符合预期的输出内容,进而实现各种应用场景的实际使用优化;而embedding则是指事先把预先设定好专有领域的问题和答案生成词向量,存入向量数据库,每次对话时先去向量数据库搜索问题和答案,再交给大模型对问题和答案进行整理,最终再输出给用户,这种方式又被称为“检索增强” 。
“只有像那种以前做过机器学习,打过标签,也失败过,知道微调中会碰到很多坑的客户,我们才会鼓励它们去做微调,但是一些传统的行业就很难,因为他们都不知道里面的坑有多深,一碰到问题就非常frustrated(沮丧懊恼) 。因为人是有期望值的,领导说能不能调好,你说能,结果调了一个礼拜,花了大量的人力物力去组织、拿数据、打标签,效果还是不行,一个月之后领导就把它砍掉了 。”李冕对21世纪经济报道采访人员表示 。




推荐阅读