LLM应用开发与落地:基于上下文的文本信息检测与提取最近一直用LLM解决各种各样的问题,感觉已经脱离不了LLM了。每次使用LLM解决一个之前解决不了的问题,或者大...

贴文 4周前
820 0

LLM应用开发与落地:基于上下文的文本信息检测与提取

最近一直用LLM解决各种各样的问题,感觉已经脱离不了LLM了。每次使用LLM解决一个之前解决不了的问题,或者大大提升我的工作效率的时候,我内心都小小会激动一下。我想这是只通过看文章或只是研究AI理论感受不到的小确幸。我也因此更加确信LLM是一个技术变革,它会带来了一些技术范式的改变,非常期待它的进一步发展。

分享一个最近在实际业务中使用LLM解决传统技术解决不了的小问题(或者说之前解决门槛和成本非常高),以及整个过程的感受。

需求

最近业务上有一个需要文本检测和信息提取的功能,就是要从聊天上下文中获取用户意图和信息。比如用户聊天内容的意图是什么,以及提取聊天内容中出现的用户当前位置和年龄信息等等。

传统技术方案

团队中的一个同学尝试用规则去实现。他的思路是用分词算法去分词,然后按关键字去匹配,再分割出认为是对应信息的字符串。这种方法一看就不灵,因为没有上下文,很容易误判或者检测不出来。

比如下边的聊天内容:

用户:我在深圳上班的时候才24岁。

这句话中既没有用户的当前位置信息,也没有当前的年龄信息,但是如果你用关键字“我在”和“岁”去匹配,可能会匹配出位置“深圳”和年龄“24”,但这并不是用户当前的位置和年龄信息,属于误判 网页链接

暂无评论

暂无评论...