关于短信内容二分类,请指点一下

2019-04-22 13:25:52 +08:00
 apisces

刚进入实验室,老师布置了一个任务,就是对于一条中文短信内容,判断其是否属于广告类的短信。老师提示可以考虑使用朴素贝叶斯算法,分词可以用库,要求一周内完成。 由于原来没有接触过自然语言处理,对此有点不知如何下手,只知道分词,条件概率这些东西,看了网上一堆博客也有点懵,想请大家指点一下,这样一个分类器的处理流程应该是怎样的,分成一些什么步骤,万分感谢。

20312 次点击
所在节点    自然语言处理
4 条回复
TimePPT
2019-04-22 17:55:46 +08:00
市面上现成的产品有「熊猫吃短信」,作者就在 v2ex,有条件的可以查下相关介绍。
垃圾文本信息的朴素贝叶斯判断是个经典问题,流传最广的是《黑客与画家》作者 Paul Graham 的那篇《防止垃圾邮件的一种方法》
分类器流程这个网上一搜一大把,分词可以用 jieba 分词这种开源库,也可以用三方 API,各大厂的云服务都有这个。
垃圾短信训练样本 Github 上有人分享过,可以找了看下。如果只是判断是不是广告相对简单。
apisces
2019-04-23 09:55:24 +08:00
@TimePPT 谢谢回复,自己根据理论撸了一个朴素贝叶斯,准确率在 82-92 之间。
TimePPT
2019-04-23 10:06:01 +08:00
@apisces 一般模型效果质量评价的话看召回率、精度,F1 值吧,主要是还要看考虑模型过召回和欠召回的情况。也有很多相关文章可以查下。
shm7
2019-07-01 19:07:04 +08:00
天啊 sklearn 的 guide text 部分直接套的…

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/557485

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX