30
2018
03

今日头条“灵犬”反低俗助手:公开是为了更好地为社会服务

3月28日,今日头条正式发布了国内首款人工智能反低俗小程序“灵犬”,汇聚网民力量共同打击低俗。

“灵犬”可以帮助用户检测任意一段文字或链接,输出对应的分数、评级和结论,包括是否可以获得算法推荐,是否需要引入人工判断等。

为了帮助普通用户更熟悉“灵犬”,今日头条官方账号发布了一份问答。

Q1:今日头条为什么要推出“灵犬”反低俗助手?

A:“灵犬”反低俗助手,是基于今日头条反低俗算法模型开发的一款小程序,是今日头条人工智能技术识别低俗的展示窗口。推出这样一款工具,是我们继向全社会公开算法原理后,继续推动算法透明化的最新尝试。此前,“灵犬”等算法模型,更多应用于今日头条内部。我们公开,是因为意识到算法仍有缺陷,希望汇聚社会和网民力量,完善算法模型,更好地服务社会。

Q2:“灵犬”是用来做什么的?为什么叫“灵犬”?

A:“灵犬”的定位,是一款简便的低俗信息检测工具。对于你输入的文字或文章链接,“灵犬”会给出一个健康质量分数。至于为什么叫“灵犬”?一是因为,我们希望这个工具,能和狗的嗅觉一样灵敏,仔细分辨出低俗和不低俗的内容;二是因为,今年是中国狗年。

Q3:哪些人可以使用“灵犬”?怎么找到“灵犬”?

A:所有人都可以使用“灵犬”。目前在微信内搜索“灵犬反低俗助手”,就能找到、使用这款小程序。

Q4:可以用“灵犬”检测哪些内容?

A:灵犬目前支持文字、文章链接检测。暂时还不支持直接的图片、视频检测。

Q5:怎样使用“灵犬”?

A:进入“灵犬”页面,输入一段文字或文章,点击“检测”就可以了。就这么简单。

Q6:怎么分享“灵犬”给亲朋好友,邀请他们体验?

A:有两种方式:1、点击小程序顶部“…”按钮,再点击“转发”;2、在检测结果页,点击“分享给朋友”或“分享到朋友圈”。

Q7:“灵犬”是根据什么打分的?

A:对于用户输入的文字或链接内容,“灵犬”会进行提取、分词和语义识别,根据今日头条反低俗模型的算法规则,输出对应的分数、评级和结论。

Q8:为什么有时候,我觉得“灵犬”打的分数不太准?

A:受算法模型应用和小程序载体的限制,“灵犬”无法做到100%准确率,确实会出现打分不准的情况。在内测阶段,我们已经加入了一些人工策略作为补充,包括:对于权威媒体来源的内容,予以算法推荐倾斜;对于机器难以直接处理的时政内容,必须交由人工审核判断等。“灵犬”小程序内现设有“反馈有奖入口”,欢迎大家提供识别不准确的案例或任何改善意见建议,我们将送出小礼物聊表谢意。

Q9:今日头条实际是怎么开展反低俗工作的,和“灵犬”有区别吗?

A:如果把“灵犬”比作一条犬,整个的反低俗系统,就好比一个庞大的工作犬部队。“灵犬”比较简单,实际情况更加复杂。在实际内容审核方面,今日头条目前投入了约5000人专业审核团队,是国内最大的审核团队,并搭建色情、低俗、标题党、虚假信息、低质模型180多个,结合人工、技术手段,有效提升了内容审核的效率和准确度。除了“灵犬”,我们还计划逐步开放辟谣、标题党等更多算法模型。


« 上一篇 下一篇 »

发表评论:

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。