谷歌推出人工智能工具筛查恶意言论

谷歌推出了一款人工智能工具，可以识别网上的辱骂评论，帮助出版商回应要求它们遏止仇恨言论的日益增大的压力。

名为Perspective的这款免费谷歌软件，正得到一系列新闻机构的测试，包括《纽约时报》（New York Times）、《卫报》（Guardian）、《经济学人》（The Economist），作为帮助简化人工审核其文章下面的评论的一种方式。

“新闻机构希望鼓励与其内容相关的参与和讨论，但发现要筛查数以百万计的评论，甄别其中的恶意挑衅或辱骂言论需要耗费大量财力、人力以及时间，”研发这款工具的谷歌科技孵化器Jigsaw总裁贾里德•科恩（Jared Cohen）表示。

“其结果是，很多网站彻底关闭了评论功能。但他们告诉我们这不是他们想要的解决办法。”

目前，该软件供谷歌“数字新闻行动”（Digital News Initiative）涵盖的一系列出版商使用，包括英国广播公司（BBC）、英国《金融时报》（Financial Times）、《回声报》（Les Echos）和《新闻报》（La Stampa），同时在理论上可供YouTube、Twitter和Facebook等第三方社交媒体平台使用。

“从小开发者到互联网上的最大平台，我们对与各方合作持开放态度。我们都有共享利益，并受益于健康的网上讨论，”Jigsaw的产品经理CJ•亚当斯（CJ Adams）表示。

“黑天鹅时代”让传统媒体重拾斗志在纸媒广告持续低迷的今天，英国退欧和特朗普上台等震撼性新闻事件，却为大西洋两岸的传统媒体再次注入活力。

Perspective帮助更快地甄别辱骂评论，以便人工审核。该算法经过了数十万条在维基百科（Wikipedia）和《纽约时报》等网站上被人工审核者贴上“有毒”标签的用户评论的训练。

它的工作原理是基于在线评论与被贴上“有毒”标签的评论的相似度，或这些评论使别人离开对话的可能性，对其进行打分。

“我们都很熟悉网上评论与日俱增的毒性，”科恩表示，“人们因为这一点而离开对话，我们希望赋予出版商力量，能够重新赢回这些人。”