喷子注意了,Google要用机器学习检测恶意评论
来源:互联网 发布:淘宝棉拖鞋全包 编辑:程序博客网 时间:2024/06/09 21:12
雷锋网消息,Google旗下的Jigsaw开发了一款AI工具Perspective,它使用机器学习检测网络上的骚扰和辱骂内容,可以帮助新闻机构和内容平台识别恶意评论。
Perspective软件可以确定网上评论的“毒性”,有毒程度则是通过挖掘数百万条评论,然后由10位评委进行打分而得到的。它会基于评论与被贴上“有毒”标签的评论的相似度,或评论迫使别人不再对话的可能性,进行打分。
Perspective的API现在在官网可以试用,感兴趣的朋友可以测试一下。
据称,纽约时报、卫报、经济学人和维基百科,正在测试这一新技术,Google和Jigsaw也希望其它新闻机构也能使用。它还可以减少人工审核。根据测试结果,川普的名言“Grab her by the pussy”毒性达到了92%(由于这句话涉及对女性的 严重歧视,就不翻译了)。
虽然评论可以提升用户参与度,但总拦不住有的人会因为匿名性而发表不当言论,这样看来Perspective还是很有用的。
只是由于人类语言的复杂性,它的评价不一定准确。上图是雷锋网(公众号:雷锋网)测试的一段中性文字,但结果是46%。或许是不太支持中文吧。
Jigsaw表示,技术将会向所有平台公开,未来还会继续增强,用来识别个人攻击评论和偏离主题的评论。
Jigsaw成立于2010年,还开发过能找到潜在ISIS恐怖分子的软件。雷锋网曾报道,它的前身是网络和政策智囊团Google Ideas,后变成了科技孵化器Jigsaw。它主要专注于使用技术“解决棘手的地缘政治挑战,包括打击暴力极端主义,遏制网络审查,从而减轻与数字攻击相关的威胁”。Jigsaw将投资这样的技术,它能帮助最需要的人群获取信息,并抵御最有挑战的安全威胁。
雷锋网版权文章,未经授权禁止转载。详情见转载须知。
- 喷子注意了,Google要用机器学习检测恶意评论
- Google要用机器学习检测恶意评论
- 机器学习之恶意软件分类和检测
- Google:机器学习检测垃圾邮件准确率已达99.9%
- 通过机器学习识别恶意url
- 机器学习注意
- 历史性的时刻,google出问题了,全是恶意网站
- 用机器学习检测异常点击流
- 小米的笔试题 注意看原帖子的评论
- Roller如何拒绝恶意评论
- 谷歌发布基于机器学习的Android APP安全检测系统:Google Play Protect
- 恶意URL检测
- Google为macOS量身打造的恶意软件检测系统“Santa”已开源
- 机器学习之异常检测
- 机器学习算法~异常检测
- Stanford机器学习---第十三讲. 异常检测---此讲综合应用了所有以往知识
- Google在ICLR 2017上展示了哪些机器学习领域的研究成果?
- google “恶意软件”警告出错
- windocs命令 0
- Google震惊密码界,攻破了网络加密的基石SHA-1算法
- 微软领投 无人机空域管理平台AirMap获2600万B轮融资
- 苹果新专利曝光:声波成像取代Touch ID
- 2016年净利润创新低,人工智能能否重新让百度站稳第一梯队?
- 喷子注意了,Google要用机器学习检测恶意评论
- 回文质数
- leetcode编程记录10 #2 Add Two Numbers
- maven下ssh整合需要的依赖
- maven下ssm整合需要的依赖
- 周鸿祎要为黑客正名:白帽子人才应得到保护
- 谷歌2017开发者大会开放注册,票价近8000元
- 深圳飞豹航天航空科技获“国家级高新技术企业”认定
- sdnu1279 .※N