欢迎来到太平洋安防网!
微信号
扫描上方二维码
加入网站订阅号
扫描上方二维码
加入商城公众号
手机站
扫描上方二维码
访问手机站
太平洋安防资讯
资讯
当前位置:安防首页 > 资讯 > 企业动态

内容安全首家!金山云金睛即日开放底层机器学习标签

2019-04-17 17:41:35来源:北国网已被 69 人阅读

内容摘要:利用AI进行内容审核,已成为当前短视频、直播等互联网平台内容风控的首选。AI重新定义了内容安全服务的生产力,在算法模型、服务方式上也在不断“进化”。为更好的契合内容方平台的审核策略,近日,国内领先的一站式AI内容服务平台金山云金睛在业内首度向内容方开放了其底层学习标签体系。
   利用AI进行内容审核,已成为当前短视频、直播等互联网平台内容风控的首选。AI重新定义了内容安全服务的生产力,在算法模型、服务方式上也在不断“进化”。为更好的契合内容方平台的审核策略,近日,国内领先的一站式AI内容服务平台金山云金睛在业内首度向内容方开放了其底层学习标签体系。

  “AI+?#26031;?rdquo;是当前主流的审核方式,AI提升了审核效率,人机协同策略提供了双重保障。随着平台规模不断扩大,违规内容越加复杂多元,如?#38382;?#29616;“效率+1”,就对人机协同提出了更高的要求。“金睛”开放底层机器学习标签,就是为了进一步将机器识别结果从涉黄、涉恐、敏感内容等宽泛标签,开放到?#34892;?#38706;?#22330;?#28041;旗涉徽、大型武器、特殊着装等更加细分的标签,实现了“机审”和“人审”的无缝衔接。

  “pass”或者“reject”是AI传递的一个果断的答案,但不一定是会被审核员完全采信的结论。要让信息接收方做出正确的选择,给出明确的判定理由就变得尤为重要,底层机器学习标签就是发挥了这样一个“阐释”的作用。“金睛”在对内容做出“拒绝”、“疑似”或者“通过”的判定基础上,会同步输出底层机器学习标签内容,让审核员清楚的知道AI为什么拒绝、通过,疑?#39057;?#21448;是什?#30784;?#20363;如,在“金睛”暴恐违规审核模型下,AI识别出极端组织场景,除了会输出“拒绝”指令,并会明确告知拒绝理由是因为内容中所涵盖了基地组织标志或者其他极端组织深度学习标签内容,为?#26031;?#22797;审提供信息判定支撑。目前,金山云深度学习标签涵盖涉黄、涉恐、涉政、违规违法、游戏场景、直播场景等十几个场景的几百大类的上千标签,后续将会逐步开放。

  此次,“金睛”开放底层机器学习标签,进一步优化平台服务,是产品团队多次深入到B站、映客等国内一线短视频、直播审核团队,充分调研的结果。公开机器学习标签一方面极大提升平台方?#26031;?#22797;审的效率,节约了运营成本,为客户根据自身的运营策略作出及时?#34892;?#30340;判断提供了便利。另外,根据机器输出的结论,可以定向的对于特定模型进行调优,实现一个良性循环。通过此举,不断增加“金睛”与审核员之间、“金睛”与开发者之间的人机协同性,让AI更好的参与到“互联网内容传播”这件“人”的活动中去。

参加太平洋安防网微信公众号活动即有机会获赠全年杂志、太平洋安防官网免费广告位。安防广告随你登,免费杂志任你领!
还等什么呢?微信扫描上方二维码关注吧!
免责声明:凡注明来源本网的所有作品,均为本网合法拥有版权或有权使用的作品,欢迎转载,注明出处。非本网作品均来自互联网,转载目的在于传递更多信息,并不代表本网赞同其观点和?#20113;?#30495;实性负责。
[责任编辑:wangmengbing]
0条 [查看全部]  相关评论

阅读推荐

不要对我撒谎|让“黑科技”识别隐藏的“真相?#20445;? height=

你身边的朋友是否?#38405;?#25746;过谎?

2018年,由全国安全防范报警系统标准化技术委员会(SAC/TC100)组织制定并经批准发布..

在万物智能的热潮下,智能门锁行业不断?#34892;?#30340;“玩家”入局,智能门锁作为家庭入口级..

?

客服专线:0755-83977321|市场招商热线:0755-83976188、83977188

广告
合作
:2250409004
网站
客服
:1351574492
新闻
投稿
:1197354471
技术
支持
:712700030

网站备案号:粤ICP备12031422号-1 经营许可证编号:粤B2-20090398 深圳互联网科?#21363;?#26032;企业

太平洋安防网版权所有 2006-2019 互联网违法和不良信息举报?#34892;?0755-83977321 [email protected]

北京赛车pk10计划追号