网易易盾朱浩齐：人工智能助力打造绿色直播间

直播平台的竞争，归根到底是优质内容的竞争，而保证健康、安全的内容则是保障平台的生命底线。日前，首届“移动视频生态发展论坛”在上海普陀举行，斗鱼、战旗、YY、爱奇艺、熊猫TV等国内知名直播平台共聚一堂，共同探讨了直播平台在内容时代的生存法则和行业新趋势。 

网易易盾CTO朱浩齐受邀参加此次论坛，在聊到直播行业的崛起和乱象时，作为一位在内容安全领域有着近十年经验的资深技术专家，朱浩齐对直播存在的不健康现象有着自己的看法，并分享了人工智能技术在直播内容审核方面的应用。  

据朱浩齐介绍，自2008年进入网易后，一直担任信息安全的工作，同黑客、黑彩、微彩、互联网异物的“斗争”中积累了丰富的经验。在他看来，要解决互联网内容安全以及直播的绿色化，或可以借鉴《孙子兵法》中的思想。 

 

始计篇 

•  存亡之道，不可不察也 
  

网信办公布的数据显示，截止到2016年10月，已经受理民间举报2388万件，其中淫秽色情、诈骗信息等举报量达到1479.4万件，占比达到61.9%。与此同时，《中华人民共和国网络安全法》和《互联网信息服务管理办法》等都对网络安全给出了指导性的意见。这可以追溯到《孙子兵法》中的始计篇，在法律法规上已经把网络内容安全上升到了战略层次。 

 

情报篇 

•  知彼知己，百战不殆 
  

朱浩齐介绍说，网络垃圾内容的制造者并不是单打独斗，而是形成了完整的灰色产业链。一方面拥有完整的技术研发团队，所开发的平台可以自动形成相关内容，并规避传统的关键词检测，并且研发了一些专用的电子设备；另一方面，代IP、包月、包年等等，垃圾信息的上游产业链已经非常完善，垃圾短信、UGC评论、骚扰电话等等，几乎渗透到了互联网的每一个角落。 

这就意味着两个问题，一是互联网内容反垃圾的技术手段要与时俱进，二则要投入足够的资金和团队做好“斗争”的准备。 

作战篇

• 日费千金，然后十万之师 
  

从1997年以邮箱起家到现在的人工智能阶段，网易在内容安全方面积累了一套完善的解决方案，涵盖了从业务要应用层的各个环节。朱浩齐介绍了网易将深度学习技术在内容方面的两大应用：  

其一，提高机器识别的准确率。传统基于算法的肤色、肢体、人脸等识别方式，大概能做到70%到80%的准确率，并不能区分内容是否违规。网易的技术团队通过深度学习技术，将图片拆分成像素再做组合，然后模仿人脑的思维方式把分层后的像素组合成真正的物体模型。得益于此，机器识别摆脱了靠模型和样本库识别的阶段，识别准确率可以达到99.8%。 

其二，自主研发的反作弊技术。在电商、金融等很多互联网领域，用户行为数据识别分析显得尤为重要，如何甄别真实用户还是“刷红包”的机器人等等。网易部门构建了一套完善的反作弊机制，在安全层面也完成了诸多创举，比如更智能的验证码，在保证用户体验的同时又保证了良好的效果。 

谋略篇 

• 上兵伐谋，其次伐交 
  

朱浩齐介绍说，对于很多企业来说，在信息安全领域投入过高并不理性，如何在低成本的情况下实现安全保障，成为互联网行业的一大需求。为此，行业内出现了一些第三方解决方案，网易也推出了网易易盾这一反垃圾云服务。 

 以直播行业最为常见的广告和鉴黄功能为例，网易易盾推出了专门做直播的解决方案，用户只需要把直播房间的URL提交，就可以自动进行检测。通过对直播画面的视频流实时检测+图片截帧检测进行判断分析，并将分析结果递交给用户处理。同时，对昵称、头像、弹幕等直播场景中的广告、色情、谩骂、灌水等同样可以实现智能识别处理。 

 同时朱浩齐表示，网易易盾还拥有成熟的大数据分析平台和庞大的特征资料库，以云服务的形式帮助客户减少在内容安全层面的人工成本，以“人工智能+人工审核”的形式实现对垃圾信息的反击。 

据了解，网易易盾在移动视频生态论坛上荣获“2016年互联网最具信赖产品奖”，目前客户涵盖直播、医疗、财经、社交产品等众多行业。在今年早些时候网易牵头成立了国内首个“互联网内容安全联盟，联合行业组织、互联网内容平台或提供商、及业界合作伙伴，为互联网企业提供方便、低成本的反垃圾解决方案，提升产品内容质量和用户体验、降低产品运营风险和成本，通过人工智能技术引领互联网内容产业安全、绿色、健康新风尚。