人工净化网络“心有余力不足” AI扛起清道夫的扫把

2017-08-24 08:46:00 来源: 科技日报 作者: 王延斌

  人工净化网络“心有余力不足”

  AI扛起清道夫的扫把

  近日,多款在线学习类APP被曝光产品内暗藏大量“黄段子”,“学霸君”“小猿搜题”等热门在线学习软件均牵涉其中。针对这一问题,全国“扫黄打非”办公室已协调相关部门进行深入调查,并且会同宣传、网信、工信、公安、文化、工商、新闻出版广电等部门,在全国范围内开展互联网低俗色情信息专项整治行动。

  近两年来,直播平台、资源共享下载平台、各类APP,以及各种图片、视频社交网站迅速发展,但是鱼龙混杂、良莠不齐,面对互联网上充斥的不健康信息,我们该怎么办?

  涉黄与净化上演猫鼠游戏 人工审核“力不从心”

  相信很多人还对“快播被禁”事件记忆犹新。2014年4月中旬快播科技对外宣布,快播会关闭qvod服务器,停止基于快播技术的视频点播和下载,清理低俗内容与涉盗版内容。

  在此之后,国家监管政策密集颁布,一个个涉黄平台被关停。国家对淫秽色情信息的严厉监管,也使得网络行业催生了一个新工种——被网友调侃为“宅男福利职业”的人工鉴黄师。

  之所以被看作“福利”,是因为他们不但需要涉猎大量黄色图片、文字、视频等,而且还能挣高额工资。很多人还记得,4年前,某互联网公司曾用20万高薪招聘“首席淫秽色情鉴定官”。

  但是,看似“风光”的背后是心理和生理的双重压力。据科技日报记者了解,一个鉴黄师平均一天要看2万张图,同时需要“白加黑、五加二”不间断工作。“图普科技”运营总监、“AI鉴黄师”姜泽荣就吐槽:“说当‘鉴黄师’是件美差的人,都不了解这个职业。”

  对众多平台而言,聘请鉴黄师需要巨额投入。阿里安全专家王金廷向科技日报记者表示,一个100人的审核团队,一年花费要在840万元左右。但是即使在年薪20万的诱惑下,每个平台也只有几十或者上百个人的监管队伍。当直播高峰期来临时,成千上万的主播在线,让监管队伍“力不从心”。

  AI“清道夫”培训上岗 用三把尺子鉴定影像

  在这样的前提下,引入“AI鉴黄师”解放一大部分审核师就显得意义非凡。利用机器替代人工进行基础的审核工作,对于以视频和图片为主的网络平台而言,成为了一种刚需。

  王金廷指出,使用“AI鉴黄师”可以减少90%以上人工成本;可实现精准审核过滤,甚至可达到99%以上的准确率;相对于人工鉴黄3小时轮班轮岗的效率,AI可以24小时不间断审核,并且“无工伤、无工资”。

  但是“AI鉴黄师”在上岗前还需要通过工程师的“训练”才能开始工作。首先人们会给AI输入海量数据,对它们进行标签化训练,告诉它,ABC这样的情况属于色情,DEF这样的情况属于非色情;然后AI会通过学习,提取ABCDEF的特征来判断G是不是色情。

  当然,不同的“AI鉴黄师”工作的技术路线也不尽相同,但“套路”是一致的,一般会通过3方面对实时视频影像进行分析鉴定:是否有人物,如有,色情概率增加;人形轮廓的肤色比例,如果比较大,色情概率增加;姿态分析,如有性行为姿势,则色情概率增加。

  在网络净化的道路上,国内多家IT巨头早已开始布局。阿里的绿网、腾讯的万象优图等纷纷下水,创业公司也积极参与净化业务,“八仙过海,各显神通”。

  王金廷是负责“阿里绿网”的产品专家。据介绍,基于深度学习技术及阿里巴巴多年的海量数据支撑,“阿里绿网”可提供图片、视频、文字等多媒体的内容风险智能识别服务,在节省90%以上人力成本的同时,该应用支持秒级返回结果,达到99%以上的准确率。

  腾讯优图DeepEye智能鉴黄技术,可对目标图片进行系统识别,准确率高达99.9%。它不仅可以用于静态图片的审核,还可以应用到动态的直播业务中,透过对直播流抽帧鉴定处理,让违规“色情主播”秒进“小黑屋”。

  机器发力还需人工辅助 AI独立审核任重道远

  无疑,人工智能介入内容识别是伟大的进步。但上述机器审核都不能独立进行,还需要人工辅助。

  在采访中,关于人工智能何时能独立扛起审核大旗的疑问,科技日报记者从众多专家那里得到的比较一致的看法是,“在现有技术条件下,要实现AI完全替代人工尚需时日”。

  人工智能如此发达,为何还替代不了人?王金廷向记者列举了人工智能审核时的3个瓶颈。“首先AI需要适应不同行业不同用户的审核标准,这中间的差异性会非常大,对于人工智能算法的挑战也很大;其次,针对新出现的变异风险,算法需要有强大的自我学习能力,这也是目前需要解决的问题;最后,要真正实现无人化,人工智能需要达到在没有人的参与下训练。”

  此外,现阶段,人工智能还远未模拟出用户的真实体验,涉黄与否,很难作出准确的“人的判断”。以Google为例,有超过一万名员工充当着搜索结果评估者的角色。这或许也说明了人工智能“上位”还需加把劲。究其原因,机器检测到含有敏感词汇的文字内容,会将其删除或向用户发出警告。但对于图片、视频的审核,机器无法像对文字内容一样提取关键词,审核难度较大。

  “人工智能虽然取得了很大进步,但远未到彻底替代人的时候。”王金廷认为,随着技术的进步,人工智能也许会彻底解放人类。不过到了那一天,人工鉴黄师恐怕就要失业了。记者 王延斌

初审编辑:

责任编辑:王云峰

推荐阅读
  • 北京与雄安新区将开展全方位合作 一核两翼"同城"提速

    北京与雄安新区将开展全方位合作-一核两翼同城提速.jpg

    设立河北雄安新区,是以习近平同志为核心的党中央深入推进京津冀协同发展作出的一项重大决策部署。京雄铁路即原京霸铁路改线,起自北京大兴李营,经廊坊至雄安东站,正线全长100.6公里,力争2019年与新机场同步建成运营。[详细]

    08-23 22-08人民网
  • 上得了天下得了海 详解中国首次航天员海上救生训练

    此次训练中,原本“上九天揽月”的航天员们,在风浪中大显身手,从出舱入水、攀爬登艇到直升机悬吊,演练了整套海上救生流程。黄伟芬说,过去在水池和水库里进行过航天员自主出舱、水上生存的训练,而直升机悬吊营救等训练则是在陆地上开展。[详细]

    08-24 08-08科技日报
  • 励志!用英语送外卖的小哥被大学录取了!

    lizhi1.png

    今年3月,一条英文外卖短信曾在网络上被热传。这条短信背后,是一个年轻人的励志追梦故事。如今,这位曾经辍学的外卖小哥已经被四川外国语大学成人自考本科录取,即将重新走进校园。[详细]

    08-23 08-08新华社
  • 男子学"战狼"喝完啤酒喝白酒昏迷 专家析因

    药学专家提醒,不仅是部分药物会有双硫仑作用,含有酒精的食品和药物在遇到具有双硫仑作用的药物时,也可能引发双硫仑反应。如果服用了具有双硫仑作用的药物,服药期间和停药后5天内,都应禁止使用含乙醇的饮品或药品。[详细]

    08-23 08-08广州日报
  • 俄外交部证实俄驻苏丹大使去世:在其寓所内离世

    据俄罗斯卫星网报道,俄罗斯外交部证实,俄驻苏丹大使米尔加亚斯?希林斯基23日去世。俄外交部公布消息前,有媒体援引苏丹外交部消息报道称,俄驻苏丹大使被发现在其位于喀土穆的住所离世。[详细]

    08-24 08-08中国新闻网
  • 裴勇俊妻子怀二胎 2016年10月产下大儿子

    人民网8月23日讯据韩国媒体报道,裴勇俊朴秀珍夫妇在两周结婚纪念日之际迎来第二个爱情结晶,引起热议。据相关人士透露,朴秀珍日前处于怀孕初期,生活中要非常小心谨慎。[详细]

    08-24 08-08东北新闻网
相关新闻