您当前的位置 :浙江在线 > 浙江新闻 > 浙江纵横 > 杭州 正文
阿里巴巴“绿网”昨日上线 人工智能识别违规信息
2015年10月27日 07:45:40来源: 浙江在线-钱江晚报 钱江晚报记者 陈雷

  浙江在线10月27日讯(钱江晚报记者 陈雷)鉴黄师,这是一个可以激发宅男们无穷想象的工作岗位。不过,钱报之前的报道已经揭示,这份工作虽然听上去“无限诱惑”,但是真面目一点也不激情——海量的色情图片看到想吐,删图删到手软的节奏,一点也不轻松。“鉴黄”这种专业性很强的工作,是不是必须依靠手工劳动,啥时候才能进化到人工智能时代呢?现在,改变来了。

  昨天中午,阿里巴巴宣布“绿网”正式上线。

  这款具备了俗名“黄图打分器”部件的产品到底是什么,是怎么运用大数据和科学道理来工作的,让钱报记者替你先一探究竟。接下去,说不定你也有参加体验的机会。

  人工智能识别违规信息

  黄图识别率99.9%

  昨天中午,网站管理员小王成为绿网的第一批用户,他管理的网站是一个大型知名生活服务类网站,活跃的注册用户达到数百万,BBS论坛里的新帖子更是一大早就开始在网页上一个个往上蹿了。

  打开随身的笔记本电脑,进入网站后台,他已经看到了阿里“绿网”标注的一批提醒网站管理员去人工审核的涉嫌违规信息,其中不少都是些垃圾账户发布的跟主题毫不相关的广告信息、涉黄涉赌涉毒等等。

  “用户太多,违规信息总是防不胜防啊。”小王欣喜地看着后台显示的需要审核的信息清单,告诉钱报记者,“这样太好了,会极大地解放管理员和斑竹(网络用语:版主)的精力和时间,相当于帮我们先看了一遍、审了一遍,还标上了高低不同的分数。”

  小王十指飞舞,熟练地在键盘和触摸板之间敲击着,很快就把需要审核的网络帖子信息处理完了。该删的,删了;他觉得能“放行”的,就予以通过。

  阿里巴巴安全部相关负责人告诉钱报记者,其实,小王没看到的一些违规更严重的信息,比如可以直接定义为色情图片的,“黄图打分器”已经干脆利落地拦截掉了。

  阿里绿网的技术开发人员颇有信心地表示:通过人工智能技术鉴别黄色图片,准确率高达99.9%以上。

  一批门户网站

  成为首批体验用户

  打个比方,发布黄赌毒违规信息的用户,就像是在网络上贴牛皮癣小广告的游击队,网站管理员们没法预防他们什么时候出来发布什么,只能追着他们删、删、删。

  不少门户网站是阿里绿网的首批体验用户。长期以来,这些大型网站的管理员们极为头痛的情况之一,就是突然被一些新注册用户,在各种帖子里插广告,发布各种违规信息,严重的还会殃及自己的版块或者整个网站被关停整顿,甚至被警方约谈。

  现在,有了能帮助用户减少审核成本、有效降低涉黄风险的阿里绿网,这一切要轻松多了。“阿里绿网依托于阿里巴巴的全生态体系,拥有海量的特征样本及丰富的数据模型分析经验,基于云计算平台,能对海量数据进行快速检测。”阿里绿网项目相关负责人孝肃表示, “阿里绿网是智能化检测的创新,从被动的帮用户处理违规信息转变为用户主动排查信息,培养了用户管理主动网站内容的习惯。”

  要说清楚的是,“阿里绿网”并不是一个网站,也不是一个让手机下载的APP,它是一个专注内容识别的安全产品。简单地说,这是一个相当于香烟的过滤嘴儿,是网络黄赌毒等违规信息的“过滤器”,是网站“站长”、“版主”、管理员们的得力助手。

  艺术和色情如何区别

  分数越高危险系数越高

  艺术和色情,对于普通人来说,有时候还真的不太好区分。阿里绿网在鉴定黄图方面是怎么来做的呢?“黄图打分器”这个俗名是最形象生动的解释了,给图片打分!从0到100分,打上再说,最后依然是靠“鉴黄师”人工审定。

  对不同内容、尺度的图片进行分值鉴定,分值越高,色情度越高。钱报记者获悉,大家一般能认定的色情图片分值会维持在80分以上,对于知名的油画、雕塑这些艺术作品,会做一定程度的区别对待。

  以断臂维纳斯为例,阿里绿网识别结果是38.27分,这就是一个正常的分数范围。“我们会在样本库里对这些艺术名画进行识别,防止艺术品被卷入色情类目。”相关负责人告诉钱报记者。

  阿里绿网首批面向的是阿里云用户,接下来还将扩大用户覆盖面。

标签:绿网责任编辑: 周舸
分享到:
版权和免责申明

凡注有"浙江在线"或电头为"浙江在线"的稿件,均为浙江在线独家版权所有,未经许可不得转载或镜像;授权转载必须注明来源为"浙江在线",并保留"浙江在线"的电头。

Copyright © 1999-2022 Zjol. All Rights Reserved 浙江在线版权所有