审核员将机器识别出来的可疑信息,进行人工筛选
明明卖的是品牌T恤,买家评价却是“好抽、正品”;一张“飞天壁画”能卖出2000多元的高价……在网络平台上,不少人利用“暗语”来买卖白酒、香烟等禁、限售商品,试图绕过平台监管。
不过,这些“暗语”能骗过机器,却很难骗过经过培训的内容审核员,而在信阳光山县,就有这样一群审核员。
河南商报记者陈薇文/图
他们专门识别网络“暗语”
32岁的孔珍珍是光山县十里镇杨湾村人,她在当地县城找了一份闲鱼内容审核员的工作。她每天的工作就是坐在电脑前,审核系统推送而来的商品信息有无异常内容。“比如‘飞天壁画,支持面交’这样的‘暗语’。”孔珍珍说,出于食品安全卫生考虑,闲鱼禁止买卖酒水食品,但有些用户还是会借暗语来交易“飞天茅台”。
不仅飞天茅台被“伪装”成壁画,万宝路香烟也可能被伪装成“名牌衣服”;说是卖美瞳眼镜盒,可能是在销售原本需要医疗器械许可证的美瞳或是隐形眼镜……这些用户试图通过“暗语”绕过平台的监管,销售一些禁、限售商品。
闲鱼平台治理高级风险策略专家华茜说,社区内容管控,一直以来都是各大平台的难题,“暗语”的出现,给人工智能带来很大的挑战,所以需要人工审核做补充。
他选择回乡工作,成为内容安全“守门人”
具体来说,孔珍珍的工作就是将机器识别出来的可疑信息,进行人工筛选。平台会对他们进行前期培训,告诉他们“暗语”的识别方式,而审核过程中,他们遇到拿不准的问题,可以直接在系统上获得帮助。
同为闲鱼内容审核员的尹天元也是河南光山人,今年32岁。他曾在广州、上海等地从事建筑监理工作,后来回到家乡,从事内容审核员的工作。而如今,他已是平台治理领域的“专家”,成为闲鱼内容安全“守门人”中的一个。
过去一年,闲鱼凭借在河南省光山县设立的社会治理扶贫基地,在当地招聘了约300名内容审核员,他们的工作推进了商品内容审核的细致程度。根据闲鱼最新发布的《网络生态治理专项行动公告(九)》,11月4日~10日7天内,拦截有害信息数万条,冻结账号6000余个。
这在光山是份“很白领”的工作
对光山当地居民来说,内容审核员的工作还是一份“很白领”的工作。
据扶贫基地负责人胡煌介绍,内容审核员的工作重点分配给周边乡村普通学历、贫困户及留守妇女群体,通过这份工作,他们平均可以获得每月4000元的收入,一些能力强的员工甚至能挣到七八千元,这个收入水平在月均工资2500元的光山还是非常有吸引力的。
孔珍珍成为内容审核员前,是一名全职妈妈。今年5月,她丈夫双腿粉碎性骨折,家中还有一大一小两个孩子,于是养家糊口重任落在她肩上。对她来说,内容审核员最大的优点是让她获得比较灵活的上下班时间:“下午4点就能下班,赚钱和照顾老公、孩子都不耽误。”
今年29岁身患侏儒症的朱永成,内容审核员的工作做得也很出色。学临床医学的他找工作屡屡碰壁,在这份工作中找到了尊严:这是一份对身高没有要求的工作。
去过光山多次的华茜说,与此前在大城市招聘这个岗位相比,光山的内容审核员团队更为稳定,而这对平台来说也是好事:“一个经验丰富的内容审核员,工作效率和准确率都会更高。”他预计,未来一年内闲鱼将新增300%内容审核力量,这也意味着可以提供更多的内容审核员等数字化扶贫岗位。
[责任编辑: ]