财新传媒
位置:博客 > 达沃斯博客 > 科技公司为何都忙于解决“视频暴力”问题

11
2017

科技公司为何都忙于解决“视频暴力”问题

从新加坡到芬兰,各个科技公司都在努力改进人工智能,他们希望软件算法就能够在“病毒式传播”开始之前,自动识别并阻止骇人听闻的暴力视频(谋杀和混乱等等)。

然而到目前为止,还没有任何一个公司声称能完全解决这一问题。

本周,一名泰国男子在Facebook上视频直播谋杀自己11个月大的女儿。Facebook的视频直播平台已被牵扯进一系列暴力犯罪事件。这一系列暴力事件引发了全社会对于Facebook的质疑:平台的暴力警告系统是如何工作的?公司如何能够更快地标记出暴力内容?

业内人士表示,有十几个科技公司正在努力解决这一问题。YouTube直播服务同样面临暴力问题,而Facebook也正在努力开发自己的解决方案。

大多数人都把精力放在了“深度学习”上:一种使用计算机神经网络的人工智能技术。位于巴黎的图像和视频分析公司Sightengine的创始人David Lissmyr表示,“深度学习”技术是在模仿神经元在大脑中工作和交互的方式,而这一思路可以追溯回20世纪50年代。

另外一家纽约的视频分析公司,Clarifai的创始人兼首席执行官Matt Zeiler表示,让电脑使用深层人造神经元进行机器学习,确实是在过去几年里才真正发展起来的。

Zeiler表示,近年来运算力和数据已经发展到了一定的程度,能够让这些“深度学习”系统进行学习,从而能够让“机器学习”系统的准确性和有效性呈指数级飞跃。


图像识别的“深度学习” 

“深度学习”系统在最开始的时候,需要让图像穿过计算机的神经层,然后再学习识别视频中的街道标志、语音内容或暴力场景。

新加坡Graymatics公司的首席执行官Abhijit Shanbhag说,暴力行为可能还包括了黑客行为和见血事件。如果“深度学习”系统的工程师找不到合适机器学习的场景图片,他们会在办公室里自己进行拍摄。

Zeiler表示,Clarifai自家的算法还可以用于识别视频中的“暴力前兆”——例如刀或枪。

但这一算法也有诸多局限。

其中一个局限性在于,这个深度学习软件只能在遇到和训练时一致的例子时,才可能表现良好。当有人视频直播从建筑物中吊起一个孩子时,软件的固定编程可能就限制了它的识别能力。

“人们在暴力行为上有了更多的创新,识别系统也需要接受更多的培训,”Shanbhag说道。他的公司正在帮助亚洲和其他地区的几家社交媒体公司进行视频和图像内容的过滤。

另一个局限性在于,暴力可能是“主观”的。 法国PicPurify的研发部门主管 Junle Wang表示,就算一个场景的切换速度很快,但只要涉及到血液,就很容易被算法所识别。用此公司仍在努力开发新的算法,以识别不涉及血液或武器的暴力场面。

Junle Wang的同事,PicPurify公司的首席执行官Yann Mareschal说,心理上的暴力行为也是很难被发现的。

Graymatics的Shanbhag表示,还有一些内容是“冒犯性”的,但又不具备内在的暴力——例如,ISIS组织的标志。 这些内容可能需要根据用户的个人设定进行调整。


不能单靠机器,人力还是必不可少的 

位于芬兰的Valika公司,主业是在媒体和广告中识别不良内容。它的创始人兼首席执行官Mika Rautiainen表示,虽然机器学习、算法和自动化可能会对视频暴力问题有所帮助,但人力仍然需要参与进来,协助验证已被标记为具有冒犯性或危险性内容的真实性。

事实上,识别的解决方案涉及了图像以外的其他线索。PicPurify的Wang先生表示,公司还可以运用算法来监控观众的反应(视频转发量的急剧增加),这一点也能够作为视频暴力的识别指标。

业务横跨俄美两国的Kuznech公司的首席执行官Michael Pogrebnyak表示,他在产品中增加了色情图像识别算法(算法的核心在于皮肤检测和相机运动检测),还增加了能够检测成人影视工作室标志和警告标识的算法。

Facebook表示,他们也正在使用类似的技术来识别暴露、暴力或其他不符政策的内容。媒体曾向Facebook询问这一技术是否已被用于泰国杀子事件和最近一系列视频暴力?但是Facebook方面并没有作出回应。

一些公司表示,科技公司采用“暴力识别系统”的速度比预想的要慢,其中有部分原因在于识别系统的应用会增加公司的运营费用。 但他们也表示,这一问题将会有所改变。Valossa公司的Rautiainen说,需要对用户内容进行管理的公司,可能会面临日益增长的监管压力。

Rautiainen还表示:“即使没有日益增长的监管力度,假如科技公司无法提供适当的内容管理,也会对公司品牌带来越来越多的负面影响。

原文刊载于世界经济论坛,转载请标明来源并附上原文链接

作者:
Jeremy Wagstaff, 汤森路透亚洲,首席科技通讯员。
以上内容仅代表作者个人观点。
本文由世界经济论坛与Reuters联合发布,转载请注明来源并附上原文链接
翻译:达沃斯博客翻译小组·陈达铿。
责编:刘博睿
世界经济论坛·达沃斯博客是一个独立且中立的平台,旨在集合各方观点讨论全球、区域及行业性重要话题。

推荐 0

总访问量:博主简介

达沃斯博客 达沃斯博客

本博客为世界经济论坛中文博客在财新网的镜像博客。这里是一个独立且中立的平台,旨在集合各方人士观点讨论全球、区域及行业性重要话题。

最新评论