您当前的位置: 首页 > 体育

谷歌照片应用误将黑人照片标记为大猩猩

2018-11-27 17:11:13

谷歌照片应用误将黑人照片标记为大猩猩

谷歌在人工智能与机器学习方面一直都是处于领跑者的地位,但是从本周谷歌的照片 App 出现的重大失误来看,这家公司的电脑还有很多东西需要学习。

一位名为 Jacky Alcin 的页开发人员发现了 Google Photo 应用当中出现的失误,该应用将两名黑人的照片标记为「大猩猩」,Jacky 将显示该错误的截图发到了推特上。

「Google Photo 简直丧心病狂!我的朋友们不是大猩猩!」Jacky 在推特上愤怒地写道。

谷歌公司的一位发言人表示:「我们对这个结果感到非常震惊,同时感到十分的抱歉。我们的自动图片标注系统还有很多需要改进的地方,我们正在着手解决该问题,防止未来再次发生此类错误。」

这种为图片标记大猩猩的功能出现在谷歌公司前不久发布的 Google Photo 应用搜索功能当中。当用户开始在 Google Photo 中搜索时,谷歌将在搜索结果中的照片上显示由机器学习得出的分类标签。目前谷歌公司已经移除了大猩猩的分类,所以当你再次搜索照片时将不会出现建议分类的标签结果。

「虽然我们在这方面已经做了很多工作,但是还有更多的工作需要去完成。我们是非常关注这项工作的改进的。」谷歌社交产品的首席架构师 Yonatan Zunger 在推特上对于愤怒的 Jacky 予以回应。Yonatan 表示谷歌正在人类肤色识别方面加以改进,今后也将更加小心谨慎地为照片中出现的人像进行标记。

这一事件显示出了人工智能与机器学习的缺陷,尤其是当这些技术被投入到用户使用过程当中时。谷歌一贯的做法就是发布尚未完善的新应用,当中可能仍然存在缺陷,在发布之后该公司将通过应用升级来修补这些问题。这种做法能够让产品快速地出现在用户面前,然而如果其中漏洞太大,风险也会随之上升。

谷歌在今年早些时候曾经发布了一款 YouTube Kids 的应用,其功能为结合自动过滤、用户反馈以及用户点评三种途径,排除那些包含成人内容不适合儿童观看的视频。然而该系统中仍然错误地放行了一些不恰当的内容,该举引发了诸多投诉。谷歌的一位发言人当时就此事表示「不可能存在 100% 准确的应用」。

因此,当谷歌发布照片应用的时候,对于该款应用并非完美是心知肚明的。但是「大猩猩」标签事件突显了该系统中存在的缺陷。

「我们还需要利用更多的内容训练机器学习系统,使其从根本上改变,这样它就能够理解文化敏感性对于人类来说是多么重要。」一位人工智能创业公司的首席科学家 Babak Hodjat 发表了自己的看法。

Hodjat 介绍说如果机器学习系统弄不明白黑猩猩与大猩猩的差别,这种错误是可以原谅的,但是如果把人类图片标记为大猩猩,这种行为无异于人身攻击。

Hodjat 认为谷歌的机器学习系统可能接触到的大猩猩图片并不够多,以至于它无法从中学习到大猩猩与人类的面部差异,因此它也不会理解把人类标记为大猩猩是一个多么显着的错误。

「人类是非常敏感的,他们能够通过联系上下文感知到文化上的重大差异。」Hodjat 进一步说明:「机器不能识别文化差异,它们不能通过联系上下文来帮助自己理解内容。」

如果谷歌能够提供给自己的机器学习系统更多的大猩猩图片,这将能够帮助它改进识别结果。但是在进行此类图像识别标记的时候,机器学习系统在设置当中应该十分的小心谨慎。然而现在大多数系统设置都会尽力猜测图片内容并且给出一个标签,即使结果并不是 100% 的准确。

谷歌表示现在已经有更多的照片上传到了 Google Photos 当中,并且有更多人在使用当中去纠正错误的标签,因此 Google Photos 的算法将能够更好地对照片进行分类。谷歌表示他们之所以先行发布该应用,就是为了能够让人们上传更多的照片以使得其得到改进。

谷歌在其语音搜索功能中也采取了类似的改进方法,一开始在语音搜索服务中存在着很多语言识别的错误,但是随着越来越多的人使用该服务,谷歌的机器将能够更好地理解人们所说的内容。

文章来源:THE WALL STREET JOURNAL,TECH2IPO/创见 陈铮编译。

延伸阅读:

揭秘百度谷歌识别伪原创的算法

谷歌地图添加美国铁路十字路口的信息 避免事故频发

苹果、谷歌、微软做系统的三种模式

调戏苹果?谷歌街景征服OS X代号所在地El Capitan

打击 色情报复 谷歌搜索将屏蔽似传裸照

钢格板厂家
齿轮减速机
风百叶
推荐阅读
图文聚焦