上个月,谷歌推出了一个更新版本的照片应用程序,它能够自动标记照片和生成基于对象标识的相册,包括“食物”和“风景”。
不幸的是,对象数据库不仅包括野生动物而且将它们与人类混为一谈。特备是周一的时候,当一个非洲裔美国人在谷歌上看了他的照片收集时,发现了一个自动生成的相册,在这个相册里,他和他的黑人女性朋友贴上了“大猩猩”的标签。
计算机程序员Jacky Alcine 作为受影响的用户,在Twitter上证明了谷歌图片的错误:将一张两人在一起的照片被放在一个单独的、贴有错误标签的相册里。并提出疑问:“究竟是什么样的样本图像数据导致了这个问题?”
在一个半小时之内,Alcine收到了谷歌首席社会建筑师YonatanZunger的官方回应。官方的回答很直接:“Google+CA不是你如何确定别人的目标市场,这是100%不行的。“Zunger要求深入了解Alcine的账户并承诺当晚会推出修复措施。
周二,Zunger通过Twitter证实,“大猩猩”的标签已经从应用程序的数据库中删除,但当应用程序不承认人类脸孔时他们仍然有工作要做。他断然证实,“很多仍然需要要做”的面部识别。特别是被评估为“皮肤黝黑的面孔”。他甚至说,应用程序曾经有一个重大的错误,那就是所有的人都被自动标记成了狗。
谈话过程包括来自Zunger的大量的抱歉和来自Alcine的感谢声明。当被要求评论该事件时,谷歌发言人向Ars提供了声明:“我们很震惊,对这种事情的发生感到很抱歉。我们正在积极采取行动来防止这种结果的出现。显然,对于自动图像标注,我们仍有很多工作要做,我们正在为防止未来发生该种错误行为而努力。”
Alcine关于这个事件的看法,我们已经向他提出了一些问题。如果我们得到的响应,我们将更新这个报告。
农夫与蛇,东郭先生与狼,郝健与老太太。