凤凰科技讯 北京时间7月2日消息,据《华尔街日报》网络版消息,谷歌在人工智能方面一直处于领导地位,但本周其图片应用Google Photos的一处重大失误显示出,谷歌的人工智能技术还有很长的路要走。
 

黑人程序员艾尔萨尼表示Google Photos将他和朋友的照片标记为大猩猩
黑人程序员艾尔萨尼表示Google Photos将他和朋友的照片标记为大猩猩
 
据一位名叫杰克·艾尔萨尼(Jacky Alcine)的程序员在Twitter上透露,Google Photos将两位黑人标记成了“大猩猩”。
 
“Google Photos你完全搞错啦,我的朋友不是大猩猩”,他在Twitter上写道。
 
谷歌随后向艾尔萨尼表示了抱歉,并表示正调整算法以修复该漏洞。
 
“我们很震惊,对于此事我们表示由衷的道歉”,谷歌一位发言人表示。“很明显,对于图片自动标记功能我们还有很多工作要做,未来我们会努力阻止此类事件再次发生。”
 
谷歌数周前刚刚推出Google Photos。当用户在该应用搜索图片时,谷歌会利用机器学习技术将照片分类,从而实现自动为图片添加标签等功能。当谷歌移除大猩猩类别后,该类别将不会再出现。
 
“我们虽然完成了很多,但还有很多工作仍待完成,不管怎样我们都会非常努力的”,谷歌社交主管约纳坦·尊阁(Yonatan Zunge)在Twitter上回复艾尔萨尼时说道。谷歌正努力提高肤色识别功能,将会更加注意对照片中人物的标签,他补充说。
 
这段小插曲显示出了人工智能和机器学习的不足之处,尤其是这些技术被运用于消费者身上时。未来谷歌仍有可能发布存在潜在缺陷的软件,之后再更新修复。虽然这种模式可以更快地向消费者推出产品,但如果漏洞比较严重的话,可能会使招致用户不满。
 
谷歌今年年初推出了YouTube儿童版应用,意图通过自动过滤、用户反馈可人工排查的方式将成人内容排除在外。但该系统疏漏了一些不适当的内容在该儿童版应用上,引起了用户的抱怨。谷歌发言人当时声称,要实现“100%的精确度是几乎是不可能的”。
 
当推出Google Photos时,谷歌承认该应用并不完美。但“大猩猩”标签事件让谷歌算法系统的缺点暴露的更加明显。
 
“我们需要从根本上改变机器学习系统,为其加入更多语境以使其能够理解文化敏感性”,人工智能初创公司Sentient Technologies的首席科学家巴巴克·浩德杰特(Babak Hodjat)表示。
 
他表示,机器学习系统不明白黑猩猩和大猩猩的区别并没多大问题,但如果将人标记为大猩猩则会显得非常无礼。
 
谷歌的系统可能并没有“浏览”足够的大猩猩图片以使其明白人和大猩猩的区别——更不会明白这种错误对人类意味着什么,他说。
 
“人类对于文化方面的差异很敏感”,浩德杰特说。“机器做不到这一点,它们没法理解这种类型的语境”。
 
来源: 凤凰科技
 
2015-07-02