Google启动人工智能道德部门

作者:微生射甚

谷歌旗下的人工智能公司DeepMind宣布成立一个新研究小组,负责调查围绕人工智能发展及其对社会影响的伦理问题。 DeepMind道德与社会,也称为DMES,将于2018年初开始发表有关人工智能发展和该技术潜在影响的各种主题的研究论文。谷歌已为该小组配备了8名全职研究人员首先,包括六名未付的外部研究员,他们将与正在进行类似研究的其他机构的学术团体合作。 DMES最终将在明年内增加到大约25名全职员工。最初的合作伙伴关系将包括纽约大学的AI Now研究所和Leverhulme智能未来中心。与研究团队合作的首批研究员之一是牛津哲学家,人类未来研究所创始人尼克博斯特罗姆。新闻周刊将于12月6日至7日在纽约举行的资本市场会议上主持AI和数据科学。图片:新闻周刊媒体集团博斯特罗姆以其畅销书“超级智能:路径,危险,战略”而闻名,他认为人工智能有朝一日可以超越人类大脑的智能,可以取代人类成为主导的生命形式。在一篇宣布成立研究小组的博客文章中,DMES联合领导人Verity Harding和Sean Legassick写道,他们打算“探索和理解人工智能的现实影响。”他们强调了他们计划解决的一些话题。包括对执法部门依赖的软件和算法中发现的种族差异进行调查,这个问题可以加深已经在刑事司法系统中制造挑战的制度化偏见。该小组还打算探讨无人驾驶汽车的道德问题,例如控制车辆的自动化系统如何决定如何处理碰撞事故。如果无人驾驶汽车涉及碰撞,它可能必须做出选择来伤害人的生命,并且不清楚系统将如何做出这样的决定以及什么类型的信息将指导它。 “如果人工智能技术要为社会服务,那么它们必须受到社会的优先考虑和关注,”哈丁和莱加西克写道。 “这不是寻求封闭式解决方案,而是试图仔细审查并帮助设计对AI技术未来影响的集体响应。”由于公司致力于实施AI,DeepMind已经有了自己的道德窘境磨合在不同的环境中。去年,该公司处理了来自英国国民健康服务(NHS)的超过160万名患者的医疗数据,但未通知个人他们的数据被使用,该公司遭到了抨击。该子公司被发现违反了数据隐私法,但设法避免因其行为而受到罚款。相反,该小组同意实施更严格的检查,以确保其使用的数据不会侵犯任何人的隐私。....