人工智能的管理风险和好处,我们需要超越人工智能决策的公平性和准确性。

今年3月,Facebook宣布了一项引人注目的倡议检测到自杀的最危险的人和指导支持他们的朋友和专业人士。随着社会委托我们的安全和幸福这样的AI系统,我们如何确保结果是有益的?

最近,我花了一个密歇根大学的周末与一群学者讨论这个问题,记者和公民社会。当我们交谈时,我注意到我见过其他地方:讨论倾向于关注算法的公平性和歧视。由于开创性工作在过去的5年,算法的歧视问题开始被理解更广泛的在吗在线广告,图像识别,物流系统,司法判决,仅举几例。

研究公平检查AIs公平的对待人。我想确保他们实际上拯救生命。

在这些谈话中,我经常觉得我问完全不同的问题。直到最近,我开始寻找有什么不同的语言。想想Facebook的自杀预防计划:当研究公平检查AIs治疗人相当,我想确保他们实际上拯救生命。虽然有些人比其他人更有利的一个系统是一个问题,我们也应该担心AI系统伤害每个人都是平等的。

(这里的思想讨论了车间的几个人,包括克里斯托弗·威尔逊,梭伦Barocas,保罗·雷斯尼克和Alondra纳尔逊。所有的错误,错误是自己的。自事件查塔姆研究所的规则,我承认人愿意透露姓名。)

效用和公正性年代的算法

我相信效用和公平问题的算法,都很重要的问题需要不同的方法来学习。

当研究人员询问在线广告性别或种族歧视的基础上,他们询问公平和准确性。数学家、统计学家和计算机科学家爱这些问题:它可以看起来简单的审计在受控环境下算法的决策计算公平使用的数学定义。研究有偏见的算法通常可以甚至没有与人交谈或者看人类的影响系统,只要您可以创建一个统计的定义偏差或不平等(这些定义是否足够是另外一次的辩论)。

评估风险或好处的算法,我们需要研究它的影响人们的生活。

它是几乎从不可能的评估实用程序算法通过查看代码或测量它对一个数学公式。评估风险或好处的算法,我们需要研究它的影响在人们的生活中,无论是在实验室控制条件下或在更广阔的世界。在这里,社会科学的工具帮助我们理解算法如何与我们的社会世界,影响人类的结果在微观和宏观水平。

我希望这个图表可以帮助研究人员、记者、和监管机构问更好的问题对社会影响的一种算法。想象你有一个人工智能系统,检测到所谓的仇恨言论。一种不公平的系统可能会犯的错误,劣势某一群人,甚至那些旨在保护。一个有害的系统可能会增加极端主义。作为一个社会,我们应该努力创建系统,都是有益的和公平的,但在大多数情况下,我们只问关于公平或效用,从来没有对。

如何研究算法的风险和好处

虽然关注公平分配问题和决策,效用问题关注的结果。我想做更多的写这个话题,但现在,这里有一些最初的想法学习算法的效用。

首先,因果推论是研究核心算法的效用,在两个方面:

• 提出因果推论允许我们估计可能产生的影响引入一个特定的算法(或算法)的改变人们的生活。使用随机试验,例如,我们可以测试是否Facebook的自杀预防AI平均拯救生命
• 反向因果推论让我们问为什么我们看到算法有影响,帮助我们寻找方法来调整事情更有利,更公平。我们也可以使用这些法医方法理解错了在重大损害的情况下,我们希望避免在未来

定量方法,在隔离,无望的不足对于理解社会艾城的风险和好处。当我们制定全面的方法来确保AI系统的效用,我认为我们有很多学习Cialdini的想法完整的研究,民族志、实验室实验和现场实验建立清晰的相互支持,丰富的理解问题。

我们迫切需要开发一个消费者保护的生态系统对社会技术,包括人工智能

算法的消费者保护

我相信算法研究人员和记者工作问责制应该让消费者保护(因此效用)的中心关注管理人工智能的社会影响我们的工作。我认为在其他地方,我们迫切需要开发一个消费者保护的生态系统对社会技术,包括人工智能。就在今天,Ebay创始人Pierre Omidyar Omidyar网络的创始人之一,出版的列表6从社会技术知之甚少威胁民主——地区他的资金资助13年,有限的答案。没有高质量的、可用的、独立研究社交技术的影响,我们缺乏的能力,为我们共同的未来做出明智的决定。

消费者保护是主要的动机CivilServant,我开始支持的非营利组织公民行为科学在线(我们正在招聘)。最近其他机构包括阿兰·图灵研究所(还招聘),数据与社会,AI现在(招聘)和即将到来的密歇根大学社交媒体的责任中心(还招聘)。为了确保社会技术和人工智能的好处,我们需要很多很多消费者保护的增长。

最后,我想知道公平限制算法责任风险的框架一个进步的原因。在2017年,我们不得不承认,公平不是一个所有人都在西方社会政治价值。很多人都熟悉司法、金融、和移民系统,给某些人系统的优点和缺点。即使我们公平的工作问题,我想知道如果一个强调消费者保护(效用)更容易解释全部责任的重要性。

公众和高科技产业的斗争与社会技术和人工智能的风险日益增长的疑虑,我仍然乐观的好处我们可以实现在一起作为一个社会。做出明智的决策,确保消费者保护,我们需要更好的重大进展,更快的,和更广泛的研究工具和公平。

我还通过这些想法,请分享你的评论和反应。在CivilServant,我也寻找的人分享我们的愿景来帮助我们找到资金,选择的研究项目,图一个明智的课程作为一个组织。如果你或你认识的人可以帮助,请联系!