AGI Watchful Guardians

2020年10月29日| 以人为本的AI ·讲座和教程·转型 非常感谢有机会支持2020 TechAide AI4Good会议。这是谈话的内容。您可以在此处找到视频。 问候！今天能与您一起参加2020 TechAide AI4GOOD大会真是太好了。我叫Shakir Mohamed，我的代名词是他/他们。我将本次演讲的标题命名为“美好的想象-改变的使命”，它既是对话，又是挑战：与您互动，考虑如何构建一种新型的AI for Good的关键技术实践实践，当然是今年会议的主题。大会的使命很充实，我感谢组织者给我这样以这种方式支持其慈善宗旨的机会，并希望您能够以任何方式支持这一事业。 在开始时，有一些关于我的事。我是伦敦DeepMind的研究员，也是Deep Learning Indaba的创始人和受托人。您会发现我支持转型和多元化的努力。我会写一些关于统计推断方法的文章，还会写一些关于AI中社会技术因素的文章。能够做到这一点我感到很幸运，特别是因为我发现能够跨学科领域工作并拥有许多不同的研究方法而感到非常高兴。我对这种跨学科的研究方法引起的混杂和混乱的问题和对话的类型感兴趣，因为我相信这是一种我们可以有目的地明确了解我们想在世界上看到的善的方法，特别是在与AI和数字技术的关系。与其探索我的一些技术工作和应用，相反，我将依靠我的工作和经验来回答AI4Good的问题。非常感谢您的宝贵时间，并感谢您与我一起进行接下来的25分钟行程。 “当大规模组织的信息概念悄然出现并成为一种社会控制手段时，人类几乎没有注意到”。我想让你猜猜这是什么时候写的。鉴于新闻越来越引起人们的关注，而且最近的奖学金令人难以置信，您可能会猜到这是最近二十年来对算法危害的最新描述。你会错的。这是埃德温·布莱克（Edwin Black）对1900年世界的描述，是打孔卡的发明以及自动化和数据收集的新潮流。  在此期间，鲜为人知的计算和统计领域（今天的AI领域的支柱）变得具有强大的能力，可以对大量数据进行分类。借助增强的统计能力，我们现在能够在国家和大洲的范围内准确，准确地识别出感兴趣的对象，评估相互竞争的选择之间的权衡，组织最佳行动顺序，并最终审核任何选定行动方式的效率。  这几乎对每个部门都是一个福音。美好的可能性以及对现在可能出现的新型期货的想象一定令人振奋。与今天的AI技术专家和科学家一样。但是，如果这种增强的统计能力以及新的行动和效率被用于谋杀犹太人民，该怎么办？ 统计数据和那个时代的技术产业就是这样进入黑暗阶段，走向邪恶目的和种族灭绝的。正如爱德温·布莱克（Edwin Black）的法医证据所示，对于纳粹官员和整个第二次世界大战，统计数据变得“对帝国至关重要”，帝国政府希望“为和平与战争中的新任务提供统计数据”。通过从工作环境中抽象出来，计算科学不加批判地改进了其方法，以提高准确性，效率和财务利润，并导致数以百万计的人死亡。历史提醒我们，技术发展趋向于寄予厚望，并伴随着残酷的能力。我们还记得我们人工智能领域的基础吗？ 我在讲这个故事是为了就近年来围绕AI4Good项目引发的许多担忧展开讨论。关于AI4Good的关注和反对很多。这些包括： 宠物项目评论。AI4Good的标志下的项目不过是研究人员在应用领域的宠物项目，没有任何实际影响的意图。 炒作批评。AI4Good提出了对世界充满希望的社会的技术乐观主义和技术解决主义观点，但是很少有证据表明情况确实如此。 剥削批评。AI永久项目是单板，我们将技术产品作为其营销策略的一部分。在这里，永久性AI项目的目的并不是要有意义地学习和与其服务的社区互动，而是掩盖了数据收集和利润的真正目的。 模糊的批评。我们针对AI4Good的方法是没有特定性地制定的，并且在政治或社会变革方面缺乏严格的基础，因此，这种方法始终无法贯彻“善”的含义。 所有这些批评都为我们认真对待提供了强有力的证据。就像统计数字和德国帝国的故事一样，这些批评动摇并破坏了我们作为技术设计师的信心-使我们有可能将我们的工作转而牵涉到伤害。对我来说，这破坏了我们作为科学家和技术专家的信心，这必须成为我们创建负责任的AI4Good堂兄的方法的一部分。当我们使用“好”这个词时，责任必须是我们所有人都想并希望表达的意思。  如果对AI4Good的项目一无所知，那将是错误的。我们确实找到了许多伟大作品的例子，这些例子深深地激发了我们探索当代AI的可能性。当我们找到这些实例时，它们便指出了已经可能发生的变化之路。我想举三个例子，对您的好问题进行更深入的探讨。 第一个挑战是记录和提供与侵犯人权有关的证据基础。国际特赦组织表明，将遥感数据与人工智能相结合可以成为扩大人权研究范围的有力方法。在他们的工作中，他们能够发现被忽视的虐待行为，并且通过对大量图像进行分类和分类，可以记录例如村庄毁坏和虐待的速度和程度。通过这种方式，我们看到了以我们希望的所有方式开发的技术工具，可以支持特定的需求领域。 在全世界，十分之九的人呼吸不干净的空气。不幸的是，这主要发生在低收入国家。这是AirQo出色的工作之所在，它使用定制的低成本传感器网络来提供准确的空气质量预测，该网络收集了乌干达65个地点的数据。在COVID大流行中，非药物干预是我们都已敏锐意识到的概念，空气质量预测为此类干预提供了另一条途径。这项令人难以置信的工作的力量在于它有潜力帮助公民和政府更好地计划和减轻不断变化的环境状况，而这些正是我们将继续需要越来越多的政策支持的类型。 塞伦盖蒂-马赛马拉生态系统是世界上最后的原始生态系统之一，也是世界上最大的动物迁徙之一。Snapshot Serengeti的这个项目使用相机陷阱中的图像来帮助保护主义者了解哪种管理策略最有效地保护了将该地区称为家园的物种。机器学习有助于加速对收集的图像的研究和分析，有助于发展新的生态功能理论，并更好地理解塞伦盖蒂动物的秘密生活。我很幸运在2019年访问了该地区，我想我应该分享这段关于我对自然奇观的体验的视频。 在讨论过程中，请分享您自己的项目示例，这些示例阐明了什么是可能的和好的。我在这里选择的三个示例的一个共同特征是，它们以明确的变革使命为中心。加强人权证据的特派团，以更好的环境理解支持公共卫生的特派团，维护世界原始生态系统的特派团。这些示例与寻求实现AI4Good的项目无关。对他们而言，AI4Good是努力实现明确的变革使命的结果。这是我要与您进行的第一点对话：我们可以通过首先并且始终将我们支持的变革使命作为中心，制定可能破坏我们作为技术设计师的信心的策略，从而解决AI4Good的批评。 对于在慈善和非政府部门工作的任何人来说，这都是众所周知的，从他们的经验和方法论中我们可以学到很多东西。我很幸运能成为一个集体的一员，以探索和发展我们在短文中写到的这些思维方式。在这些领域中使用的关键工具是发展和传播变革理论。变革理论通常以图表的形式传达，将我们正在研究的部门的当前状态映射到我们希望在世界上看到的期望的变革。尽管变革理论是慈善领域的要求，但我认为它可以作为塑造研究和AI4Good的工具发挥强大作用。  通过使用变革理论，我们可以直接解决我之前回顾的批评。通过明确规定变革的使命，我们确保在工作开始时，然后在任何项目的整个生命周期中，就构成工作中良好定义的政治和社会基础进行讨论。善的定义便与变革使命联系在一起。众所周知，对于任何一项工作，还存在相互竞争的因素和方法，并且通过绘制从当前状态到期望的愿景的路径，这些替代方案也得到了讨论和讨论。同样重要的是，变革理论要认识到我们并不是一个人工作，而且我们不是我们工作的任何领域的唯一参与者。因此，谦虚的态度很重要， 最后一点尤为重要，因为它强调了衡量在评估是否达到良好结果方面的作用，并且明确了受益人和谁被忽略：评估对谁有益的结果。变革理论旨在成为从计划，干预措施到措施和结果的因果图。在绘制此变化过程的图表时，可以考虑因果链中每个位置的度量。虽然，测量很困难。 今天，可持续发展目标对我们来说是为人工智能造福社会的重要指南来源之一。可持续发展目标的优点之一是，它们在17个目标中配备了210项措施。同时，这是对可持续发展目标的批评之一，质疑这些措施的有效性，可靠性和频率，以支持报告和变更。在这一一般领域，我们很幸运能够利用慈善部门开发的有关监测和评估的知识和专长。顺便说一句，我认为变革理论通常是研究计划的有力工具， 现在切换一下齿轮。我现在想向您提出的问题很简单：全球AI是否真正全球化？这是一个提示性的问题，因为在大多数情况下，人工智能不是全球性的。相反，它是本地化的，包含在特定的个人，组织和国家中。也许我们也可以说全球科学。通过将不同国家的研究人员数量视为一个粗略的代表，我们可以阐明这一点。在英国，或者在类似国家（例如德国或美国），每100万人中大约有4000名研究人员。在我引以为傲的南非，这个数字是百万分之400。在加纳，这一数字接近百万分之40。  作为变革理论的宏伟愿景的一部分，很容易产生一种普遍适用的观点以及我们希望最终开发的技术优势的诱惑。但是，对研究人员人数的简单回顾表明，目前对全球知识的贡献还远远不够统一。因此，对于AI通用性的任何观点都需要受到更深层次的质疑，并且从这一认识开始，我们可以对AI4good项目进行更深入的理论分析。  由于许多AI4Good项目都是针对社会，人道主义或发展需求的，因此有关他们如何想象，理解和使用知识的问题成为了审讯的核心领域。我们的认识论基础以及对知识的隐性持有和毫无疑问的信念，在进行研究和部署时所表现出的态度中展现了自己。  态度1-知识转移。就其性质而言，AI4good项目隐式或显式地承认知识和专业知识在世界上是不平衡的。对于AI4Good来说，我们的部分工作似乎是为了帮助知识从权力中心（如研究实验室）迁移到缺乏知识的地方。 态度2-仁慈。出现的一种隐含态度是，在缺乏信息，知识或技术的情况下，技术开发应由知识渊博的人或有能力的人代表将受其影响或更改的其他人来进行。 态度3-可移植性。应用于任何特定地点或情况的知识和表示被认为同样适用于任何其他情况或地点，并且在任何地方开发的知识计划在其他地方也将同样有效。 态度4-量化。不可避免的对话是，作为比较，评估，理解和预测的工具，对世界进行量化和统计是理解世界的唯一方式。  态度5-卓越标准。作为最后的态度问题，我们是否假设大都会研究实验室内的标准，形式和世界，也就是在我们的知识和技术力量中心内，将成为其他地区未来的典范。 我们每个人都不总是容易质疑这些态度的来历，但这是我们必须做的。这些态度部分是由于我们共同的殖民主义经验迫使我们所有人生活下来的一种较旧的生活方式。殖民主义是在“善”的旗帜下进行的最后和最大的任务之一-表面上是将文明，现代性，民主和技术带给没有文明的人。殖民主义的影响今天继续影响着我们：  在身体上塑造边界的方式，在心理上思考我们对自己和彼此的看法， 在语言上扮演着当今英语作为科学和交流语言的角色， 在殖民时代发明种族主义和种族化以建立人与人之间等级划分的秩序， 从经济角度讲如何在一处提取劳动力，而在另一处产生利润， 在政治，治理和法律以及国际关系的结构内，这些结构仍属于殖民主义的断层线。  我们使用“殖民主义”一词来指代殖民主义的残余以及对当前知识和理解的影响。  因此，我要为您介绍的第二点是与AI4Good的殖民地竞争。殖民主义试图解释殖民者与被殖民者之间权力模式的延续，以及这些关系的当代残余。殖民地质问权力关系如何塑造我们对文化，劳动，主体间性和知识的理解。当好的项目失败时，就会发现家长式，技术解决主义和掠夺性包容的默认态度。  我用来解开与知识有关的态度问题的方法，是遵循一种关于知识非殖民化的特殊思考途径。在这种非殖民化观点下，我们被要求通过强调和认识到以前被边缘化的知识的合法性，来重新评估什么是知识学科的基础。这种认识将导致我们进行通常所说的“非殖民化转弯”，而对于我们的AI领域，我将其表述为关于我们如何重塑作为非殖民化AI领域的工作的问题。  尽管具有殖民权力，但历史记录表明，殖民主义绝不仅仅是强加于人的行为。通常也存在角色互换的情况，大都市必须面对殖民地的知识，并从外围以及治理，权利，管理和政策的所有领域吸取教训。一个逆向监护尽管造成了大量的损失和暴力，但在中心和外围之间建立了联系。通过将这种见解转化为我们可以使用的工具，现代批判性实践寻求使用殖民主义的命令来发展双重愿景：积极确定使反托拉特成为其基础的组成部分的中心和外围，同时还力求消除有害的电源二进制文件：既有力量又受压迫的人，既有大都市和周边地区，又有科学家和人文主义者，有自然和人为的。  反向监护直接谈到了构成知识的哲学问题。在知识的绝对观点和数据观点之间仍然存在张力，一旦获得足够的知识，就可以使我们形成完整且包含世界的抽象，而知识观点则始终是不完整的，并且在不同的情况下会被选择和解释。价值体系。确定什么才算是有效知识，数据集中包括什么以及什么被忽略和毫无疑问是我们作为AI研究人员所拥有的一种力量，这种力量不能被忽视。在这种情况下，殖民主义科学，尤其是反向监护的策略，成为其标志。 反向教学法导致了从家长式统治向团结的殖民主义转变。这给了我们两种直接策略。首先是建立有意义的跨文化对话体系，以及广泛参与技术开发和研究的新模式。跨文化对话是跨文化数字伦理学领域的核心，它询问技术如何支持社会和文化，而不是成为文化压迫和殖民主义的工具。这种对话不是在我们的工作中寻求普遍道德，而是导致多元主义的另一种选择，即所谓的普遍道德。 第二种策略在于我们如何支持新型的政治社区，这些政治社区能够改革现代生活中发挥作用的等级制度，知识，技术和文化体系。作为一种方法，我是对基层组织的支持的热烈拥护者，他们具有创造新形式的理解，加强文化间对话，展示团结和替代社区形式的能力。 我想分享自己的经验，将这种社区理论付诸实践。大约4年前，我是一群人的组成部分，以创建一个名为Deep Learning Indaba的新组织，其任务是在整个非洲大陆加强机器学习。在我们的多年工作中，我们已经能够在非洲各地建立新的社区，建立领导力并认可卓越的人工智能开发和使用。看到非洲各地的年轻人发展自己的想法，第一次展示他们，获得他们的工作认可，并在同龄人中知道他们的问题和方法很重要，这是他们的方式的一部分，这是一种荣幸。正在独特地塑造我们大陆的未来。我很自豪地看到，除了东欧，东南亚，南亚和南美等其他群体也跟随同样的步伐，此外还有其他鼓舞人心的社区群体，例如“黑死病”，“非洲数据科学”，人工智能中的黑人和人工智能中的酷儿：所有人都对其社区负责，并开展基层运动以支持AI，对话和变革。回顾过去的五年，我相信我们现在可以诚实地说，由于这些群体的奉献和牺牲，全球AI现在更加全球化。 当我一起结束旅程时，我想与一个明确的变革使命共享一个问题领域，这构成了今年的Indaba挑战赛。我要您考虑的变革使命是消灭被忽视的热带病（NTD）。约有14亿人口（占世界人口的六分之一）患有一个或多个NTD，他们被忽视是因为他们普遍困扰着世界上的穷人，而且历来没有像其他疾病那样受到广泛的关注。忽视这个词很重要，因为一个非常常见的词句强调：“被忽视的疾病也是被忽视的人民的疾病”。在这里，殖民地的作用很重要，因为我们必须问一个问题，为什么在历史上和现在这样的忽视不仅存在于NTD，而且存在于许多要求AI4Good的地区。 NTD是广泛的疾病类别，在这里我将展示世界卫生组织使用的分类。我们很幸运，2020年对于被忽视的疾病来说是重要的一年，因为世界卫生组织发布了一项重要的新路线图，该路线图建立了对话，连接了专门知识和社区，并阐明了解决这一问题所需的措施。正如世卫组织被忽视疾病负责人Mwelecele Malecela博士几个月前对我说的那样，现在无论是在药物利用领域还是在诊断和诊断领域，机器学习和AI都有机会帮助支持这一重要使命。检测或医师培训。在这个领域有很多事情要做，通过为利什曼病的特定疾病创建任务，深度学习Indaba试图建立董事会联盟以帮助提高认识并鼓励在这一领域的研究：与非洲自己的数据科学竞赛平台Zindi，非洲领先的AI和技术初创公司之一InstaDeep以及DNDi药物合作为被忽视疾病倡议，世卫组织以及其他许多机构，朝着这一方向迈出了第一步。我向您提出的建议是考虑您可以凭借自己的专业知识和关注力来解决此问题的任何部分。 … Continue reading Shakir Mohamed 对“好”的想象，改变的使命