← All Writing

Category: Beneficial

  • ·

    , , ,

    发展超级智能不是俄罗斯轮盘赌,而是一场救命的心脏手术:深度解读 Nick Bostrom 2026 新作《超级智能的最优时机》

    曾以《超级智能》敲响人类生存风险警钟的牛津哲学家 Nick Bostrom,在 2026 年最新工作论文 Optimal Timing for Superintelligence 中给出了一个颠覆直觉的推演:如果站在今天活着的 80 亿具体人类的立场上算一笔生死账,不造超级智能同样是一张死亡判决书。哪怕毁灭概率高得惊人,“疾速入港,缓步靠泊”(Swift to harbor, slow to berth)——加速抵达 AGI 能力门槛、再在全面部署前精准暂停数月至一两年,往往才是最优解。

  • ·

    , , ,

    What would a Provably Safe AGI Framework look like?

    The goal is to ensure that AGI systems act in ways that are beneficial to humanity and do not pose existential risks. A Provably Safe AGI Framework would ideally combine rigorous technical…

  • ·

    , , ,

    人工智能书籍推荐:将这些添加到您的阅读列表

    我们的 HAI 社区提供了他们正在阅读的最好的人工智能书籍。 2022 年 8 月 3 日作者 Shana Lynch 莎娜·林奇译者 Xiaohu Zhu 朱小虎 今年夏天我们问我们跨社交媒体渠道的 HAI 社区他们会推荐哪些关于人工智能的书籍。下次您访问当地书商时,这里有一些书可供您阅读,从一般兴趣到从业者的深入研究以及一些来自小说过道的书籍。 通用人工智能 病毒正义(Viral Justice)作者 Ruha Benjamin 本杰明是一位专注于种族、技术和正义的开创性学者。在这本书中,她提供了对可以产生重大影响的小决定的个人观点 我们的生活和社会。 天才创客(Genius Makers)作者 Cade Metz Metz 曾为《纽约时报》和《连线》杂志报道科技行业,将 AI…

  • ·

    Shakir Mohamed 对“好”的想象,改变的使命

    2020年10月29日| 以人为本的AI ·讲座和教程·转型 非常感谢有机会支持2020 TechAide AI4Good会议。这是谈话的内容。 您可以在此处找到视频。 问候!今天能与您一起参加2020 TechAide AI4GOOD大会真是太好了。我叫Shakir Mohamed,我的代名词是他/他们。我将本次演讲的标题命名为“美好的想象-改变的使命”,它既是对话,又是挑战:与您互动,考虑如何构建一种新型的AI for Good的关键技术实践实践,当然是今年会议的主题。大会的使命很充实,我感谢组织者给我这样以这种方式支持其慈善宗旨的机会,并希望您能够以任何方式支持这一事业。 在开始时,有一些关于我的事。我是伦敦DeepMind的研究员,也是Deep Learning Indaba的创始人和受托人。您会发现我支持转型和多元化的努力。我会写一些关于统计推断方法的文章,还会写一些关于AI中社会技术因素的文章。能够做到这一点我感到很幸运,特别是因为我发现能够跨学科领域工作并拥有许多不同的研究方法而感到非常高兴。我对这种跨学科的研究方法引起的混杂和混乱的问题和对话的类型感兴趣,因为我相信这是一种我们可以有目的地明确了解我们想在世界上看到的善的方法,特别是在与AI和数字技术的关系。与其探索我的一些技术工作和应用,相反,我将依靠我的工作和经验来回答AI4Good的问题。非常感谢您的宝贵时间,并感谢您与我一起进行接下来的25分钟行程。 “当大规模组织的信息概念悄然出现并成为一种社会控制手段时,人类几乎没有注意到”。我想让你猜猜这是什么时候写的。鉴于新闻越来越引起人们的关注,而且最近的奖学金令人难以置信,您可能会猜到这是最近二十年来对算法危害的最新描述。你会错的。这是埃德温·布莱克(Edwin Black)对1900年世界的描述,是打孔卡的发明以及自动化和数据收集的新潮流。  在此期间,鲜为人知的计算和统计领域(今天的AI领域的支柱)变得具有强大的能力,可以对大量数据进行分类。借助增强的统计能力,我们现在能够在国家和大洲的范围内准确,准确地识别出感兴趣的对象,评估相互竞争的选择之间的权衡,组织最佳行动顺序,并最终审核任何选定行动方式的效率。  这几乎对每个部门都是一个福音。美好的可能性以及对现在可能出现的新型期货的想象一定令人振奋。与今天的AI技术专家和科学家一样。但是,如果这种增强的统计能力以及新的行动和效率被用于谋杀犹太人民,该怎么办? 统计数据和那个时代的技术产业就是这样进入黑暗阶段,走向邪恶目的和种族灭绝的。正如爱德温·布莱克(Edwin Black)的法医证据所示,对于纳粹官员和整个第二次世界大战,统计数据变得“对帝国至关重要”,帝国政府希望“为和平与战争中的新任务提供统计数据”。通过从工作环境中抽象出来,计算科学不加批判地改进了其方法,以提高准确性,效率和财务利润,并导致数以百万计的人死亡。历史提醒我们,技术发展趋向于寄予厚望,并伴随着残酷的能力。我们还记得我们人工智能领域的基础吗? 我在讲这个故事是为了就近年来围绕AI4Good项目引发的许多担忧展开讨论。关于AI4Good的关注和反对很多。这些包括: 宠物项目评论。AI4Good的标志下的项目不过是研究人员在应用领域的宠物项目,没有任何实际影响的意图。  炒作批评。AI4Good提出了对世界充满希望的社会的技术乐观主义和技术解决主义观点,但是很少有证据表明情况确实如此。  剥削批评。AI永久项目是单板,我们将技术产品作为其营销策略的一部分。在这里,永久性AI项目的目的并不是要有意义地学习和与其服务的社区互动,而是掩盖了数据收集和利润的真正目的。  模糊的批评。我们针对AI4Good的方法是没有特定性地制定的,并且在政治或社会变革方面缺乏严格的基础,因此,这种方法始终无法贯彻“善”的含义。 所有这些批评都为我们认真对待提供了强有力的证据。就像统计数字和德国帝国的故事一样,这些批评动摇并破坏了我们作为技术设计师的信心-使我们有可能将我们的工作转而牵涉到伤害。对我来说,这破坏了我们作为科学家和技术专家的信心,这必须成为我们创建负责任的AI4Good堂兄的方法的一部分。当我们使用“好”这个词时,责任必须是我们所有人都想并希望表达的意思。  如果对AI4Good的项目一无所知,那将是错误的。我们确实找到了许多伟大作品的例子,这些例子深深地激发了我们探索当代AI的可能性。当我们找到这些实例时,它们便指出了已经可能发生的变化之路。我想举三个例子,对您的好问题进行更深入的探讨。 第一个挑战是记录和提供与侵犯人权有关的证据基础。国际特赦组织表明,将遥感数据与人工智能相结合可以成为扩大人权研究范围的有力方法。在他们的工作中,他们能够发现被忽视的虐待行为,并且通过对大量图像进行分类和分类,可以记录例如村庄毁坏和虐待的速度和程度。通过这种方式,我们看到了以我们希望的所有方式开发的技术工具,可以支持特定的需求领域。 在全世界,十分之九的人呼吸不干净的空气。不幸的是,这主要发生在低收入国家。这是AirQo出色的工作之所在,它使用定制的低成本传感器网络来提供准确的空气质量预测,该网络收集了乌干达65个地点的数据。在COVID大流行中,非药物干预是我们都已敏锐意识到的概念,空气质量预测为此类干预提供了另一条途径。这项令人难以置信的工作的力量在于它有潜力帮助公民和政府更好地计划和减轻不断变化的环境状况,而这些正是我们将继续需要越来越多的政策支持的类型。 塞伦盖蒂-马赛马拉生态系统是世界上最后的原始生态系统之一,也是世界上最大的动物迁徙之一。Snapshot Serengeti的这个项目使用相机陷阱中的图像来帮助保护主义者了解哪种管理策略最有效地保护了将该地区称为家园的物种。机器学习有助于加速对收集的图像的研究和分析,有助于发展新的生态功能理论,并更好地理解塞伦盖蒂动物的秘密生活。我很幸运在2019年访问了该地区,我想我应该分享这段关于我对自然奇观的体验的视频。 在讨论过程中,请分享您自己的项目示例,这些示例阐明了什么是可能的和好的。我在这里选择的三个示例的一个共同特征是,它们以明确的变革使命为中心。加强人权证据的特派团,以更好的环境理解支持公共卫生的特派团,维护世界原始生态系统的特派团。这些示例与寻求实现AI4Good的项目无关。对他们而言,AI4Good是努力实现明确的变革使命的结果。这是我要与您进行的第一点对话:我们可以通过首先并且始终将我们支持的变革使命作为中心,制定可能破坏我们作为技术设计师的信心的策略,从而解决AI4Good的批评。…