专家们主张以人为本的人工智能，敦促设计支持和丰富人类生活的技术，而不是强迫人类适应它。一本新书邀请了来自12个国家和学科的50位专家，探讨了实施以人为本的人工智能的实际方法，应对各种情况下的风险并提出解决方案。

　　据全球专家小组称，我们需要停止仅仅为了创新而开发新的人工智能技术，这迫使人们调整实践、习惯和法律来适应技术。相反，他们主张创造符合我们需求的人工智能，与以人为本的人工智能设计原则保持一致。

　　来自世界各地的50位专家为一本关于如何使人工智能更加“以人为本”的新书撰写了研究论文，探讨了不使用这种方法以及实施这种方法的实际方法的风险和错失的机会。

　　这些专家来自加拿大、法国、意大利、日本、新西兰和英国等12个国家，涉及计算机科学、教育、法律、管理、政治学和社会学等12多个学科。

　　以人为本的人工智能着眼于各种背景下的人工智能技术，包括农业、工作场所环境、医疗保健、刑事司法、高等教育，并提供了更加“以人为本”的适用措施，包括监管沙盒和跨学科工作框架的方法。

　　什么是以人为本的ai?

　　人工智能(AI)正以越来越多的方式渗透到我们的生活中，一些专家认为，从长远来看，仅仅依靠科技公司开发和部署这项技术，以真正增强人类体验的方式，对人类是有害的。这就是以人为本的人工智能的用武之地。

　　苏格兰爱丁堡大学(University of Edinburgh)的香农·瓦洛(Shannon Vallor)是世界上最著名的以人为本的人工智能专家之一，他解释说，以人为本的人工智能意味着帮助人类繁荣的技术。

　　她说:“以人为本的技术是将整个技术生态系统与人类的健康和福祉结合起来。与之形成对比的是旨在取代人类、与人类竞争或贬低人类的技术，而不是旨在支持、赋予、丰富和强化人类的技术。”

　　她指出，近年来越来越受欢迎的生成式人工智能，就是一个不是以人为中心的技术的例子——她认为，这种技术是由组织创造的，只是想看看他们能制造出多么强大的系统，而不是为了满足人类的需求。

　　“我们得到的是我们必须应对的东西，而不是我们为我们设计的、为我们造福的东西。这不是我们需要的技术，”她解释说。“我们不是让技术适应我们的需求，而是让自己适应技术的需求。”

　　人工智能的问题是什么?

　　“以人为本的人工智能”的贡献者提出了他们的希望，但也提出了许多关于人工智能的担忧，以及它目前的轨迹，没有以人为中心的关注。

　　来自意大利博洛尼亚大学和卢森堡大学的Malwina Anna Wójcik指出了当前人工智能发展中的系统性偏见。她指出，历史上被边缘化的社区在人工智能技术的设计和开发中没有发挥有意义的作用，导致了“主流权力叙事的巩固”。

　　她认为，缺乏关于少数民族的数据，或者现有的数据不准确，导致了歧视。此外，人工智能系统的不平等可用性导致权力差距扩大，边缘化群体无法进入人工智能数据循环，同时也无法从这些技术中受益。

　　她的解决方案是研究的多样性，以及计算机科学、伦理学、法律和社会科学交叉领域的跨学科和合作项目。在政策层面，她建议国际倡议需要涉及与非西方传统的跨文化对话。

　　与此同时，来自加拿大汤普森里弗斯大学的马特·马龙解释了人工智能是如何对隐私构成挑战的，因为很少有人真正了解他们的数据是如何被收集或使用的。

　　他解释说:“这些同意和知识上的差距导致了对隐私领域的永久侵犯，否则这些领域可能会寻求控制。”“隐私决定了我们让技术深入人类生活和意识领域的程度。但随着这些冲击的消退，隐私很快就会被重新定义和重新构思，随着人工智能获得更多的时间、注意力和信任，隐私将继续在划定人类和技术之间的界限方面发挥决定性作用。”

　　马龙认为，“隐私将随着对人工智能驱动技术的接受或拒绝而不断变化”，即使技术提供了更大的平等，个性也可能受到威胁。

　　人工智能与人类行为

　　除了探索社会影响，贡献者还调查了当前形式的人工智能使用对行为的影响。

　　以色列行为科学研究所的Oshri Bar-Gil开展了一项研究项目，研究使用谷歌服务如何导致自我和自我概念的变化。他解释说，当我们使用一个平台时，一个数据“自我”就被创造出来了，然后这个平台从我们使用它的方式中获取更多的数据，然后它使用我们提供的数据和偏好来提高它自己的性能。

　　“这些高效而有益的推荐引擎有一个隐藏的成本——它们对我们人类的影响，”他说。“它们改变了我们的思维过程，改变了我们在数字领域和现实世界中作为人类的一些核心方面，如意向性、理性和记忆，削弱了我们的能动性和自主性。”

　　此外，新西兰惠灵顿维多利亚大学的Alistair Knott、英国伦敦大学学院艾伦图灵研究所的Tapabrata Chakraborti和意大利比萨大学的Dino Pedreschi也研究了人工智能在社交媒体上的广泛使用。

　　他们解释说:“虽然社交媒体平台使用的人工智能系统在某种意义上是以人为中心的，但它们的运作有几个方面值得仔细审查。”

　　问题的根源在于，人工智能不断从用户行为中学习，随着用户继续与平台互动，不断完善他们的用户模型。但用户倾向于点击推荐系统为他们推荐的项目，这意味着随着时间的推移，人工智能系统可能会缩小用户的兴趣范围。如果用户与有偏见的内容互动，他们更有可能被推荐，如果他们继续与之互动，他们会发现自己看到更多这样的内容:“简而言之，我们有理由担心推荐系统可能会把用户推向极端主义立场。”

　　他们为这些问题提出了一些解决方案，包括让持有推荐系统数据的公司增加透明度，以便更好地研究和报告这些系统的影响，以及用户对有害内容的态度。

　　以人为本的人工智能如何在现实中发挥作用?

　　加拿大蒙特卡莫尔大学的Pierre Larouche认为，将人工智能视为“法律和法规的独立对象”，并假设“目前没有适用于人工智能的法律”，这让一些政策制定者觉得这是一项不可逾越的任务。

　　他解释说:“由于人工智能被视为一项新的技术发展，人们认为目前还没有针对它的法律。同样，尽管缺乏——如果不是完全没有的话——关于人工智能的具体规则，但由于人工智能在社会和经济关系中的嵌入性，适用于人工智能的法律并不缺乏。”

　　Larouche认为，挑战不在于制定新的立法，而在于确定现有法律如何扩展和应用于人工智能，并解释说:“允许辩论被框定为空白法律页上的开放式道德讨论，可能会对决策产生反作用，因为它为各种拖延战术打开了大门，这些战术旨在无限期地延长讨论，而技术继续快速发展。”

　　Mila - Quebec人工智能研究所(Mila - Quebec Artificial Intelligence Institute)是致力于人工智能的最大学术团体之一，该研究所负责政策、社会和全球事务的副总裁Benjamin Prud'homme回应了对政策制定者信心的呼吁。

　　他解释说:“我的第一个建议，或者也许是我的第一个希望，是我们开始摆脱创新和监管之间的二分法——我们承认，如果创新是不负责任的，那么扼杀创新可能是可以的。

　　“我会告诉政策制定者，要对自己监管人工智能的能力更有信心;是的，这项技术是新的，但说他们过去没有(成功地)处理过与创新相关的挑战是不准确的。很多人工智能治理社区的人害怕从一开始就没有把事情做好。你知道，我从我在决策圈的经验中学到的一件事是，我们可能不会从一开始就完全正确。没关系。

　　“没有人有魔杖。因此，我想对政策制定者说:认真对待这个问题。尽你所能。在您尝试提出正确的治理机制时，邀请广泛的观点(包括边缘化社区和最终用户)参与讨论。但不要让自己被一些声音麻痹，这些声音假装政府无法在不扼杀创新的情况下监管人工智能。欧盟可以在这方面树立榜样，因为雄心勃勃的人工智能法案，第一部关于人工智能的系统性法律，应该在未来几个月内得到最终批准。”

　　参考文献:《以人为本的人工智能——决策者、审计员和用户的多学科视角》，2024年3月21日。DOI: 10.1201 / 9781003320791