曹建峰 李惠茗编译

12月3日，卡耐基海外和平基金会主席Mariano-Florentino Cuéllar、谷歌首席科学家Jeff Dean、闻明计较机科学家David Patterson等东谈主撰写的长篇答复“Shaping AI’s Impact on Billions of Lives”发布，答复探讨了应用东谈主工智能增进群众福祉的携带原则和步履路子图。作家团队与来自各个限制的24位内行进行了深入访谈，包括诺贝尔化学奖得主John Jumper、前好意思国总统Barack Obama、前蚁合国大使兼前国度安全参谋人Susan Rice、谷歌前首席推论官兼慈善家Eric Schmidt以及科幻演义家Neal Stephenson等。本文是对该答复中枢内容的编译。

东谈主工智能（AI）行动一种颠覆性时间，既可能鼓吹社会取得首要跳跃，也可能带来负面影响。在让AI目田发展和政府过度监管这两种顶点之间，答复观念AI从业者应自愿且积极地为全球福祉勤勉。通过与各限制的内行的平日交流，答复从中归来出五条携带原则，这些原则组成了福祉型东谈主工智能框架的基石，引颈将来的筹划主见，携带负职责和安妥谈德地部署AI。答复形色了一种新的创新模式蓝图，包括18个具体的里程碑，用以鼓吹AI筹划朝着福祉型东谈主工智能的主见发展。答复以为，刻下AI的发展仍处于初期阶段，而从业者、战术制定者以过火他利益关系者的共同勤勉，能够确保AI的发展最大法则地惠及社会，同期减少潜在的负面影响。

一、五个携带原则

1、东谈主机融合需聚焦东谈主类坐蓐力的升迁而非取代东谈主类

东谈主类与东谈主工智能联袂合作（即东谈主机融合），能够创造出比单打独斗更大的价值。将东谈主工智能应用于提妙手类坐蓐力，而非取代东谈主类，会带来更多积极的克己。那些使东谈主们处事效能更高的器具，不仅提高了东谈主们的办事能力和管事高兴度，还为更多发展契机铺平了谈路。此外，当AI在涵养不及的限制偏离预期时，东谈主类不错充任弱点的安全保险。因此，鼓吹东谈主类坐蓐力的AI发展能够终了东谈主机双赢。

2、AI升迁坐蓐力需聚焦“弹性需求”行业以促进办事

要通过AI促进办事，就需要聚焦那些因坐蓐力升迁而能够创造更多办事契机的行业。以好意思国为例，尽管计较机和客运航空业取得了纷乱的坐蓐力升迁，但2020年好意思国的才调员和生意航空驾驶员数目，分别是1970年的11倍和8倍。增长的原因在于，这些行业属于经济学中的“弹性需求”（elastic demand）限制，即商品的需求量会跟着价钱的下落而增多。而农业等“非弹性需求”限制则因坐蓐力升迁而导致办事东谈主数大幅减少，如农业岗亭从1940年到2020年减少了四分之三。如若AI设备者死力于在弹性行业中升迁坐蓐力，尽管公众对此心存担忧，但AI骨子上不错创造出更多的处事契机。

3、AI优先去除单调重迭管事，让处事更特意旨

AI的首要任务应是减少现存处事中的败兴重迭部分，为东谈主们腾出时候去从事更有价值的处事。举例，医师与督察遴荐这一管事是为了匡助患者，而非破费时候在繁琐的文档处事上。雷同，教师更但愿专注教授，而不是花时候在评分或纪录处事上。因此，AI器具的研发应优先改善东谈主们刻下处事中的意旨感，尤其是在病院和课堂等场景。

4、AI因地制宜鼓吹发展

AI的影响因地而异。埃里克·施密特（Eric Schmidt）强调，在发达国度，东谈主们顾虑AI可能取代高度专科东谈主才的部单干作；但在资源匮乏的地区，AI则能够填补手段内行的短缺，升迁处事和生存质地并促进经济发展。比如，AI不错升迁督察与医师的手段和坐蓐力，为医疗资源匮乏的地区带来高质地医疗服务。同期，多谈话AI模子能够借助智能手机普及，为发展中国度提供信息、诠释等资源相沿，改善当地经济和关节服务，甚而可能为一些中等收入国度的东谈主们提供外侨以外的遴荐。

5、构建有用的测量和监管体系评估AI创新

临了，咱们需要更好的目的和方法来评估东谈主工智能创新。恐怕商场不错作念到这少量，比如针对专科才调员的东谈主工智能器具。但在高风险限制，这是作念不到的，因为咱们弗成冒险伤害参与者。咱们需要使用黄金标准参考器具（gold-standard tools）：A/B测试、当场对照进修和当然实验等。雷同迫切的是对东谈主工智能在骨子部署后的监控，以评估其是否达到了预期主见，是否迷漫安全，以及是否产生了料思以外的外部影响。此外，咱们还需要在骨子应用中持续评估AI系统的施展，以便冉冉改进和优化它们。

走向福祉型AI的十八个关节里程碑

在长篇答复“Shaping AI's Impact on Billions of Lives”中，在五大原则的基础上，十八个里程碑被建议，掩盖办事、诠释、医疗、信息传播、媒体文娱、政府治理、科学筹划七大关节限制。需要鼓吹东谈主工智能在这些限制增进个东谈主和社会的福祉。

1、办事

坐蓐力升迁对处事的影响取决于与该处事关系产物需求的弹性或非弹性，如若需求丧祭弹性的，坐蓐率的提高将导致处事岗亭的减少；如若产物需求具有迷漫的弹性，那么提高坐蓐力的时间将增多行业办事。对于办事的另一个视角丧祭膂力任务和膂力任务之间的分离。短期内东谈主工智能系统的主要影响将围聚在非膂力任务上。因此，为了升迁处事的质地和价值，东谈主工智能应专注于赋能东谈主类终了更多主见。而且，应用东谈主工智能提妙手类坐蓐力还不错大意一些挑战，举例安全性或不实信息——在AI系统出错时由东谈主类改造其建议，或在际遇AI系统未被涵养的情况下由东谈主类介入。

（1）快速手段升迁（Rapid Upskilling）：通过AI匡助低收入或休闲东谈主群在短期内掌合手高需求手段，从而快速升迁办事竞争力。

（2）管事估计系统（Job Forecaster）：通过实时跟踪劳能源商场变化，携带被AI取代的劳能源适当新兴的高薪职位。

2、诠释

为了让AI系统最终匡助大无数学生，AI系统就必须领先改善教师的处事，因为教师在很大程度上决定接受哪些时间。减少繁琐处事的例子可能包括协助制定课程规划、撰写程度答复、叮咛功课以及评分等。要取奏凯利，这些处置有规划必须以教师日常面对的骨子挑战为开动，而且必须与教师和学生的需求保持一致，而不是基于校董会或束缚者的意见。

（3）教师助手（Teacher’s Aide）：减少教师日常繁琐处事的职守，以提高教师的生存质地和处事效能。

（4）实证诠释平台（Empirical Education Platform）：建立一个能够进行RCT测试（当场对照进修）的诠释平台，矫健每个学生的能力/资源过火同学、教师和学校的情况。

（5）全球教师（Worldwide Tutor）：应用智能手机的普及，为通盘儿童提供符合他们谈话、文化和最勤学习立场的学习器具，匡助教师大意不同水平的学生。

3、医疗

社会应当向每个东谈主提供高质地的医疗健康服务，东谈主工智能不错匡助终了这个主见。当今医疗东谈主工智能发展仍面对一些挑战：其中一些挑战触及在履行寰宇中部署AI系统出现的筹划难题，举例刚正性、可用性、谨慎性和可解释性等；另一个弱点的费事是基础设施和法例，很少有医疗系统具备简短部署、更新和监控算法的基础设施，而严格的医疗法例使医疗系统愈加严慎。医疗东谈主工智将来进展关节在于 数据的可用性——需要来自不同地点的大型、万般化数据集，以确保模子在多种东谈主群和条目下具有谨慎性和刚正性。此外，还需要诸如联邦学习等时间，这种时间允许东谈主工智能模子在多个落寞的数据池上进行涵养，而无需分享或围聚存储任何原始数据。

（6）医疗助手（Healthcare Aide）：通过减少医护东谈主员的文牍处事和单调乏味的任务，裁减医护东谈主员管事疲钝，匡助他们专注于患者照顾。

（7）专用医疗AI（Narrow Medical AI）：专注于特定任务，如估计ICU患者的病情恶化。

（8）通用医疗AI（Broad Medical AI）：通过整合多模态数据，为医疗决策提供全面相沿。

4、信息/新闻/外交收集

跟着东谈主工智能系统在与东谈主类和其他AI系统的交互中变得愈加自主，其可能带来的潜在克己和误导信息、不实信息和偏见等风险齐在增多。东谈主工智能系统是否能够以符合用户或社会利益的容颜领受步履，变得愈加剧要。为了终了东谈主工智能的后劲，咱们必须建立方法，在最大化东谈主工智能提供的信息上风的同期，收缩误导信息、不实信息和偏见的影响。尽管不实信息对个东谈主福祉和海外安全的威逼不问可知，但部分误导信息或偏见的威逼愈加玄妙：东谈主工智能系统并不齐全，而东谈主们却期许其行动一种智能器具是可靠的。为了处置与AI系统关系的误导信息、不实信息和偏见挑战，咱们不仅需要高质地的东谈主工智能系统，还需要有用的东谈主类+东谈主工智能（以及东谈主工智能+东谈主工智能）交互——这是一个在监管和筹划中显耀穷乏关注的限制。咱们必须设备方法，为用户、设备者和监管者提供对东谈主工智能系统的限度和矫健。这些方法将包括新式用户界面，不错在骄贵AI系统提供的回答或谜底的同期提供有用的高下文信息，举例AI系统的置信度水平，或者回答或谜底中包含的援用信息的着手。在东谈主工智能器具链的更底层，这种矫健需要能够解释东谈主工智能模子里面机制的时间，以便了解：一个模子是否不安妥地探究了种族或性别而生成了有偏见的谜底；是使用推理得出谜底如故只是援用了模子顾虑中的内容；甚而不错区分模子是撒谎如故老师，等等。

（9）基于东谈主工智能的全球筹划平台（AI-mediated Platform for Civic Discourse）：旨在促进不同不雅点之间的成立性对话，减少社会的南北极化。

（11）用于优化信息获取的可控AI（Controllable AI for Curating Information Consumption）：防护信息茧房。

5、媒体/文娱

与诠释和医疗不同，许多文娱限制的需求丧祭弹性的。如若东谈主工智能提高了好意思术家和平面想象师的坐蓐力，商场是否会扩大以容纳更多的画作和想象，这少量并不较着。而如若咱们将文娱视为一个讲故事的行业，那么其中一个收尾可能是东谈主工智能系统能够匡助更多的东谈主确认更多的故事。

（12）记者助手（A Journalist’s Aide）：能够快速查抄新闻草稿造作，并隆起无法考据的场地，骄贵冲突着手。

（13）版权检测器/收益分享者（Copyright Detector/Revenue Sharer）：当检测到版权作品被使用时，能够相应地分拨资金给版权通盘者，并奖励设备可授权数据集用于涵养AI的东谈主。

6、治理/国度安全/开源

总体而言，今天的决策将塑造将来的东谈主工智能时势，影响从经济竞争力到社会沉稳的一切。在实用东谈主工智能的早晨时间，审慎的治理不仅是可取的，更是必不可少的。需要探究以下七个原则：

第一，均衡收益与风险。单纯关注风险可能会拦截故意收尾和创新，但冷落东谈主工智能带来的益处与冷落风险雷同是一个首要造作。

第二，举座和透明的影响评估。对赓续发展的东谈主工智能系统进行影响评估在匡助东谈主们、组织和政府更好地了解东谈主工智能系统的潜在孝顺过火风险和局限性方面起着关节作用。由于东谈主工智能系统的影响多种万般，这些影响评估必须尽可能可靠，并平日公开以供个东谈主和筹划机构使用，从而实时向战术制定者建议心境。

第三，应用现存法律框架。与其系数制定新的监管有规划，不如尽可能调和并应用现存章程。对东谈主工智能日常应用的治理更多地关乎对现存章程和标准的审慎适用，而不是制定全面的新有规划来范例东谈主工智能系统在通盘情境下的使用。尤其需要确保东谈主工智能系统至少达到与相恻隐境下东谈主类决策者或非东谈主工智能系统调换的法律标准，以防护东谈主工智能系统被用于回避职责。

第四，弥补法律空缺。即使咱们不错依赖现存法律来大意80%到90%的东谈主工智能战术挑战，经心想象的新战术仍将匡助社会束缚这项可能将某些体式的智能改换为商品化的时间。

第五，缓解偏见悔过。一方面，AI悔过依然成为一个显耀问题，咱们需要领受多种措施减少东谈主工智能的偏见悔过。另一方面，不应冷落东谈主工智能模子提高刚正性的后劲，因为东谈主类决策近况常常存在深刻残障，而东谈主工智能模子不错行动匡助东谈主类决策者检测和减少东谈主类偏见的有用器具。

第六，投资全球利益和国度安全。一些有远景的战术更多地触及投资和基础设施，而非监管。战术不错荧惑尚未被商场充分接受或资助的东谈主工智能应用，或相沿对国度安全至关弱点的能力。

第七，接受迭代战术制定。东谈主工智能的快速发展和通用性要求对战术进行持续评估和完善。东谈主工智能开动的平台不错同期促进战术评估以及公众的接头和筹划。

（14）政府/行业合作的奏凯案例（Recent Government/Industry Collaborative Successes）：展示全球规模内务府机构与私营企业之间的奏凯合作，以增强AI的正面效应并减少负面影响。

（15）AI审计（Implementable AI Audits）：建立明确的AI审计标准，包括审计员的专科水平、具体测试样式及必须答复的信息。

（16）改进刚正性的AI（Equity-improving AI）：东谈主工智能刚正性干豫最具影响力的限制是治理中的应用，在这一限制，东谈主工智能可能被用于影响数十亿东谈主的决策，并产生首要的社会和经济影响。在这么的情境中，这一里程碑将包括部署一个刚正的东谈主工智能决策相沿系统，或者使用东谈主工智能进行分析，并辅以明显的履行把柄，诠释其在某些估计标准上改善了刚正性。

7、科学

东谈主工智能发展给科学筹划带来了新的机遇，Google DeepMind甚而以为东谈主工智能将带来科学发现的黄金年代。当今，在黑洞可视化、巨流估计、材料发现、天气估计、缩减飞机尾迹、限度核聚变等离子体等方面依然表现了好多AI助力科学筹划的例子。总体而言，学术界和行业主导的筹划中赓续增多的投资、兴味和应用，鼓吹了一场深度学习更动，正在改变科学发现的时势。

（17）助力蚁合国可持续发展主见的AI科学突破（AI Scientific Breakthroughs for the UN Sustainable Development Goals）：使用AI取得弱点的科学突破，匡助终了一个或多个蚁合国可持续发展主见。

（18）科学家AI助手/融合者（Scientist’s AI Aide/Collaborator）：升迁科研效能。

十八个里程碑系统地回话了刻下AI发展面对的挑战，从时间优化到社会职责均有所触及。通过明确这些主见，AI不仅能够鼓吹办事增长、优化诠释与医疗资源，还能加快科学筹划与信息传播的跳跃，为全球公众福祉带来长远影响。

福祉型东谈主工智能的激发机制

尽管AI存在数据阴事、学问产权、偏见等风险，但其带来的机遇雷同谢绝冷落。冷落其克己就像冷落其风险一样，齐是造作的。政府需要加快跟上AI发展的程序，建议通过全球和私营部门合作，冲突官僚主义费事，确保AI的安全性和透明性，并为战术制定者与公众提供必要的诠释。为了相沿、促进东谈主工智能为公众福祉服务，答复建议需要在两个主要主见提供资金相沿：一是设立激发性奖项（Inducement Prizes），以激发筹划并招供弱点突破；二是资助为期三到五年的跨学科筹划中心。

每个激发奖金至少价值100万好意思元，用于激发鼓吹AI积极影响的弱点里程碑式筹划，不同于赏赐往日配置，激发奖项给出了特定的主见。上述提到的18个里程碑齐应配套相应的激发奖金。举例，AI关系的有2004年的DARPA自驾车挑战赛、2009年的Netflix用户评分估计较法奖。此外，Kaggle平台上有300多项进行中的竞赛。好意思国政府也相沿了特别1300项激发奖。对于筹划不及的课题，答复建议资助为期三至五年的具有高影响力的跨学科筹划中心。举例，20世纪70年代的UNIX样式以及2000年代的RADLab和Par Lab。除了开展终了里程碑的筹划外，筹划中心还需判断什么样的筹划收尾能够取得激发奖金。筹划中心与激发奖协同作用，激发奖金的参赛者为筹划中心响应筹划历程中出现的关节挑战，以及转让时间收尾。

归来

这大要是现代东谈主类的登月规划体育游戏app平台，但咱们的极度在哪？也许咱们不错设备一个AI长入员，促进具有不同不雅点的群体之间的对话，将社会从极化情状勾通回多元包容的主见。也许咱们不错应用智能手机，为全球每个孩子设备一个定制化提示软件。又大要，咱们不错让AI成为生物学家和神经科学家的过劲助手，让他们在十年内取得非常于一个世纪的筹划进展。 咱们不错用AI干成好多事情，只好咱们手合手正确的创新蓝图，内行和用户共同对话，咱们就无须局限于单一主见，而是不错终了多个愿景。