人工智能是一项不断发展的技术，它不断突破我们认为可能的界限，也不断突破道德上可以接受的界限。这就是背后的动力未来生命研究所该竞赛要求该领域的人士想象一个2045年的世界，届时人工智能(AGI)将变得司空见惯。未来生命研究所是人工智能伦理和人工智能治理的全球领导者，作为2020-21 Hackworth研究员，朱利安·德莱曼21岁说:“[未来生命]作为一个智库确实有很大的影响力，很多人去他们那里研究这些问题。”
对于Dreiman来说，这是一个独特的挑战，为他提供了一些方法来探索他觉得AGI有趣的原因，特别是在照顾老年人和人工智能治理方面。正如他所说，“人工智能的独特之处在于它是一种通用技术。人工智能渗透了一切。”
Dreiman在2020-21年担任Hackworth Fellow的经历进一步加深了他对人工智能的兴趣，在那里他与技术伦理主任一起工作布莱恩绿色．作为一名Hackworth Fellow，德雷曼在校园内进行了调查，以了解学生群体对人工智能、目标和问责制的重要性的看法．他还要求受访者在照顾老年人时考虑人工智能欺骗的道德问题。现在，毕业后，Dreiman从事未来预测工作，这使得他能够使用工具来帮助他开发这种新的未来人工智能。
他提交竞赛详细介绍了三种不同的AGI系统，每一种都是由世界主要大国开发的。在他的世界里，只让中国、欧洲和美国创造主要AGI强国的理由是完全合乎逻辑的。“你可以有一个想法，但如果你没有计算能力，或者没有资金，或者没有支持来实现它，它就不会实现。”
在Dreiman构建的世界中，每个AGI系统都有不同的方法。中国版由政府赞助，基于国家计划和国家控制。欧洲体系植根于《欧盟基本权利宪章》，关注个人权利和气候变化等威胁。在德雷曼看来，美国版本是“最现实的”，它由一家私人公司创造，更关注利润，而不是一般的福祉或道德。
虽然人工智能当然有它的负面和某些方面需要仔细考虑，但这次比赛和朱利安自己提交的目标是展示积极的一面。德雷曼说:“如果你只考虑消极的方面，那么你就没有一个可以依靠的框架，也没有一个可以研究积极方面的例子。”他还强调了接受人工智能以及理解如何改进和指导人工智能的重要性。“人工智能会一直存在，参与的社会可以决定它如何成长和发展，随着我们成为一个更先进的社会，从技术上讲，我们往往会失去社会凝聚力和纽带，所以我们的技术越先进，这些纽带就变得越重要，我们不能忽视这一点。”
当被问及背景时，马库拉中心技术伦理主任布莱恩·格林(Brian Green)总结道:“比赛的基本思想是，人工通用智能(AGI)已经成为社会的一部分，AGI已经帮助让世界变得更好，而不是更糟。比赛中提出的“积极未来”理念让我们有了可以为之努力的好事，而不仅仅是要避免坏事。在相当长的一段时间里，我们听到了反乌托邦的故事，警告我们要避免未来，但没有关于我们可以引导自己走向合理美好未来的故事。也许随着未来更积极的想法，技术开发人员将激发他们的想象力，让他们想到人工智能的一些新的有益用途，真正帮助社会。”
德雷曼的作品进入了比赛的最后阶段，成为20名决赛选手之一。大赛决赛选手的最终排名将于6月30日公布，并将于worldbuild.ai．
更新:2022年7月:最终结果出来了。在来自44个国家的144个团队中，Dreiman的作品获得了第四名!恭喜,朱利安!
卢卡斯·布什(Lucas Bush)今年23岁，主修政治学和种族研究，是马库拉应用伦理学中心的营销和传播实习生，他对本文有贡献。