跳到主要内容
马库拉应用伦理学中心

伦理与人工智能

Julian Dreiman ' 21是2020-21年的Hackworth研究员马库拉应用伦理学中心.观点是他自己的。

下面提供了每个调查项目的概要,包括概要信息图和完整报告的链接。

学生对人工智能的看法和与人工智能伦理相关的话题

人工智能(AI)已经改变了——而且正在改变——世界运作的几乎方方面面。从以前平凡任务的自动化,到预测性治安,到内容推广,再到工作申请,人工智能无处不在,并产生了前所未有的影响。在2020-2021学年期间,我收集了圣克拉拉学生对人工智能和潜在伦理问题的意见。在一项16个问题的调查中,我提出了与四个主题相关的问题:公平和公平,社会影响,道德地位和智力,以及用例和设置。几名学生还选择在一个可选的自由回答部分分享他们对人工智能的最大担忧。

从这些数据中可以明显看出,学生们意识到了人工智能带来的紧迫的伦理问题。例如,学生们明白,为了确保公平的结果,需要某种程度的优惠待遇,此外,公平的人工智能是比平等更可取的结果。此外,在调查的自由回答部分,学生们有空间分享他们对人工智能的最大担忧,许多人表达了对不平等加剧、制度化偏见和制度化偏见的担忧。此外,在自由回答部分,学生们表达了对人工智能将导致失业增加和大规模贫困的担忧。除了这些重要的、尽管被高度宣传的人工智能伦理问题之外,学生们还表达了一系列更微妙的担忧。

其中一个领域就是人际交往。在自由回答部分,学生们对人工智能导致的有意义的人际互动的丧失以及与人类价值观的脱离提出了担忧。这些观点得到了数据的支持,数据显示,学生们担心人工智能被用于与人类互动和人际交往技能相关的任务。值得强调的是,相当一部分学生认为,人工智能不应该被用来判断教师的效率和质量,这表明这些重要的任务应该留在人类的职权范围内。此外,学生们表示担心,许多人不了解AI的真正工作原理,人们对AI的期望太高,人们对AI过于信任。

在道德责任和地位问题上,学生们的观点截然不同。一方面,学生们认为,如果人工智能达到了人类的智力水平,它就不应该被赋予与人类类似的道德地位。另一方面,学生们普遍认为,AI模型应该对其输出承担道德责任。(然而,这种对比可能是由于问题措辞不当或缺乏对人工智能意志能力的理解。例:我假设学生们认为某人应该承担道德责任,但也许不认为人工智能具有承担道德责任所需的必要特征)。最后,学生们似乎普遍对AI未来对社会的影响持乐观态度,并对AI应该在哪里、如何使用以及不应该使用有明确的概念。

下面的图表是调查结果的摘要。完整数据可在此查看:

研究结果总结:学生对人工智能的看法和与人工智能伦理相关的话题

直接查看,或右键单击以保存副本。

学生对收集个人资料的意见

数字身份和个人数据的话题比以往任何时候都更成为人们关注的焦点。在2020-2021学年期间,我收集了圣克拉拉学生对个人数据收集、销售和使用的意见。通过16个调查问题和一个免费的回答区,我旨在衡量圣克拉拉的学生对以下问题的看法:数字隐私是否应该成为一项人权,联邦政府应该或不应该在个人数据市场中扮演什么角色,他们对目前收集个人数据的方式的满意程度,以及他们采取什么步骤来保护他们的在线个人数据。

共有87名学生完成了调查,他们代表了所有三所学院和四年的本科学习。本文档中表示的数据是一些重要问题和答案的选择,这些问题和答案被分为五个类别。每个类别都包括调查结果的可视化表示,然后是书面分析和解释。

从这些数据中第一个明显的收获是,学生们非常重视数字个人隐私和保护他们的个人数据。绝大多数学生认为,数字隐私应该与生命权和自由权一样,成为一项人权。我的问题是“你对收集个人资料最关心的是什么?”学生们的自由回答也反映了这种情绪。许多学生谈到了政府越权或因网上言论而受到惩罚的问题。话虽如此,一位受访者确实指出,他们不担心政府收集他们的个人数据,只要这些数据被用于重要的国家安全措施。

与数字隐私的重要性相关的是隐私悖论。虽然学生们承认他们对当前个人数据市场的担忧,但少数人采取了高度的行动来保护他们的个人数据。在他们的自由回答中,学生们指出,他们担心公司购买他们的个人数据(大多数受访者担心的是位置数据)。还有很多人担心自己会成为个性化广告甚至个性化错误信息的目标。更实际的是,人们担心数据泄露、黑客攻击、身份盗窃、金融犯罪,以及被诱导购买不必要的商品。

从这些数据中得出的另一个有趣的结论是,学生们对联邦政府在个人数据方面应该怎么做,以及联邦政府在数字隐私问题上有多值得信任,持不同看法。一方面,绝大多数学生认为联邦政府应该监管个人数据市场。同样绝大多数的学生也希望联邦政府能采取更多措施保护他们上网时的个人隐私。与此同时,这些学生在涉及个人数据、互联网和数字隐私问题时不信任联邦政府,认为联邦政府不应该有权在家里监视公民的数字活动。

下面的图表是调查结果的摘要。完整数据可在此查看:

调查结果摘要:学生对收集个人资料的意见

直接查看,或右键单击以保存副本。

给道德中心做一份礼物

马库拉应用伦理学中心提供的内容在一定程度上得益于我们社区的慷慨财政支持。在你们的帮助下,我们可以继续开发帮助人们看到、理解和解决伦理问题的材料。