认识达内从这里开始

任何技术的发展都是两面性的，除了能够给我们的生活带来好处以外，关于副作用方面的影响也是需要我们重点关注的。今天，我们就一起来了解一下，人工智能技术的发展会带来哪些安全隐患。

对于大规模采用人工智能所带来的社会、政治和伦理影响，存在着严重的担忧和未解决的问题。例如，可以通过人工智能大规模实现的“智能自动化”，有望改变我们的工作方式和需求技能：某些角色将会过时，一些职业终会消失。

致命的自主武器：自动机器人的概念令人印象深刻——想象一下，一辆自动驾驶汽车，它可以捕捉环境和动态并作出实时决策，在一定的限制条件下实现预定义的目标：从A点驾向B点。

然而在军事背景下，这种自主性决策令人恐惧：所谓的致命自主武器，指的是未来的机器人系统，它可以在没有人类干预或者批准的情况下击中目标。但是，是谁在控制这些“杀手机器人”的设计、操作和目标分配呢?这样的机器人如何能够理解复杂情况下的细微差别，并作出威胁生命的决定?类似这种的担忧还有很多。

偏见的风险和透明度的需求：人工智能系统通过分析大量数据来学习，并通过对交互数据和用户反馈的持续建模来不断适应。如何保证人工智能算法的初始训练是无偏见的?如果一家公司通过训练数据集(无论有意或无意)引入了对特定类别的客户或用户的偏见，该怎么办?例如，如果负责从一堆简历中识别有才能的候选人的算法继承了已知或未知的偏见，导致了与多样性相关的问题，该怎么办?

我们必须确保这些系统对其决策过程是透明的。这是允许更好地处理边缘案例的关键，同时支持更广泛的受众和社会的普遍理解和接受。

获取数据、知识和技术：在我们互联的世界里，只有相对较少的公司为了我们每个人正在收集大量数据。对这些数据的访问将使我们的日常生活在活动、互动和明确陈述或隐含确定的兴趣方面得到精确的再现;如果有人(或其他什么人)有了这些数据，就会“知道”我们的移动历史、我们的在线搜索和社交媒体活动、聊天、电子邮件以及其他在线微行为和互动。

一个人工智能系统将能够“理解”任何在线用户——在兴趣、日常习惯和未来需求方面;它可以得到令人印象深刻的估计和预测，从购买兴趣到用户的情绪状态。

如果你考虑这个大规模的人工智能输出——在全体人口的层面上分析数据——这些预测和见解可以描述整个人口的综合、状态和动态。这显然会给那些控制这些系统的人提供极端的权力。回想一下CambridgeAnalytica案例：给定个人用户的数据可能价值很低，但当大规模分析时(对于足够大的用户群体，拥有先进的分析和推理模型)，它可能会带来巨大的社会政治影响。

隐私权：当你考虑到未经授权访问某人的在线历史(或其他)数据的可能性时，隐私权显然处于危险之中。但即使是离线用户的情况下——有人故意决定保持“断开的连接”——隐私权仍然受到威胁。

想象一下，当一个中断连接的用户(没有智能手机或其他设备感知到用户的位置)在未来的“智能城市”中移动会是什么样子的。只要他在几条主要街道上走一走，安全摄像头网络就能够捕捉他的踪迹，并可能通过可靠的面部识别来识别他，并与中央数据存储区进行比对。那么，谁能够获得这些信息，以及在什么样的条件下获得这些信息，其中明显存在很大的问题。

未经授权的访问和控制：安全性和访问控制是一个关键方面——如果有人破坏了智能系统，例如自动驾驶汽车，那么后果将是灾难性的。保护智能连接系统和机器的安全，防止未经授权的访问，是重中之重。

技术性失业：这被定义为应用新技术“解释”的失业：在人工智能时代，失业指的是被智能自动化所取代的工作。在未来几年后，我们将目睹劳动力和市场的重大变化——角色和工作将被淘汰，行业将被彻底改变，就业模式和关系将被重新定义。

例如，与客户服务/呼叫中心、文档管理、内容审核相关的任务和活动越来越多地基于技术和智能系统。与生产线和工厂的操作和支持相关的角色也是如此：智能机器人正在取代人类，它们可以安全地在空间中导航、查找和移动对象(如产品、部件或工具)，并执行复杂的组装操作。

但是，人工智能在处理更复杂的活动方面是非常有效的——那些需要处理多个信号、数据流和实时积累知识的活动。一个典型的例子是能够捕捉并“理解”它们的环境和动态的自动驾驶车辆，它们可以“看到”，实时决定并采取行动。职业司机(出租车、卡车等)会发现他们的技能需求迅速下降。

伦理、社会责任和艰难的决策：人工智能使实时的佳决策成为可能。尽管在大多数情况下，佳决策是客观确定、并被普遍接受的，但有几个例子提出了伦理和道德问题。例如，一辆自动驾驶汽车知道它即将撞上行人，必须决定它是否会通过冒险(对乘客)的操作来避开敏感的行人。这需要以毫秒为单位来决定。

这些关键决策背后的逻辑必须预先定义、充分理解和接受;与此同时，在某些数据保护规则下，自动驾驶汽车的活动和决策的详细历史必须可供访问并可用来进行分析。

不均衡的权力和对数据的控制：科技公司在科学/工程以及商业和产品开发层面都在大力投资人工智能。与其他雄心勃勃的竞争对手相比，这些公司拥有无可比拟的优势：庞大的数据集以多种不同的格式(文本、图像、音频、视频)描述了广泛的人类活动(搜索、交流、内容创建、社交互动等等)。为了保持领先的市场地位，科技公司往往会收购那些有前途的科技/人工智能初创企业，这些公司扰乱了市场。这可能会带来超能力，人工智能技术的独特设置会带来大量累积的用户和机器数据。

作者：George Krasadakis

译者：刘志勇

节选：infoq

【免责声明】：本内容转载于网络，转载目的在于传递信息。文章内容为作者个人意见，本平台对文中陈述、观点保持中立，不对所包含内容的准确性、可靠性与完整性提供形式地保证。请读者仅作参考。