本文探讨了AI的未来趋势，包括其对大数据、网络安全的影响以及全球治理的必要性。随着AI技术的广泛应用，我们必须认识到它带来的机遇与挑战，尤其是在数据安全和隐私保护方面。

人工智能（AI）确实是计算机科学的一项革命性壮举，将在未来几年和几十年内成为所有现代软件的核心组成部分。这既是威胁，也是机遇。

人工智能将被部署来增强防御性和进攻性网络作战。此外，还将发明新的网络攻击手段，以利用人工智能技术的特定弱点。最后，人工智能对大量训练数据的需求将放大数据的重要性，从而重新定义我们必须如何考虑数据保护。全球层面的审慎治理对于确保这一定义时代的技术带来广泛共享的安全和繁荣至关重要。

一、人工智能与大数据

一般来说，人工智能是指能够替代人类智能执行某些任务的计算工具。这项技术目前正在以惊人的速度发展，就像二十世纪末数据库技术经历的指数增长一样。数据库已发展成为驱动企业级软件的核心基础设施。同样，未来几十年软件带来的大部分新附加值预计将至少部分由人工智能驱动。

在过去的十年中，数据库已经发生了显着的发展，以应对被称为“大数据”的新现象。这是指现代数据集的规模和全球范围前所未有，这些数据集主要来自计算机系统，这些系统几乎已经影响了日常生活的各个方面。例如，YouTube 每分钟接收超过 400 小时的视频内容。

例如，研究人员训练计算机模型，仅根据个人喜欢的 Facebook 帖子，比朋友更准确地识别个人的性格特征。

大数据和人工智能有着特殊的关系。人工智能发展的最新突破主要源于“机器学习”。该技术不是规定人工智能要遵循的一组静态方向，而是使用大数据集来训练人工智能。例如，人工智能聊天机器人可以接受包含从通讯应用程序收集的人类对话文本记录的数据集的训练，以学习如何理解人类所说的话，并提出适当的回应。可以说，大数据是推动人工智能算法和模型的原材料。

创新的主要限制不再是记录和存储信息的困难，而是在现在收集的大量数据中找到有用的见解。人工智能可以注意到庞大数据集中超出人类感知能力的模式。这样，人工智能技术的采用就可以让看似平凡、看似微不足道的数据变得有价值。例如，研究人员训练计算机模型，仅根据个人喜欢的 Facebook 帖子，比朋友更准确地识别个人的性格特征。

二、人工智能和网络安全

几乎每天都会有有关备受瞩目的数据泄露或造成数百万美元损失的网络攻击的新闻报道。网络损失很难估计，但国际货币基金组织认为全球金融部门每年损失的网络损失在 100 至 2500 亿美元之间。此外，随着计算机、移动设备、服务器和智能设备的日益普及，威胁暴露的总量与日俱增。尽管商业和政策界仍在努力认识网络领域新发现的重要性，但人工智能在网络安全中的应用预示着更大的变化。

人工智能的基本目的之一是实现以前需要人类智能才能完成的任务的自动化。减少组织为完成项目而必须使用的劳动力资源，或个人必须投入日常任务的时间，可以极大地提高效率。例如，聊天机器人可用于回答客户服务问题，医疗助理人工智能可用于根据患者的症状诊断疾病。

在人工智能如何应用于网络防御的简化模型中，服务器和网络组件记录的活动日志行可以被标记为“敌对”或“非敌对”，并且可以使用该数据集训练人工智能系统进行分类未来对这两类之一的观察。然后，该系统可以充当自动哨兵，从正常活动的巨大背景噪音中挑选出异常观察结果。

自动化以前需要人类智能完成的任务，例如使用聊天机器人来解决客户服务问题，是人工智能的基本目的之一，可以为组织带来巨大的效率提升。

这种自动化网络防御对于应对现在必须监控的大量活动是必要的。我们已经达到了无需使用人工智能即可防御和识别敌对行为者的复杂程度。展望未来，只有将人工智能应用于任务的系统才能处理网络安全环境中的复杂性和速度。

不断地重新训练此类人工智能模型至关重要，因为正如人工智能用于防止攻击一样，所有类型的敌对行为者也在使用人工智能来识别模式并识别其潜在目标的弱点。比赛状态是一个战场，双方不断试探对方并设计新的防御或新的攻击方式，而且这个战场每时每刻都在变化。

也许黑客武器库中最有效的武器是“鱼叉式网络钓鱼”——使用收集到的有关预期目标的个人信息向他们发送单独定制的消息。一封看似由朋友撰写的电子邮件，或与目标兴趣爱好相关的链接，很有可能避免怀疑。目前，这种方法相当耗费人力，需要潜在的黑客对其每个预期目标手动进行详细研究。然而，类似于聊天机器人的人工智能可以利用从浏览历史记录、电子邮件和推文中获得的数据，自动为大量用户构建个性化消息。通过这种方式，敌对行为者可以利用人工智能来大幅扩大他们的进攻行动。

人工智能还可以用于自动搜索软件中的安全缺陷，例如“零日漏洞”。这样做可以出于合法或犯罪意图。软件设计人员可以使用人工智能来测试其产品的安全漏洞，就像犯罪分子在操作系统中寻找未被发现的漏洞一样。

人工智能不仅会增强现有的进攻和防御策略，而且还会在网络安全之战中开辟新的战线，因为恶意行为者会寻求利用该技术特定弱点的方法。敌对行为者可能使用的一种新颖的攻击途径是“数据中毒”。由于人工智能使用数据来学习，敌对行为者可能会篡改用于训练人工智能的数据集，以使其按照自己的意愿行事。 “对抗性例子”可以提供另一种新的攻击形式。与视错觉类似，对抗性示例包括以人类可能无法察觉的方式修改人工智能的输入数据，但经过计算会导致人工智能以某种方式对输入进行错误分类。在一种广泛猜测的场景中，停车标志可能会被巧妙地改变，使控制自动驾驶汽车的人工智能系统将其错误地识别为让行标志，从而可能造成致命的后果。

三、数据的新价值

人工智能技术将以另一种方式改变网络安全环境，因为它对数据的渴望改变了构成有用资产的信息类型，将以前不感兴趣的信息宝库转变为敌对行为者诱人的目标。

虽然一些网络攻击的目的只是为了破坏、造成损害或造成严重破坏，但许多网络攻击的目的是夺取知识产权等战略资产。网络空间中的攻击者越来越多地玩着一场长期游戏，寻求出于未知目的获取数据。人工智能系统甚至能够利用无害的数据，这引发了“数据收集”策略——收集任何可以收集的信息并将其存储起来以供未来的战略使用，即使目前这种用途尚未明确定义。

《纽约时报》最近的一篇报道展示了这一策略的实际应用示例。报告指出，中国政府涉嫌盗窃万豪连锁酒店 5 亿多名客户的个人数据。尽管通常对数据泄露的主要担忧是可能滥用财务信息，但在这种情况下，这些信息可用于通过检查旅行习惯来追踪可疑的间谍，或跟踪和拘留个人，将其用作其他事务中的讨价还价筹码。

数据和人工智能连接、统一和释放无形和有形资产；它们不应该被认为是不同的。正如剑桥分析丑闻所表明的那样，数据量正在成为商业、国家安全乃至政治成功的关键因素。万豪事件表明，相对普通的信息现在可以在情报和国防领域提供战略资产，因为人工智能可以从看似不同的信息来源中提取有用的见解。因此，此类批量数据可能会成为在此领域运营的参与者更常见的目标。

四、对政策和治理的影响

这些正在发生的事态发展将迫使人们重新思考现行的网络安全战略。在日益互联的系统中，识别最薄弱的环节变得更具挑战性，但也更加重要。随着传感器、机器和人成为有价值的人工智能系统的数据的交织提供者，网络攻击的入口点将会激增。网络安全需要全面的战略来最大程度地减少最薄弱环节；零敲碎打的网络政策是行不通的。由于为最重要和革命性的人工智能技术提供支持的训练数据是全球范围的，从许多不同的国家收集的，很明显，仅靠国家层面的治理是不够的。

全球政策制定者已开始将注意力转向人工智能技术广泛应用的影响，尤其是其对网络安全的影响。七国集团（G7）在 2018 年魁北克省沙勒瓦峰会期间将注意力转向人工智能治理，承诺通过对网络安全的适当投资“促进以人为中心的人工智能”，同时注重隐私和个人信息保护作为机器学习原始输入的数据。

将人工智能技术应用于鱼叉式网络钓鱼等现有网络攻击策略，不仅可以增强其有效性，而且可以通过规避劳动力限制，增加有能力执行这些攻击的攻击者的数量。这使得当前在网络空间和国际数据保护方面建立有效的全球治理的努力变得更加紧迫，例如联合国政府专家组试图建立公认的行为准则。

虽然人工智能通常被认为是对隐私的威胁，但它也有可能帮助保护隐私并对专有数据及其衍生资产进行控制。

导致更具威胁性的网络攻击的技术也正在推动民用经济的增长并实现更有效的网络防御。虽然人工智能通常被认为是对隐私的威胁，但它也有可能帮助保护隐私并对专有数据及其衍生资产进行控制。政策制定者必须仔细考虑如何规范这些技术的使用，平衡防止强大武器落入恶意行为者手中，同时又不扼杀创新的需要。协调国家管辖范围内的此类政策至关重要。由于敌对行为者能够轻而易举地跨越边界，任何单方面限制这些技术在其境内使用和开发的国家都会使自己处于竞争劣势。

此外，随着人工智能技术越来越融入一般经济和民用领域，现有的法律和规范框架可能需要调整，以涵盖数据中毒和对抗性示例等新型攻击形式。到目前为止，数据盗窃一直是网络空间的主要问题。展望未来，敌对行为者可能会尝试访问数据库，不仅是为了获取其信息，而且是为了改变和操纵它们。网络攻击的法律定义可能需要修改，以涵盖这些新威胁。

人工智能算法从数据中学习，产生有价值的新预测工具，并且人工智能的输出可以与原始训练数据分离。因此，要真正控制数据及其价值，任何由数据产生的资产也必须受到控制。允许记录、存储和分析大数据的基础设施应被视为资产，就像任何其他部门一样。此外，金融等一些部门具有系统性影响，由于与第三方的联系，保护起来更加重要。管理机构需要继续改善这些领域和许多其他领域的安全状况，包括身份欺诈。由于用于攻击目的的人工智能软件能够快速发展，因此这是一项持续的需求，而不是一次性的投资。