过去五年,企业对人工智能的采用率翻了一番,今天的首席执行官 陈述 他们面临着来自投资者、债权人和贷款人的巨大压力,要求他们加速采用生成式人工智能。 这在很大程度上是因为我们认识到我们已经跨越了人工智能成熟度的新门槛,为整个社会引入了新的、更广泛的可能性、结果和成本效益。
许多企业一直保留“全力以赴”人工智能,因为该技术中的某些未知因素会削弱固有的信任。 安全通常被视为这些未知因素之一。 如何保护人工智能模型的安全? 如何确保这种变革性技术免受网络攻击,无论是数据盗窃、操纵和泄露,还是逃避、中毒、提取和推理攻击?
无论是在政府、市场还是商业部门之间,全球都在努力建立人工智能领先地位,这引发了回答这个问题的压力和紧迫性。 保护人工智能模型的挑战不仅源于底层数据的动态性质和数量,还源于人工智能模型引入的扩展“攻击面”:对所有人来说都是新的攻击面。 简而言之,为了操纵人工智能模型或其结果来实现恶意目标,对手可以尝试破坏许多潜在的入口点,其中许多入口点我们仍在发现中。
但这一挑战并非没有解决方案。 事实上,我们正在经历任何技术所发起的最大规模的众包运动,以确保人工智能的安全。 这 拜登-哈里斯政府, 国土安全部 CISA 和 欧盟人工智能法案 动员研究人员、开发人员和安全社区共同努力推动人工智能的安全、隐私和合规性。
确保企业的人工智能安全
重要的是要理解人工智能的安全比保护人工智能本身更广泛。 换句话说,为了保护人工智能,我们不仅仅局限于模型和数据。 我们还必须考虑将人工智能嵌入的企业应用程序堆栈作为防御机制,扩展对其中人工智能的保护。 同样,由于组织的基础设施可以充当威胁载体,能够为对手提供对其人工智能模型的访问权限,因此我们必须确保更广泛的环境受到保护。
为了理解我们保护人工智能的不同方式(数据、模型、应用程序和整个流程),我们不仅必须清楚人工智能如何发挥作用,而且还必须清楚它如何在各种环境中部署。
企业应用程序堆栈卫生的作用
组织的基础设施是抵御人工智能模型威胁的第一层防御。 确保将适当的安全和隐私控制嵌入到围绕人工智能的更广泛的 IT 基础设施中是关键。 在这个领域,该行业已经具有显着优势:我们拥有在当今复杂的分布式环境中建立最佳安全、隐私和合规标准所需的专业知识和专业知识。 重要的是,我们还认识到这一日常使命是安全人工智能的推动者。
例如,实现对用户、模型和数据的安全访问至关重要。 我们必须使用现有的控制措施并将这种做法扩展到确保人工智能模型的路径安全。 同样,人工智能为企业应用程序带来了新的可见性维度,保证了威胁检测和响应能力扩展到人工智能应用程序。
赌注安全标准——例如在整个供应链中采用安全传输方法、建立严格的访问控制和基础设施保护,以及加强虚拟机和容器的卫生和控制——是防止利用的关键。 当我们审视整体企业安全策略时,我们应该将这些相同的协议、策略、卫生和标准反映到组织的人工智能配置文件中。
使用情况和底层训练数据
尽管人工智能生命周期管理要求仍然变得清晰,但组织可以利用现有的护栏来帮助确保人工智能之旅的安全。 例如,透明度和可解释性对于防止偏见、幻觉和中毒至关重要,这就是为什么人工智能采用者必须建立协议来审核工作流程、训练数据和输出,以保证模型的准确性和性能。 除此之外,应记录数据来源和准备过程,以确保信任和透明度。 这种背景和清晰度可以帮助更好地检测早期数据中可能出现的异常情况。
安全性必须存在于人工智能开发和部署阶段——这包括在训练和测试数据阶段实施隐私保护和安全措施。 由于人工智能模型不断地从其基础数据中学习,因此必须考虑这种动态并承认数据准确性方面的潜在风险,并在整个数据生命周期中纳入测试和验证步骤。 数据丢失防护技术对于通过提示和 API 检测和防止 SPI、PII 和受监管的数据泄露也至关重要。
整个人工智能生命周期的治理
确保人工智能的安全需要采用综合方法来构建、部署和管理人工智能项目。 这意味着构建具有治理、透明度和道德的人工智能,以支持监管要求。 当组织探索人工智能的采用时,他们必须评估开源供应商关于其人工智能模型和训练数据集的政策和实践,以及人工智能平台的成熟度状态。 这还应该考虑到数据的使用和保留——准确了解数据的使用方式、地点和时间,并限制数据存储寿命以减少隐私问题和安全风险。 除此之外,采购团队应参与确保与当前企业隐私、安全和合规政策及指南保持一致,这些政策和指南应作为制定任何人工智能政策的基础。
确保 AI 生命周期的安全包括增强当前的 DevSecOps 流程以包含 ML,即在构建集成和部署 AI 模型和应用程序时采用流程。 应特别注意人工智能模型及其训练数据的处理:对人工智能预部署进行训练并持续管理版本是处理系统完整性的关键,持续训练也是如此。 监控提示和访问人工智能模型的人员也很重要。
这绝不是保护人工智能安全的综合指南,但其目的是纠正有关保护人工智能安全的误解。 现实情况是,我们已经拥有大量可用于安全部署人工智能的工具、协议和策略。
确保人工智能安全的最佳实践
随着人工智能采用规模的扩大和创新的发展,安全指南也会成熟,多年来嵌入企业结构中的每一项技术都是如此。 下面我们分享了 IBM 的一些最佳实践,以帮助组织为在其环境中安全部署 AI 做好准备:
- 通过评估供应商政策和实践来利用可信人工智能。
- 实现对用户、模型和数据的安全访问。
- 保护人工智能模型、数据和基础设施免受对抗性攻击。
- 在训练、测试和运营阶段实施数据隐私保护。
- 在人工智能开发生命周期中进行威胁建模和安全编码实践。
- 对 AI 应用程序和基础设施执行威胁检测和响应。
- 通过以下方式评估和决定人工智能成熟度 IBM 人工智能框架。