人工智能的变革力量正在重塑众多行业的业务运营。通过机器人流程自动化（RPA），人工智能正在将人力资源从重复的、基于规则的任务中解放出来，并将其重点放在战略性的、复杂的操作上。此外，人工智能和机器学习算法可以以前所未有的速度和准确性破译大量数据，为企业提供曾经遥不可及的见解。就客户关系而言，人工智能作为个人接触点，通过个性化互动提高了参与度。

尽管人工智能对企业有利，但它也带来了非常独特的安全挑战。例如，对抗性攻击巧妙地操纵AI模型的输入数据，使其行为异常，同时规避检测。同样令人担忧的是数据中毒现象，即攻击者在训练阶段通过注入误导性数据来污染AI模型，从而破坏其最终结果。

正是在这种情况下，“永不信任，始终验证”的零信任安全模式，被认为是对抗基于人工智能的威胁的有力手段。零信任脱离了安全边界的传统概念，它假定任何设备或用户，无论其位于网络内部还是外部，都应被视为威胁。

这种思想上的转变要求严格的访问控制、全面的可见性和跨IT生态系统的持续监控。随着人工智能技术不断提高运营效率和决策能力，如果保护不当，它们也可能成为攻击的渠道。网络犯罪分子已经试图通过数据中毒和对抗性攻击来利用人工智能系统，这使得零信任模型在保护这些系统方面的作用变得日益突出。

了解人工智能威胁

减轻人工智能威胁风险需要全面的人工智能安全方法，包括仔细设计和测试人工智能模型、强大的数据保护措施、持续 监测可疑活动，以及使用安全可靠的基础设施。企业在实施人工智能时需要重点考虑以下风险：

人工智能的零信任模型

零信任提供了一种有效的策略来消除基于人工智能的威胁。零信任的核心是一个简单的概念：永不信任，始终验证。它脱离了安全边界的传统概念，并假设任何设备或用户，无论是在网络内部还是外部，都可能是潜在的威胁。因此，它要求严格的访问控制、全面的可见性和跨IT环境的持续监视。零信任是应对人工智能威胁的有效策略，原因如下：

将零信任应用于人工智能

零信任原则可以应用于保护企业的敏感数据不被无意中发送到ChatGPT等人工智能服务或任何其他外部系统。以下是零信任中可以帮助降低风险的一些功能：

零信任原则为保护敏感数据提供了坚实的基础。然而，随着人工智能越来越多地融入企业，不断评估和调整安全措施以应对不断变化的威胁和行业最佳实践也很重要。

案例研究

一家大型金融机构利用人工智能来增强客户支持并简化业务流程。然而，由于内部威胁或滥用等因素，对敏感客户或专有财务数据可能暴露的担忧日益加剧。为了解决这个问题，该机构承诺实施零信任架构，整合各种安全措施，以确保其运营中的数据隐私和机密性。

这个零信任架构包含多个策略。第一个是身份和访问管理（IAM）系统，它执行访问控制和身份验证机制。该计划还优先考虑与人工智能的所有交互的数据匿名化和强加密措施。部署数据丢失防护（DLP）解决方案和用户和实体行为分析（UEBA）工具来监控对话、检测潜在的数据泄漏和发现异常行为。此外，基于角色的访问控制（RBAC）限制用户只能访问与其角色相关的数据，并实现了对活动的持续监视和审计方案。

此外，该机构还强调用户意识和培训，让员工接受有关数据隐私、内部威胁和滥用风险以及处理敏感数据的指导方针的 。由于该机构的零信任架构在与人工智能的交互过程中不断验证信任，因此大大降低了导致数据隐私和机密性丢失的违规风险，保护了敏感数据并维护了机构业务运营的完整性。

人工智能与零信任的未来

人工智能威胁的演变是由人工智能系统日益增长的复杂性和普遍性，以及不断寻找新方法来利用它们的网络犯罪分子的复杂程度所驱动的。以下是人工智能威胁的一些持续演变，以及零信任模型适应这些挑战的方式：

零信任模型的适应性和稳健性使其尤为适合应对人工智能领域不断变化的威胁。通过基于最新威胁情报不断更新其策略和工具，零信任可以跟上快速发展的人工智能威胁领域的步伐。

结语

随着人工智能的不断发展，针对这些技术的威胁也将不断发展。零信任模型提供了一种有效的方法来消除这些威胁，它假定没有隐含信任，并验证整个IT环境中的一切。它应用粒度访问控制，提供全面的可见性，并促进持续的安全监控，使其成为对抗基于人工智能的威胁的重要工具。

作为IT专业人员，我们必须在保护组织安全方面具有前瞻性和创新性。人工智能正在重塑我们的运营，使我们能够简化工作，做出更好的决策，并提供更好的客户体验。然而，这些好处也带来了独特的安全挑战，需要全面和前瞻性的网络安全方法。

考虑到这一点，是时候采取行动了！首先，对组织进行零信任准备评估，以了解组织当前的安全环境并确定任何缺口。了解组织的缺口之后，便可以开始制定战略计划，以实现强大的零信任框架，最终保护组织的人工智能计划，并确保系统和数据的完整性。

原文标题： Understanding AI risks and how to secure using Zero Trust ，作者：Keith Thomas