Cisco AI Defense 企业AI模型的安全解决方案

关键要点

Cisco发布了Cisco AI Defense，旨在保护企业AI模型免受攻击。该工具可提供AI工作负载、应用程序和用户访问的全面清单，帮助安全团队识别风险。通过模型验证和运行时保护功能，Cisco AI Defense能够动态监控和调整安全措施。

来源：Ken Wolter / Shutterstock

随着全球迅速将AI融入企业应用的各个方面，保护数据吸收型AI系统免受恶意干扰的需求日益迫切。

为此，Cisco宣布推出Cisco AI Defense，这是一种旨在应对AI开发、部署和使用过程中的风险的解决方案。

Cisco安全部门的高级副总裁兼总经理Tom Gillis指出，AI快速融入商业工作流程，虽然需要“多年的重构”以包括AI特性，但进展速度远快于安全团队的跟进，导致攻击者可利用的众多漏洞。

“随着这一转变的展开，我们观察到一些关键趋势。”Gillis表示，“这种采纳导致了新兴工具集的分化，为开发人员提供了大量快速演变的选择。因此，开发团队迅速行动，而负责为开发者的工作设定边界的安全团队却难以跟上，常常失去对工作的掌控。”

Gillis还指出，Cisco AI Defense将通过提供分布式云环境中所有AI工作负载、应用程序、模型、数据和用户访问的清单来解决“发现”这一关键问题。

Cisco的AI Defense将集成到其现有的网络可见性基础设施中，包括防火墙、网络代理和安全访问网关，以扫描网络流量并识别所有现有的AI工作流程。

用于模型验证的专有AI

新解决方案要解决的第二个问题是，在AI系统成为主流的情况下，安全实践需要转变。

“AI的特点在于其架构完全不同，”Gillis指出。“在传统应用中，你有三个层次：表示层Web层、应用逻辑层和数据持久层。数据存在于持久层中，而中间层则不保存任何数据。”

快喵加速器下载正版

他补充说，AI中，模型被放置在中间，而数据被吸收到该模型中。“模型保留并转换数据，在堆栈中创建了一个全新的层次，需要仔细考虑和保护。”

为了解决这一挑战，Cisco AI Defense将提供由其专有AI驱动的新检测能力，通过对模型逻辑的全面测试进行“模型验证”，以识别任何妥协或污染的迹象。

“我们希望确保用于训练的数据是准确和有效的，且数据集中没有恶意添加。”Gillis解释道，“此外，我们需要验证模型中实施的保护措施是否正常运行，并确保模型按预期行为。”

运行时保护

Cisco AI Defense不仅允许为AI模型定义保护措施，还使安全团队能够独立实施这些保护，而不干扰开发者对模型的控制。

“我们在生产前和生产过程动态校准并设置模型的保护措施。”Gillis表示，“在生产过程中，监控系统观察正常的应用行为，检测异常情况，比如通过标记超出预期模式的行为来识别提示注入攻击。”

Gillis强调，这种运行时保护独立于AI模型，并完全存在于“网络”中。

Gillis指出，大多数竞争对手的AI安全工具主要集中在监控数据交换和执行数据丢失预防DLP，其发现阶段通常仅限于简单识别现有的AI元素。

“与Cisco AI Defense的关键区别在于理解应用程序，”他说。“与其他AI安全工具不同，我们进行模型验证，并具备强制实施保护的能力，比如防止运行时的提示注入攻击。我们的专有模型独特地跟踪应用程序行为，并监控任何偏离。”

除了提示注入外，该解决方案还旨在保护免受数据和模型污染攻击。该工具预计将在2月底通过Cisco安全云正式发布。