如何查明你的AI供应商是否存在安全风险

在采用AI的何查过程中,最令人担忧的商否问题之一是数据泄露。想象一下这样的存安场景 :一名员工登录到他们常用的AI聊天机器人中,粘贴了敏感的全风公司机密数据 ,并要求对其进行总结 。何查就这样 ,商否机密信息被输入到了不受你控制的存安第三方模型中 。

即使有数据防丢失(DLP)策略  ,全风预防AI数据泄露也颇具挑战 。何查如果AI系统是源码库商否基于云的 ,且员工可以在外部访问它,存安那么公司可能永远不会知道自己的全风数据何时遭到了泄露。

此外,何查大多数AI供应商不仅提供网页界面,商否还通过API提供程序化访问 ,存安然而 ,API也带来了一个重大的安全盲点 。如果AI供应商允许远程API访问 ,你如何验证是谁在使用它?如果攻击者获得了API令牌的访问权限,他们可以在不被发现的云计算情况下提取或操纵数据。

AI安全检查清单 :在供应商中寻找什么

如果你在评估AI提供商 ,安全必须是首要考虑因素,尤其是在处理敏感业务数据时。以下是选择AI供应商时必须具备的安全功能 :

1. 认证和授权标准

API访问绝不应通过用户名和密码授予。相反 ,应寻找基于令牌的认证 :

• 供应商必须支持OAuth 2.0以进行安全令牌生成

• 令牌应继承或具有可分配的权限,以确保最小权限访问

• 禁止令牌共享 。每个系统或用户都应有唯一的凭据

2. 令牌监控与生命周期管理

供应商应提供活动认证令牌的模板下载集中列表 ,并且令牌应包含元数据 ,如 :

• 由谁创建

• 创建时间、最后修改时间和最后使用时间

• 分配的权限

• 是否仍然有效或已过期

3. 全面的API日志记录和审计轨迹

AI供应商必须提供API访问的审计日志 ,并且这些日志应可通过API进行实时监控。每个日志条目至少应包括:

• 访问的日期和时间

• 源IP地址

• 用于访问的令牌

• 执行的操作(例如,“创建新令牌” ,“检索数据”)

• 成功或失败状态

高级日志记录应包括完整的API端点 、建站模板HTTP方法和HTTP响应代码,以提供详细见解  。

4. 透明的文档

AI供应商应以开放格式(例如  ,OpenAPI或Swagger)提供完整的API文档。如果没有适当的文档,组织将无法了解其AI交互的日志记录和安全性 。

隐藏的API安全危机

在研究了两年多的API安全后 ,我仍然对AI供应商中缺乏日志记录、监控和安全功能感到震惊。没有足够日志记录的源码下载API创建了一个无形的攻击面 ,使得未经授权的访问可以在不被发现的情况下发生。

我们已经听说过API令牌在GitHub存储库中被泄露或在暗网论坛上被出售的恐怖故事 。一旦攻击者获得了有效的API令牌,他们就可以无限期地利用它 ,直到有人发现为止。

AI已经到来,但安全不能再被忽视 。在信任任何AI供应商处理敏感数据之前,组织必须要求透明的API安全、亿华云严格的监控和强大的认证控制 。

如果AI供应商缺乏基本的安全控制,他们就会带来风险 。AI供应商应为安全负责 。如果AI供应商无法回答是谁在使用他们的API、上次访问时间以及如何使用它们,那么他们就不值得你的业务。

滇ICP备2023006006号-38