AI生成巴以冲突虚假图片,以假乱真被媒体引用

随着巴以冲突的生成持续 ,相关新闻事件报道层出不穷,巴冲被媒一些虚假内容也开始混入其中 ,突虚体引让人真假难辨  。假图最近  ,片假由AI生成 、生成反映巴以冲突现场的巴冲被媒图片出现在知名图片库 Adobe Stock 中 ,并被一些新闻媒体采用 。突虚体引

作为一家积极拥抱生成式人工智能的假图图片库 ,Adobe Stock从2022年开始允许供稿人上传和销售由AI 生成的片假图片,只是香港云服务器生成在上传时要标注“是否由 AI 生成” ,成功上架后也会将该图片明确标记为“由 AI 生成”。巴冲被媒除此要求外,突虚体引提交准则与任何其他图像相同 ,假图包括禁止上传非法或侵权内容。片假

但据澳大利亚网站Crikey报道 ,在Adobe Stock搜索与以色列、巴勒斯坦 、加沙和哈马斯相关的关键词 ,会出现大量由AI生成的图片,例如搜索巴勒斯坦时显示的建站模板第一个结果标题就是“由人工智能生成的以色列和巴勒斯坦冲突”的图片。其他一些图片也显示了抗议 、实地冲突,甚至是儿童逃离爆炸现场的画面 ,但所有这些也都是由AI生成。

图1 :在 Adobe Stock 上搜索巴以冲突时会搜索到大量 AI 图像

令人担忧的是 ,免费模板这些图片已经出现在一些在线新闻媒体 、博客 ,但没有将其标记为由人工智能生成 ,也尚不清楚这些媒体是否知道这些是虚假图片。

图2:一些媒体机构在报道巴以冲突新闻时已经使用图1左上角那张由AI生成的图片

事后,Adobe表示 ,所有生成式 AI 内容在提交许可时都必须贴上相应标签 ,但也强调 ,客户在购买使用时知道“这是一张由生成式 AI 工具创建的图片”同样重要。高防服务器

识别图片真假是一项复杂性工作

专家一再警告称 ,人工智能将被用来在网上传播错误信息 ,随着越来越多看起来逼真的内容在互联网上发布和共享,解决这个问题变得越来越困难 。

RMIT 高级讲师 TJ Thomson 博士正在研究人工智能生成图像的使用,他表示,人们担心人工智能图像使用的透明度以及受众是否有足够的文化知识能够对其进行识别 。

根据一项被称为“内容真实性计划”的源码下载措施 ,包括Adobe、微软 、BBC 和《纽约时报》在内的科技和新闻组织正在尝试实施内容凭证技术,该凭证使用文件元数据来突出显示图片的来源 ,无论这些图片是由真人拍摄还是AI生成。

然而 ,内容凭证尚未在实际环境中部署 ,需要社交网络  、出版商、模板下载艺术家以及应用程序、浏览器和生成人工智能开发人员的合作才能按预期工作 。

滇ICP备2023006006号-38