微观科技

这个彩色印刷补丁让你几乎看不到人工智能

0
2022-04-07 来源: 网易

该补丁只会愚弄特定算法,但研究人员正在研究更灵活的解决方案

这个彩色印刷补丁让你几乎看不到人工智能

这些类型的图像被称为对抗样本,因为它们能够欺骗计算机视觉系统。

人工智能监控的兴起非常令人担忧政府集体追踪和识别公民的能力可能意味着公共匿名的终结但正如研究人员一再表明的那样,有办法欺骗此类系统

最新的例子来自比利时鲁汶大学的一群工程师在上周在预印服务器 arXiv 上分享的一篇论文中,这些学生展示了简单的打印图案如何能够欺骗旨在识别图像中人物的 AI 系统

如果你打印出一个学生特别设计的贴片并将它挂在你的脖子上,从人工智能的角度来看,你可能已经躲进了隐形斗篷。

正如研究人员所写:我们相信,如果我们将这项技术与复杂的服装模拟相结合,我们就可以设计出一种 T 恤印花,让自动监控摄像头几乎看不到人。第一次浪潮(1956-1980年):1956年Dartmouth会议的召开被广泛认为标志着AI的诞生,1957年感知机算法被提出。这一阶段基于抽象数学推理的计算机已经出现,符号主义得到快速发展,尤其是人机自然语言交流的实现,引领了AI发展的第一个小高潮。但模型本身的局限性导致研究进展缓慢,预期过高的资本切断所有资助,人工智能随后进入寒冬。。

这可能看起来很奇怪,但它实际上是AI 世界中众所周知的现象这些类型的模式被称为对抗性示例,它们利用计算机视觉系统的脆弱智能来诱使它们看到不存在的东西

过去,对抗性示例曾被用来欺骗面部识别系统它们已经变成了贴纸,打印到 3D 物体上,甚至被用来制作可以欺骗算法的艺术作品

许多研究人员警告说,对抗样本具有危险的潜力例如,它们可以用来欺骗自动驾驶汽车将停车标志读取为灯柱,或者它们可以欺骗旨在识别疾病的医疗人工智能视觉系统这样做可能是为了医疗欺诈,甚至是故意造成伤害

【编辑:笑笑】
广告服务  | 网站地图  | 联系我们  | 免责声明