OD手机客户端官网:一张贴纸或可迷惑自动驾驶系统

 体验式培训     |      2021-05-23 23:48
本文摘要:自动驾驶的安全性仍然以来受到各方的注目。据报导,近日由北京航空航天大学、悉尼大学和剑桥大学的一项新的研究指出,一张纸之后可以“欺骗”AI自动驾驶系统,将一张用打印机打印机出来的涂鸦贴画张贴在路牌上就可以造成AI自动驾驶系统分类错误。目前该论文已在全球人工智能顶级会议AAAI2019上公开发表。 在实验中,研究人员将分解的涂鸦贴画张贴在北航校园中标为“车速20km/h”的现实路牌上后,AI自动驾驶系统几乎被误分类,将其辨识为“NoEntry”(封路)。

OD手机客户端

自动驾驶的安全性仍然以来受到各方的注目。据报导,近日由北京航空航天大学、悉尼大学和剑桥大学的一项新的研究指出,一张纸之后可以“欺骗”AI自动驾驶系统,将一张用打印机打印机出来的涂鸦贴画张贴在路牌上就可以造成AI自动驾驶系统分类错误。目前该论文已在全球人工智能顶级会议AAAI2019上公开发表。

在实验中,研究人员将分解的涂鸦贴画张贴在北航校园中标为“车速20km/h”的现实路牌上后,AI自动驾驶系统几乎被误分类,将其辨识为“NoEntry”(封路)。该涂鸦贴画在论文中被称作“对付补丁”,正是这块补丁“愚弄”了AI自动驾驶系统,让系统将该路牌误将分类。经实验证实,用该方法分解的对付补丁具备平稳的反击效果,将其张贴在路牌上后,会影响人类对于路牌语义信息的理解,且由于场景语义相关性人类也会感觉到违和。但是,该对付补丁对于AI自动驾驶系统则是毁灭性的。

例如,这种反击有可能被蓄意地用来反击自动驾驶系统,入侵者只要将一小片贴画张贴在路牌上,当自动驾驶汽车驶出时就可能会导致系统的致命错误,造成车祸产生。


本文关键词:OD手机客户端官网,手机,客户端,官网,一张,贴纸,或,可,迷惑,自动

本文来源:OD手机客户端-www.the-granthams.com