布法羅大學(xué)研究人員探究無人駕駛汽車人工智能的安全性

蓋世汽車訊 人工智能是自動(dòng)駕駛汽車的關(guān)鍵技術(shù)，可用于決策、傳感、預(yù)測建模和其他任務(wù)。但這些人工智能系統(tǒng)在受到攻擊時(shí)有多脆弱？

據(jù)外媒報(bào)道，布法羅大學(xué)正在進(jìn)行的研究探討了這個(gè)問題，結(jié)果表明惡意行為者可能會(huì)導(dǎo)致這些系統(tǒng)失效。例如，通過在車輛上策略性地放置3D打印物體，可以掩蓋車輛的檢測，從而使車輛對(duì)人工智能雷達(dá)系統(tǒng)隱形。

研究人員表示，這項(xiàng)研究是在受控研究環(huán)境中進(jìn)行的，并不意味著現(xiàn)有的自動(dòng)駕駛汽車不安全。盡管如此，它可能對(duì)汽車、科技、保險(xiǎn)和其他行業(yè)以及政府監(jiān)管機(jī)構(gòu)和政策制定者產(chǎn)生影響。

“盡管自動(dòng)駕駛汽車在如今仍然是新事物，但它有望在不久的將來成為一種主要的交通方式，”紐約州立大學(xué)計(jì)算機(jī)科學(xué)與工程系杰出教授、這項(xiàng)研究的負(fù)責(zé)人Chunming Qiao表示。“因此，我們需要確保為這些車輛提供動(dòng)力的技術(shù)系統(tǒng)，特別是人工智能模型，不受對(duì)抗行為的影響。這是我們布法羅大學(xué)正在努力研究的事情。”

毫米波檢測有效，但易受攻擊

過去三年來，研究人員Yi Zhu和Qiao團(tuán)隊(duì)的其他成員一直在布法羅大學(xué)北校區(qū)對(duì)一輛自動(dòng)駕駛汽車進(jìn)行測試。