当前位置:首页  科技

科技

欧盟研究:AI让自驾车易受到攻击

2021-02-23 18:11:16

欧盟网路安全机构(ENISA)和联合研究中心(JRC)对自动驾驶车辆中的人工智慧进行研究,发现其存在网路相关的风险,并提供了缓解这风险的建议。欧盟网路安全机构执行董事Juhan Lepassaar提到,当自驾车越过欧盟成员国的边界时,同时也带来了自驾车的弱点,因此安全性必须是自驾车可否上路的优先考量重点。

欧盟提到,自驾车由于消除了发生交通事故最主要的成因——人,因此有望减少交通事故和死亡人数,但是却可能对驾驶员、乘客和行人带来完全不同的风险。自动驾驶汽车使用人工智慧系统,透过机器学技术来收集、分析和传输资料,执行人类驾驶汽车所会执行的决策,但这些系统和其他IT系统一样,容易受到攻击,威胁车辆的正常功能。

自动驾驶汽车的AI系统,能够辨识交通与道路号誌,侦测车辆及其他道路物体的移动,进而规画行进的路线,除了像是突然故障的意外,研究报告指出,人工智慧系统还很脆弱,难以抵御刻意的攻击,不只人工智慧系统被干扰,重要的安全功能也会受到破坏。

像是在道路上的涂鸦,可能误导车辆导航功能,或是在停止标誌贴上贴纸,阻止人工智慧系统的辨识,这些行为都可能导致人工智慧判断错误,进而採取危险的行为,影响乘客或是行人的安全。

为了提高自动驾驶汽车人工智慧的安全性,研究报告建议,人工智慧元件应该定期进行安全评估,对人工智慧模型和资料执行系统性验证,以确保车辆在意外情况或是恶意攻击时,总是能正确的做出反应。报告还建议在连续风险评估流程中应用威胁情报(Threat Intelligence),用来辨识自动驾驶汽车中,潜在的人工智慧风险以及新兴威胁。

另外,整个汽车供应链,也应该由人工智慧安全策略,和安全文化主导,报告提到,汽车工业应该从一开始,就採用安全设计方案部署人工智慧功能,使得网路安全成为数位设计的核心要素,而且汽车工业也必须提高回应安全事件的能力,以便具备快速处理人工智慧和相关新兴网路安全问题的能力。

即便人工智慧存在风险,但JRC总裁Stephen Quest提到,自动驾驶带来的优点,不会被安全风险抵销,这份报告的重点是更深入的了解自动驾驶人工智慧技术与相关网路风险,以确保自驾车的安全性。

版权声明:转载此文是出于传递更多信息之目的。若有来源标注错误或侵犯了您的合法权益,请作者持权属证明与本网联系,我们将及时更正、删除,谢谢您的支持与理解。