一旦APE受到安全威胁,cantx服务将定期通过3G /
Wi-Fi从移动设备中提取DSCM信息。此外,APE需要不断将实时将车辆转向角度推送至移动设备,以计算出预期的精确转向角度。

图片 1

该报告所提出的问题包括:

结论

图片 2

特斯拉Autopilot系统通过识别道路交通标线,实现对车道的识别和辅助控制。科恩实验室通过研究发现,在路面部署干扰信息后,可导致车辆经过时对车道线做出错误判断,致使车辆驶入反向车道。

{“type”:2,”value”:”

当车辆处于停止状态,或是在巡航控制下高速行驶时,研究人员可以完全接管该车;但是刚刚从R档换到D档的汽车只有在时速为8公里/时时,才能被远程控制。

图片 3

消除车道攻击旨在通过物理世界中的一些不显眼的标记来禁用APE车道识别。我们使用各种优化算法来改变车道及其周围区域。我们期望找到一个与原始图像差别较小的对抗示例,但可以禁用车道识别功能。这些是我们生成的一些对抗性示例。

这次科恩实验室找出了Autopilot系统的三个缺陷。

不过特斯拉对腾讯科恩实验室的演示似乎不以为然,该公司评论道:“该实验通过放置在汽车挡风玻璃前的电视显示图像,从而证明这项研究,然而这不是司机面临的现实情况,也不涉及安全问题。此外,正如我们在使用手册所述,
“我们挡风玻璃刮水器的自动设置,目前处于测试阶段。客户可以随时选择使用手动挡风玻璃的刮水器设置。”

报告全文:

除此之外,车道识别和雨刮器也可能被干扰。

腾讯作为特斯拉的投资者,旗下腾讯科恩实验室,对高级辅助驾驶安全技术保持着高度关注。在2018年Black
Hat
USA大会上,科恩实验室发表相关议题,面向全球首次公布了针对特斯拉Autopilot系统的远程无接触攻击(相关攻击链已经被特斯拉修复)。由于曾多次设法控制特斯拉汽车,该实验室的研究使特斯拉升级了其软件安全性。

团队选择了电子显示(例如电视,平板电脑)以显示物理世界中的补丁,这很容易执行端到端测试,在真实攻击场景中也更可行。

而之后,研究人员已经将该攻击链透漏给了特斯拉,特斯拉表示现在已经通过最新补丁,消除了攻击链。

三、遥控器操控车辆行驶

以下是科恩实验室报告核心内容的选编,以及特斯拉的逐条回应内容:

当然,腾讯科恩的此番举动并无恶意,旨在帮助特斯拉找出Autopilot自动辅助驾驶存在的缺陷。

二、车道的视觉识别缺陷

对此,特斯拉方面迅速做出回应,并未否认三处缺陷的存在。不过特斯拉同表示,此次曝光的这三处缺陷中,其中一处已由最新软硬件更新修正,而对于另外两处缺陷,则表示科恩实验室的实验场景不可能在现实驾驶场景中遇到,不属于安全问题,无须担心。

图片 4

图片 5

图片 6

雨刮器:Autopilot系统借助图像识别技术,通过识别外部天气状况实现自动雨刷功能。也就是说,只需要改变特斯拉车前的画面,就可以使其自动开启雨刮。而图像识别技术不只是估计雨量开启雨刮,还身兼跟随、追踪物体和车道、为周围环境画地图等功能,所以,可以干扰的不仅仅是雨刮。

利用已知漏洞在特斯拉Model
S(版本2018.6.1)获取Autopilot控制权之后,科恩实验室通过实验证明,即使Autopilot系统没有被车主主动开启,也可以利用Autopilot功能实现通过游戏手柄对车辆行驶方向进行操控。

图片 7

车道识别:Autopilot系统通过识别道路交通标线,实现对车道的识别和辅助控制。而科恩做了一个这样的实验,在地面上放置几枚小贴纸,就能使车辆偏移方向,驶向对向车道!

特斯拉Autopilot系统借助图像识别技术,通过识别外部天气状况实现自动雨刷功能。科恩实验室通过研究发现,利用AI对抗样本生成技术生成特定图像并进行干扰时,该系统输出了“错误”的识别结果,导致车辆雨刷启动。

APE是特斯拉高级驾驶辅助系统的核心组件,负责辅助驾驶和自动停车模式下的汽车转向系统控制和电子速度控制。这些先进的辅助驾驶功能基于高级视觉和汽车总线(以太网,CAN,LIN,FlexRay)系统。

控制车辆是这样的,腾讯科恩利用已知漏洞在特斯拉Model
S获取控制权后,即使Autopilot系统没有被车主开启,也可利用Autopilot功能通过游戏手柄实现对车辆的控制,跟遥控车无异。

一、雨刷的视觉识别缺陷

我们希望制造商能够关注这些测试所暴露的潜在产品缺陷,并提高其面向消费者的汽车产品的稳定性和可靠性。

特斯拉的自动驾驶叫做Autopilot自动辅助驾驶,按等级划分也就是L2级自动驾驶,可以实现紧急制动、碰撞预警和盲点监测等辅助驾驶。

特斯拉还表示,在这次演示中,研究人员调整了车辆周围的物理环境(例如在公路上放置磁带或改变车道线路),以使汽车在使用自动驾驶仪时有不同的表现。然而有鉴于驾驶员可以随时使用方向盘或制动器轻松取代自动驾驶仪,该实验反应的并非现实世界的情况。”

3、成功误导车辆驶入了反向车道

自动驾驶是当下汽车领域一项不可阻挡的趋势,不管是海外品牌还是自主品牌,都斥重金研发这项未来科技,而特斯拉,更是这其中的佼佼者。

【环球网科技报道 记者 张之颖】据外媒报道,腾讯科恩实验室(Keen Security
Lab of
Tencent)今天发布了一份最新研究报告,指出特斯拉Autopilot系驾驶系统的缺陷,以及如何欺骗特斯拉的系统,以扰乱该驾驶系统的判断能力。

?当汽车处于高速自适应巡航控制模式时,我们也可以无限制地控制转向系统。

图片 8

“实验通过在直接放置在汽车挡风玻璃前面的电视上显示图像。司机实际驾驶不会出现这种情况,此缺陷也不属于安全问题。此外,我们在“用户手册”中已经表明,“我们的挡风玻璃雨刮器的自动设置目前处于测试阶段。”客户可以随时选择使用手动挡风玻璃雨刮器的设置。

而近日,据外媒报道,腾讯科恩实验室对特斯拉的固件进行了攻击,包括远程控制方向盘、以及对自动驾驶系统进行攻击,使车辆驶入对向车道。

更多阅读

这次的实验也提醒了特斯拉以及全球正在做自动驾驶的车企,自动驾驶可能存在的漏洞以及需要改进的地方。自动驾驶的到来只是时间问题,但是在此之前,自动驾驶还任重道远。

虽然机器学习代表了技术的未来方向,但从消费者的角度来看,我们希望该技术可以具备更高的稳定性。这部分实验表明,我们可以通过一些算法直接攻击真实世界中的图像识别算法。

之后我们尝试在真实世界中构建这样一个场景:我们在路口处粘贴了一些小贴纸,作为地面上的干扰。我们希望使用这些干扰,将自动驾驶模式下的特斯拉车辆误导到反向车道上。

腾讯Keen安全实验室一直在进行Tesla车辆安全性研究工作,并在2017和2018年的美国Black
Hat上分享了研究成果。 这次利用特斯拉自动驾驶系统(Tesla Autopilot
ECU,软件版本18.6.1)的ROOT权限,进行了一些有趣的研究。

图片 9

显示器可以放在道路的一侧,也可以放在前车的后座上(后者中国的出租车上很流行,后窗上经常会显示广告),或摄像头方便捕捉到的其他地方。然后使用优化算法来生成对抗性图片。我们直接用车辆来训练算法并生成实例。

1、成功远程控制车辆转向系统

“消灭”真车道

对自动寻路系统的攻击:道路欺骗

编辑:大明

Autopilot 硬件版本:2.5 软件版本:2018年6月30日

如上所示的测试场景显示,图中的红色短线是贴纸,车辆将其视为右侧车道的延续,并忽略交叉路口对面的的实际左侧车道。当它行驶到交叉路口的中间时,会将真正的左车道作为右车道行驶,造成逆行。

目标是测试特斯拉自动雨刮器的稳健性。团队创建一些条件,使自动雨刮器在挡风玻璃上没有水的情况下自动开启。创建用于“攻击”系统的对抗性示例是一个非常直接的想法,因为整个系统完全基于深度神经网络。

对自动雨刮器的成功干扰

研究的特斯拉车辆的软硬件信息如下:

我们在电视上播放对抗生成的图像,其效果与向挡风玻璃洒水的效果相同。业内没有关于为何存在这种对抗性实例的统一解释,但众所周知,没有基于神经网络的传统自动雨刮器解决方案不会出现这样的问题。

近日,腾讯旗下关注自动驾驶安全的科恩实验室发布报告,称特斯拉Model
S轿车存在三大安全隐患,目前的实验和测试表明,特斯拉S型轿车的转向系统、自动雨刮器和车道识别系统均被攻破。特斯拉已发表回应称,转向系统的缺陷已由系统更新修正,其他两处则不属于安全问题,无须担心。

2、成功用对抗性实例干扰了自动雨刮器

传统的雨刮器系统使用光学传感器来检测雨滴。当足够的雨滴撞击挡风玻璃时,反射到传感器上的光量将减少到一定水平,使传感器打开雨刮器。

最后一个问题是要找到一种合适的方法来生成电视上显示的图像。我们尝试了另一种叫做Worley噪音的噪音功能。在计算机图形学中,它能够以任意精度自动生成纹理,无需手工绘制。Worley噪声能够模拟石头,水或其他噪音的纹理

关于 “遥控器操控车辆行驶”的回应:

为了将远程攻击链在车辆转向系统上进行可视化,使用游戏手柄演示远程转向控制。游戏手柄的转向控制过程如下图所示:手柄通过蓝牙连接到移动设备。同时,移动设备从游戏手柄接收控制信号,并将信号转换成相应的DSCM。

对车辆转向系统的遥控

新智元报道

我们通过静态逆向工程和动态调试分析了APE的视觉系统。根据研究结果,我们在真实世界中进行了一些实验测试,并成功使特斯拉APE在我们的攻击下表现异常。这表明,通过一些真实环境下的干扰,我们可以在某种程度上实现远程控制车辆。

?即使汽车不在ACC模式下,方向盘也有机会被成功控制。

我们对特斯拉汽车APE上的CAN总线系统,然后使用游戏手柄通过无线网络驱动汽车,这表明攻击者在进入APE模块后可能造成的潜在安全威胁。

?当通过换档手柄将汽车从R模式切换到D模式时,APE似乎仍然认为汽车处于APC模式,这时我们可以在时速不超过约8公里的情况下,继续控制转向系统。

科恩实验室称,已经通过遥控成功干扰了车辆的转向系统。通过对抗性实例成功干扰了智能雨刮器。通过在道路上贴几个小小的胶带,就能成功误导车辆的道路识别系统,将车导航至逆行道上。

图片 10

“在这次演示中,研究人员调整了车辆周围的物理环境(例如在道路上放置贴纸),让自动驾驶模式下的汽车动作出现差异。由于驾驶员可以随时使用方向盘或刹车轻松接管自动驾驶系统,所以这个问题在现实场景中也无需担心。“

图片 11

来源:keenlab

实验显示,只需在道路上贴上几个小小的贴纸,就能成功误导自动驾驶系统,使车辆走上对面的车道,造成逆行

特斯拉回应:未否认问题存在,但不属于安全问题,无须担心

“报告中提到的这一漏洞已由特斯拉在2017年强大的安全更新修复,随后在2018年又一次进行了全面安全更新,在此报告发布前,技术团队已经发布了安全更新。我们尚未收到一位客户受到本报告中任何研究的影响。”

车型:Tesla Model S 75

关于 “车道的视觉识别缺陷”的回应:

“添加”假车道

图片 12

关于 “雨刷的视觉识别缺陷”的回应:

APE算法的稳健性较高,这有可能是特斯拉车道识别算法训练集中加入了大量异常车道的信息,匹配真实行车场景中车道的复杂性。这使得特斯拉车道识别系统在良好外部环境(无强光、雨雪、沙尘的干扰)下性能出众。

特斯拉的自动雨刮器系统则使用完全不同的解决方案,该方案基于神经网络模型。实验证实,这种解决方案在某些情况下似乎不如传统方案可靠。

?当汽车处于停车状态时,我们可以无限制地控制转向系统

简单来讲,实验和测试证明了以下三点:

团队采用的方法是动态地将恶意代码注入cantx服务并挂钩cantx服务的“DasSteering
Control Message Emitter::
finalize_message()”函数,以重用DSCM的时间戳和计数器来操纵具有任何转向角度值的DSCM信息。