Xe Tesla Model S.
Kết quả của nghiên cứu này cho thấy những rủi ro tiềm ẩn đối trong việc sử dụng hệ thống lái tự động ở mức độ phát triển như hiện nay.
Một mảnh băng keo màu đen đã được các chuyên gia kỹ thuật của công ty an ninh mạng McAfee dán vào phần giữa của chữ số 3 trên tấm biển hạn chế tốc độ 35 dặm/giờ. Thay đổi nho nhỏ này khiến chiếc xe Tesla nhầm là 85 dặm/giờ và hệ thống lái tự động của chiếc xe tăng tốc - nghiên cứu được McAfee công bố ngày 19/2 cho thấy.
McAfee cho biết việc tăng tốc trên không gây nguy hiểm và nhà nghiên cứu ngồi sau vô-lăng đã giảm tốc được chiếc xe một cách an toàn.
Tuy vậy, kết quả của nghiên cứu kéo dài 18 tháng và kết thúc vào năm 2019 đã làm lộ ra nhược điểm của các hệ thống máy học (machine learning) sử dụng trong công nghệ lái tự động.
Các cuộc thử nghiệm của McAfee sử dụng hai chiếc xe Model S và Model X đời 2016. Những chiếc xe này sử dụng hệ thống camera được cung cấp bởi Mobileye, công ty hiện đã trở thành một đơn vị thuộc tập đoàn Intel. Hệ thống của Mobileye hiện vẫn được nhiều hãng xe sử dụng, nhưng Tesla đã thôi dùng sản phẩm của hãng này từ đời xe 2017.
Thử nghiệm trên hệ thống camera mới nhất của Mobileye không phát hiện thấy rủi ro tương tự. Những mẫu xe thế hệ mới nhất của Tesla cũng không phụ thuộc vào nhận diện biển báo giao thông, theo McAfee.
“Các nhà sản xuất và nhà cung cấp nhận ra được vấn đề và rút kinh nghiệm”, ông Steve Povolny - trưởng bộ phận nghiên cứu rủi ro hiện đại của McAfee - phát biểu. “Nhưng điều này không làm thay đổi thực tế rằng còn có nhiều điểm mù” trong lĩnh vực xe tự lái.
Cần phải nói thêm rằng những rủi ro trong cuộc thử nghiệm nói trên ít có khả năng xảy ra trong thế giới thực hiện nay. Một phần lý do là xe tự lái vẫn đang trong giai đoạn phát triển và hầu hết đều được thử nghiệm với sự có mặt của tài xế sau vô lăng. Những chiếc xe được trang bị hệ thống hỗ trợ lái hiện đại có mặt trên thị trường vẫn đòi hỏi tài xế điều khiển là chính.
Biển báo hạn chế tốc độ có dán mẩu băng keo màu đen ở giữa số 3 mà McAfee dùng để đánh lừa hệ thống lái tự động xe Tesla.
Ngoài ra, các nhà nghiên cứu của McAfee chỉ có thể đánh lừa hệ thống tự lái bằng cách lặp lại một chuỗi hành động nhất định bao gồm khi chức năng lái tự động được bật thì xe gặp biển báo tốc độ bị chỉnh sửa. Trên thực tế, các nhà sản xuất đều tích hợp vào các hệ thống lái tự động của họ công nghệ bản đồ phản ánh chuẩn xác hơn tốc độ giới hạn trên đường
“Rất khó có khả năng chúng ta chứng kiến điều này xảy ra trong thế giới thực cho tới khi có ô tô tự lái thực sự. Mà đến lúc đó, chúng tôi hy vọng là tất cả những lỗi này đã được khắc phục từ trước rồi”, ông Povolny nói.
Tesla chưa đưa ra bình luận gì về kết quả nghiên cứu của McAfee, nhưng Mobileye ra một tuyên bố nói rằng tài xế là con người cũng có thể bị đánh lừa trong những tình huống như vậy và hệ thống mà McAfee đem ra thí nghiệm được thiết kế để hỗ trợ tài xế là con người chứ không phải để xe lái tự động hoàn toàn.
“Công nghệ xe tự lái sẽ không chỉ dựa vào cảm ứng, mà còn được hỗ trợ bởi nhiều công nghệ và dữ liệu khác như bản đồ để đảm bảo tính đáng tin cậy của thông tin nhận được từ cảm ứng camera và đảm bảo an toàn tốt hơn”, tuyên bố của Mobileye có đoạn.
Giáo sư về robot và xe tự lái Missy Cummings thuộc Đại học Duke nhận định rằng kết quả cuộc thử nghiệm của McAfee cho thấy rủi ro có thể xảy ra với một chiếc xe lái tự động ngay cả khi hệ thống của xe không hề bị tấn công.
“Nguy hiểm có thể xảy ra ngay cả khi hệ thống không bị tấn công, mà chỉ cần thế giới mà chúng ta đang sống bị thay đổi”, bà Cummings nói.
Vị giáo sư cho rằng phát hiện của McAfee cho thấy lý do tại sao xe tự lái nên trải qua “bài kiểm tra về khả năng nhìn” để đánh giá liệu hệ thống tự lái có thể phát hiện và phản ứng một cách chuẩn xác các tình huống trong thế giới thực gây ra bởi xe cộ khác, người đi bộ, và các vật thể khác trên đường.
Các nhà hoạt động an toàn cũng đã hối thúc cơ quan chức năng và các nghị sỹ Mỹ đưa quy định tương tự vào các dự luật về xe không người lái đang được thảo luận trong Quốc hội nước này.