Bài toán xe điện: Xe tự hành quyết định như thế nào?

Giả sử đột nhiên có một người đi xe đạp lao ra trước xe của bạn. Nếu bạn đang cầm vô lăng, phản xạ sẽ khiến bạn làm gì đó - có thể chính bạn cũng không nhớ mình đã làm gì. Nhưng nếu trên vô lăng không có ai thì sao? Lúc đó, trong một phần nghìn giây, phần mềm buộc phải đưa ra một quyết định. Húc vào ai? Có nên lao sang làn đường đối diện không? Đó chính là câu hỏi truyền thông đã hỏi chúng ta suốt mười năm qua - và nói thật lòng, câu hỏi này đã được đặt ra hơi sai ngay từ đầu. Trong bài viết này, chúng ta sẽ thực sự nói về cách xe tự hành đưa ra quyết định; không phải từ giảng đường triết học, mà từ bàn làm việc của kỹ sư.
Bài toán Xe điện Là Gì và Vì Sao Nó Nổi Tiếng Đến Vậy?
Trước hết, một bản tóm tắt nhanh về kinh điển: Trong thí nghiệm tư duy mà Philippa Foot đưa ra năm 1967 và Judith Jarvis Thomson phát triển năm 1976 và 1985, một chiếc xe điện mất kiểm soát đang lao về phía năm người trên đường ray. Bạn có thể kéo một cần gạt: xe điện sẽ rẽ sang một đường ray khác, nhưng ở đó lại có một người. Bạn có hy sinh một người để cứu năm người không? Phiên bản thứ hai còn gây bức xúc hơn: lần này, bạn đẩy người bạn thân yêu từ trên cầu xuống đường ray để chặn chiếc xe điện. Trong khi hầu hết các triết gia cho rằng việc chuyển cần gạt ở kịch bản đầu là có thể biện minh, đại đa số công chúng thậm chí nhiều năm sau vẫn không thể chấp nhận ý nghĩ đẩy người đàn ông trên cầu.
Khi xe tự hành xuất hiện, có vẻ như thí nghiệm này đột nhiên được đưa vào đời thực: xe nên húc vào người đi xe đạp hay lao sang làn đường đối diện? Nghe có vẻ là một chủ đề tranh luận tuyệt vời. Nhưng ở đây có một vấn đề - và ý tưởng chính của bài viết này là: các phần mềm lái tự hành thực tế không được viết ra bằng cách cố giải bài toán xe điện. Vậy chúng được viết bằng cách nào? Chúng ta sẽ đến với điều đó, nhưng trước tiên hãy kết thúc hẳn phần suy đoán.
Xe Tự Hành Có Thực Sự "Quyết Định Sẽ Cứu Ai" hay Không?

Câu trả lời ngắn gọn: không - nhưng để trả lời xứng đáng, chúng ta cần xem xét phần mềm suy nghĩ như thế nào. Một xe tự hành, giống bộ não của bạn, không đưa ra một quyết định duy nhất tại một thời điểm. Mô hình trong tài liệu kỹ thuật là POMDP, tức Tiến trình Quyết định Markov Quan sát được Một phần. Đừng sợ, nó không phức tạp như cái tên của nó: xe, với thông tin không đầy đủ - giới hạn cảm biến, điểm mù, độ trễ xử lý - liên tục đưa ra những quyết định nhỏ nối tiếp nhau trong một mạng lưới xác suất luôn vận động. Một khoảnh khắc đen-trắng kiểu "tôi chọn ai" không hề khớp với cấu trúc này.
Còn có một điều nữa: hệ thống trí tuệ nhân tạo cần hàng nghìn ví dụ của một kịch bản để học kịch bản đó, và ở mỗi ví dụ, "câu trả lời đúng" phải được định nghĩa từ trước. Trong khi các triết gia hai nghìn năm nay vẫn chưa đồng thuận được về một tình thế đạo đức duy nhất, ai sẽ đưa câu trả lời đúng ấy cho phần mềm dưới dạng dữ liệu? Hơn nữa, chi phí huấn luyện ở mức phi thực tế: hồ sơ ghi nhận một máy bay tự hành đã va chạm 11.500 lần chỉ để học điều hướng đơn giản. Dĩ nhiên là không có phương án huấn luyện xe bằng cách cho chúng húc vào người thật.
Những Điểm Nổi Bật
- Xe tự lái không được lập trình theo các phương trình đạo đức chọn người hi sinh, mà được lập trình theo các chính sách trung lập nhằm giảm thiểu rủi ro
- Ủy ban Đạo đức của Đức đã công bố vào tháng 6 năm 2017 20 quy tắc đạo đức cho việc lái xe tự động; cấm phân biệt theo tuổi tác, phẩm chất và các tiêu chí tương tự
- Trong dữ liệu tai nạn thực tế, không tìm thấy loại sự kiện kiểu tàu điện nào mà ngay cả tài xế con người cũng đã từng gặp phải được ghi nhận
- ISO 26262 bao gồm an toàn liên quan đến lỗi hỏng, còn ISO 21448 (SOTIF) bao gồm các mối nguy phát sinh từ giới hạn thiết kế
20 Quy tắc Đạo đức của Đức: Bà mẹ của lệnh cấm chọn người hi sinh
Bước đi cụ thể nhất của phía quản lý đến từ nước Đức. Ủy ban Đạo đức trực thuộc Bộ Giao thông đã công bố 20 quy tắc đạo đức cho việc lái xe tự động và kết nối vào tháng 6 năm 2017. Nguyên tắc cơ bản rất rõ ràng: các hệ thống lái xe tự động trước hết phải phục vụ sự an toàn của tất cả người tham gia giao thông và việc bảo vệ con người phải được đặt lên trên tất cả.
Phần thú vị nhất là điều này: ủy ban quy định rằng các hệ thống không cần xác định xem có phải là mạng người hay không nhưng không được cố gắng giải các phương trình đạo đức bằng cách phân biệt giữa tuổi tác, giới tính, tình trạng thể chất hay các phẩm chất khác. Nghĩa là những tính toán kiểu "trẻ hay già, bác sĩ hay thất nghiệp" không thể được giao cho sự lựa chọn của một công ty duy nhất - đây là những vấn đề thuộc về các quy tắc phổ quát. Đây thực sự là đòn đánh rõ ràng nhất ở cấp độ quản lý vào cuộc tranh luận con tàu điện: nhà nước không đặt lên bàn câu hỏi "bạn sẽ chọn ai" mà là câu trả lời "bạn sẽ không chọn ai cả". câu hỏi mà là "bạn sẽ không chọn ai cả" đưa ra câu trả lời.
Nước Đức còn tiên phong với Luật Lái xe Tự động - văn bản pháp lý quốc gia đầu tiên tạo khung pháp lý cho xe tự lái cấp độ 4. Về phía EU, một báo cáo đạo đức đã được soạn thảo dành cho các xe kết nối và tự động, bao gồm các đề xuất về an toàn giao thông, quyền riêng tư, công bằng, khả năng giải thích và trách nhiệm. Và năm 2026 là một năm sôi động: Mỹ công bố chiến lược tự động hóa quốc gia vào tháng 9, trong khuôn khổ Liên Hợp Quốc đang hướng tới một tiêu chuẩn toàn cầu hoàn thiện quy định phân mảnh về xe tự lái, còn Euro NCAP đưa ra các giao thức tránh va chạm nghiêm ngặt hơn bao gồm các kịch bản xe máy và giao lộ. Các quy tắc đạo đức và an toàn đang nhanh chóng được đưa vào giấy tờ.
ISO 26262 hay SOTIF? Ảnh hưởng của các Tiêu chuẩn An toàn đến Cây Quyết định
Bây giờ hãy ngửi một chút mùi kỹ thuật nhé, tôi hứa sẽ không nhàm chán đâu. Trong thế giới ô tô, kinh điển của an toàn chức năng là ISO 26262: tiêu chuẩn này quan tâm đến điều gì sẽ xảy ra khi một linh hoạt gặp sự cố. Nhưng nếu không có bộ phận nào hỏng mà hệ thống vẫn hành xử nguy hiểm thì sao? Nghĩa là các cảm biến còn tốt, phần mềm chưa sập - chỉ là hệ thống bị kẹt ở giới hạn thiết kế, trong một tình huống giao thông không được dự liệu?
Chính khoảng trống này được ISO 21448, tức SOTIF lấp đầy. Tiêu chuẩn được công bố năm 2022 này nhắm đến việc giảm thiểu các mối nguy không phải do lỗi linh kiện mà do giới hạn thiết kế và việc sử dụng sai có thể dự liệu gây ra. Một trong những khái niệm quan trọng nhất trong đó là Miền Thiết kế Vận hành (ODD): việc xác định rõ ràng hệ thống sẽ hoạt động trong những điều kiện tốc độ, thời tiết, đường sá và địa lý như thế nào. Kịch bản được kiểm thử thông qua mô phỏng, các mối nguy hiểm được phòng tránh từ trước. Trong giới học thuật, năm 2026 người ta đề xuất các khung bảo đảm an toàn tích hợp, hợp nhất ISO 26262, SOTIF và UL 4600 dưới một mái nhà chung. Nói ngắn gọn, thay vì câu hỏi "ngay lúc tai nạn cứu ai" toàn bộ ngành công nghiệp thay vì đặt câu hỏi này thì nói rằng "chúng ta đừng bao giờ đến khoảnh khắc tai nạn đó" nói rằng "chúng ta đừng bao giờ đến khoảnh khắc tai nạn đó".
Cách tiếp cận của Chris Gerdes từ trường phái Stanford về vấn đề này cũng nhìn về cùng một hướng: các nhà sản xuất không dạy cho xe biết "ai được coi là có giá trị hơn", mà dạy cho xe hành vi an toàn. Trong khuôn khổ khế ước xã hội được hình thành từ luật giao thông và các diễn giải của tòa án, xe có nghĩa vụ chăm sóc đối với mọi người trên đường. Nếu ai đó vượt đèn đỏ và tạo ra nguy hiểm, nhiệm vụ của xe không phải là để người đó "trả giá"; mà là để không làm hại; cố gắng tránh va chạm với mọi người cho đến giới hạn vật lý của nó. Theo Gerdes, một chiếc xe hy sinh một mạng sống để cứu năm mạng sống sẽ khiến nhà sản xuất đối mặt với trách nhiệm pháp lý nghiêm trọng - chưa kể việc tính toán lợi ích tức thời theo thời gian thực vốn đã bất khả thi trên thực tế.
RSS và logic bảo vệ nhiều lớp Vậy nếu không ai chọn nạn nhân, thì phần mềm tại khoảnh khắc vết bánh xe đó thực sự đang làm gì?
Câu trả lời gồm hai phần. Câu trả lời gồm hai phần. Thứ nhất là RSS, tức cách tiếp cận An toàn Có Trách nhiệm: Một kiểu lái xe phòng vệ lịch sự và liên tục - để lại dải an toàn cho tất cả mọi người. Phần thứ hai là cố gắng không đi vào kịch bản va chạm không thể tránh khỏi ngay từ đầu.
Như đơn vị giải pháp tự lái của Volvo đã tóm tắt: mục tiêu thiết kế là khoảnh khắc đó không bao giờ xảy ra; chưa có sự kiện dạng xe điện giống tai nạn nào được chứng minh là từng xảy ra với cả những tài xế người trong dữ liệu tai nạn thế giới thực. trong dữ liệu tai nạn thế giới thực, thậm chí không có sự kiện kiểu tàu điện nào được chứng minh là từng xảy ra với cả những tài xế người. Trừ những người thứ ba khiếm khuyết trầm trọng hoặc có ý xấu, hệ thống luôn làm hết khả năng để giảm thiểu thiệt hại trong mọi hoàn cảnh. số lượng các lớp bảo vệ thực chất là một lựa chọn mang tính xã hội. Hệ thống bảo vệ với vô số lớp không thể tồn tại vì chi phí. Chính chúng ta, với tư cách xã hội, vẽ ra ranh giới "đủ an toàn" - không ai giải thích phần đó cho chúng ta, nhưng quyết định lại được đưa ra trên bàn nghị sự mỗi ngày. đó là ranh giới mà chúng ta với tư cách xã hội vạch ra - không ai giải thích phần đó cho chúng ta, nhưng quyết định lại được đưa ra trên bàn nghị sự mỗi ngày.
Hành khách hay Người đi bộ? Ngoại lệ Mercedes và số liệu dư luận
Tất nhiên chủ đề này cũng không phải không có tranh luận. Mercedes là thương hiệu đầu tiên cung cấp tự động hóa Cấp độ 3 trên ô tô cá nhân - hệ thống DRIVE PILOT cho phép lái xe với tay và mắt được tự do nhưng chỉ trong những điều kiện được xác định nghiêm ngặt. Ban điều hành công ty trước đó đã nêu rõ rằng trong những tình huống không thể tránh được, sự an toàn của hành khách sẽ được ưu tiên; tuyên bố này là ngoại lệ được trích dẫn nhiều nhất cả trong tài liệu pháp lý lẫn đạo đức, và cũng được đọc là đi ngược lại tinh thần cấm phân biệt của Ủy ban Đạo đức Đức.
Phía công luận cũng có ý kiến khác nhau. nó khiến người ta suy nghĩ về việc con số có quan trọng về mặt đạo đức hay không, sự khác biệt giữa giết người và cho phép cái chết xảy ra, và mở cánh cửa để cho các lập trình viên chịu trách nhiệm về hậu quả. Các nghiên cứu cho thấy người đi bộ và tài xế thể hiện sự lựa chọn khác nhau về việc sẵn sàng tự hy sinh hay tự bảo vệ, và niềm tin công khai về việc liệu hành khách có thể được hy sinh để cứu người đi bộ hay không cũng là một vấn đề có thể đo lường được.
Còn có bức tranh lớn: lỗi con người đóng vai trò trong khoảng 94% trường hợp tử vong do tai nạn, và có dự đoán rằng xe tự hành loại bỏ những lỗi này có thể giảm tử vong giao thông tới 90%. Nhưng ở đây cần phanh lại - phân tích của các viện bảo hiểm cho rằng việc loại bỏ lỗi con người một mình sẽ không tự động xóa bỏ phần lớn tai nạn, và xe tự hành cũng có thể gặp khó khăn trong việc tránh những loại lỗi tương tự. Nói cách khác, khoảng cách giữa lời hứa và thực tế vẫn còn đó.
Bài toán xe điện có hoàn toàn vô nghĩa không? Bảo vệ và Phê bình
Công bằng mà nói, cũng có những người bảo vệ cho bài toán xe điện. Quan điểm của nhà đạo đức học Patrick Lin là thí nghiệm có tác dụng như một công cụ khơi gợi trực giác: khơi gợi suy nghĩ về việc con số có quan trọng về mặt đạo đức hay không, sự khác biệt giữa giết người và để chết xảy ra, và mở cánh cửa buộc các lập trình viên phải chịu trách nhiệm về hậu quả. Cần nghiêm túc coi trọng lập luận này.
Nhưng trọng lượng của lĩnh vực lại nghiêng về phía đối lập. Đánh giá của giới IEEE cho rằng mô hình xe điện hữu ích trong việc tạo nhận thức nhưng khung tư duy này được dựng ở sai chỗ. Cách tiếp cận "đạo đức rủi ro" được đề xuất năm 2021 trong văn triết học cho rằng những thách thức đạo đức thực sự của lái tự hành không nằm trong các kịch bản xe điện; mà nằm trong tính minh bạch của các hàm giá trị và mục đích, sự bất định xác suất và hành vi hệ thống khó lường. Một nghiên cứu năm 2024 thì phê bình việc yêu cầu xe không người lái giải bài toán xe điện như một sự áp đặt đạo đức. Trong giới kỹ sư, phản đối thực dụng chiếm ưu thế: những điều kiện tiên quyết của kịch bản xe điện - một người đột ngột xuất hiện, phanh hỏng cùng lúc, cảm nhận hoàn hảo - trên thực tế không đồng thời xảy ra trong dòng chảy giao thông thực.
Câu trả lời ngắn gọn: Xe tự hành quyết định như thế nào?
Như tôi đã hứa, câu trả lời đơn giản và có thể trích dẫn: Xe tự hành không quyết định bằng các phương trình đạo đức tính toán mạng sống của ai có giá trị hơn, mà bằng các chính sách an toàn trung lập giảm thiểu rủi ro được áp dụng công bằng cho tất cả mọi người. Các tiêu chuẩn và luật lệ định hướng những quyết định này không phải về các lựa chọn kiểu xe điện, mà về việc tai nạn không bao giờ xảy ra. Cuộc tranh luận thực sự không nằm trong những nghịch lý triết học; mà nằm trong tính minh bạch của các hàm giá trị, chi phí của các lớp bảo vệ và việc ai vạch ra ngưỡng "đủ an toàn". và do ai vạch ra ngưỡng đó.
Theo tôi, bài toán xe điện sẽ đóng góp lớn nhất cho ngành này chính là khi nó hoàn thành sứ mệnh: nó đã dạy chúng ta đặt câu hỏi về cơ chế ra quyết định của máy móc. Nhưng lần sau nếu ai đó hỏi "chiếc xe chọn ai sẽ chết như thế nào" thì bây giờ bạn đã biết câu trả lời - câu hỏi đó còn xa lắc lũy cái mà phần mềm thực sự làm. Câu hỏi chúng ta thực sự nên đặt ra là: bao nhiêu an toàn là đủ và ai là người đưa ra quyết định đó? Cuộc tranh luận này diễn ra trên nền tảng thực tế hơn nhiều so với đường ray xe điện.
Nguồn tham khảo
- Designing Ethical Self-Driving Cars | Stanford HAI
- The folly of trolleys: Ethical challenges and autonomous vehicles
- The misguided dilemma of the trolley problem
- The "Trolley Problem" Doesn't Work for Self-Driving Cars
- Ethics Commission Automated and Connected Driving
- Ethical Considerations of the Trolley Problem in Autonomous Driving
- Moral Machine | MIT
- Self Driving Car Engineer Debunks The Trolley Problem