無人駕駛的致死率究竟多低，你才可以接受？
盡管無人車還在進行技術攻關，但是很多人都已經在為無人車將來可能出現的的問題感到擔憂，電車難題就是其中的一個。電車難題（TrolleyProblem）是倫理學領域最為知名的思想實驗之一，其內容大致是：一個瘋子把五個無辜的人綁在電車軌道上。一輛失控的電車朝他們駛來，庫卡機器人驅動器維修，并且片刻后就要碾壓到他們。幸運的是，你可以拉一個拉桿，讓電車開到另一條軌道上。然而問題在于，那個瘋子在另一個電車軌道上也綁了一個人。考慮以上狀況，你是否應拉桿？這個類似女友和媽媽落水應該救誰式的倫理困境是無人車安全方面一個懸而未決的問題。無人車會夢見安全街嗎？，原著小說《仿生人會夢見電子羊嗎？》的風格起了這么一個標題，引起我們對無人車未來道路安全的關注關于未來，汽車制造商需要思考的一個關鍵問題是，每年無人車的致死率究竟多低才可以接受？究竟有沒有這么一種方案能夠解決這個問題呢？Mobileye提出了自己的方案。
今年早些時候在得克薩斯州奧斯汀舉行的SXSW會議上，BillFord大聲說出了很多汽車行業人士正在思考的問題，或者更確切地說，是這幫人的所不愿意承認的擔憂。這位福特的CEO談論的是無人駕駛汽車的出現，這個話題正在吸引大量的媒體關注，因為每一家汽車制造商和硅谷的一些最大的參與者已經把數十億美元都投入到裸機器人汽車上（沒有方向盤或剎車的所謂的5級自動駕駛車輛，或AV）。
Ford說，制造汽車將變成容易的部分，因為這項技術正在迅速發展。但更艱巨的任務將是決定如何進行編程，讓無人車做出性命攸關的決定。（在即將發生事故的情況下）如果車輛必須選擇要撞誰，是保乘客還是10位行人呢？這些都是你和我作為司機沒有時間考慮的決定，我們只能下意識地作出反應。但是這些無人車是有處理能力來進行選擇的。如果結果是它選擇讓你，車上的乘客被撞的話，你是不是還打算坐進那輛車呢？
盡管Ford公開拋出這個問題令汽車業感到心神不定，但這與美國汽車買家普遍存在的想法其實是一致的。在今年早些時候進行的一項調查中，AAA發現四分之三的駕駛者表示自己對坐在無人車上感到擔心，54％的受訪者表示他們覺得與AV共享道路不太安全。而一旦Ford把這個問題爆了出來，AV界的其他一些人就開始把它扯到一個到合乎邏輯的結論上。英特爾公司高級副總裁兼無人車技術公司Mobileye的聯合創始人AmnonShashua表示：如果我們必須教一輛車應該殺死一位修女還是一位童子軍的話，那就不會有無人車這個行當了。今年3月份，英特爾剛剛以153億美元的價格收購了這家汽車技術公司。
但是Shashua認為，為了解決這個問題，我們需要把他框定到更實際的范圍內，要有別于復雜到難以復加的哲學或倫理難題。他說，簡單來說，自動駕駛汽車是否能獲得消費者的廣泛接受這個問題可歸結為這樣一個重要問題：自動駕駛汽車每年導致多少起以下的死亡數才是公眾可以接受的？
目前情況下，這個問題的答案可能是0。每一次自動駕駛車輛發生事故，無論是去年在佛羅里達州發生的一輛卡車撞上自動駕駛的Tesla的那起致命車禍，還是那輛嶄新的自動駕駛通勤車剛剛亮相2個小時就被一輛送貨的面包車撞到，一旦發生都立即成為了引爆全國的頭條新聞，對事故的討論往往持續數月之久。相比之下，20輛汽車的連環相撞事故幾乎每天都會發生，甚至在好幾個星期之內，KUKA機器人維修，即使傳統車輛的碰撞事故造成了死亡人數超過了1000人，其效果也只能是出現在當地新聞上，大家的態度充其量不過是是聳聳肩。
在全球各地的監管機構都恨不得把這種車放行上路以最大限度減少無休止的交通致死事故的情況下，對無人車安全性錯位的關注和恐慌被進一步的強化去年，美國國家公路交通安全管理局（NHTSA）已經批準了將自動駕駛汽車作為極大減少與人類選擇和行為相關的事故數量的一種手段。
在這種情況下，Shashua和Mobileye的一群程序員想出了一個創造性的解決方案來克服對AV的恐懼。Mobileye以覆蓋了600萬起事故的NHTSA數據作為部分基礎，制作出總量接近40的場景集合，幾乎涵蓋了所有車輛事故的變化情況。在此基礎上，該公司將依據交通法規和道路條件做出的完美的人類司機判斷編撰成了算法規則。Shashua聲稱，通過把這些規則作為AV決策編程的基礎，汽車制造商就可以向汽車購買者保證，無人車在事故中永遠都不會犯錯。
Mobileye安全系統的核心是一個被稱為CautiousCommand（謹慎指令）的概念，這個概念描述了AV可用于持續維持其安全區的選項。比方說，下圖顯示的是一種常見情況，即藍色汽車試圖離開停車場，但因為被建筑物擋住，所以看不到街上是否有另一輛車正在開過來。負責任的人類司機會一點點地擠進道路，慢慢擴大視野，直到他覺得可以放心開上路為止。實際上，他永遠不會有完全的視野，最后只能根據直覺來做出決定。盡管這位司機也許已經盡力，但令他受到指責的事故仍有發生的可能。而如果駕駛員開車走神的話，比如因為開了導航或者一邊打電話一邊開往下一站的話，就更有可能發生碰撞了。
相比之下，AV的CautiousCommand會根據車速限制計算出紅色車最高的合理速度，并確定自己可以探頭出來多遠，讓紅色車一方面有剎車的機會，同時還能逐漸提高能見度。如果紅車的車速高于最高限速，那么如果發生事故就是紅車的錯。而且，如果紅車是無人車的話，它駕駛起來會更加警惕，在預計到在其視線以外可能會有汽車駛出停車場的情況下，也許會往靠近中間的車道行駛。
RSS涵蓋了對象（車輛，行人等）被其他對象遮擋（隱藏）的情況。
CautiousCommand似乎有望令BillFord對自動駕駛汽車必須做出棘手選擇的擔憂失去意義，這主要是因為在即將發生的事故中有關誰死誰活的倫理困境，已經被一條不帶感情、不會動搖的規則所取代。這條規則是：如果碰撞即將發生（而且根據定義，這不會是AV的錯誤），自動駕駛汽車將會盡量避免事故，但不會通過造成另一個事故來緩解這起事故。換句話說，如果沒有其他安全選項的話，無人車將會撞上去，即便在此過程中乘客會被撞死。Shashua說：以任何其他方式來回答這個問題都會使我們陷入滑坡謬誤。因為一輛看起來后座似乎沒人坐的汽車其實正好坐著一個嬰兒，這樣如果它為了避免前面的AV撞上自己而調轉車頭的話可能就會撞到嬰兒。總會有一些看不到的參數讓你事后分析起來會發現AV其實做了更糟糕的事。
基于對成千上萬次事故的模擬，Mobileye認為，如果每一家汽車制造商都采用它的方程式（Mobileye已經對業界開源，可免費使用），庫卡機器人，美國每年的車輛致死人數可以改善三個數量級也就是說，從現在每100萬駕駛小時致死1人降到到每10億駕駛小時致死40人。（當然，此處的假設是所有的車都是無人車；而致死原因會是設備故障以及糟糕的駕駛條件）。