▲ 林文欽駕駛的蔚來ES8汽車,圖源:新京報

▲ 林文欽駕駛的蔚來ES8汽車,圖源:新京報

8月16日晚間,蔚來官方微博發佈聲明,證實瞭林文欽駕駛蔚來汽車與正在作業的工程車相撞身亡。聲明稱,8月16日下午,蔚來總部技術團隊到達莆田,配合警方及司法鑒定機關進行下一步數據讀取作業。

目前,這起事故的調查結果仍在進行中。如果最終調查證實,事故發生時,車輛確實處於自動駛駕功能開啟狀態,將是自動駕駛引發慘劇的最新案例。

在此之前的2021年 1 月,一臺蔚來 ES8 在高速公路上開啟輔助駕駛功能時,先後撞上瞭一名男子和一臺停靠在快車道上的五菱宏光。2020 年 6 月,一輛特斯拉 Model 3在臺灣的高速公路上徑直撞上一輛側翻的白色貨車,事發時特斯拉處於 Autopilot 自動駕駛狀態。再往前追溯,中國首例“自動駕駛”致死車禍發生在2016 年1月,在京港澳高速河北邯鄲段,一輛特斯拉開啟 Autopilot 自動駕駛模式,直接撞上正在作業的道路清掃車,特斯拉司機因此身亡。

此類事件的頻頻發生,恰恰為當下智能化程度不斷提升、自動化產品層出不窮的智能社會敲響瞭警鐘。

技術失靈背後,是人的失范

其實,人工智能並非人們想象的那麼智能。

以自動駕駛為例,雖然有大量高科技硬件產品、先進算法加持,但卻始終無法做到像人眼一樣識別判斷物體。目前自動駕駛的傳感器主要是攝像頭、激光雷達、毫米波雷達,三者各有特點,但均會不同程度地受到外界光線、雨霧風沙、遮擋,甚至顏色等因素的幹擾,從而出現出錯誤識別或者是無法識別物體的情況。

此外,算法作為人工智能的中樞,其平衡拿捏也是個難題,面對外界的海量數據,算法如何識別出危險信號?識別得少瞭,可能會釀成未及時剎車,發生碰撞的慘劇;識別得多瞭,在高速公路上頻頻自動剎車也相當危險。

事實上,現階段的自動駕駛都不是嚴格意義上的“自動”駕駛,而是需要駕駛員投註精力的自動輔助駕駛。業內有個著名的“Corner case”理論,也就是說或許技術上已經解決瞭90%的問題,但剩下的10%的問題卻可能要花費更多的精力,且並不能保證一定解決。

而在技術並未完全成熟的情況下,許多企業卻因為急於擴大規模、沖刺銷量而進行誇大宣傳。比如某國內知名廠商就宣傳過,開啟智能駕駛功能後,駕駛員可以在車上自拍甚至喝咖啡、吃東西(相關內容現已刪除)。

隨著“互聯網+”深入各個行業,汽車廠商們也效仿起“小步快跑、快速迭代”的互聯網思維,不斷推出“MVP”(最小可行性產品),將未完全成熟的產品交付給用戶,再通過後續不斷的更新迭代來優化和完善。

而在企業及媒體的宣傳誤導下,部分消費者出於對技術的盲目信賴,開始挑戰輔助駕駛的極限場景,在國內外的網絡視頻中,時常會看到一些車主行駛過程中雙手脫離方向盤,甚至在270度彎道上以60邁速度撒手,或者在車輛高速行駛過程中躺在後排,將駕駛權和自己的生命安全完全交給自動駕駛系統。

但問題在於,手機出現故障,大不瞭換一個,但汽車要是出現問題,很可能會攸關生死。

不過為瞭規避責任,企業會通過種種手段進行安全備註,來表示自己已經履行瞭風險告知和提醒註意義務。

比如一些企業在大肆宣傳“自動”“領航”等賣點的同時,也會在產品說明書裡不起眼之處標註,“領航輔助版本為公開測試版本”“功能尚處於持續優化階段:駕駛員雙手不能離開方向盤、視線不能離開行駛道路”等等。

因此,一旦自動駕駛引發事故,駕駛員將是主要風險承擔者,企業反而能撇清責任。比如,在前面提到的中國首例“自動駕駛”致死車禍中,經交警認定,駕駛特斯拉的司機負事故的主要責任。

技術頻頻失靈背後,恰恰暴露的是人性弱點。既有企業急於擴張的利益驅使,也因為消費者求鮮求奇、忽視風險防范,甚至是整個社會宣傳導向偏移,隻盯著“高科技”的魅力卻忽視瞭“高風險”的存在。

在人工智能中,找回人的存在

“這是最好的時代,也是最壞的時代。”用英國作傢狄更斯這句話來形容當下的智能社會再恰當不過。

一方面,人工智能技術循摩爾定律飛速迭代更新,與日俱增的技術水平與實用優勢讓人類的生活質量得到空前提高。以自動駕駛汽車、工業機器人、人工智能輔助審判系統、外科手術機器人等為代表的一系列技成果,極大地解放瞭勞動生產力,並提升瞭人類的活動能級。

另一方面,層出不窮的惡性事件,卻讓人類逐漸成為技術風險外化和彌散的直接受害者。

除瞭自動駕駛,各自動化領域的機器傷人事件也是屢屢發生。

早在1978年,日本廣島一傢工廠的切割機器人在切鋼板時,突然發生異常,將一名值班工人當作鋼板操作致其死亡,這是世界上第一宗機器人殺人事件;2002年,美國佛羅裡達州一名患者在接受達芬奇(Da Vinci)手術機器人進行腎臟手術的過程中因主動脈被意外割破而死亡;2005年一年之內,英國發生的機器人傷人事故就高達77起;2000年至2013年間,美國的外科手術機器人至少造成瞭1391起致害事件,並導致144人死亡…….

科技的進步需要付出與投入,但這個代價不應是一個個鮮活的生命。

人們可能會問,科技前進的腳步不會停止,那麼該如何劃定紅線,來保障技術的底線安全?

我認為,一方面,要警惕人工智能的“無人化”風險。

當人類發現技術可以解放雙手,便會愈發著迷其中,深陷技術窠臼反而落入更大的陷阱。如廣泛使用人臉識別設備,而忽視瞭公共安全的人力投入;如迷信智能診療,忽視瞭醫生的綜合建議;再如過度依賴審判系統,反而降低瞭法官判斷的權重。

事實上,人工智能的應用絕不意味著“無人化”。我們不能一邊廣泛宣傳警惕“人工智能取代人類”的風險,又一邊放心地將自己的生命財產徹底交給人工智能。必須通過制度的約束、標準的確立,審慎決定不同領域、不同場景下的智能化程度,並需保證在一些事關人的生命財產安全、重大公共利益的智能化系統中,是由人來掌握最終的決定權。

另一方面,明確人工智能中“人”的責任。

隨著自動化技術的不斷提升、機器侵權事件屢屢發生,究竟要不要賦予機器以自主的法律人格,成為瞭業內此前討論的一個熱點。2017年2月,歐盟通過的《機器人技術民事法律規則》提出,要賦予機器人“電子人”法律地位。受此影響,國內也陸續有學者提出要賦予人工智能法律人格。

但事實上,賦予自動駕駛汽車等人工智能法律人格既不可行,也殊無必要,更是有礙於風險防范與責任承擔。因此,必須關註人工智能的開發者、使用者、運營者等利益相關方,壓實其主體責任。

首先要確保應用規范化,對於自動駕駛等高風險應用場景,不能未解決軟硬件缺陷之後就交付上線,等待日後應用中再優化升級。

其次要確保宣傳規范化,必須在事前就向消費者盡到明確告知義務,包括但不限於系統功能及性能限制、使用者責任、人機交互設備指示信息、功能激活及退出方法和條件等信息。

就自動駕駛而言,各國已經開始紛紛行動,立法立規。2013年,美國國傢公路交通安全委員會(NHTSA)發佈瞭指導性文件《關於自動駕駛汽車法規的意見》,提出瞭對各州自動駕駛汽車立法的建議。2020年,聯合國歐洲經濟委員會(UNECE)發佈瞭《 ALKS 車道自動保持系統條例》,要求汽車制造商必須滿足該法規中明確的性能要求,才能銷售配備 ALKS 的車輛,這是全球第一部針對L3 級自動駕駛量產車型的國際法規。

近期,中國的自動駕駛規范也有瞭新進展,工信部印發瞭《關於加強智能網聯汽車生產企業及產品準入管理的意見》,從加強數據和網絡安全管理、規范軟件在線升級、加強產品管理、保障措施等方面提出11項具體規定,要求加強安全管理,推動智能網聯汽車產業高質量發展。制度的建立健全,在智能網聯汽車行業迅速發展壯大,但又亂象頻出的當下,無疑具有重要意義。

無論如何,即使是99%的安全性,而那剩餘的1%具體到某一個人身上,都將會是100%的生命大事。針對當前自動化系統高度泛化的情況,必須要做到促進發展與保障安全同步規劃、同步建設,同時要明確,技術是為人類更好服務而非取代人類的原則底線。

Source: m.cnbeta.com