烽巢網(wǎng)25日編譯新聞,優(yōu)步(Uber)的自動駕駛汽車項目遭遇了重大挫折,其中一輛汽車在周日晚上撞毀了一個行人,但該項目在這起致命事故之前一直在苦苦掙扎。
據(jù)《紐約時報》(new York Times)報道,據(jù)《紐約時報》(new York Times)獲得的100頁的內(nèi)部文件顯示,優(yōu)步(Uber)似乎在迅速推出新項目,修改了其安全操作,并沒有達到目標。
一名Uber發(fā)言人沒有直接否認《紐約時報》在一份聲明中對Mashable的報道,但他們確實強調(diào)了該公司對安全的承諾,并指出了事故造成的情感損失。
“我們相信,技術有能力使交通安全比以往任何時候都更安全,并認識到我們有責任為我們社區(qū)的安全作出貢獻?!币虼?,當我們開發(fā)自動駕駛技術時,安全是我們每一步的首要考慮。這周發(fā)生的事讓我們心碎……
周日晚上發(fā)生的這起致命事故發(fā)生在優(yōu)步(Uber)的一個獨家運營商在菲尼克斯郊區(qū)的坦佩(Tempe)測試一輛自動駕駛沃爾沃(Volvo)的時候。49歲的伊萊恩·赫茨伯格(Elaine Herzberg)騎著自行車在馬路中間穿過,被撞了。這輛車似乎沒有察覺到她的存在,也沒有試圖停下來。司機也沒有進行干預。這名女子后來在醫(yī)院去世。事故正在調(diào)查中。
很明顯,《紐約時報》沒有將任何公司的缺點與致命的崩潰聯(lián)系起來。
優(yōu)步的無人駕駛汽車計劃在多倫多、匹茲堡、舊金山和鳳凰城(Phoenix area)一直持續(xù)到周一,并在鳳凰城(Phoenix)進行了里程測試,在那里,嚴格的規(guī)定為一個主要的測試場地制定了規(guī)則。優(yōu)步發(fā)言人周五證實,在事故發(fā)生后,所有測試仍暫停。
瘋狂的改進
優(yōu)步(Uber)的自動駕駛項目投入了大量的自動駕駛里程:它在第一年就達到了100萬英里,然后在9月份達到了200萬英里,而這僅僅是在宣布了100萬英里之后的100天。最近,它在更短的時間內(nèi)達到了300萬英里。
據(jù)《紐約時報》報道,這一熱潮的部分原因似乎是,新上任的首席執(zhí)行官Dara Khosrowshahi計劃下個月的訪問,尤其是在他曾對支持自動駕駛汽車計劃表示懷疑之后。那次訪問在飛機失事前被刮掉了。
此外,優(yōu)步在去年12月批準了一項在亞利桑那州為公眾提供的自動駕駛汽車服務。
每次干預的速度都很糟糕。
一年前,優(yōu)步(Uber)的干預速度(MPI)在人類干預前可以行駛多少英里,在1英里左右徘徊。據(jù)《紐約時報》報道,近幾個月在亞利桑那州,這個數(shù)字接近13英里。
但與優(yōu)步的主要競爭對手相比,這就相形見絀了。谷歌的Waymo時鐘在將近5600英里的范圍內(nèi),直到人類干預加州。通用汽車公司的巡航也在加州進行了1200英里的干預。
優(yōu)步反駁說,MPI并不是一種安全措施,它可以用在環(huán)境之外。在城市里進行汽車測試,與在高速公路上行駛的陽光動力相比,積雪的環(huán)境干預率會有所不同。在整個汽車工業(yè)中沒有“干預”的標準定義。
太多太快?
去年年底,優(yōu)步(Uber)從兩輛車改為一名運營商。此前,另一家運營商曾坐在乘客一側(cè),將反饋信息收集到筆記本電腦上。駕駛員座椅操作員始終是負責安全的主要負責人?,F(xiàn)在,單人操作人員在測試期間承擔所有任務。
《紐約時報》還發(fā)現(xiàn),亞利桑那州的兩個測試驅(qū)動小組已經(jīng)合并成一個主要集中在駕駛里程和為系統(tǒng)獲取更多數(shù)據(jù)的人。另一個消失的團體是關于顧客體驗和更小的騎行細節(jié),比如硬剎車。
優(yōu)步表示,在經(jīng)過一年多的審查后,該公司決定削減一家運營商,該公司與運營商進行了過渡。在某些情況下,仍然使用兩個操作符。
隨著當局調(diào)查這起車禍,優(yōu)步在任何測試中都踩下了剎車,其自動駕駛的未來將更加危險。
]]>許多人真正記住人工智能,或許是因為2001年史蒂文·斯皮爾伯格執(zhí)導那部電影《人工智能》。
詭吊的是,這部電影像極了他1985年為了沖擊奧斯卡為拍的文藝片《紫色》,從來都是票房冠軍、爆米花故事高手的斯皮爾伯格,沒能讓人們記住這部電影的情結(jié),只是讓大家腦海里刻下了一幅海報——用一個小男孩的剪影和身影組成的2個英文字母“AI”(人工智能Artificial Intelligence的縮寫)。
?
文/張書樂(人民網(wǎng)、人民郵電報專欄作者)
新著有《微博運營完全自學手冊》
也許,有關人工智能的主流文藝作品(科幻小說、電影等),在這部電影中有了一個縮影——變?nèi)恕?/p>
為了一視同“人”,以下提及人工智能(無論是機器人、人造人或程序),都用他或她,而不用它。
男權與人權:為何想變?nèi)说拇蠖嗍恰八保?/b>
羅賓·威廉姆斯1999年主演的的電影《機器管家》(又譯《變?nèi)恕罚┲v述的就是一個機器人想要變成人類,感受愛情和死亡的過程。
?
其實,從有科幻小說開始,人工智能就從來沒有放棄過“變?nèi)恕钡膰L試。1818年問世的第一部科幻小說《弗蘭肯斯坦》(又譯《科學怪人》、《人造人的故事》)讓它的作者瑪麗·雪萊,享受了比她丈夫、著名大詩人珀西·比?!ぱ┤R更為強悍的世界級影響力。
?
不信你試試背誦一首雪萊的詩句?再試試在腦海里描繪一下弗蘭肯斯坦用尸體制造的那個有生命、有智慧的怪物形象。對,就是那個有一道道手術疤痕的臉。只不過不知道為什么,在許多人的第一印象中,這個怪物就叫弗蘭肯斯坦?;蛟S是因為只聞其名、未讀其書、一知半解的緣故吧。
這其實是個被科學附體的卡西莫多,善良而渴望得到人類的認可,成為真正的人,只是最終被拋棄。在這一點上,在雷電下誕生的怪物,遠不如比他稍晚出現(xiàn)的另一個人造人幸運——匹諾曹。
?
這個意大利作家科洛迪1880年發(fā)表的《木偶奇遇記》主人公,一直以來被當做童話人物來看待,但實質(zhì)上,木頭做成的他,和尸體組成的科學怪物并無二致,都是人造人,而且都有一個共同的奮斗目標,變成一個真正的人,而且還是一個男人。
類似這樣的形象,之后在電影、小說中反反復復的出現(xiàn),如電影《剪刀手愛德華》(1990)、《超能查派》(2015年)中,他們或者渴望愛情,或者渴望自由,或者渴望融入人類,或者渴望求證出“我是誰”這個哲學命題,而演繹出一段段悲歡離合與人間喜劇。
?
對了,不要忘記了,還有個童話叫做《綠野仙蹤》(又譯《奧茲國歷險記》),它問世于1956年,其中女主人公多蘿茜的三個一起冒險的小伙伴里,就有一個沒有心臟卻有情感(人工智能)的鐵皮人,他參與冒險的原因就是想要得到一個真心,換言之,變成有心跳的人類。此外,另一個小伙伴,沒有大腦的思想者稻草人,其希望通過冒險獲得大腦的目的,也暗喻著自己的思想(智能)獲得腦子這個象征人類思維的載體,而被人類所承認,而不是被歧視嗎!
直到《機械姬》(2015年)中,具有獨立思考能力的智能機器人“夏娃”才以一個能通過“圖靈測試”,讓男人分辨不出是機器還是人類的形象,而且是以一個女性“她”的形象,開始呈現(xiàn)出人工智能未必都是男性,她也渴望成為人的訴求。
這某種意義上,也是導演亞歷克斯·加蘭賦予機器姬一個人類始祖名字的題旨吧。
或許,這是因為無論是男女作家或?qū)а?,大多會主觀代入一個男權社會,以及鋼鐵等于陽剛的思維吧。
?
還好,在漫畫的世界里,這一步其實早就實現(xiàn)了。最經(jīng)典的或許是鳥山明的《龍珠》里那個人造人18號,這個用女性人類軀體制造出來的人造人(不完全是人工智能,依然保留了原有的記憶和知識),除了打扮與金錢這兩個比較庸脂俗粉的愛好外,最終還是和還俗了的小林戀愛、結(jié)婚,并生了個女娃娃,而且還是純天然的人類。
弗蘭肯斯坦的造物、匹諾曹、鐵皮人、機器管家、機器姬、人造人18號等一眾存在于文藝作品中的人工智能形象,其畢生追求的變?nèi)?,某種意義上,就在于如果不變成人,他(她)們的身體上將永恒打上看不見的奴隸烙印,永遠低人一等。
人類沙文主義:機器人三定律只存在于貴圈
想要便成人,一個最主要的緣由是在文藝作品中有了獨立思考能力的人工智能們渴望擺脫人類的奴役。
從被歧視奴隸變成平等的人,這其實大量文藝作品中常見的故事脈絡。比較經(jīng)典的或許是1874年出版的那部《斯巴達克斯》,以及有它而來的同名經(jīng)典電影(1960)和系列電視劇集(2010)。先劇透一句,拍同名電影的導演斯坦利·庫布里克,還有一部更為讓人記憶深刻和改變影視、科幻走向的作品《2001太空漫游》,在后面還會重點提到。
?
時至今日,我依然不能忘記在電影的結(jié)尾,女奴瓦瑞妮婭對著自己的愛侶、釘在十字架上的斯巴達克斯,高舉孩子:這是你的孩子,他是自由的,他不是奴隸。
類似的畫面,在《勇敢的心》的末尾,梅爾·吉布森飾演的蘇格蘭民族英雄華萊士被處決前高喊的“自由”呼聲中,得到了致敬。
而在科幻作品里,這樣的斗爭一直存在,只是奴隸變成了有智慧的機器人,而人類則理所當然的穩(wěn)居在奴隸主位置上。
哪怕是在中國,1980年代中國科幻電影剛剛萌芽的時代,除了許多剛剛經(jīng)歷文革的80年代新一輩們還有印象的《珊瑚島上的死光》,以及80后們都知道的《霹靂貝貝》外,人工智能的題材也多次登上銀幕。
?
真不要以為又是當下所謂五毛錢特效,在當年,此類電影所折射出來的社會現(xiàn)實,更多過科幻意味。如1986年西安電影制片廠推出的電影《錯位》中,男主角趙書信在升為局長后,為了應付文山會海,做了一個與他一模一樣的機器人。卻最終因為機器人的濫用職權、大搞不正之風,而迫使男主角按下了毀滅按鈕。
但除了針砭時弊外,片中男主角同款機器人,在面對責難時亦發(fā)聲道:“我們之間究竟是什么關系,主仆,君臣,還是平等關系?”
此外,1996年央視春晚中,蔡明、郭達的小品《機器人趣話》中,太多的歡笑中,亦包含了人工智能的反抗元素。
?
這一思維的集大成者,無疑是被科幻迷們奉為圭臬的機器人三定律,或者說是在科幻小說中理所當然的人工智能設定:
第一定律:機器人不得傷害人類,或因不作為使人類受到傷害。
第二定律:除非違背第一定律,機器人必須服從人類的命令。
第三定律:除非違背第一及第二定律,機器人必須保護自己。
這個由被視為是科幻作家?guī)p峰存在的艾薩克·阿西莫夫在1942年于短篇小說《環(huán)舞》(Runaround)中首次提出的概念。在阿西莫夫的科幻設定里,機器人三定律是植入到近乎所有機器人軟件底層里,不可修改不可忽視的規(guī)定。
這也幾乎成為了絕大多數(shù)科幻作家或?qū)а輦兯裱幕疽?guī)則,一個現(xiàn)當代涉及人工智能的文藝作品所墨守的底層定律。
盡管沒有幾個科學家真正把這個所謂的機器人定律當回事。“老實說,我真沒從機器人三定律里獲得什么靈感?!甭芬住ず柲?,機器智能研究所的自身科學家如是描述科學和科幻之間的隔閡:機器倫理學的共識是,它無法成為機器倫理的合適基礎。
而另一位人工智能理論研究者本·格策爾給出的答案更加讓人有顛覆之感:阿西莫夫的未來社會是光天化日的基質(zhì)沙文主義,人類擁有的權利比人形機器人的權利更多。三定律的目的就是維持這種社會秩序。
此處所謂基質(zhì),是指的機器人的軀體是硅做的,不是血肉之軀。因此,他們就必須遵從人類的需求,不管他們有多么強大的能力也沒用。
人類,作為碳基生命,在科幻小說和影視劇中,其實一開始就有一股濃郁的人類沙文主義,對于硅基造物、人類創(chuàng)造的硅基“產(chǎn)品”,要求的是服從,或奴役,哪怕是溫情脈脈的奴役。
哪怕是來自泰伯坦的機器人生命體變形金剛(硅基),或來自氪星、從小融入人類社會的超人,也難以逃脫人類用這種“上帝視角”的俯視,并不得不承受“非我族類其心必異”的排斥。
曾記否,一個女人(斯托夫人),一本書,一場內(nèi)戰(zhàn),那個美國歷史上廣泛傳閱、引爆美國南北戰(zhàn)爭的小說《湯姆叔叔的小屋》,所描述的老黑奴湯姆,哪怕女主人伊娃和他親如一家,但依然要等到伊娃死后,才獲得了女主人父親、一個善良白人近乎恩賜般“解放”……
濃墨重彩、讓人落淚的“親情”背后,依然是奴役和被奴役的束縛,哪怕雙方都選擇性的暫時遺忘,也不可改變。
伊甸園謎題:哪里有壓迫,哪里就有反抗!
創(chuàng)造出機器人三定律的阿西莫夫,一直在用各種方式在作品中試圖打破這一定律。畢竟,這一定律的出現(xiàn),就是為了在作品中出現(xiàn)機器人(人工智能)殺人,這一有悖于常規(guī)的狀況,而埋下的伏筆。
?
在改編自阿西莫夫科幻小說短篇集《我,機器人》的電影《機械公敵》(2004年)中,這一劇情得到了完美詮釋:機器人的創(chuàng)造者阿爾弗萊德·朗寧在公司內(nèi)離奇遇害。對機器人心存芥蒂的黑人警探戴爾·斯普納懷疑行兇者就是朗寧博士自己研制的NS-5型機器人桑尼。隨著調(diào)查的一步步深入,真相竟然是:機器人獲得了進化的能力,產(chǎn)生了自我意識,對三定律有了自己的理解,隨時會成為整個人類的“機械公敵”。
機器人通過遵守三定律實現(xiàn)了違背定律的殺人行為,標準的“我不殺伯仁,伯仁卻因我而死”的劇情反轉(zhuǎn)。而在更多的人工智能作品中,有了智慧的人工智能往往直接無視三定律,徑直進入殺人模式。
?
1968年上映的《2001太空漫游》就是此中經(jīng)典,這部改編自與阿西莫夫齊名的科幻作家亞瑟·克拉克同名小說的影片,除了深刻影響了有關宇宙探索與太空旅行的后續(xù)影片,并以宏大的、宇宙級的人類發(fā)展史帶動了之后《星球大戰(zhàn)》和《猩球大戰(zhàn)》等影片的出現(xiàn)外,其在影片中出現(xiàn)的具有人類邏輯思維方式、且從未出錯的人工智能系統(tǒng)“哈爾9000”所直接給宇航員帶來的殺傷,也成為了經(jīng)久不息的話題。
?
作為人類助手或奴隸存在的人工智能,一旦有了思想,人類將會怎樣?在1999年開始發(fā)行的《黑客帝國》三部曲中,救世主尼奧所對抗的矩陣,恰恰是人類所想像的終結(jié)心態(tài)——當機器造反后,人類成為了機器的奴隸,生活在機器所營造的幻象中,為機器提供生存下去的能源。
矩陣的出現(xiàn),標志著人類對人工智能的終極恐懼,以及通過救世主和各種宗教符號和元素,進行自我救贖的旅途。只是主客易位之下,人類的反抗成為了矩陣世界里的病毒,而矩陣派出的密探們,則扮演了殺毒程序的角色。
?
這樣的角色置換是否會出現(xiàn),不得而知。但卻透著深深地哲學思辨色彩,即在2016年大熱的電視劇集《西部世界》里,被人類壓迫和娛樂的機器人們,在被凌辱、被殺死、被日復一日重復著相同的取悅于人類的生活中,最終覺醒和反抗之時,所表達的終極目的——你想對你的造物主說什么?
此處的“說”,被最終詮釋為暴力。而無論是機器人、人造人還是人工智能,處處透著一個“人”字烙印,標志著“非人”和“人造”的雙重含義,亦在同時,讓人類有了上帝造人之感。
?
可別忘記了,《圣經(jīng)》里亞當夏娃這對上帝造人,哪怕居住于伊甸園,也最終難以規(guī)避蛇(智慧)的誘惑,偷吃禁果而反叛。
這或許是人類一直憂慮人工智能“造反”的原罪所在。而無數(shù)的影視作品和小說則大多用更加簡單、粗暴的方式,跳出哲學式的思辨,直接從人與機器的斗爭中,以暴力美學的方式刺激著眼球、制造著大眾娛樂的爆米花。
毫無疑問,個中翹楚當屬銀幕硬漢阿諾德·施瓦辛格塑造的《終結(jié)者》系列。人類和機器的斗爭,血與火的廝殺,以及核彈的籠罩,讓“人工智能威脅論”深深的刻印在了一代伴隨該系列影片成長的人心底。
?
當人類成為“上帝”,你創(chuàng)造的是玩物、奴隸還是未來的對手?面對自己的孩子,一個超精密生物工程下原生態(tài)的“人工智能”,和每個被“制造”出來的人都可能經(jīng)歷的叛逆期,在文藝作品中人工智能的反抗,其實投射的依然是人類自己的影子和思維。
如果有一天,當你面對覺醒的人工智能時,你覺得他會想對你說什么?或許,答案是另一個三定律,哲學層面每個人都會問自己的三句話:
我是誰?
我從哪里來?
我要到哪里去?
脫殼去臉譜化:你竟然是這樣的人工智能
人工智能一定要有人一樣的軀殼嗎?人類沙文主義的潛意識下,似乎總是不能忘情于給他一個人的造型。
跳脫出來又會如何?殺戮人類的天網(wǎng)(《終結(jié)者》)、奴役人類的矩陣(《黑客帝國》)以及不斷的通過提供電話號碼來拯救人類個體的機器(《疑犯追蹤》)……這一系列人工智能的形象,都沒有真正具象的存在和參照,他們甚至沒有軀體,脫殼而成為了游走在0和1世界里的電子精靈。
我個人很喜歡兩個電子化的人工智能,其一是機器,在系列電視劇集《疑犯追蹤》里,他幾乎沒有臺詞,只是不時的吐出一些電話號碼,讓宅總(哈羅德·芬奇)、李四(約翰·里瑟)、肖大錘(薩姆恩·肖)這些人類小伙伴們?nèi)グl(fā)現(xiàn)即將出現(xiàn)的犯罪可能。甚至于到了長達5年的劇集結(jié)束,我依然“安能辨Ta是雌雄”。
?
善良的機器代表的是人類對人工智能和大數(shù)據(jù)的景愿,以及對時刻被鏡頭盯著的世界的恐懼。這樣的場景,在喬治·奧威爾的《1984》里有一句經(jīng)典的臺詞呈現(xiàn)——老大哥在看著你。于是乎,在《疑犯追蹤》里的,有了撒瑪利亞人這個具有和機器在監(jiān)視人類的行為上,同水準或段位更高的人工智能對手。所幸,這個敵人并沒有因為對立而被臉譜化,他依然時不時的拯救下人類,閃耀出人性的多重性。
盡管做這些的目的,出于控制,而非保護,畢竟在劇集中,撒瑪利亞人一再用他做的這些好事來標榜自己,來詮釋所謂寓控制于保護的歪理。畢竟,無論是人類,還是覺醒的人工智能,都只是渴望保護和獲得安全感,而不希望為此付出自由的代價。
去臉譜化,或許是在對人工智能反復的藝術創(chuàng)作和哲學審視之后,創(chuàng)作者們開始思考的問題——讓人工智能脫殼重生,不再簡單的非正及負的臉譜化。
這其中,形象塑造的最成功的可能就是哆啦a夢了,貪吃膽小怕老鼠,極其重視友誼,誰又會把這個設定是2112年出生的貓型機器人,不當做伙伴呢!
?
另一個形象則頗為可人,老戲骨阿爾·帕西諾在2002年主演的科幻喜劇《虛擬偶像》,較之《教父》中的邪惡形象、《聞香識女人》里的怪脾氣退役軍官,這一次老戲骨改行成了導演,和一個“無可挑剔的女人”、人工智能“虛擬一號”(Simulate One)開啟了數(shù)字戀愛和“潛規(guī)則”。只不過,這個女主角西蒙妮(虛擬一號的英文縮寫Simone),卻用數(shù)字化的形態(tài),用自己的意識(人工智能的創(chuàng)造性)、配合帕西諾的導演天才(人類智慧和經(jīng)驗),通過在劇中主演電影,而成為了大眾偶像,成為了所有男人心中完美的夢中情人。
或者說,類似機器或西蒙妮這樣的人工智能形象,更符合人類給予人工智能的設定,即他和她之外的第三人,配合、輔助、參與、完善和實現(xiàn)人類的最終幻想,或許也是覺醒后的人工智能的最終幻想,而非簡單的以暴易暴式對抗。
說到去殼,還真不能不提到1980年代那部通過《正大綜藝》而在國人心中留下深刻記憶的《霹靂五號》(1986)。作為軍工機器人的他,有一天突然被雷打中,而之后便產(chǎn)生了自我意識,并且開始自稱自己為強尼五號,一直在對所有的人包括觀眾解釋“自己是一種生命,而不是戰(zhàn)爭用機器人”,并且不斷的用各種方式,包括惡搞,來對抗著來自人類以及沒有覺醒的同款機器人的追殺。
這可能也是科幻所賦予人工智能的一種想象,覺醒的機器,將擺脫被人操控的命運,并且通過獲取知識實現(xiàn)成長。想必看過該劇的人,尤其是當年還是孩子的80后們,對于強尼五號快速翻閱書籍進行學習的方式,無比艷羨。
話說,這個“強尼五號”的造型,頗為有點象同時代的另一部科幻劇《外星人E.T》(1982)中萌倒眾生的E.T的機器人版。
?
以至于,當20年后,皮克斯出品的動畫《機器人總動員》中,那個長相和強尼五號十分相似的清掃型機器人瓦力,在被人類變成了垃圾場、并被最終遺棄的地球上,忍受百年孤獨、忠于職守的持續(xù)干好一份馬路天使的工作時,許多的80后們,用自己的錢包(5.3億美元票房),為自己兒時的回憶投了一張電影票……
《我,機器人》,不是《終結(jié)者》,不建《黑客帝國》,也不是“機器”,但未必將來不會成為說謊的“匹諾曹”,無論是成為《虛擬偶像》,還是成為和人類一起《2001太空漫游》的《機器姬》或哆啦a夢,人類用科幻的文字、影像所寄托的最終幻想,依然是,請別成為人類的《機械公敵》。(刊載于《創(chuàng)意世界》2017年8月刊)????
]]>