雲棲科技評論第102期--傳媒--人民網
人民網首頁
102

卷首語

人民網公眾號

阿裡雲公眾號

尤瓦爾·赫拉利與李飛飛是怎樣討論“AI威脅論”的?
   近日,斯坦福大學社會與倫理中心舉辦了一場名為“未來AI”的主題活動,邀請到了《人類簡史》、《未來簡史》作家尤瓦爾·赫拉利,一同在座的中心新任“所長”,是去年從谷歌雲AI首席科學家任上離職的李飛飛。

   尤瓦爾·赫拉利和李飛飛,一個哲學家,一個科學家,兩個原本毫無交集的人因為AI而匯聚一堂,也因為AI,產生了思想上的激烈撞擊。

   尤瓦爾·赫拉利堅信,AI會帶來“哲學危機”。他表示,哲學危機一半來自AI與計算機技術,另一半來自腦科學和生物科技。如果總結為一個公式,生物科技x計算能力x數據=攻擊(hack)人類大腦的能力。

   換句話說,不僅哲學家們幾千年來討論的諸多哲學概念將在算法面前土崩瓦解,其還會洞悉思想和心智,並從這一維度具有攻擊人腦的能力,甚至於人文主義所推崇的自由意志將面臨嚴峻挑戰,機器或將會代替人類做出更明智的選擇。

   雖然尤瓦爾·赫拉利作為歷史學家、哲學家、社會評論家的工作,就是指出技術發展中存在的危險,但是他的這些觀點還是讓在座的科學家們感到震驚,從媒體報道上看,許多人認為,他未免太危言聳聽了。比如,李飛飛就是他們中的一個。

   李飛飛強調“任何技術都有兩面性”,比如說“人類從火的發現開始所創造的任何技術都是一把雙刃劍”,但是,AI帶來的機遇和潛在的危機應該被正確看待。

   這位在谷歌雲職位最高的AI科學家承認,未來AI發展所面臨的挑戰和問題需要各界專家學者共同探討研究,重新構建下一代AI發展規劃,但是要相信“AI是一項革命性的技術”。

   從“第三次人工智能浪潮”開始至今,AI已經取得了非常耀眼的進步,但是與物理、化學、生物學相比,它仍然是一門新興的科學,而且也才剛剛進入“技術道德倫理討論的關注范圍內”,一味強調“AI威脅、AI風險”與一味吹捧AI的社會價值都不可取。

   事實上,就算是在備受爭議的“AI取代人工”這個問題上,也已經有分析公司提出“AI將在2020年創造50萬個新增就業機會(減少180萬個,增加230萬個)”。

   曾經有很多比AI更具威脅的技術被創造出來,但歷史証明,我們的社會有能力讓任何一項技術朝著安全可控、對社會有益的方向發展,AI與其他那些曾經被視作洪水猛獸的技術一樣,都應當被一視同仁,讓哲學家、科學家和社會大眾一起面對。

                                 阿裡雲研究中心 崔昊

  編輯制作:人民網研究院  內容提供:阿裡雲研究中心
  本刊僅用於行業交流,非商業用途。編輯或專家觀點獨立,不代表本刊立場。部分所選用內容,未能與作者取得聯系,請聯系本刊:yjy@people.cn

1、谷歌稱Fuchsia OS系統將支持更多設備


谷歌稱Fuchsia OS系統將支持更多設備

  【新聞摘要】 據國外媒體報道,在近日舉行的谷歌I/O開發者大會上,Android和Chrome掌門人希羅史·洛克海默(Hiroshi Lockheimer)對外披露稱,被寄予厚望的Fuchsia OS“並不是新一代Android或Chrome操作系統”, Fuchsia只是在打造操作系統領域的全新藝術,谷歌將把從Fuchsia OS中學到的東西整合到其他產品中。他同時表示,Fuchsia OS可以以不同的外形出現,而不僅僅是智能手機或個人電腦。有媒體表示,希羅史·洛克海默的表態或許暗示Fuchsia OS可能適用於智能家居設備、可穿戴設備,甚至可能是增強或虛擬現實設備。(閱讀報道)
  【小雲評論】 在Android和Chrome獲得巨大成功之后,谷歌一直希望將其在智能手機和個人電腦之外予以復制,從而在經歷了個人電腦、智能手機兩大浪潮之后,緊緊抓住下一個“數字化設備的浪潮”,在這方面,谷歌的直接競爭對手亞馬遜做的略高一籌:據不完全統計,截止2019年4月,搭載亞馬遜智能助手Alexa的智能設備出貨量超過1億台,Alexa系列智能音箱累計出貨量已超過5000萬台。雖然Alexa仍然只是智能語音助手,無法與打出操作系統概念的Fuchsia OS的相比,但亞馬遜已經在智能設備領域建立起了穩固的生態,從智能語音助手到操作系統,或許隻有一步之遙。

2、美國再斥資6億美元研發百億億次超算


美國再斥資6億美元研發百億億次超算

  【新聞摘要】 美國能源部近日宣布,將與超級計算機廠商Cray(中文名:克雷)合作,計劃在2021年建成全球最快的百億億次級別超級計算機Frontier,這一系統將用於加速科技創新,並幫助美國高性能計算和人工智能領域保持領先地位。據美國能源部表示,超級計算機Frontier的性能將超過1.5 exaflops,大約是目前頂級超級計算機速度的50倍,它將在美國橡樹嶺國家實驗室建造,主要基於Cray的Shasta架構和Slingshot互連技術,並採用AMD公司的EPYC CPU和Radeon Instinct GPU作為核心處理器。美國橡樹嶺國家實驗室(Oak Ridge National Laboratory)是美國能源部所屬的科學和能源研究實驗室。2005年以來,該實驗室已經部署了當時最快的計算機系統Jaguar、Titan和Summit。(閱讀報道)
  【小雲評論】 美國能源部目前共致力於三台百億億級超級計算機的建造,即田納西州橡樹嶺的Frontier,伊利諾斯州阿貢國家實驗室的“極光”Aurora和加利福尼亞州的El Capitan,所有這些機器預計將在2021至2022年部署。即使對於美國來說,這也是前所未有的:從未有國家同時建設兩套以上的下一代超級計算機,因為這將耗費巨大的人力、物力和財力。在這背后,是一場涉及中、美、日、歐的全球超級計算機領域“軍備競賽”,畢竟計算技術是數字經濟時代的基石。

3、高通近40款芯片被曝出泄密漏洞


高通近40款芯片被曝出泄密漏洞

  【新聞摘要】 據國外媒體報道,英國安全公司NCC Group公布了藏匿在逾40款高通芯片的旁路漏洞,可用來竊取芯片內所儲存的機密資訊,並波及採用相關芯片的Android設備。這一編號為CVE-2018-11976的漏洞,涉及高通芯片安全執行環境的橢圓曲線數碼簽章算法,將允許黑客推測出存放在QSEE中、以ECDSA加密的224位與256位的密鑰。媒體報道中透露,NCC Group早在去年就發現了這一漏洞,並於去年3月知會高通,高通則一直到今年4月才正式修補。(閱讀報道)
  【小雲評論】 2018年以來,芯片漏洞問題愈演愈烈,從英特爾、AMD到高通,幾乎所有主流通用芯片供應商都深陷其中,影響范圍也從服務器、PC蔓延到Android手機和智能設備。實事求是的說,隨著軟件定義趨勢(甚至是軟件定義芯片)的發展,以及軟件芯片化特性的增強,芯片中的安全性問題幾乎必然會呈現增長趨勢,而且由於一代芯片微架構往往用於型號眾多的芯片中,一旦出現問題,也必然會波及范圍極廣。但這並不意味著不應當在芯片領域探索軟件定義,關鍵是要及時發現、處理潛在安全隱患,而非時隔近15個月才行動起來。

4、MIT用深度學習預測乳腺癌患病概率


MIT用深度學習預測乳腺癌患病概率

  【新聞摘要】 近日,麻省理工學院計算機科學與人工智能實驗室(CSAIL)和馬薩諸塞州綜合醫院(MGH)合作,共同打造了一個新的深度學習模型,可以通過分析乳房 X 光圖像,找出人眼不易察覺的特征和規律,從而預測女性是否可能在未來五年內罹患乳腺癌。訓練結果顯示,該模型的預測准確率約為31%,遠超傳統預測方法的18%。研究團隊認為,以深度學習驅動的預測系統有望推動新的乳腺癌篩查計劃,可以將基於年齡的傳統篩查建議,變成基於風險因素的更加科學的個性化篩查建議。(閱讀報道)
  【小雲評論】 值得注意的是,這一深度學習模型並非診斷而是預測,它能發現人眼不易察覺的特征和規律,從而將准確率提高超過70%,由於早期乳腺癌的5年生存率高達 98-100%,這意味著將有近乎一倍以上的患者可以得到及時有效的治療。更重要的是,深度學習模型對不同族裔女性的預測准確率相同,包括Tyrer-Cuzick 模型在內的很多現有模型大多依照白人女性數據建立,對非白人族裔的預測效果較差,可能有超過10%的差距。在深度學習的幫助下,這一誤差或將不復存在。人工智能既可以超越人類的觀察和認知水平,提高疾病預測,更可以彌補原有醫學手段的缺陷,實現醫療服務的包容性發展。

5、微軟 Build 2019大會發布多項更新


微軟 Build 2019大會發布多項更新

  【新聞摘要】 近日,微軟年度開發者大會 Build 2019 在美國西雅圖拉開帷幕,微軟 CEO 薩蒂亞·納德拉証實微軟目前在全球擁有 54 個數據中心區域,其中包括一個位於南非的主要數據中心區域,並表示“隨著計算滲透到我們生活的各個方面,開發者的選擇將決定我們所生活的世界,(因此)微軟致力於(通過雲)為開發者提供跨越不同棧層的可靠工具和平台,創造神奇的體驗,為每個人創造新的機會。”此外,在 Build 2019 上,微軟推出了25 個關於 Azure 主要功能和更新的介紹,這家公司已將Azure 推向更為廣闊的領域,包括Edge 瀏覽器,Azure Kinect,Azure 數據盒,Azure IoT等新領域、新服務被提出,甚至使用 Azure 連接 Hololens 2 增強現實眼鏡。(閱讀報道)
  【小雲評論】 顯然,Azure 已經成了微軟所有業務的支撐平台,更是微軟開發者戰略的底層基礎,對於將Azure雲服務視作“全球計算機”的納德拉來說,Azure的重要性不言而喻。正如文章中所說,從今年的微軟 Build 大會可以看出,微軟把 Azure放在重要的戰略地位,其他所有的服務和產品都建立在此之上。此外,微軟也在努力將 Azure打造成一個開放平台,提供新的開源技術和開發工具,為下一步“萬物互聯”做准備。

6、亞馬遜被曝光使用AI監控員工


亞馬遜被曝光使用AI監控員工

  【新聞摘要】 近日美國科技媒體the Verge公開了一份亞馬遜公司內部文件,雖然出於保護當事人隱私目的,這份文件的很多語句已被刪去,但仍然顯示出在亞馬遜的倉庫中,強大的AI系統不僅能跟蹤每個人的工作進度,甚至還能精確計算工人消極懈怠的“摸魚”時間(Time Off Task),這意味著亞馬遜倉庫的工作人員不僅每小時必須完成幾百個包裹的包裝工作,而且工作的全過程都被AI所監控。不僅如此,根據the Verge公開的文件,亞馬遜的AI“監工”還可以根據實時數據,生成在線解雇指令,直接繞過主管開除工人。(閱讀報道)
  【小雲評論】 這份亞馬遜內部文件披露了一個令人震驚的事實:在亞馬遜倉庫,機器不僅可以取代人類勞動,甚至可以自己決定開除人類,即對人類的工作做出冷酷的評價和決定,這已經超越了人機協同的一般概念。對於亞馬遜來說,這或許有助於對員工的管理或是提高倉庫的工作效率,但這對於員工是不恰當的,甚至會對工人的心裡健康留下深遠的負面影響。需要指出的是,類似的AI應用並不是行業的通行做法,其背后是亞馬遜高壓力的工作狀態和近乎苛刻的工作要求,所以,AI監控甚至開除員工,只是亞馬遜備受爭議的員工管理方式的一種體現,並不能代表未來機器與人之間的勞動關系。

7、Facebook數字支付項目“Project Libra”曝光


Facebook數字支付項目“Project Libra”曝光

  【新聞摘要】 據《華爾街日報》報道, Facebook正在推進名為“Project Libra”的數字支付項目,該項目的核心是一種數字貨幣,主要目的是讓用戶可以彼此相互轉賬,並使用該數字貨幣在臉書及互聯網上購物。目前,臉書正在招募數十家金融公司和在線商戶,協助推行這套基於數字貨幣的支付系統。報道稱,Facebook正在為這一項目尋求大約10億美元的外部投資,同時開發類似比特幣“挖礦”的獎勵機制。此外,Facebook的這一數字貨幣可能將與一攬子法定貨幣挂鉤,而非只是美元。換句話說,該數字貨幣將是俗稱的“穩定幣”,幣價會相對平穩。(閱讀報道)
  【小雲評論】 在外界看來,Facebook進入數字支付和數字貨幣領域只是時間問題,就像許多其它公司一樣,臉書正在探討如何運用區塊鏈技術的力量,也認識到未來支付手段和支付介質可能產生的巨大變化。但更重要的是,Facebook的目標肯定不僅局限於自家的網站服務,而是要更深入用戶的生活,打造出一套可以在互聯網上通用的支付系統。就像目前Facebook用戶已經可以使用其帳戶登入許多其它網站,未來Facebook更希望用戶可以使用其支付工具,在不同網站上購物。

8、美國警方破獲一起機器人綁架案


美國警方破獲一起機器人綁架案

  【新聞摘要】 近日,在美國加利福尼亞州的伯克利市,警方破獲了一起“綁架案”,一名男子因看不慣在伯克利街道上漫游的送貨機器人,便將機器人“劫持”或者說偷走,將其鎖在自己的汽車后備箱中。被警方救出的受害者名叫 Kiwibot 機器人,在美國送貨機器人領域中算是頗有名氣,由加州大學伯克利分校所孵化的機器人初創公司研制,從 2017 年開始提供服務至今,Kiwibot 完成 3 萬次交付,已打造超過 150 個機器人。(閱讀報道)
  【小雲評論】 一名45歲的代課教師是此案的嫌疑人,他“劫持”機器人是因為“看到這些機器人漫游在街頭上,感到很沮喪”,以及“不喜歡這些機器人”,此外,雖然說外界媒體紛紛使用“劫持”來形容此案,但伯克利警方還是以“涉嫌犯下盜竊重罪”逮捕了這名男子。隨著送貨機器人越來越多,任何機器之前的關系就成了一個不得不解決的問題,特別是當部分體積較大的機器人甚至佔據了整個行人道,影響行人的權益,或是有人感覺機器人搶走人類送貨員工作的心理剝奪感發生時,這些沖突就會愈演愈烈。人工智能治理課題的研究迫在眉睫。

9、“未來AI”會議:需要重視AI威脅與發展趨勢研究


“未來AI”會議:需要重視AI威脅與發展趨勢研究

  【新聞摘要】 近日, 斯坦福大學社會與倫理中心,斯坦福“以人為本”AI研究院和斯坦福人文中心共同主辦了一場“未來AI”主題活動,暢銷書《人類簡史》、《未來簡史》作家尤瓦爾·赫拉利和AI界“女神”李飛飛分別談到對未來AI發展的一些看法。赫拉利在討論中重述了他在《未來簡史》中的預言,他認為當AI與腦科學、生物科技、大數據聯合起來時,將具備攻擊人類大腦的能力。而李飛飛堅信任何技術都有兩面性,AI帶來的機遇和潛在的危機應該被正確看待。未來AI發展所面臨的挑戰和問題需要各界專家學者共同探討研究,重新構建下一代AI發展規劃。(閱讀報道)
  【小雲評論】 長期以來,尤瓦爾·赫拉利都對AI會威脅人類深信不疑,他多次強調“AI會具備入侵人腦的能力”甚至會將其付諸實施,這位暢銷書作家認為,AI真正入侵人類大腦的能力不是指收集用戶購買習慣,網頁瀏覽記錄,進行廣告推薦,而是算法可以直窺人的大腦和心臟,收集數據。李飛飛則更加樂觀,她認為AI是一項革命性的技術,雖然與物理、化學、生物學相比,它仍然是一門新興的科學,但有了數據、計算力,AI正在對人類的商業和生活產生各種各樣的影響。當然,在人文學家、哲學家、歷史學家、政治科學家、經濟學家、倫理學家、法律學者、神經科學家、心理學家以及其他眾多領域科學家的共同努力下,重構下一階段AI的研究和發展是當前非常重要的工作。

10、中國應用在美國悄然興起


中國應用在美國悄然興起

  【新聞摘要】 據美國媒體報道,最近幾年由中國一些大科技公司開發的移動應用(以下簡稱APP)逐漸在美國消費者中流行起來。移動應用研究公司Sensor Tower統計的數據顯示,2019年第一季度由中國公司或中國大投資者投資的公司開發的應用,在美國獲得了6.748億美元(約合45億元人民幣)收入,營收同比增長了67%以上。中國科技公司借助APP成功進入了美國,比如TikTok就取得巨大成功,第一季度成為美國下載次數第三大的應用,隻落后Facebook的Messenger和“Color Bump 3D”游戲。(閱讀報道)
  【小雲評論】 美國用戶需要抖音,就像他們是如此迫切地需要阿裡巴巴速賣通上的紋身花臂袖套,無論是國內還是國外的用戶,無論是移動應用,還是商品,具備吸引力的時髦產品,加上優質的服務和過硬的產品質量,互聯網已經能讓人們跨越文化、空間和時間獲取所需。當然,對於希望拓展國外市場的中國公司來說,還要進一步了解和貼近國外市場用戶,保持持續迭代優化的能力,確保可以持續與用戶產生共鳴。而對於是否是中國公司,用戶自然會“用腳投票”,而非追溯他們所使用的APP到底是來自中國還是美國。