“資料黑匣”和”不可信”阻礙AI發展？區塊鏈或許是救命稻草
9月16日，巴位元在上海舉辦了第11期《Chainge》技術沙龍，主題是“區塊鏈+人工智慧”，搜狗輸入法之父馬佔凱、《深度卷積網路：原理與實踐》作者彭博、比原CTO朗豫、JarvisPlus創始人佘澤鵬等嘉賓受邀分享各自觀點。
▲Couger創始人Ishii
Ishii也是分享嘉賓之一，他曾在IBM從事開發工作，後在日本澀谷創立Couger。如今，他和團隊正忙於CONNECTOME（連線組）專案的開發。這是一個集合了AI（人工智慧）、Robotics（機器人技術）、IoT（物聯網）及Blockchain（區塊鏈）的專案。
Ishii認為，未來人工智慧裝置將無處不在，但是，人工智慧在資料訓練領域存在“資料黑匣子”問題。而亞馬遜 Alexa音響漏洞、Uber 無人車事故等也讓人們對人工智慧產生了懷疑。恰恰，區塊鏈技術或許是拯救AI的一方良藥。依靠區塊鏈技術跟蹤AI資料資訊，AI將更加安全、可靠。
以下內容來自Ishii及CONNECTOME首席區塊鏈架構師Ishiguro Kazuaki演講，經巴位元整理：
AI不可信？
AI在全世界紅得發紫，它通過分析海量資料學會完成任務，它可以幫聊天機器人學會溝通的藝術，它也能讓無人駕駛汽車開上公路，它甚至成為自動化機器潮流的一部分。但AI研究者明白，它可能並不是非常可靠。
Ishii覺得這體現在兩個層面。第一，人工智慧技術需要海量資料進行訓練和學習，由此機器人才能完成複雜判斷。但這一過程中演算法內部的運作往往並不透明，存在“資料黑匣子問題”，人們並不能明白該過程是如何發生的，AI做出判斷的理由又在哪裡。
Ishii的同伴Ishiguro Kazuaki認為，從目前已執行的AI裝置看，漏洞和麻煩一路相隨。比如亞馬遜智慧音響就曾發生使用者隱私洩露事件，該音響錄製了西雅圖一位使用者的私密對話，並將其傳送給了另一位聯絡人。2018年3月，Uber無人車發生重大交通事故致人死亡，最終，Uber在解釋無人車沒有采取避讓措施的緣由時稱，感測器其實探測到了行人，但系統認為這是一個無需避讓的塑料袋。
AI真的可以信賴嗎？它真的安全嗎？這或許是AI面臨的一個挑戰。
區塊鏈技術是救命稻草？
AI的痛點或許就是區塊鏈技術最有價值的地方。
Ishii的公司正在研究用區塊鏈的方法解決AI所處的困境，其方案名為GeneFlow（基因流）。GeneFlow分為三個功能。首先是學習處理，在學習過程中，GeneFlow方案可以將AI學習到的演算法模型和訓練資料轉化為雜湊值，並儲存在分散式儲存系統上。在執行過程中，該方案可以記錄AI從分散式儲存系統裡呼叫了什麼學習模型，並顯示目標資料的執行結果。在這個過程中，它還可以評估各種組合生成的多個學習模型，並且選擇最佳模型。
因為所有歷史都被記錄在區塊鏈上，AI“資料黑盒子”的問題迎刃而解。針對AI出現的問題，通過區塊鏈技術也能查詢問題原因。此外，他們在Connectome生態系統上同時引入一種TCR機制，一定程度上“識別”並“淘汰”惡意使用者，讓多個公司和研究機構共享安全的學習資料和學習模型。而區塊鏈資料不能篡改，更不會丟失的特性為AI構建起一種信任。
AI+Iot+Robotics+Chainblock=智慧空間？
Ishii領導的這個專案叫Connectome，中文叫“連線組”， Ishii把它定義為聰明的空間。它將應用到IOT、AI、Robotics及Blockchain等多種技術。物聯網扮演人的五感，機器人作為身體，區塊鏈作為血液和神經，AI是大腦。Ishii稱，如果把這幾種技術與虛擬代理人這種新型的交易介面相結合，就能徹底改變世界的運作方式。
在《Chainge》技術沙龍現場，Ishii稱他們正在研發一種新型的互動介面，他稱之為虛擬智慧人。藉助上述幾大技術，該虛擬人擁有視覺和聽覺，能夠和使用者順暢交談，而且，她能夠了解整個空間和空間裡的物體。Ishii呈現了一段演示視訊，視訊裡，某辦公空間裡有一個電視螢幕，螢幕上是虛擬的女智慧體形象。她發現另一個辦公室正在開會，但四人中兩人面前沒有水瓶。於是，她向一位真人職員傳遞資訊，要求他拿兩瓶水過去。有趣的是，使用者可以自定義這個類似於遊戲角色的虛擬智慧體形象。
在Ishii的構想裡，這種技術也可以被用在智慧互聯汽車、智慧城市、智慧家居等領域。在區塊鏈技術的加持下，極具科幻感的未來生活離我們還有多遠？
版權宣告： ofollow,noindex"> 
作者保留權利。文章為作者獨立觀點，不代表巴位元立場。