2019-08-26 14:41資策會MIC資深產業分析師 韓揚銘
  •  
  •  

 

人工智慧系統之所以失靈的原因,就是過度期待將人工智慧系統以整體流程無人化的方式進...
人工智慧系統之所以失靈的原因,就是過度期待將人工智慧系統以整體流程無人化的方式進行規劃。美聯社
 
美國科技業巨擘Google公司於2018年5月的開發者大會(I/O)中,CEO Sundar Pichai展示了一項結合深度學習、文字轉語音(Text-to-Speech)及自然語言處理的訂位系統Duplex,在展示的過程中,該系統用著像人一樣的問話模式問著店員什麼時候有位子、一共會有幾位或是詢問要提前什麼時候到,並且在等候過程中還會出現像人一樣的語助詞或口吻回覆及接續問話。

展示的當下,立即獲得現場一片驚呼,也馬上於全球的媒體進行播放,使得大家都等不及想要運用這樣的系統到自己的個人助理中,甚至有許多店家反過來詢問是否有AI店員的語音系統可以在店家忙碌時幫忙接上幾通電話,來為他們帶來更多的業績。(延伸閱讀:會員專屬/從阿里巴巴到亞馬遜...集中與分散思維流轉)

訂位系統Google Duplex仍需人為介入

眾望所歸,2018年10月開始,只要是擁有Google手機Pixel 3及3 XL等硬體的使用者,便可在美國舊金山灣區、紐約、亞特蘭大及鳯凰城使用Google Duplex,並後續逐漸擴大地區及開放給更多餐廳使用。然而,看似這項技術已完成實現的同時,2019年5月底,開始有相關報導提到Duplex的近況,當中就提到Duplex沒有想像中的神奇,在許多的電話訂位過程中,仍有許多對話的過程是需要大量的人為介入的。

根據紐約時報的報導,在所有Duplex的服務當中,有25%是由使用者先做好系統設定開始,而在電話訂位的過程當中,有15%的電話在不同的問題點裡必須有人為介入才得以完成預訂。這樣的數據讓人大為吃驚,連Google技術和資料那麼完善的公司,在做出電腦預訂系統都需要近40%的人為干預,不禁讓人懷疑我們所大量投資的人工智慧系統是否真如想像中的值得?

無獨有偶,中國大陸的無人商店,在前兩年大筆資金投入後,2018年底開始降溫,更已有報導指出,許多大公司推出的無人商店已關門大吉,其中原因不乏就是提到沒有人情味、辨識率錯誤及投入成本過高等因素。

中國無人商店。路透社
中國無人商店。路透社
 

然而,要提到這波人工智慧的失敗及失靈案例確實不少,像是Google的相本就曾把黑人辨識成黑猩猩、微軟及IBM的人臉辨識系統因為當時的訓練資料而可能出現種族或性別歧視、以及Amazon Echo因為電視主持人的聲音被意外觸發…等。在這些系統出錯或失靈的同時,通常有下列原因可以歸結。

需要深度學習的人工智慧

首先,經常會先提到的是系統還不夠完善,準確度需要再進行提升。這波人工智慧的興起是由於深度學習的進展,而深度學習需要的是大量的資料,讓深度學習的算法可以從大量資料中找到合適的判斷法則,因此這段時間需要的是重新針對資料再做出品質的校正及收集,如此才得以再訓練出一組新的深度學習網路來提供給使用者。(延伸閱讀:會員專屬/Netflix原創影集《黑鏡》的「人工智慧倫理」啟示錄)

由於使用者對人工智慧系統的準確度會出現不同程度的容忍度,例如:假設購物推薦系統有到八成的準確度,則會讓企業有相當高的意願使用;但是如果語言辨識系統只有八成,則表示用五次會錯一次,反而會需要花費其他時間重新確認,造成企業不願意使用。因此對智慧系統的精確度,會在初步達到可接受的準確度就推出,然後由使用者回饋行為及經驗後,再重新訓練模型及提出精確度更高的服務。對此,Google的Duplex也是類似,藉由提供部分地區的試用版本及收集使用者經驗及行為資料後,將會不斷的再重新針對該服務提出更好的解決及判斷方法。

人工智慧系統失靈

除了精準度不夠完善外,人工智慧系統之所以失靈的原因,就是過度期待將人工智慧系統以整體流程無人化的方式進行規劃。主因在於,為了達到無人化的設計目的,反而造成更多成本及更多的系統判斷失誤。以這次Google Duplex為例,在一般客人和店員在訂位過程中,店員經常會以非常快速的方式去詢問人次、用餐方式及額外的個別需求…等,而這樣的過程就目前的Google Duplex仍會有文不對題的回覆,因此反而要求在訂位過程中要再請真人進行介入。

Amazon西雅圖Amazon Go無人商店門市,主張不用排隊結帳。美聯社
Amazon西雅圖Amazon Go無人商店門市,主張不用排隊結帳。美聯社
 

這波人工智慧興起在於深度學習的可實用性,而深度學習在能力上經常被提到的是一種對事物的「認知」或「判讀」的能力,例如:用於圖像及語音辨識,但是在面對一連串的決策流程或是對情境理解後的判斷時,往往運用深度學習建構的系統會出現無法有效自動化的情況。因此,實際在導入新一波人工智慧技術時,開始有愈來愈多人逐漸倡導HI (Human Intelligence) + AI(Artificial Intelligence)的人機智慧的系統設計概念。

HI+AI的系統設計

所謂的HI+AI,本質上就是從交互運用及互補優缺點的角度進行設計,主因在於現階段的人工智慧技術無法有效理解情境問題,而人類對大量資訊無法處理,或是重複性或辨識性的工作會因疲累或偏見而出現誤判的情況,因此在智慧系統的設計中,愈來愈多設計將人加入流程中的環節,而非以取代人做思考方向。

故對於智慧系統將人的角色還原至系統流程後,應不再以無人商店為目的,反而是輔助或協助人可以更有效率為原則。例如在商店中使用電腦視覺協助店員識別熟客或新客,或是在訂位時用語音情緒辨識聽出客人的情緒或找到消費的偏好…等,如此在整體的高社交情境的互動及溝通就可以靠人去協助完成。

因此,對於我們所認知的人工智慧,可轉變成為自動智慧(Automated Intelligence)或擴增智慧(Augmented Intelligence)的角度進行思考,以確實瞭解技術的特性後再將其運用至流程或產品中,藉此協助企業獲得更高的效益,以避免大量投入資金後,而未獲得預期的成果。(本文作者是資策會MIC資深產業分析師)

延伸閱讀》

會員專屬/所向披靡的亞馬遜在東南亞行不通 不如把蝦皮給吃了?

會員專屬/台灣進入智慧城市時代 當科技衝撞倫理時我們該如何取捨?

https://money.udn.com/money/story/12989/4004017

全站熱搜

顏明輝_美商ERA 發表在 痞客邦 留言(0) 人氣()