人工智慧與生命2.2

人工智慧與生命2.2

今天很高興在中技社主辦的「大陸學子來台交流參訪」行程中，與兩岸學子談談「人工智慧與生命2.2」(Artificial Intelligence and Life 2.2，AI and Life 2.2) 。生命2.2大家以前可能沒聽過，這是我自造的名詞，等一下再向大家說明。

自造的名詞

目前我們頂多處於生命2.1階段

美國「未來生命研究所」(Future of Life Institute) 的創辦人，美國麻省理工學院教授鐵馬克 (Max Tegmark) 在去年出版「生命3.0：人工智慧時代，人類的蛻變與重生」(Life 3.0: Being Human in the Age of Artificial Intelligence) 一書，將自然形成生命依複雜程度分成三個階段，生命1.0為純粹生物性演化，生命2.0為文化面演化，自身的軟體可以訂製，生命3.0則為科技性演化，同時大幅改變自身的軟硬體措施。

「超人工智慧」(Super Intelligence) 指的是能力超乎人類水準的AI，理論上這種AI能理解自己被賦予的任何任務，並為了完成任務進行思考和學習，並且在任何觀乎智能的能力上，都優於人類。生命3.0即「超人工智慧」，這本書試圖勾勒「超人工智慧」出現之後的未來。

目前我們頂多處於生命2.1階段，有許多科技突破，深度增強學習，在遊戲、機器人動作等、卓越的人機合作，AI能幫助人類看得更深入，進而實現，未來仍會快速進步，在大多數領域能力與人類不相上下。

在近未來，也就是在5-10年內，姑且稱為生命2.2，會是一番甚麼情況，我們應如何因應呢?

一、科技進步將加速:

在科學研究上，常會遭遇海量並複雜數據問題，以往即使將數據數位化，利用計算機處理，仍有所不足，甚至常有遺珠之憾，但有AI的協助，如在高能或粒子物理、搜索太陽系外行星、人類基因組、P53蛋白質研究、新材料開發等都均有很突出的表現，未來論文發表與研究計畫書，甚至可能由AI審核。

科技進步將加速

二、大幅改變我們生活型態﹕

便利生活方式如精準廣告、線上購物、行動支付、普惠金融、智慧電網、語音辨識、語文翻譯、智慧助理、無人駕駛車、手術機器人、人工智慧診斷系統等，幫助我們減少意外、疾病、貧窮、勞役與不公不義，

大幅改變我們生活型態

三、逐漸走入人類生活的進步AI科技，更需要確保可靠、值得信任，照我們意思行事，當科技的威力越來越強，如AI當機，導致金融市場、輸配電網或核武器系統故障，後果不堪設想，應該用積極主動的方式取代被動回應，在事前做好安全性研究以防患於未然。可以從驗證 (verification)、驗效 (validation)、管控 (control )和資訊安全 (security) 四大AI安全性研究主要技術著手。

四大AI安全性研究主要技術

在星際探索方面，幾次災難性事件，說明軟體驗證的重要，恰巧AI能幫助我們改善驗證工作。如何讓目前已發展出的工具功能更加齊全，更易於上手，並大量推廣，是重要的挑戰。

在金融、生產製造、交通運輸、醫療領域方面，經驗顯示，除驗證外，驗效同樣重要，驗證是看「有沒有把系統做好?」驗效「有沒有把系統做對?」也就是說，角色是否有時效﹕有甚麼方式可以改進不確定問題?

在交通運輸、能源配置、醫療領域方面，有時候，通過完整的驗證和驗效都不足以避免意外發生，還要能做到有效管控，讓操作的人類監控運作狀況，並在必要時介入改變系統的運作方式。必須要在人與機器之間，建立有效的溝通方式，包括友善的介面。不只要讓機器本身能維持正常運作，還要讓機器能與人類緊密合作。

通訊產業市售電腦影響最大的領域，增加的挑戰是提高對抗惡意軟體和駭客入侵的資訊安全等級。不遭駭客入侵是未來發展AI，必須追求的目標，但在資訊安全攻防未曾停歇的對抗中，目前尚無必勝的防守之道。

四、人類發明了法律體系創造誘因，促進合作，AI系統可讓人類的司法體系更公平，更有效率。法律程序可看成是一個運算過程，輸入的資訊是證據與條文，輸出的結果是判決。「機器法官」讓人期待。原則上可以實現「法律之前，人人平等」，消除人為偏見，避免無心之過。機器系統不會疲累，熟稔法律條文、專業技術和知識，高效率的審理案件。

五、在法律執行之外，法律體系也須迅速跟上AI發展腳步，避免AI對個人隱私、資訊自由、責任義務和法令規範造成的問題。立法時要提供最大的誘因，促使AI研究成果以最大的可能，朝有益社會的方向前進。

「機器法官」讓人期待

六、在武器方面，AI控制武器的可靠度為最高指導原則，毫無妥協餘地，並應針對某些自動化武器制定國際禁令。

現在檯面上的武器都屬於「人為查核點」系統，但由於使用者介面的混淆，仍可能失效。把AI發展出新穎的殺人工具，絕對不是選項之一。讓人憂心的是，2016年美國用於民用AI的投資金額雖超過10億美元，但美國國防部在2017年提報AI相關計畫達120-150億美元。

在制定國際禁令上，雖然困難重重，但以生化武器之例，禁令的頒布讓生化武器擺脫不了惡名，仍達到限縮使用的效果，國際禁令有其必要。

另一方面，AI在軍事運用上，可發動網路戰。自動化程度越高的社會，遭AI攻擊影響的層面越大，損失越慘重。優先鞏固好對抗網路戰的防禦工事，會是短期內發展AI最重要的目標。

針對某些自動化武器制定國際禁令

六、機器取代人力，則是現在進行式，就業問題，將是主要挑戰。未來應尋求機器不擅長的工作，包括需要與人互動，充滿不可預測性，同時又需要具備高度創造力的工作。樂觀的人認為被取代，會轉換為更好的工作，悲觀的人則認為大多數人類將淪為失能一族，但可能短多長空。’

七、過去四十年來，財富分配不均惡化益發明顯，數位科技發展使問題更為嚴重。整體社會要能妥善分配AI所能創造財富中一小部分，以免分配不均的問題會更惡化。同時應努力找出改進財富分配方法，「全民基本收入」是一個值得嚴肅思考的問題。

「全民基本收入」值得嚴肅思考

八、低度就業社會，人類可以透過其他活動，尋求重視的使命感。

有獎徵答

贈書紀念

與交流參訪團領隊合影

兩岸青年交流