人工智慧與生命2.2
今天很高興在中技社主辦的「大陸學子來台交流參訪」行程中,與兩岸學子談談「人工智慧與生命2.2」(Artificial Intelligence and Life 2.2,AI and Life 2.2) 。生命2.2大家以前可能沒聽過,這是我自造的名詞,等一下再向大家說明。
自造的名詞
目前我們頂多處於生命2.1階段
美國「未來生命研究所」(Future of Life Institute) 的創辦人,美國麻省理工學院教授鐵馬克 (Max Tegmark) 在去年出版「生命3.0:人工智慧時代,人類的蛻變與重生」(Life
3.0: Being Human in the Age of Artificial Intelligence) 一書,將自然形成生命依複雜程度分成三個階段,生命1.0為純粹生物性演化,生命2.0為文化面演化,自身的軟體可以訂製,生命3.0則為科技性演化,同時大幅改變自身的軟硬體措施。
「超人工智慧」(Super Intelligence) 指的是能力超乎人類水準的AI,理論上這種AI能理解自己被賦予的任何任務,並為了完成任務進行思考和學習,並且在任何觀乎智能的能力上,都優於人類。生命3.0即「超人工智慧」,這本書試圖勾勒「超人工智慧」出現之後的未來。
目前我們頂多處於生命2.1階段,有許多科技突破,深度增強學習,在遊戲、機器人動作等、卓越的人機合作,AI能幫助人類看得更深入,進而實現,未來仍會快速進步,在大多數領域能力與人類不相上下。
在近未來,也就是在5-10年內,姑且稱為生命2.2,會是一番甚麼情況,我們應如何因應呢?
一、科技進步將加速:
在科學研究上,常會遭遇海量並複雜數據問題,以往即使將數據數位化,利用計算機處理,仍有所不足,甚至常有遺珠之憾,但有AI的協助,如在高能或粒子物理、搜索太陽系外行星、人類基因組、P53蛋白質研究、新材料開發等都均有很突出的表現,未來論文發表與研究計畫書,甚至可能由AI審核。
便利生活方式如精準廣告、線上購物、行動支付、普惠金融、智慧電網、語音辨識、語文翻譯、智慧助理、無人駕駛車、手術機器人、人工智慧診斷系統等,幫助我們減少意外、疾病、貧窮、勞役與不公不義,
大幅改變我們生活型態
三、逐漸走入人類生活的進步AI科技,更需要確保可靠、值得信任,照我們意思行事,當科技的威力越來越強,如AI當機,導致金融市場、輸配電網或核武器系統故障,後果不堪設想,應該用積極主動的方式取代被動回應,在事前做好安全性研究以防患於未然。可以從驗證 (verification)、驗效 (validation)、管控 (control )和資訊安全 (security)
四大AI安全性研究主要技術著手。
四大AI安全性研究主要技術
在星際探索方面,幾次災難性事件,說明軟體驗證的重要,恰巧AI能幫助我們改善驗證工作。如何讓目前已發展出的工具功能更加齊全,更易於上手,並大量推廣,是重要的挑戰。
在金融、生產製造、交通運輸、醫療領域方面,經驗顯示,除驗證外,驗效同樣重要,驗證是看「有沒有把系統做好?」驗效「有沒有把系統做對?」也就是說,角色是否有時效﹕有甚麼方式可以改進不確定問題?
在交通運輸、能源配置、醫療領域方面,有時候,通過完整的驗證和驗效都不足以避免意外發生,還要能做到有效管控,讓操作的人類監控運作狀況,並在必要時介入改變系統的運作方式。必須要在人與機器之間,建立有效的溝通方式,包括友善的介面。不只要讓機器本身能維持正常運作,還要讓機器能與人類緊密合作。
通訊產業市售電腦影響最大的領域,增加的挑戰是提高對抗惡意軟體和駭客入侵的資訊安全等級。不遭駭客入侵是未來發展AI,必須追求的目標,但在資訊安全攻防未曾停歇的對抗中,目前尚無必勝的防守之道。
四、人類發明了法律體系創造誘因,促進合作,AI系統可讓人類的司法體系更公平,更有效率。法律程序可看成是一個運算過程,輸入的資訊是證據與條文,輸出的結果是判決。「機器法官」讓人期待。原則上可以實現「法律之前,人人平等」,消除人為偏見,避免無心之過。機器系統不會疲累,熟稔法律條文、專業技術和知識,高效率的審理案件。
五、在法律執行之外,法律體系也須迅速跟上AI發展腳步,避免AI對個人隱私、資訊自由、責任義務和法令規範造成的問題。立法時要提供最大的誘因,促使AI研究成果以最大的可能,朝有益社會的方向前進。
「機器法官」讓人期待
六、在武器方面,AI控制武器的可靠度為最高指導原則,毫無妥協餘地,並應針對某些自動化武器制定國際禁令。
現在檯面上的武器都屬於「人為查核點」系統,但由於使用者介面的混淆,仍可能失效。把AI發展出新穎的殺人工具,絕對不是選項之一。讓人憂心的是,2016年美國用於民用AI的投資金額雖超過10億美元,但美國國防部在2017年提報AI相關計畫達120-150億美元。
在制定國際禁令上,雖然困難重重,但以生化武器之例,禁令的頒布讓生化武器擺脫不了惡名,仍達到限縮使用的效果,國際禁令有其必要。
另一方面,AI在軍事運用上,可發動網路戰。自動化程度越高的社會,遭AI攻擊影響的層面越大,損失越慘重。優先鞏固好對抗網路戰的防禦工事,會是短期內發展AI最重要的目標。
針對某些自動化武器制定國際禁令
六、機器取代人力,則是現在進行式,就業問題,將是主要挑戰。未來應尋求機器不擅長的工作,包括需要與人互動,充滿不可預測性,同時又需要具備高度創造力的工作。樂觀的人認為被取代,會轉換為更好的工作,悲觀的人則認為大多數人類將淪為失能一族,但可能短多長空。’
七、過去四十年來,財富分配不均惡化益發明顯,數位科技發展使問題更為嚴重。整體社會要能妥善分配AI所能創造財富中一小部分,以免分配不均的問題會更惡化。同時應努力找出改進財富分配方法,「全民基本收入」是一個值得嚴肅思考的問題。
「全民基本收入」值得嚴肅思考
八、低度就業社會,人類可以透過其他活動,尋求重視的使命感。
有獎徵答
贈書紀念
與交流參訪團領隊合影
兩岸青年交流