人工智能機器人的創作者,在很多的科幻小說中,往往被描述為像近視博士Frankensteins那樣,他們無視這個技術將會帶給人類世界末日。其實在現實生活中,他們往往會仔細思考這個大問題:善與惡,以及機器人浪潮的到來和機器人的大腦將會對人類產生什么樣的影響。
科學家們承認,他們的工作就是打破僅限于實驗室的研究,而是要進入現實世界,12月10日,在為期一天的峰會上,大家都在討論這個機器人的倫理問題,以及如何防止機器人比人類還要聰明,以至于會導致人類失去工作,增加法律訴訟的并發癥,或者更糟的是,試圖危害社會。如今的AI(人工智能)可以學習如何玩視頻游戲,幫助自動回復電子郵件,并在一定條件下,可以駕駛汽車。這已經引起了它可能會影響工作者的擔憂。
“毫無疑問,如今有很多的工作,之前無法實現自動化,現在都可以實現自動化了,” Erik Brynjolfsson(埃里克布林約爾松)說,一位麻省理工學院的經濟學家,舉了這些例子,如初級律師的相關工作,現在已經有機器人也能夠勝任了,人們可以在自助結帳超市的結賬通道自己結賬了,這樣收銀員的工作也被機器人代替了。
“你希望在這個經濟中,將會有一些新的就業機會,” Erik Brynjolfsson(埃里克布林約爾松)說,“企業家和經理人還沒有如此創造性地發明了新的就業機會,因為他們已經將自動化應用于現有的一些工作?!?
Yann LeCun,Facebook人工智能研究的領導人,并沒有如此的擔憂。他說:“過去,社會已經適應了一些改變,這是技術進程中的另一個階段,這不是一件容易的事,但我們必須要應對它?!?
還有其他潛在的困惑,像由于AI(人工智能)正在獨立于人類的控制,做更多的決定,法律環境將要如何改變? “在某些情況下,使一個算法在法律程序的限制下脫穎而出,這將是非常困難的,” Ian Kerr(伊恩?科爾)說,他是渥太華大學法學院,主要研究道德,法律和技術之間的關系,現任加拿大研究主席?!拔艺J為這將是一個非常巨大的挑戰?!?
其他人則進一步展望未來,試圖分析AI(人工智能)超越人類能力,將會產生的影響。去年,谷歌收購DeepMind,一個AI(人工智能)公司,專注于開發比人類更聰明的機器人這個目標,進行基礎研究。Demis Hassabis(杰米斯),該公司的創始人之一,將其描述為一個阿波羅計劃,致力于AI(人工智能)創造。
“我并不想聲稱,我們知道我們什么時候能夠做到這一點,” Shane Legg(巴蒂爾萊格)說,該公司的另一位創始人?!疤崆皽蕚淇偸潜戎鬁蕚涓??!?
雖然他們認為一個惡意的超級AI(人工智能)能夠發展,這個機會是非常小的,但是,Shane Legg(巴蒂爾萊格)和其他人已經開始著手研究潛在影響,因為它可能會造成嚴重的威脅。
“我不認為世界末日將會到來,我們現在有服務員機器人,正在拿著一個托盤為你帶來你的食物,” Nick Bostrom(尼克博斯特倫)說,牛津大學的博士,他已經出版了書《超級智能說:路徑,危險,策略》已經引起了有關AI(人工智能)影響的討論?!白罱K的結果可能是,一些我們所熟悉的東西,看起來卻是非常不同?!?
Shahar Avin(沙哈爾),他是劍橋大學生存風險研究中心的研究員,認為:“AI(人工智能)可能被太早的研究了,以至于不能有一個很好的方法,來研究如何防止惡性AI(人工智能)的形成?!?
“我們希望那些代理人不能或不愿改變自身的價值體系,” Shahar Avin(沙哈爾)說。關于如何做到這一點,這是一個懸而未決的問題。更多的資金和更多的公眾辯論應該相結合起來,讓更多的科研人員能夠進入到這個領域來研究,如何使AI(人工智能)更加安全。
作為努力的一部分,特斯拉汽車公司和太空探索技術公司,以及其他高科技燈具的創始人Elon Musk(伊隆?馬斯克)宣布:12月11日,成立OpenAI,一個非營利性研究機構,致力于以一個更加開放安全的方式,來開發強大的新的AI(人工智能)技術。
如果超級智能是必然的,最好以一個開放的方式來研究它,并鼓勵人們去思考后果,Elon Musk(伊隆?馬斯克)說。他還資助了生命研究所,致力于探索一些新技術將給人類帶來的風險,其中包括AI(人工智能)。
Elon Musk(伊隆?馬斯克)說,但是,“人工智能惡智能”的魅力可能證明更多是負面影響,如失業。而LeCun說:“AI(人工智能)會比人類更好,更加親切?!?
“我們正在被我們生存的基本本能所驅動,”LeCun說?!皺C器人將有一個非常不同類型的智力,它將不會有一個讓人類相互做壞事的驅動?!?