會(huì)不會(huì)被“天網(wǎng)”奴役，答案在我們自己
來(lái)源: 新華網(wǎng)2016-03-22 09:17:00 包括人工智能在內(nèi)，人類的創(chuàng)造物是否會(huì)和我們站在同一邊?是否會(huì)成為奴役我們的力量?這些問(wèn)題的答案不在工具，而在人類自身。
“阿爾法圍棋”和韓國(guó)棋手李世石的世紀(jì)大戰(zhàn)，終于以“阿爾法狗”4:1獲勝而宣告落幕。如果從科學(xué)發(fā)展角度來(lái)看，這不僅是一次人類和人工智能的大對(duì)決，而是人類對(duì)未知領(lǐng)域的又一次科學(xué)實(shí)驗(yàn)，也必將從此掀開(kāi)人工智能科學(xué)研發(fā)的新序幕。
今天的人工智能，已經(jīng)成為涉及哲學(xué)、計(jì)算機(jī)、心理學(xué)、博弈論等領(lǐng)域的交叉學(xué)科，“阿爾法狗”的算法技術(shù)和數(shù)據(jù)處理能力已經(jīng)遠(yuǎn)超“深藍(lán)”。在新一輪科技和產(chǎn)業(yè)革命中，人工智能的產(chǎn)業(yè)化應(yīng)用是一大動(dòng)力源。無(wú)論是德國(guó)的工業(yè)4.0，還是美國(guó)的“再工業(yè)化”，抑或是中國(guó)的“互聯(lián)網(wǎng)+”，人工智能的研發(fā)都是重點(diǎn)，被視為經(jīng)濟(jì)社會(huì)發(fā)展的動(dòng)力源。
但對(duì)人工智能，除了歡迎，也有警惕。其發(fā)展的每一步，都與英國(guó)數(shù)學(xué)家圖靈“機(jī)器能思考嗎”的詰問(wèn)相伴。以機(jī)器人為代表的人工智能是否會(huì)取代人類、站到人類對(duì)立面?這早已成為諸多科幻電影的題材，由施瓦辛格主演的《終結(jié)者》中的天網(wǎng)Skynet成為了最可怕的人工智能的代名詞，理論物理學(xué)家霍金也憂慮：“人工智能的完全發(fā)展會(huì)導(dǎo)致人類的終結(jié)?！?br>
人工智能會(huì)發(fā)展到什么程度?作為普通人，我們無(wú)法準(zhǔn)確預(yù)測(cè)，因?yàn)槟壳暗娜斯ぶ悄苌刑幱凇坝兄悄軟](méi)智慧、有智商沒(méi)情商、會(huì)計(jì)算不會(huì)‘算計(jì)’、有專能無(wú)全能”的階段。然而就在“阿爾法狗”與李世石大賽期間，谷歌一位資深人工智能工程師接受專訪，認(rèn)為在10年內(nèi)，有知覺(jué)和自我意識(shí)的強(qiáng)人工智能可以實(shí)現(xiàn)，那時(shí)人工智能可以寫小說(shuō)，而且有發(fā)展到天網(wǎng)水平的可能。
如果這真是10年內(nèi)的結(jié)果，那么人類真的需要趕緊思考人工智能與人的關(guān)系了。對(duì)人工智能可能帶來(lái)的安全與倫理問(wèn)題，歐盟、日本、韓國(guó)等已經(jīng)著手開(kāi)展政策研究與立法實(shí)踐。事實(shí)上，谷歌在收購(gòu)“阿爾法圍棋”的研發(fā)者——“深度思維”公司的條款中有一項(xiàng)，就是必須成立人工智能道德委員會(huì)，由來(lái)自科學(xué)、哲學(xué)多領(lǐng)域的人員監(jiān)督通用人工智能技術(shù)的未來(lái)應(yīng)用。
世界上最強(qiáng)大的力量應(yīng)當(dāng)是人類本身，而不是一把鐵鍬或者核潛艇。人類制造的產(chǎn)物不講道德和感情，但它們擁有力量，這種力量的快速增長(zhǎng)往往讓人類感到恐懼。包括人工智能在內(nèi)，人類的創(chuàng)造物是否會(huì)和我們站在同一邊?是否會(huì)成為奴役我們的力量?這些問(wèn)題的答案不在工具，而在人類自身。
筆者想到了法國(guó)思想家帕斯卡爾的名言：“人是一棵有思想的蘆葦?！泵鎸?duì)人工智能以及一個(gè)個(gè)可能帶來(lái)異化的事物，我們需要的正是“思想”，也只有“思想”才能解決這些難題?！跻蠹t博(科學(xué)教育學(xué)者)
