-科報講武堂

　　科幻電影《終結者》中，人類和機器人的戰(zhàn)爭令人印象深刻。美國國防部的一名官員近日對媒體表示，國防部目前存在一種討論，可能會最終導致機器自主決定使用武器。聯(lián)想到AlphaGo大敗李世石的“人機大戰(zhàn)”，很多人不禁擔憂——隨著人工智能的不斷發(fā)展，集人工智能之大成的軍事機器人是否會對未來戰(zhàn)爭形式和戰(zhàn)場勝負產生重大影響？

　　“完全自主機器人具有持續(xù)作戰(zhàn)時間長、反應能力快、生存能力強等優(yōu)勢，將會進一步增加戰(zhàn)爭的烈度與強度，對人類戰(zhàn)士具有巨大的不對稱優(yōu)勢，最終會將戰(zhàn)爭拉入無人戰(zhàn)爭的領域。”國防科技大學軍事專家曾華鋒教授告訴科技日報記者，“不過，現(xiàn)階段還沒有能夠實現(xiàn)完全自主攻擊的作戰(zhàn)機器人或者無人裝備。在美軍‘第三次抵消戰(zhàn)略’中，盡管也提出要強化美國在無人作戰(zhàn)中的優(yōu)勢，但從最前沿的技術看，距離完全自主攻擊的目標還很遠。對此，我們沒有必要過分擔憂。”

　　毋庸置疑，人工智能正越來越多地走上戰(zhàn)場，推動著戰(zhàn)爭形態(tài)從信息化戰(zhàn)爭向智能化戰(zhàn)爭加速演進。目前，人類遙控指揮的無人系統(tǒng)已經投入戰(zhàn)場，有了人類的控制，無人系統(tǒng)無疑會更加可靠。但是隨著科技的發(fā)展，人工智能在某些領域超越人類已是不爭的事實。從科技的角度來看，完全脫離人類控制而實現(xiàn)自主攻擊似乎是人工智能在戰(zhàn)爭上的終極形式。

　　國防科技大學石海明博士告訴記者，相比人類，機器人確實具有巨大的優(yōu)勢，然而其劣勢也是顯而易見的，主要集中在倫理的爭議、發(fā)展不可控的風險等等。比如，在2006年至2013年美軍于巴基斯坦發(fā)動的反恐戰(zhàn)爭中，無人機殺死2514名武裝人員的同時也“誤殺”了153名平民。由于無人化作戰(zhàn)平臺自身的不可靠性，相關作戰(zhàn)行動造成了一種事實上的武力濫用行為，對相關作戰(zhàn)倫理道德規(guī)約產生了沖擊。

　　“要實現(xiàn)機器人的自主攻擊，就必須減少其負面影響。這需要克服很多技術難題，如自主敵我識別、自主分析判斷和決策能力的實現(xiàn)，包括了機器視覺、數(shù)據(jù)挖掘、探索推理等人工智能研究領域分支。這顯然不是短時間內可以實現(xiàn)的。”石海明說。

　　美軍新版無人兵器發(fā)展路線圖透露，美國將在未來10年內投資100多億美元用于無人機的研發(fā)與采購，而10年后美國國防部每年用于無人機研發(fā)的資金將高達40億美元。

　　對此，曾華鋒指出，美國在人工智能和機器學習技術方面領先全球。從現(xiàn)在的發(fā)展趨勢來看，這些技術將會極大提高無人系統(tǒng)的自主性，減少對存在隱患的數(shù)據(jù)鏈路的依賴。如果擴大無人作戰(zhàn)的規(guī)模，那么美國將能夠利用其實踐經驗、與自動化相關的技術能力，以及在復雜系統(tǒng)工程與集成方面的牢固優(yōu)勢，構成全球監(jiān)視與打擊網絡。這將進一步推進無人化戰(zhàn)爭的進程。

　　很多科幻小說預言，高度發(fā)展的機器人會給人類帶來無盡的災難，人工智能帶給人類的絕不僅僅是福音。

　　對此，曾華鋒表示贊同。他分析認為，“一方面，正如部分科學家擔憂的一樣，假如人工智能的發(fā)展進入了強人工智能階段，人工智能可以通過不斷的自我學習與發(fā)展產生出主觀情緒與欲望。那么，當有一天人工智能的發(fā)展與人類自身利益發(fā)生沖突時，其后果將難以預料。另一方面，假定限制發(fā)展強人工智能，始終維持在弱人工智能的階段，其能力的不斷增長也將會造成大量人類失業(yè)，屆時人類的發(fā)展將面臨很多問題。因此，這種技術如果應用到軍事機器人上很有可能對人類造成巨大災難。這些可能性必須認真考慮，否則后果或許將難以預測。”