智能化時代,人與武器關系如何變化

來源︰解放軍報作者︰閆曉峰 張德群 吳永亮責任編輯︰伍行健
2020-02-25 14:45

編者按

人與武器是戰爭中兩大基本要素,二者的本質屬性及相互關系直接影響戰爭勝負和戰爭形態的發展演變。總的看,無論多麼強大的武器,始終是人手中的“工具”,在人的使用下發揮威力。智能化時代,隨著武器裝備智能化水平的提高,人與武器的關系將發生微妙變化,如何處理好人與武器的關系,確保在人類的掌控下釋放武器的最大威力和效能,是我們應該予以關注的現實問題。

傳統戰爭形態下,武器的智能化程度嚴格限制在“物”的水平。在人工智能技術飛速發展的大趨勢下,人與武器的關系基礎發生極大改變,武器開始具有智能特征並成為戰爭中不可或缺的重要部分,人與武器的關系和邊界將大幅重構。據資料介紹,一些外國軍隊已經開始制訂“機器人部隊組建計劃”,準備將機器人部隊作為新的兵種納入作戰力量體系。因此,很有必要對智能化時代人與武器的關系進行審視和分析,根據不同關系模式采取針對性的有效措施,確保智能化戰爭中人與武器相互促進、協調發展。

主次輔助——

人處于絕對主導地位

人與武器的主次輔助關系,是指人居于主導地位,武器為人提供輔助服務。人仍然承擔絕大多數指揮控制職能,武器更多地負責重復性、規則性任務。這種關系模式中,武器智能化水平尚未突破“物”的界限,人是絕對的主導者,屬于弱人工智能的初級發展階段。在根本屬性上,人與武器的關系沒有發生本質變化,人是主體,起著決定作用;武器是客體,處于被動服從的地位。雖然武器各方面性能持續增強,但仍然被人當作純粹的工具使用,武器的潛在學習能力沒有得到釋放。如之前谷歌發布的量子計算機,聲稱可以在200秒內完成目前世界最快計算機需要工作1萬年的任務,雖然計算能力更強、應用範圍更廣,但智能水平沒有顯著提升,作為“物”的屬性沒有改變,仍然處在服從服務于人的位置。

針對這種關系模式,應注重挖掘現有武器潛力,並加強人工智能技術研究。該模式下人的作用和地位進一步強化,仍然牢牢佔據主導地位,武器的智能水平沒有取得實質性進化發展,缺乏知識積累或深度學習等經驗能力的優化。根據相關專家推測,短時間內人工智能技術很可能無法取得重大突破,今後相當長一段時期內人類大概率會一直處于這種模式下。因此,需要積極拓展武器裝備的應用領域,提高武器裝備的精準、敏捷、多能等特性,推動武器裝備體系化發展,最大限度把現有武器技術成果轉化為戰斗力。同時,加快人工智能技術原創性研究,突破人工智能可解釋性、通用性等關鍵瓶頸,制定出台嚴寬相濟的人工智能發展規範,防止過分嚴格的制度標準阻礙技術創新。

平等互補——

武器脫離“物”的範疇

人與武器的平等互補關系是指二者在作戰中的分工各有側重,通過相互配合、協同工作,最終實現取長補短。人類主要承擔戰略判斷、藝術創造、模糊推理等任務,武器主要承擔技術性分析、自動化處理、數據化管理、智能化決策輔助等任務。這種關系模式中,武器的智能化水平得到長足發展,但只聚焦于人類不擅長的領域,從而和人類形成優勢互補。在根本屬性上,人與武器是平等關系,武器已經基本脫離傳統“物”的範疇,是具有不同類型智能的“智慧體”,雖然不具備人類智能的創造性和藝術性功能,但已初步具有智能化信息處理和分析能力,只是與人類智能分屬不同的智能領域,這與傳統武器有本質區別。

針對這種關系模式,應注重組織體制和編成模式創新。該模式下,人與機器各自天然優勢能夠得到充分發揮,既可激發人的創造性思維和大局掌控能力,又可使武器智能得到開發利用和不斷演進。例如武器裝備能夠在大數據、物聯網的支撐下為人類提供高精度的圖像識別和高算力的運籌策劃等分析輔助工作,人與武器發揮各自優長、相互配合,這是未來戰爭中理想的關系模式。因此,應著眼建立深度挖掘人機優勢互補的制度機制,進一步規範完善人工智能發展戰略,突出人工智能的特定領域優勢;創新軍事力量組織體制,重新評估武器作為“智慧體”在軍隊組織中的定位和作用,為可能出現的機器人軍團、大型智能自主作戰平台等進行組織設計;優化人與武器的編成模式,突破傳統上由人直接指揮控制武器的方式,探索人與武器的任務分配、功能界限、權責劃分、協作方式等一系列相互關系,更好地釋放新型人機編成模式的組織勢能。

失衡錯位——

武器地位作用變強勢

人與武器的失衡錯位關系是指,武器智能化水平持續提高,進而產生擠壓人類價值、替代人類地位的傾向,人的作用地位相對弱勢,武器的作用地位更加重要。產生這種關系的原因主要是︰當武器智能化逐步朝著“反事實推理”的強人工智能方向發展,通過持續人機交互和戰爭實踐復雜環境的深度學習,武器在與真實對手不斷博弈的過程中不斷修正算法、優化實戰模擬程序,自主能力迭代高速發展,特別是在可解釋性、可靠性、通用性等方面獲得重大突破,最終實現對人類戰爭能力的全面趕超。

針對這種關系模式,應注重人與武器關系的調節和技術路徑設計。當武器朝著更加強勢的方向發展時,不僅能夠發揮其傳統優勢,在模糊推理、多重博弈等人類優勢領域的能力也日益加強,這將產生難以估量的後果。一方面,人類得以從繁重的體力和腦力勞動中解脫;另一方面,人類天生優勢也逐步削弱,可能導致人與武器的關系失調,甚至增加武器反制人類的可能性。因此,需要全面深入考慮武器智能化高度發展帶來的深刻影響,明確人與武器的應用界限,將人工智能技術限制在人類不具優勢的領域;科學設計人工智能技術發展路徑,避免無限制追求武器智能化發展,謹慎對待人工智能的推廣應用,全面評估智能化武器實戰化的消極影響,提前做好武器侵入人類主導領域的應對措施。

分離對立——

警惕武器擺脫人控制

人與武器的分離對立關系是指,武器具有一定自主決策和行動能力,不再完全受人類控制,人與武器關系協調失靈。造成這種關系的原因有兩種︰一是技術性原因,由于人工智能技術突破瓶頸,帶來武器高度智能化,武器具備擺脫人類控制的能力;二是制度性原因,由于武器研發、使用、管理不規範,戰爭法規制定不科學等,使武器應用缺乏限制而對人類發展造成嚴重後果。人與武器的分離對立是一種危險關系,當武器智能化高度發達時,同時具有機器智能和人類智能的綜合優勢,一旦失去控制就會對人類構成巨大威脅。在根本屬性上,武器實現獨立自主,成為與人類地位平等且對立的“智慧體”。這種情況下智能化武器可能產生嚴重反噬,其正向價值遠遠低于負向價值,帶來的不僅僅是國家危機而是人類危機。

針對這種關系模式,應注重法規約束和道德規範。出于預防目的,2019年歐盟委員會發布了人工智能道德準則,從人類的能動性和監管,技術的健全性和安全性,隱私和數據管理,透明性,多樣性、非歧視性和公平性,環境和社會福祉,問責制等7個方面,對未來人工智能發展提出了要求;美國國家標準與技術研究院也發布了關于如何制定人工智能技術和道德標準的指導意見,概述了合理使用人工智能的舉措和指導未來技術標準的基本原則。因此,為應對可能產生的威脅,需要制定足夠嚴格的人工智能行業標準和法律法規,既防止技術損害人類利益,同時又足夠靈活,可鼓勵創新並促進技術發展;研究人工智能武器系統質量與安全性評估的技術和機制,制定人工智能武器安全使用指南,科學設定人工智能武器“門檻”和“禁區”;堅持基于現有關于戰爭和人權的法律制度,理清人工智能武器道德準則清單,形成完整的人工智能倫理規範。

輕觸這里,加載下一頁