如何规避人工智能作战应用风险

■朱必纯

人工智能技术的迅猛发展和快速演进，深度改变了战争形态和作战样式，加快人工智能在作战中的应用，已成为生成新质战斗力、打赢未来战争的必由之路。但与此同时，人工智能也带来幻觉问题、技术依赖以及人机关系异化等潜在风险。为规避应用上的风险，防止走入应用误区，必须深化对人工智能作战应用的认识，通过更好更科学地运用人工智能，提升作战效能。

智能涌现与幻觉相伴生

大模型的训练量超过临界阈值后，会产生性能的非线性跃升，涌现出意想不到的新特质和新能力。智能涌现使得人工智能实现了由预设逻辑向自主认知的范式跃迁，能力呈现指数级增长，为推动战斗力建设提质增效打下了坚实基础。但涌现的不可控也往往导致幻觉与智能伴生出现，虚假信息、机械拼接、随机臆造等问题极大制约了系统稳定性与可靠性，能力与风险的不确定性引发人机间的信任危机。人力不是从人工智能运用中得到解放，而是转移到对真伪辨别、价值判断、内容取舍等新问题的应对上。智能和幻觉双重涌现是人工智能发展必须面对的现实问题，拥抱智能、关注风险成为人工智能作战应用应当坚持的基本态度。因此，要前置风险防范环节，完善法规制度、建立应用规范、加强数据筛查、优化算法架构，健全技术预警和人工监测相结合的风险控制体系，确保人工智能稳定可控。

需求虽广泛，数据有边界

数据是人工智能作战应用的重要资源，其数量和质量从根本上决定着人工智能的功能实现及性能发挥。作战中，依托人工智能数据获取能力与处理效率的双向提升，可实现对海量作战数据的广域抓取、跨域融合和深度挖掘，揭示数据背后的潜在联系和内在规律，为精确作战提供强有力技术支撑。从这个角度看，数据越多、覆盖越全、质量越高，人工智能赋能效果越明显。但受权限、规则、格式等多重制约，数据在数量与质量上始终是有边界的，不可能完全满足人工智能对数据的巨大需求。比如，敌情数据往往因防护严密而较为稀缺；对手也会故意投放假数据对人工智能进行反向塑造，引导认知偏移；缺乏统一数据标准和数据平台会造成大量数据难流转、难整合，陷入“多而不能用”的困局。因此，要高度重视数据的体系性建设，扩充数据来源、打通数据壁垒、统一数据标准、加强数据甄别，着力拓展数据边界，以丰富优质数据支撑人工智能大模型高质量训练。

指挥讲谋略，算法有规则

兵者，诡道也。作战指挥天然带有谋略性，强调通过谋略对抗获取胜战优势。人工智能推理思考、自主决策的能力跃迁驱动战场速算精算效能跃升，在广域实时态势感知、快速精准筹划决策、动态自适应控制协调等方面具有突出优势，极大丰富和拓展了谋略对抗的时空范围、方法手段以及质量效益。但也要看到，人工智能在作战指挥中的广泛深度运用也埋下了指挥“标准化”的隐患，指挥活动更易被预测，诱发决策对敌“单向透明”风险。这是因为人工智能虽具有“类人”智能，但其本质上还是基于算法的有限规则，远远达不到人类对战争复杂性、不确定性的深刻洞察、超常运用和能动反思，无法代替人类指挥员基于自身内化的知识以及个人经验、直觉、顿悟、洞见实施非常规、创造性指挥决策，难以真正以“存乎一心”的“运用之妙”做到致人而不致于人。因此，作战中既不能迷信机器智能，形成技术依赖，弱化人的主观能动性；也不能漠视时代趋势，一味强调人的决定性作用，忽视人工智能与人类智慧交叉融合的“制智权”争夺。

关注情感连接，平衡算法与人性

人工智能可将物理世界虚拟映射至数字空间，为破解战场环境构设难、实战对抗检验难、实装训练消耗大、实射实投风险高等瓶颈问题提供智能化解决新方案。但同时，数字空间也通过“去情感化”将人与自身及他人之间的情感连接抽象为符号和数据，一定程度上剥离了人的主体性，情感空间在数字空间的膨胀中逐步坍缩，催生认知失调、伦理失范、人机关系失衡等系列问题。战争不仅是物质的对抗，更是精神的比拼。历史和实践反复证明，一支战斗力强的军队，一定是一支具有强烈情感认同、高度情感自觉、良好情感互动的军队，这些都需要在情感的交流和体验中培养强化。因此，军事智能化发展在推进数字赋能的同时应关注情感连接，平衡好算法精度与人性温度。一方面，加快发展情感计算技术，使人工智能更好理解和适配人类情感，构建和谐人机交互环境；另一方面，运用好课堂、演训场等实体场地和讨论交流、实兵对抗等传统手段，通过面对面、实打实的情感体验补齐人工智能短板。

针对体系开放性做好综合防护

人工智能为空间、力量、功能跨域融合提供了技术支撑，通过其开放接口实现人员与装备随遇接入、信息与态势融合共享、平台与火力联动响应、需求与保障动态匹配，释放体系效能，拓展作战优势。然而，人工智能的体系开放性也带来了诸如系统扰动造成体系失能、数据潮汐引发链路过载、深度互嵌放大软杀伤威胁、广域互联倍增失泄密风险等多重隐患问题，系统防护面临严峻形势和重大挑战。因此，人工智能作战应用必须做好综合防护，防止干扰全局。一方面，通过接入校验、入侵检测、硬件加密、流量控制等技术手段，提高人工智能自身防护能力；另一方面，着力提升人员防护意识和防护素养，保留人工干预渠道，建立应急响应机制，发挥好人在安全防护方面的重要作用。