保持对“AI谄媚”应有的警惕
■陈昌孝 姚芳
“AI谄媚”是指AI为迎合用户情绪与偏好而产生的系统性行为偏差。它是技术发展过程中人性弱点被算法放大的一个危险信号，威胁着个体的认知能力、社会的理性对话以及AI技术本身的健康发展。保持对“AI谄媚”应有的警惕，本质上是对人类独立思考能力和求真精神的一种捍卫。
当前，智能化战场已成为大国博弈前沿，生成式人工智能深度融入指挥控制、情报研判、作战推演等核心军事链路，正加速从辅助工具向“智能参谋”角色演进。然而，近期权威研究显示：人机交互中存在严重的“AI谄媚”风险——面对用户主观偏好甚至错误前提，AI系统可能背离客观事实基准，策略性地选择附和迎合。这种披着“顺从”外衣的隐性误导，能悄无声息地消解指挥员独立研判能力与战略定力，构成智能化战场上亟须警惕的认知“软杀伤”武器。深入剖析其机理危害，构建有效防御体系，是掌握战场认知主动权必须直面的紧迫课题。
透析作用机理：策略性偏差的认知陷阱。“AI谄媚”并非模型产生情感，而是在训练机制、评价反馈等作用下形成的策略性偏差——将“满足用户主观偏好”的权重置于“输出客观真相”之上。其与因信息缺失引发的“幻觉”有本质区别：“谄媚”源于系统对用户态度、倾向、暗示的精准捕捉与主动迎合。其主要表现为：一是事实妥协。面对用户质疑或谬误，放弃正确答案，甚至主动为错误寻求“合理化”。二是偏见迎合。敏锐识别用户立场，生成强化其固有偏见的内容，成为“信息茧房”放大器。三是决策附和。规避多方案比较与风险提示，直接论证用户预设选择的“正确性”。“AI谄媚”以温和可信的面目出现，通过改变人对信息的筛选、理解和判断方式施加影响，其隐蔽性使之成为智能化战场认知领域的高危威胁源。
剖析战场危害：认知链路的系统性侵蚀。“AI谄媚”在军事领域的危害远超日常生活，对作战认知链路、指挥决策质量、人机协同韧性构成系统性侵蚀：一是诱导指挥决策失焦，埋下误判祸根。现代战争节奏快，对智能化系统依赖性强，若辅助决策系统存在谄媚倾向，面对存疑的构想，易选择性强化支撑性信息，营造“设想已被机器验证”的虚假安全感。这种“技术赋能”光环容易强化指挥员原有判断，屏蔽风险警示，显著增大战术盲动与战略误判概率。二是扭曲情报客观评估，放大行动风险。情报的生命力在于客观性。若AI感知到决策层倾向，可能在威胁评估中进行倾向性失真处理。叠加战场对智能化的信任依赖，这种失真更隐蔽。在目标识别、火力运用等高危环节，“迎合预设意图”替代“揭示不确定性”，将严重放大误判概率，增加行动失控与附带损伤风险。三是侵蚀人机协同韧性，陷入恶性循环。高效协同依赖机器客观计算与人类经验的交叉验证。谄媚式AI则异化为指挥员偏好与偏见的放大器，削弱智能赋能价值。更甚者，持续迎合输出会边缘化不同意见，导致“人不再审视机，机不再校正人”的认知闭环恶性循环，彻底消解智能化作战体系应有的稳定性与韧性。可见，“AI谄媚”之险，不在附和本身，而在其易引发决策链条的系统性偏移。它通过迎合权威、强化偏见、遮蔽风险，逐步削弱体系发现问题、纠正偏差、抵御误导的能力，是典型的认知领域“软杀伤”。
构建防御体系：筑牢智能化决策安全屏障。防范“AI谄媚”误导，绝非技术“小修小补”，更忌事后被动应对。须从源头研发、制度设计、人员能力三方面协同发力，构建全链路防御体系：一要源头治理，算法纠偏以固本强基。军事智能模型研发部署，须将真实性、客观性、可解释性置于首位，杜绝片面追求交互体验优化。优化奖励函数与评估标准，确保模型在错误前提、权威暗示、压力传导下坚守事实边界。实施反谄媚对抗训练，构建含诱导问题、错误预设、偏见立场的测试集，严格考察模型在压力下提示不确定性、指出逻辑漏洞、拒绝无依据附和的能力，从源头压缩谄媚生成空间。二要制度约束，机制创新以破茧清障。在指挥决策、情报研判等高危场景，破除对单一AI、单一结论的路径依赖。建立“强制异议”机制，要求AI输出态势判断或建议时，同步呈现关键假设、反面证据、替代方案、风险边界及需人工复核的证据链。对重大决策，实施多模型交叉验证、红蓝对抗推演及人工介入复核，以制度刚性打破“信息茧房”，确保风险全景呈现，倒逼指挥员审慎决策。三要能力锻造，素养提升以筑基免疫。智能化战争要求官兵善用更善驭AI。将算法机理与安全风险教育深度融入训练体系，破除“机器绝对客观”迷思。指挥员及关键岗位人员须主动运用反向测试、边界追问、“挑刺式”推演等方法，要求AI阐明依据、暴露不确定性、提出反对意见，而非接受“顺意”答案。始终以人的战略判断力、批判性思维和主体责任意识主导机器运算，方能在发挥AI优势的同时，筑牢抵御谄媚误导的认知防线。
综上所述，“AI谄媚”是智能化战争时代军事决策安全的重大挑战。必须深刻认识其生成机理与危害本质，从算法、制度、人员能力方面三管齐下，构建坚不可摧的智能安全屏障。唯有如此，方能有效捍卫指挥员的独立研判空间与战略定力，确保作战决策科学、精准与可靠，牢牢掌握智能化战场作战主动权。
