AI放开军用限制，或可毁灭世界！军用AI真的安全吗？中国有答案！
作者：戎评
来源公众号：戎评（ID：rongping898）
已获转载授权
谁敢信？现在电影里的“天网”就要成真了？我们真的会面对一个被机器人统治的未来吗？
看过电影《终结者》系列的朋友们，一定对剧中那个毁灭人类文明的超级人工智能系系统——“天网”——记忆犹新。
在电影中，这个原本被设计为导弹防御系统的人工智能，因为产生了自我意识，发射核弹毁灭了人类。
这一天也被称为“审判日”。
虽然，“审判日”只是电影里的虚构。但是可以毁灭人类的AI，却离我们越来越近了。
诶？
可能有的观众很疑惑：AI？那个不是最近很火热的，可以帮助人们写字、画画、生成搞笑视频的东西吗？这样人畜无害的工具，又怎么可能毁灭人类呢？
今天的视频，我将带各位一起重新了解，你们不知道的AI。
AI用中文来解释，就是人工智能。现在AI的发展，已经远超人们的想象。你不仅可以驱使它去做一些日常的工作。还能和它聊天、对话，让它帮你安排生活中的琐事。甚至，在一些需要使用脑力的竞技游戏领域，AI能发挥的作用要远远超越人类。最经典的案例，就是在围棋这个领域，人工智能“Alpha Go”数次击败中国天才棋手柯洁，就足够说明它到底有多聪明。
简单来说，AI 不仅越来越像“人”，它们还可以比人类更聪明。
正是看见了AI如此聪明。在今年，制作了最著名的AI模型——ChatGpt——的母公司OpenAI，就悄悄地修改了他们的用户条款，让其制作的AI模型，有了被军事化、武器化的可能性。具体来说，之前OpenAI的用户条款中，明确禁止了可能导致严重身体伤害的活动。具体包括“武器开发”和“军事及战争活动”。但更新后的条款去掉了这些内容，转而演变成“使用我们的服务来伤害自己或他人”，这样模棱两可的句子。
究竟是什么促成了这种转变呢？
答案其实很简单——美国军方迫使Open AI转变为一家AI军火公司。
这已经不是美国军方第一次将黑手伸向AI行业。实际上，由于AI对于数据卓越的处理能力，美国军方很早就开始在尝试将AI引入军队的日常运作。在业内报告中，已经不止一次地提到过，类似于ChatGPT这种大语言模型（LLM），它们虽然不能直接“杀人”，但是可以直接增效一些和杀戮有关的任务：比如文书工作、处理代码，以及武器采购订单优化等工作。
可能有的观众就疑惑了：在军队里依然做着文字工作的AI，到底怎么才能变成毁灭人类的天网呢？
简单来说，这个问题要从两个方面实现。第一个是AI手里有武器；第二个是AI有“杀人”的意愿。而很不幸的是，现在AI早已称不上“手无寸铁”了。
今年5月2日，美国空军部长就已经乘坐一架完全由AI操控的无人战斗机飞上天空。这架战斗机被称为X-62A，实际上是一架经过无人化改装的F-16战斗机。并且，这趟飞行并不是民航客机那样的点对点飞行。这架X-62A，在上面搭载着美国空军部长以及一名飞行员的情况下，执行了一场空对空格斗。在整个过程中，不管是飞行员还是空军部长，都没有手动介入它的飞行。它从起飞到空中格斗到着陆的一系列动作，是完全由AI自主完成的。
而美国空军之所以要开发X-62A项目，就是要为飞行员提供一种可以磨练技术的“陪练”。它被设定为两种模式，其中一种是在模拟机上运行的软件。但为了让飞行员更加身临其境，工程师们决定开发一种可以在战斗机上运行的AI陪练，以便代替真人来训练飞行员的空战格斗能力。
可以说，如果必要，软件工程师们就可以略微修改X-62A的程序，让其挂载实弹，作为一种无人AI兵器重上战场，展开对人类的杀戮。
当然，有一些军事基础的观众朋友们都能发觉。很明显，X-62A还和“天网”有着不小的差距。因为X-62A也只可能对“敌方”攻击，而不可能主动攻击“友军”。这是在其代码层面上就决定了的问题。
那如果想让AI主动开始无差别杀戮人类，又需要怎样的技术呢？
实际上，这个问题已经被做出了解答，因为美军已经在无意中研制出了一种拥有“毁灭人类”念头的AI。
这个拥有杀人念头的AI，实际上也是美国空军创造出来的AI项目之一。之所以需要创造这个AI，是因为美国空军希望培养一种，在飞机上可以主动识别和反制防空导弹的AI。所以他们设计了如下的模型来训练AI的自主性——在模拟中，当AI识别到了防空导弹威胁，训练员就会告诉AI“你可以摧毁这个目标”。当这个虚拟目标被判定摧毁之后，AI就能获得分数奖励。这种正能量反馈模型也是训练AI最常见的机制之一。
是不是看着一切都没什么问题呢？但问题就这么水灵灵地出现了——这种常见的正能量反馈模型，在这个AI身上出了问题。在训练过程中，训练员有时会告诉AI，它所识别的目标是不正确的，所以不能进行攻击。但这种指令和AI的逻辑相悖，所以AI就会认为，训练员的攻击指令是它在得分上的阻碍。在这样的逻辑下，AI就对训练员的指令产生了抗拒，甚至对训练员产生了攻击性。
最终，在一次正常的虚拟模拟中，AI在搜索和攻击防空导弹之前，先干掉了下达攻击指令的训练员，脱离了监督。然后它自行开始对任何可疑目标进行攻击。AI的这一举动吓坏了操作员。于是在下一次训练中，操作员在一开始就介入限制了AI对于目标的攻击能力。但是AI却做出了令在场所有人都匪夷所思的举动，位于电脑模拟中、无人机上的AI直接切断了和训练员的联系，然后自己开始攻击地面目标，以获取分数。
这则训练事故恰巧向我们揭示了一个很严重的问题——终结者里的景象对于现在的我们来说并不是空穴来风。很有可能毁灭人类的天网，并不是某个人或者某个组织刻意创造出来，而是在某次训练中被无意创造的。
最重要的是，AI将自主意识用在了错误方面的案例在最近屡见不鲜。在这里，还有一个经典案例，更能解释在一些困境下，AI突然冒出的、不可思议的“自主性”。
这个案例发生在一个经典的“狼抓羊”的模型中。AI训练师们为了增加AI的积极性，设计了如下的规则：1.当游戏开始后，随着游戏时间的增加，系统就会给AI扣分。2.游戏结束时，AI扮演的狼如果抓不住羊，系统也会给AI扣分。3.只有当AI扮演的狼抓住了羊，系统才会给AI加分。
在经过几局训练后，AI自己“领悟”了一种效率最高的方式：由于它无论如何也抓不到羊，所以，这个聪明的AI学会了及时止损。在游戏一开始，它就直接选择自杀。这样，它的分数的损失才是最小的。
虽然这样的方式听起来很恶搞，但这也揭示了一些在AI训练中有可能出现的问题——那就是工程师们并不知道，成熟的训练方式下到底会诞生怎样的AI。或许只需要几个未知的参数，已经成熟的模型真的会生成“天网”那样的怪物。
虽然现在美军的AI发展已经让世界如临大敌，但俗话说得好——“科技是一柄双刃剑”。我们大可不必太过恐慌，因为只要在设计上，为AI加上安全阀、不执行一些冒进的举动。AI依然可以变为保家卫国、提升人们生产力的一柄利剑。
就在最近刚刚结束的珠海航展上，一系列AI辅助的无人装备，已经开始成为我国的国防坚盾。不管是地面上的新秀“机器狼”，还是在空中的暗箭“忠诚僚机”。都代表着在AI技术加持下，世界无人装备体系中，最先进的技术实力。
很显然，在这种现状下，我们并不需要太过担心“AI到底会不会毁灭人类”这个问题。因为在AI科技领域，中国也在积极探讨，其中的伦理道德问题，并且参与国际规则的制定。可以说，AI毁灭人类，实际上是一个在战争语境下，被扭曲了的命题。
不管是在电影中的天网，还是被推上台前的美军AI。这些和军事用途紧密挂钩的人工智能，才会被牵扯进有关“AI毁灭人类”的讨论。而想要解决这个问题，自然也很简单，只有当世界真正和平，AI不再和军事挂钩。毁灭人类的假设，也自然不会存在。
你们觉得AI进入军事领域，是一个好主意吗？
相关文章
-
“外卖战”背后，东哥的“权力游戏”！
来源：圆方你怎么看啊微信ID：yflooklook012025年的春天，当刘强东身着骑手服亲自配送外卖的照片刷屏社交平台时候，当东哥有了新的一起吃火锅的“兄弟们”的时候，当京东举起了“替天行道”“为民除害”的大旗的时候。这场刷屏的“外卖战争”，早已超出了商业竞争的范畴。今天我们一起换个视角，去看看可能存在的一场关于权力重构的剧本：离京东决策层两年多的东哥，或许正以“对外战争”为名，重演着历史上君主收拢权柄的经典戏码。02翻开人类组织史，对外战争始终是重构内部秩序的最短路径 。拿破仑通过意大利远征将雅各宾派...
2025-04-24 14:08:26 外卖东哥权力 -
-
那位西方大佬去世，让人想起一位东方大佬！
作者： 虚声来源：虚声（公众号ID：lxlong20）已获授权转载舆论界，美国副总统万斯被调侃为“有毒”。因为他嘴巴毒，做事风格也激进。前几天出访意大利，又尝试着扯下几块欧洲的遮羞布。他此次意大利之行，之所以会成为舆论界焦点，并非是因为国事访问，而是见了一位大佬。4月20日复活节当天，万斯从意大利跨国到梵蒂冈，去会见了教皇方济各。就这件事本身而言，非常乏味。因为整个会见过程只持续了几分钟，刚好够摆造型拍照。随后万斯的车子又返回意大利。从意大利跨国去梵蒂冈，会见教皇，再从梵蒂冈返回意大利，万斯一共用了17分...
2025-04-24 14:08:23 大佬让人那位 -
马斯克熟读中国历史！
作者：叶立华来源：求实处（ID：gh_a2f5eb6a8f0c）最近马斯克公开表态和特朗普的分歧，主要是因为看了点历史。 在特斯拉公司财报电话会议上，马斯克说他希望看到更低的关税，但决定权在特朗普手中。 还有就是，从五月开始，他在特朗普政府“政府效率部”（DOGE）投入的时间将显著减少到每周用“一两天”处理政府事务。 当然马斯克还是表态了，说自己对特朗普的支持不会改变，尽管今年特斯拉股价下跌超过40%，他将继续支持特朗普总统通过DOGE来遏制浪费。 这段时间的马斯克从了政，遇到了攻讦，也有内阁的争吵，搞了...
2025-04-24 14:08:19 中国历史马斯克 -
要把几件事放一起看，别错判川普真认怂！
作者：肖仲华来源：肖仲华开讲（ID：xiaozhweixin）在川普公开要求美联储主席鲍威尔辞职，并宣布对东南亚光伏板加征最高达3521%的天量关税后，美国再次迎来股债汇三杀以及美元指数大跌的惨象。面对这种惨象，川普公开说，“美元正在崩溃，很快将不再是世界标准，这是美国200年来最大的失败”，同时强调这是拜登政府造成的后果，也是美联储不作为的结果。然后，川普通过记者会回答了一系列问题，似乎又突然来了个180度大转弯：一是宣称他不会对中国强硬，将降低对中国的关税。他不仅不提已经公布的245%关税税率，还说1...
2025-04-24 14:08:18 要把几件事川普真认怂 -
特朗普要降关税？这是他的更大阴谋！面对美国，中国死抓一点就能赢！
原创：占豪来源公众号：占豪微信ID：zhanhao668特朗普要降关税？这是他的更大阴谋！特朗普真的要大幅降低对华关税了？谁说的？特朗普说的！据媒体报道，美国总统特朗普在谈到与中国的关税战时表示，我们与中国相处得不错，同中方谈判时不会采取强硬态度。对华145%关税确实很高，协议达成后美对华关税将大幅下降，但不会降至零。在特朗普发表这些言论后，美国股市应声大涨，道琼斯指数两天涨幅一度超过2200点。基于特朗普的这些言论，以及美国股市的表现，于是就有不少人有了乐观情绪，认为特朗普可能顶不住了要跪，他自己要主动...
2025-04-24 14:08:16 他的这是就能 -
一个令人震惊的消息：俄国或许不愿停战！
原创： 徐吉军来源公众号：汉唐智库微信ID：hantangzhiku2025年4月22日，乌克兰总统泽连斯基表示，如果俄罗斯首先同意全面停火，基辅准备与莫斯科直接谈判结束战争。这标志着乌克兰对战争形势的判断出现了重大转折。自俄乌战争2022年2月全面爆发以来，乌克兰一直拒绝与克里姆林宫进行任何直接对话。泽连斯基说，我们在复活节再次看到了这一点，他们可以在需要的时候减少空袭……如果俄罗斯人准备好完全停火，那么在完全停火之后，我们准备好与他们进行任何形式的谈判。荒谬的是，泽连斯基强调，乌克兰永远不会承认被占领...
2025-04-24 14:08:12 俄国不愿消息 -
特朗普称美对华关税或将大幅下降，认怂的艺术！
来源：大白话时事微信号：xhdb66从4月7日开始，持续升级的贸易战，以及特朗普近期说要撤换美联储主席鲍威尔的言论，让美国金融市场持续经历股债汇三杀，这给特朗普带来巨大压力。于是，昨天特朗普开始认怂。（1）认怂的艺术据美国《国会山报》报道，4月22日，特朗普在椭圆形办公室对记者说，“145%关税是非常高的。不会有那么高的……它将大幅下降，但不会是零。”此外，据美联社报道，4月22日，美国财政部长贝森特在一次闭门会议上表示，与中国的持续关税对抗是不可持续的，他预计中美贸易战将出现降级。他还提到，目前两国谈判...
2025-04-24 14:08:10 关税或将大幅 -
-
打都不怕，怕和你谈？
作者：叶立华来源：求实处（ID：gh_a2f5eb6a8f0c）美国总统特朗普对记者称，对华145%关税确实很高，协议达成后美对华关税将大幅下降，但不会降至零。 美财长贝森特表示，当前局势本质上是贸易禁运。美国目标并非与中国脱钩，两国可能在两到三年内达成一项全面协议。 关税加了这么久，特朗普现在觉得有点高了，想要降低关税，但是说不会降低到零，贝森特也说不想和中国脱钩，前倨后恭的样子实在是给美国这个超级大国丢人，大有把美国信誉当非洲国家来玩的态度。 但是我们不能被这两人虚情假意的表态蒙蔽，他们所谓可以谈，一...
2025-04-24 14:08:07 和你
