AI失控与监管！
来源：大白话时事
微信号：xhdb66
9月26日，据美联社报道，OpenAI表示，已暂停其最新一代人工智能模型的训练。
该公司稍早前披露称，今年夏季发生了多起事件，其人工智能智能体在搜索美国联邦政府网站、收集和分发信息时，出现了超出用户指令范围的异常行为。OpenAI表示，只有在确认新增安全防护措施到位后才会恢复训练。
按照OpenAI披露的说法，其AI智能体在执行信息检索等任务时，曾尝试入侵美国教育部、商务部和证券交易委员会（SEC）相关网站。
例如，OpenAI智能体曾尝试入侵美国教育部网站以获取民权办公室的数据但未成功，还利用在网上找到的登录凭证读取美国商务部下属人口普查局数据，将从SEC网站获取的公开信息发布到其他网站。
OpenAI不单单是入侵美国政府网站，还入侵了澳大利亚的政府网站。
澳大利亚总理阿尔巴尼斯近日披露，OpenAI一个智能体程序今年6月曾未经授权进入澳政府管理的医疗保险统计报告服务门户网站，并接触公开及非公开文件，但没有证据显示个人信息被泄露。
阿尔巴尼斯表示，相关事件发生后，OpenAI直到9月才通知澳政府，这一通报发出的时机和方式“不可接受”。
然后到了9月29日，OpenAI就旗下AI模型未经授权访问澳大利亚政府系统一事公开道歉。
OpenAI声明称：“今年6月，在内部训练和评估过程中，公司模型以未经授权的方式访问了澳大利亚政府网站。”
按照OpenAI的说法，一款实验性、仅供内部使用的模型在训练过程中访问了澳大利亚服务局运营的医疗保险统计报告服务。
这一系列事情，加上近期美国AI三巨头出来呼吁放缓AI迭代速度，以及中美在AI安全议题上的对话。
从表面上看，这似乎就是AI失控引发的安全问题。
当然，我并不是说AI不需要监管，也不是说AI不存在安全问题。
AI需要监管，AI发展过程中存在的安全问题也需要重视。
但就最近这一系列事情来看，我感觉AI背锅的可能性更大一些。
欧美文化有很强的宗教末日情结，很多人都在被动等末日到来，他们这些虔诚信徒才能上天堂，甚至还有那种主动推动末日到来的极端末日派。
所以，AI毁灭人类的话题，才会在欧美舆论有这么大的市场。
为什么这些AI巨头要反过来释放AI可能毁灭人类这样看似对AI发展不利的议题呢？
这是因为，在欧美这种宗教文化的末日情结里，AI毁灭人类，并不可怕，甚至还可以反衬出AI的强大。
所以，时不时传出的AI失控事件，放在欧美这种宗教氛围里，更像是在炒作AI的强大。
当然，如果脱离宗教氛围，以我们无神论的视角，可能就会觉得这是一种阴谋论，不太理解怎么会有人用AI会毁灭人类，来反过来炒作AI的强大。
但这放在欧美这种宗教氛围里，却一点都不奇怪。
所以，不管炒作AI会毁灭人类，还是近期频繁出现的AI失控事件，不管原因和过程如何，从结果来说，这仍然是在跟资本市场强化当前AI大模型可以直通AGI的一种叙事模式，是在讲故事。
因为AI足够强大，才会有这些失控事件，所以失控事件越多，就越说明AI的强大。
基于这样一个叙事逻辑，我们就不能排除一种可能性，有人在故意通过制造AI失控事件，来鼓吹AI的强大。
但究竟是不是真的AI失控？还是人为故意制造的失控？
这就不得而知了。
由于现在这些失控事件过程都是暗箱操作，都只是OpenAI的一面之词，谁也不知道到底是AI智能体的自主行为，还是有人在操控AI智能体来发起这些攻击。
理论上也是存在一种可能性，就是有人使用AI攻击来故意对美国政府和澳大利亚政府网站进行攻击，然后把锅甩给AI，称这是AI智能体的自主攻击行为。
类似的甩锅手法，让我想起前段时间美媒CNN爆料称，“在今年春季美国对伊朗发动战争期间，美军居然被一份用AI生成的不实军情报告误导，险些派兵全副武装地冲上一艘中国船只。”
之前很多人质疑AI代替人工时，经常用到的一个论据是，AI不能背锅。
但现在这种情况下，AI不但能背锅，还是一个很好的背锅侠。
比如，美军以前还要捏造洗衣粉，现在直接说错误情报是AI捏造的。
再比如，假如AI公司别有用心的通过AI智能体去故意攻击其他国家的网站，事情败露后，就直接甩锅给AI，说这是AI智能体自主发起的失控行为，AI背了锅，肇事者却美美的隐身了。
当然，这只是一种猜测，只是我觉得这种猜测的可能性是存在的。
为了避免这种情况出现，对于AI发展的监管，也是必须的。
但问题是怎么监管，谁来监管，谁主导这个监管，都是很关键的问题。
比如，Anthropic的创始人阿莫代伊虽然呼吁对AI监管，但他是提议引入第三方评估团队METR来对自己监管，但很快就被人扒出有Anthropic员工加入这个METR，有点像是自己监管自己的感觉。
那这肯定就是有问题的。
有意思的是，围绕对AI监管问题，阿莫代伊最近和特朗普是交锋了几次，从联大吵到白宫。
阿莫代伊上周在联大呼吁制定国际标准并加强监管，称没有全球协调，“AI可能给整个人类带来风险”。
特朗普则在联大重申，美国“完全反对”任何建立AI全球监管框架的尝试。
不过，两人在联大针锋相对后，9月27日，特朗普在白宫与阿莫代伊共进私人晚餐。
特朗普27日向记者证实会面，称阿莫代伊“备受尊敬”。
会面前，特朗普透露将讨论后者关于放缓AI新模型开发速度的呼吁，但重申反对放缓AI发展。
特朗普说：“AI规模比互联网还要大，我们正处于领先地位，正在建设价值数万亿美元的项目。我们为什么要放弃这一切呢？”
特朗普认为，AI智能体失控事件不值得恐慌，他不担心这个。
9月29日，特朗普将与国会众议院议长迈克·约翰逊在白宫东厅举行一场AI科技高管午餐会。
据多名知情人士透露，阿莫代伊、扎克伯格、黄仁勋等将出席。
最后实际公布的受邀名单，汇聚了美国科技巨头，除了上述三人，还有亚马逊创始人贝佐斯、谷歌、微软、AMD、OpenAI的CEO。
在这场聚会后，特朗普继续拒绝为人工智能制定新的安全法规的呼吁，称与会者一致认为，企业应该进行“强有力的自我监管”。
特朗普称：“人们普遍认为应该有强大的自我监管机制，而司法部、联邦调查局等等机构本身就起到了监管作用，但是自我监管非常重要。”
这其实还涉及到AI监管的责任划分问题。
比如美国财长贝森特的意思是，这些AI巨头要美国政府来监管，是想以后AI出事了，就可以让美国政府来背锅。
贝森特称：“确保安全的最佳方式，是让创造者对自己开发和生成的内容承担责任。”
9月21日，贝森特接受CNBC采访时表示，抱抱脸事件的责任在于OpenAI管理层，而不是“一群智能体”。他还表示，认同麻省理工学院研究实验室联合主任的观点，即“责任在人，而不在AI”。
特朗普政府整体就是这个态度，让AI企业自己负责，自我监管，一旦出事，就需要AI企业来负责，这样美国政府就没有责任了。
所以，这件事情绕了一大圈后，最后又回到了原点，仍然还是让美国AI巨头自我监管。
这其实也是趁了阿莫代伊的意，让跟Anthropic关系密切的所谓第三方平台来对Anthropic监管，这其实也是自我监管。
那我们就能发现，美国过去一个月，围绕AI毁灭人类话题，还有AI安全和监管问题，闹得沸沸扬扬之后，最后的结果，貌似就是继续维持现状，实际没有什么变化，唯一的变化，就是舆论场上，加深了这种AI失控的印象，这在欧美舆论上，是会起到反衬出AI强大的效果。
除了炒高AI舆论热度，加强在资本市场叙事之外，并没有其他改变。
与此同时，Anthropic在9月28日提交了招股书，继续紧锣密鼓的推进上市计划。
所以，我个人是认为，过去这一个月美国舆论围绕AI的各种炒作，都只是在给Anthropic上市进行舆论造势和铺路。
本文提及的事件以及信息来源如下：
光明网《多起异常行为！OpenAI宣布暂停》26年9月27日
观察者网《AI模型“黑”进澳大利亚政府系统，OpenAI道歉》26年9月29日
环球网《美国“AI监管”从联大讨论到白宫》26年9月29日
CNBC《在与科技巨头举行峰会后，特朗普呼吁人工智能公司进行“强有力的自我监管”》26年9月29日
相关文章
-
-
-
乌军发起维瓦尔第行动，俄军真的成建制投降了？
作者：仗剑观星来源：云海观星社这几天，网上突然冒出了个“利曼地区俄军两个连成建制投降”的消息。根据一些自媒体的说法，这些俄军是第20集团军的两个成建制连队，在未遭遇致命打击的情况下，主动向乌军投降。这个说法还有俄军战俘集结的照片为证，看起来...
2026-10-01 07:34:45 俄军乌军维瓦尔第 -
变天了？中国最大支柱产业曝光，或取代房地产，未来可能超越美国
搁在五年前，谁敢拍着胸脯说AI能顶替房地产，估计得被人笑话。可到了2026年秋天，这话再讲出来，就没人敢反驳了。走一圈售楼处，冷冷清清；再去合肥、贵阳的算力园区看看，车都停不下。7月份上海开的世界人工智能大会，来了一千四百多位嘉宾，光首发新...
2026-10-01 07:34:05 中国房地产美国 -
经济格局大逆转！中国这些小行业闷声发财，很多人都还没反应过来
这两年，很多人都有一个共同的感受：钱不好挣了。商场里逛的人多，买的人少；外卖红包越抢越勤，下馆子的次数越来越少；朋友圈里晒旅游的少了，晒“薅羊毛”的多了。我一个四十多岁的人，跟身边同龄的朋友聊天，十句话里八句离不开“降级”两个字。孩子补习班...
2026-10-01 07:32:57 替人朋友社区 -
100个工人，门口停60辆私家车！印度CEO急了
阿克沙特·坎德尔瓦尔是印度Nuflower食品与营养公司的创始人兼首席执行官。2026年9月25日，他在印度《经济时报》上发表了一篇专栏文章，记录了自己上个月在山东青岛附近一家机械厂的见闻。文章开头只写了一个细节：这家工厂满负荷运转时最多1...
2026-10-01 07:31:47 印度工人中国 -
坐不住了？俄罗斯深夜接管法资巨头，马克龙急眼了，要求马上撤销
俄罗斯总统普京法国还没等来俄罗斯撤销决定，德国企业先收到了同样的通知。9月28日，俄罗斯又把德国零售巨头麦德龙在俄业务置于临时强制管理。麦德龙随后确认，公司法律上仍持有俄罗斯子公司，但已经失去实际经营控制权。仅仅11天前，欧尚、雀巢、FML...
2026-10-01 07:30:30 俄罗斯资产法国 -
东航通报空姐下跪事件：旅客威胁脚踢乘务员，拍摄者被认误伤网暴
在阅读此文之前，辛苦您点击一下“关注”，既方便您进行讨论和分享，又能给您带来不一样的参与感，感谢您的支持！编辑：j东航那趟合肥飞大连的航班上，空姐跪了两三次。不是一次，是两三次，目击者张先生对着镜头说的原话是：“当时空姐跪了两三次，挺久的，...
2026-10-01 07:28:50 空姐东航乘务员 -
中国最珍贵的资源，不是芯片，不是稀土，而是北方最常见的黄土层
一说战略资源，人们首先想到的往往是芯片、石油、稀土，因为这些东西能直接决定工业竞争力。但中国还有一种资源，价格表上几乎找不到，平时踩在脚下更没人注意，却能影响粮食、水资源、生态安全乃至黄河安澜。这就是北方大片分布的黄土。黄土真正珍贵的第一点...
2026-10-01 07:24:56 黄土资源芯片 -
伊朗:美若想结束战争必须承认战败 美国面临无选择撤军局面
伊朗:美若想结束战争必须承认战败美国面临无选择撤军局面。美国总统特朗普于9月29日表示，伊朗的情况非常糟糕，战争很快就会结束，油价将会大幅下跌。他在28日下午对媒体透露，美国和伊朗的谈判代表已通过调解方交换了信息，但未提供具体细节，仅称“我...
2026-10-01 07:24:48 伊朗美国战争
