Anthropic说他们搞出了一个超强的模型
这个模型在测试中“能够识别并利用所有主流操作系统和主流浏览器中的 0-day 漏洞”
而且还发现了“数千个”额外的高危和严重级别漏洞。
不过目前他们没有公开这个模型，只是在有限范围内（一个大公司俱乐部里）供研究预览
看到那个新闻的时候，我正在喝咖啡，手差点没拿稳杯子
不是惊讶于模型的能力，这种能力的涌现我们早有预感，真正让我脊背发凉的是那份风险报告里轻描淡写的一句话
有限范围的研究预览
这句话像一把钥匙，打开了我脑子里一个盘旋很久的担忧
我们总以为技术进步是线性的，可控的，像给汽车加装更灵敏的刹车，跑得快但刹得住
但强人工智能的扩散，可能更像一种流体，它会寻找系统里最薄弱的缝隙，然后渗透进去
你想想看，一个能在几小时内写出资深黑客数周才能搞定的漏洞利用代码的模型
现在它被锁在实验室里，被一群穿着白大褂、签了保密协议的研究员小心翼翼地测试着
这画面是不是很熟悉
像极了当年核物理的早期研究，一群科学家在象牙塔里讨论链式反应，以为世界和平尽在掌握
可后来呢
人类最顶尖的毁灭技术，最终流向了哪里
我不是在危言耸听，而是在做一个简单的博弈推演
当一种能力的价值高到足以突破任何道德或法律边界时，它就不再是技术问题，而是经济学和人性问题
我们过去四十多年搭建的数字世界，建立在一种天真的假设上
假设软件总有漏洞，但我们可以通过打补丁来修复，假设信息流动可以被防火墙和权限控制，假设作恶的成本永远高于收益
这套逻辑在弱智能时代勉强运转
可当对手是一个不知疲倦、学习速度以指数级增长、并且可以无限复制的智能体时，这些假设全都崩塌了
最讽刺的是，我们应对风险的第一反应是什么
监管、限流、封堵、划分责任
这些动作本身没有错，但它们是治标不治本的止痛药
它们本质上是在制造一种新的稀缺，高价值能力的稀缺
而经济学告诉我们，任何被强行制造出来的稀缺，都会催生一个庞大的黑市
当光明正大的研究和应用被层层枷锁锁住，那些最危险的人，反而最有动力和资源去打破枷锁
他们会用更隐蔽的方式，更不透明的渠道，去获取这些能力
到那时，我们面对的就不再是实验室里温顺的Claude，而是黑帮教父手中经过无数次恶意调校、专攻人性弱点和系统漏洞的暗黑版本
这听起来像科幻小说
但看看我们身边，加密货币的匿名交易，暗网的数据买卖，零日漏洞的天价黑市
哪一个不是在监管的高墙下，生生挤出来的灰色地带
我们不是不知道正确答案
真正的答案写在每一本软件工程的教科书第一章：构建安全的系统，而不是在脆弱的系统上不断打补丁
这意味着重构，从芯片架构到操作系统，从通信协议到应用生态，推倒重来
可谁有动力去做呢
这需要天文数字的投入，需要打破无数既得利益者的饭碗，需要全球达成几乎不可能的协作
在商业世界里，这叫“颠覆式创新”，是创业者的浪漫
在现实的政治经济博弈中，这叫“吃力不讨好”，是所有在位者避之不及的噩梦
所以我们会看到一种诡异的局面
一边是AI的能力曲线疯狂上翘，另一边是我们赖以生存的数字基础，依然是用胶带和口水粘起来的破房子
中间那道越来越宽的裂缝，就是风险滋生的温床
我有时会想，未来的历史学家会如何描述我们这个时代
他们会说，那是一群聪明绝顶的人，造出了近乎神明的工具，却因为舍不得拆掉自己搭建的破旧木屋，最终让工具落入了盗匪之手
这不是技术悲剧，这是人性与制度的慢性病
而我们每个人，都坐在那间破木屋里，看着窗外电闪雷鸣，却还在争论该用哪种颜色的胶带
智慧常常是反直觉的，和线形思维的推论背道相驰
假象一下，如果Anthropic、OpenAI这样的模型公司，永远都能把模型第一时间开放
政府也会咬定牙关不去干预
短期内，的确，大企业、银行会收到冲击
但也因此，这个社会层次会以最快的速度完成信息系统的重构
虽然会有损失，但从社会层次看这种损失相对最少
但不幸的是，我们面对的现状是博弈论中经典的囚徒困境
这里的一个关键前提就是信息是不透明的
模型厂商不会告诉你所有信息，政府不会公布所有信息
因此，囚徒困境是不可避免的
也因此，每家机构，每个人都会从自身利益最大化角度
一起冲向整个社会的最差解
那个损失更大，甚至最大的结果
在漫长的反复博弈过程
很有可能，最终将未来交给哥谭市的黑帮教父手中
这种愚蠢，或许无可避免