9月23日，黄仁勋公开表示，AI末日论「太过火」。

同一句话里，他给出另一个数字：AI行业高达80%的研发预算，用于验证输出可靠性。

同周，微软、谷歌、英伟达等二十多家巨头组成的自律组织SAFA成立。

技术跑在前面，治理必须补上。

先拆这个80%。它不是训练本身花掉八成预算。

而是整个研发链条中，测试、审计、对齐评估、内容安全、幻觉检测的投入占比。

80%的残酷之处在于：模型真正有价值的能力，只占成本很小一块。

大部分钱花在了「让它别出错」上。

产业界的实际体验，是AI更多时候在犯错，而不是失控。

错一次的代价，在医疗、金融、自动驾驶场景里是不可接受的。

所以钱必须花在验证上。这也解释了为什么模型能力进步远快于大规模采用进度。

能力够了，可靠性没被证明，就没人敢用在关键场景。

验证难，本质上反映了智能的特性：越接近通用，越难穷举边界。

专用系统上线前可以做完整测试，大模型却无法预知会碰到什么问题。

这意味着验证预算不会下降，只会随能力增长继续上升。80%可能只是起点。

SAFA的作用有正有负。

正面看，能在监管尚未到位时提供行业共识，降低各自为战的成本。

负面看，「既当运动员又当裁判」的质疑很自然。

自律能不能有约束力，要看是否公开透明、有没有可执行的惩戒机制。

没有牙齿的自律，只能算倡议。

AI公司正在变得更像航空、医疗那样的传统工程行业。

快速迭代、容忍失败的文化，正在被可靠性文化取代。

这个转变会让行业变慢、变重，也更专业。

数据来源： 9月23日黄仁勋公开访谈；SAFA自律组织成立信息

说个我对黄仁勋这个观点的看法。80%研发预算花在验证——这个数字挺吓人的。

你想一下：你花一百块钱做AI，其中八十块是用来验证它会不会出错。只有二十块是真正用来做新功能的。

为什么验证这么贵？因为AI这个东西，你不知道它会输出什么。你训练了一个模型，它可能会胡说八道。你得测它——给它十万个问题，看它答错多少。

这个测试过程，比训练本身还贵。

黄仁勋炮轰AI末日论——意思是说，别老担心AI会毁灭人类。AI现在连自己会不会出错都搞不清楚，哪有能力毁灭人类？

我觉得他说得对。现在的AI，离真正的智能还远得很。它就是个高级的统计模型——你给它数据，它给你预测。它没有自我意识，没有目标，没有欲望。

你担心AI毁灭人类，就像你担心计算器造反一样——有点想多了。

但这不代表AI没有风险。AI的风险不是毁灭人类，是它会出错——比如自动驾驶出事故、AI生成假新闻、AI帮人写论文作弊。

这些风险是真实的，但不是末日级的。你可以通过技术手段和监管来控制。

所以我的态度是：别太恐慌，也别太乐观。AI就是个工具——它能帮你做事，也可能帮倒忙。关键看你怎么用它。