考克森的一封辞职信揭露了Anthropic公司内部的一些问题。他在信中表示自己从Anthropic公司辞职，过去三年在OpenAI和Anthropic从事预训练研究。他认为这两家公司都没有尽到应有的责任，正一头扎进自我提升的超级智能领域，拿人类的生命冒险。
考克森警告不要低估这项技术的力量。这些系统很快会发展成超人般的存在，能够入侵任何系统，一夜之间彻底改变任何领域，并获得真正的权力和资源。他指出，AI开发者们真心相信到了2030年左右，这种技术可能会毁灭所有人，这并非营销噱头。
据考克森透露，Anthropic高管们清楚其中的风险，但他们的逻辑却显得自相矛盾：“因为不信任竞争对手能安全地开发超级智能，所以我们必须抢在他们前面造出来。”这种竞争焦虑导致原本严苛的安全审查被不断降级甚至取消。所谓的“技术对齐”更像是为了安抚公众情绪而敷衍了事的公关话术。
他还披露，在聚光灯下对AI前景侃侃而谈的高管和研究员，私下里普遍被一种深度的末日恐慌所笼罩。Anthropic对齐团队主管埃文·胡宾格在社交平台上的公开回应证实了这一点。胡宾格承认，内部确实存在极度悲观的共识，他个人甚至预估未来十年内AI毁灭人类的概率超过10%。更致命的是，公司目前根本没有解决超级智能安全对齐问题的明确计划，就像一群工程师正在建造一列没有刹车的高铁，唯一的策略就是祈祷车速足够快，能在脱轨前冲上云霄。
当一家以“负责任”标榜自身的明星企业被自家核心员工指控为蒙眼狂奔的赌徒时，一场席卷整个人工智能行业的信任危机已经滑向失控边缘。Anthropic的诞生本是一场打着“安全”旗号的出走，但考克森的辞职信无情地撕下了这层遮羞布。
近年来越来越多的一线AI安全研究员选择以“吹哨人”的姿态告别行业，暴露出技术人员与商业化高管之间的裂痕，也折射出全球AI监管的惊人真空。这种生存焦虑正在迅速转化为公众层面的担忧。面对AI这颗“会思考的炸弹”，美国政界的神经已被触动。
9月3日，参议员伯尼·桑德斯与众议员格雷格·卡萨尔联合提交《禁止人工超级智能法案》，旨在永久禁止超级智能的开发，并在建立联邦新监管机构前暂停高级AI的研发。9月9日，桑德斯在社交平台上引用了考克森的辞职言论，重申制造技术的内部人士都承认这会威胁人类未来，并为其叫停AI的法案造势。当天桑德斯还正式邀请参议院同僚参加关于“AI对人类构成极端危险”的闭门简报会，并邀请了“AI教父”杰弗里·辛顿等专家出席。
此外，得州共和党参议员泰德·克鲁兹也明确表示正在起草应对AI灾难性风险的法案。加州民主党众议员泰德·刘则借考克森辞职事件，呼吁国会尽快通过“AI紧急切断开关法案”。
天顺优配提示：文章来自网络，不代表本站观点。
