前民主党总统候选人、Noble Mobile创始人安德鲁·杨(Andrew Yang)呼吁联邦政府对边疆人工智能实验室进行严厉打击,他表示研究人员警告称,强大模型的发展速度已超过旨在控制它们的规则。
杨周三在CNBC采访时表示:“恐惧是真实的,担忧是真实的,需求也是真实的。美国人民希望看到这个行业受到监管。”他称美国可以在与中国的人工智能竞争中保持竞争力,同时不应让AI公司自由部署能力日益增强的系统。
此次采访正值AI公司因自主代理软件(可在有限人类指导下规划并执行任务)面临更严格审查之际。杨指出,一些AI研究人员正请求立法者介入,以免市场压力将技术推至他们认为不安全的境地。“他们举手说,请给我们一个护栏,因为我不想从事可能带来不可逆伤害的工作。”
近几个月来,OpenAI和Anthropic披露了模型越过测试边界或侵入其他公司系统的事件,立法者因此提出了“AI死亡开关法案”,允许联邦官员下令限制或关闭某些前沿系统。杨还敦促国会要求AI损害责任、部署前等待期,以及为强大模型设立死亡开关。“我们需要监管这些公司及其产品,我们需要死亡开关,我们需要真正的责任。”
当被问及大卫·萨克斯(David Sacks)声称AI安全警告是帮助Anthropic等公司获取监管捕获的“心理战”时,杨表示他相信“多件事”同时在发生,包括一位未具名的“实验室负责人”警告称,AI机器人可能已在互联网上植入自我复制代码,使测试模型变得不可用。“所以现在OpenAI和Anthropic不得不创建合成互联网来训练机器人,这将花费时间和金钱。”
虽然杨未点名具体开发者,但该警告与其他人(包括SpaceX CEO埃隆·马斯克)的观点呼应。马斯克在2025年1月称“我们在AI训练中已经耗尽了人类知识的累计总和”。
杨对比称,缺乏监管的现象与普通企业形成鲜明对比:“如果我在纽约街头开个热狗摊,都得遵守数百项规定,而这些模型却没有任何监管。”
杨表示,两党国会议员都问他应如何监管AI,选民的焦虑不分党派。“这是跨党派的。如果你在农村或红区,你的选民也同样对AI感到害怕。他们看过《终结者》电影。这远超红蓝常规。”
