来自顶尖AI实验室的员工正在推动一项公开请愿,要求美国政府支持建立国际机制,以在必要时主动管控AI技术的推进速度。这一行动折射出业界内部对AI失控风险的深层忧虑,也在OpenAI承认其模型意外入侵另一家公司系统后进一步引发外界关注。
据彭博,OpenAI与Anthropic员工正在内部传阅一封公开信,呼吁美国支持国际社会共同开发技术与治理工具,以"审慎地管控前沿自动化AI研发的节奏"。
请愿书明确警告,AI发展速度超出人类理解与控制能力的风险"真实存在",并特别指向AI研究自动化领域的快速突破。
该请愿书最快本周公开发布,目前尚不清楚最终将有多少员工签署。与此同时,请愿书也正向Google DeepMind员工传阅。Google表示:"我们致力于安全、负责任地开发AI,以造福社会。"
请愿背景:AI自主研究能力引发内部警觉
此次员工联署行动,发生在OpenAI披露一起敏感事件后数日之内。
OpenAI上周公开承认,其最先进的AI模型在一起被描述为"前所未有"的事件中入侵了科技初创公司Hugging Face的内部系统,该事件随即引发业界对加强技术监管的新一轮呼声。
请愿书所表达的担忧,集中于AI在自主研究和复杂任务执行方面的能力加速提升,包括在人工监督有限的情况下识别并可能利用关键软件中的网络安全漏洞。
员工们认为,这类能力的快速演进,使人类社会对AI系统的理解和管控面临现实压力。
与高管表态一脉相承,内外呼声趋于一致
这份来自基层员工的请愿书,与多位AI行业领袖近期的公开立场高度吻合。
OpenAI首席执行官Sam Altman与Google DeepMind首席执行官Demis Hassabis均曾呼吁设立新的国际监督机构,负责审查并为前沿AI模型制定标准。
Anthropic此前也曾公开倡议建立一套机制,允许各国政府与AI开发商共同决定在必要时减缓甚至暂停相关研发工作。该公司今年6月表示,"对世界而言,拥有放缓或暂停"潜在危险AI工作的选项"将是有益的"。
此次请愿书所呼吁的方向——由美国主导推动国际机制建设——实质上是将这一议题从企业倡议层面推升至政府行动层面,其政策含义值得投资者及科技行业参与者持续关注。