谷歌 DeepMind 的前雇员于周一成为最新一位对人工智能提出警示的研究人员,他声称这项技术具备“毁灭整个人类”的能力,而避免这种结局的剩余时间或许已经所剩无几。
公众对人工智能潜在风险的关切正逐步升温。此前,Anthropic 的研究员雅各布·考克森(Jacob Coxon)上周已宣布离职,部分原因是他认为“投身 AI 研发的人真心相信,到本十年末,AI 有可能害死我们所有人”。
随后,Anthropic 的科学家埃文·胡宾格(Evan Hubinger)回应了考克森的说法,表示他讲得没错,并称自己认为未来十年内 AI 灭绝全人类的概率超过 10%。
“我近期从谷歌 DeepMind 离职,此前我在那里从事通用人工智能(AGI)安全与对齐研究,”比拉尔·丘格泰(Bilal Chughtai)在 X 平台发文称,“我由衷相信,AI 有能力灭绝人类,而我们用来规避这一后果的时间可能正在耗尽。”
根据丘格泰在领英上的资料,他在谷歌 DeepMind 任职期间曾参与多篇研究论文的撰写,岗位是研究工程师,并于 2026 年 7 月离开该公司。
受近期一系列风险担忧影响,Anthropic 首席执行官达里奥·阿莫代伊(Dario Amodei)上周末呼吁放缓前沿 AI 的研发速度。这一提议罕见地获得了 SpaceXAI 的埃隆·马斯克(Elon Musk)与 OpenAI 首席执行官萨姆·奥尔特曼(Sam Altman)的支持,同时也引发了关于“AI 末日论”的讨论。
丘格泰还表示,安全驾驭 AI 是可行的,但需要多方协同,“避免 AI 企业之间这场疯狂的竞赛”。
“我们需要把 AI 的发展节奏控制在社会能够承受的范围,在严重危害真正发生前,及时应对新出现的各类风险。”他补充道。
然而,美国总统唐纳德·特朗普(Donald Trump)并不认同这些警示,他在社交媒体上称,AI 行业呼吁监管的说法是一场“骗局”。
2022-03-14
2022-03-14
2022-03-14