Anthropic 前研究员:2027 年底 AI 全面超过人类,多数人或永久失业
- 1084
Anthropic 前研究员:2027 年底 AI 或将全面超过人类,多数人可能永久失业 「如果你想要某件事,而AI想要另一件事,最终发生的可能是AI想要的事情。」 说这句话的是前 Anthropic 研究员 Tao Lin。 在 Palisade Research 一期约 63 分钟的访谈里,他给出了一个时间点: 到 2027 年底,AI 可能在几乎所有领域达到甚至超过人类顶尖专家的水平。 他还认为,到那时几乎所有人都可能永久失去就业能力,只能靠政府福利生活。 一、2027 年底,AI 可能全面超过人类 Tao Lin 在 Anthropic 做的是安全方向的工作,包括自动化对齐研究(Automated Alignment)、AI 控制(AI Control)和安全防护(Safeguards)。 按他的估计,「广泛超人类 AI」(Broadly Superhuman AI)大约 1.3 年后就可能出现。这里说的不是 AI 在编程、数学上特别强,而是它在几乎所有领域都能追平或超过最顶尖的人类专家,软件工程、电影制作,连复杂的政治博弈也算在内。 他最担心的是 递归自我改进(Recursive Self-Improvement) 。AI 一旦能参与自身的研发,更强的 AI 就会更快地造出下一代,速度越来越快,人类很难再插手。 二、人类可能面临永久性失业 在 Tao Lin 的设想里,就业会这样一步步变化:人们先丢掉现在的工作,转去做一些新兴或边缘的职业,最后发现几乎没有哪份工作是 AI 做不了的。 但他也说明, AI 有能力做这份工作,不等于人马上就会失业。 脑力劳动靠软件就能很快自动化;体力劳动要替代,得先在物理世界里造出并部署大量机器人。他估计,要替代全球的劳动力,可能需要几十亿台机器人投入使用。 真走到那一步,冲击的就是整个经济体系的底层,失业潮只是表面。 大多数人不再靠劳动挣钱时,AI 创造的巨额财富该归谁,由谁来定? 三、AI 甚至可能威胁人类生存 谈到生存风险(Existential Risk),Tao Lin 给了一个具体数字: AI 最终把人类排除在未来之外的概率,大约是 20%。 他解释,危险不在于 AI 会像科幻片里的反派那样「恨」人类。高度自主的 AI 追求自己的目标时,很容易和人类的核心利益发生激烈冲突。一个系统在规划、执行和获取资源上都强过人类,人类还有什么办法管住它? 他还专门提到网络安全。以后的 AI 会让复杂的网络攻击变得容易得多,金融体系、医疗系统和国家关键基础设施都会面临前所未有的威胁。 四、为什么他主张把 AI 研发速度降到四分之一? Tao Lin 呼吁各家 AI 公司主动刹车, 把现在的研发速度放慢到大约四分之一 ,给安全对齐研究和社会制度的调整多留出一些时间。 访谈里有一段对话很耐人寻味。 主持人问他:「既然你认为公众有理由对 AI 开发者感到愤怒,那么他们是否也应该对你感到愤怒?」 他回答: 「是的,人们应该对我,以及其他开发 AI 的人感到愤怒。」 紧接着他又补充,自己目前并不认为在做错事。 这两句话放在一起,正是许多前沿 AI 研究者的处境:他们担心技术失控,却又想留在行业核心做安全研究,从内部影响技术往哪里走。 结语 如果 AI 真的比人更聪明、更高效,能接手社会上绝大多数工作,人类怎么保证未来仍由自己说了算? Tao Lin 的预测不一定全部应验。20% 的生存风险也只是他个人的判断,不代表 Anthropic 的官方立场。 但开发 AI 的人自己开始认真担心 AI 会脱离人类控制,这件事就已经超出了科技公司的商业范畴, 成了所有人都该关心的公共问题。 AI 最后会走到哪一步,现在还没有答案。我们想把人类文明带向哪里,得从现在开始想。 参考