Dario Amodei:呼吁AI行业放缓与RSI的警示
在一篇新文章中,Anthropic的首席执行官Dario Amodei探讨了为何AI行业需放慢发展速度。他提出了一个三部分的计划,并表示Anthropic将率先执行其中的第一步。文中提到,Amodei支持全球范围内的AI暂停,但他也认为这一目标在短期内难以实现。
Amodei提到的“RSI”即递归自我改进,指的是AI系统能够参与到下一代AI自身的改进中。他强调,RSI现已在AI领域,包括Anthropic内部开始显现,并警告道:“这正在发生”,而非遥远的未来可能性。他指出,未来6到12个月内,某个持续存在的botnet可能会接管互联网,造成上千亿美元的损失。
在三部分计划中,Anthropic已主动开放员工级别的权限给第三方评估者,这意味着外部审查者将能持续访问公司模型和相关工作,从而提高透明度。 龙8头号玩家国际
虽然Amodei主张进行全球暂停,但他也意识到这一点不太可能很快实现。他的立场显示出支持休息作为可能选项,但现实是没有人会轻易按下这个暂停按钮。因此,Anthropic决定先从可行的措施入手。
支持放慢进程的人认为,一旦RSI启动,能力提升的速度将可能超过任何评估的想象,而问题显现后再采取措施的成本将更加高昂。然而,反对者质疑如果部分公司放慢步伐,而其他公司却不受限制,可能导致竞争优势被拱手让出。
Amodei的文章真正的价值在于提出了可行的第一步,并且Anthropic已作出承诺向外部评估者开放员工级别的访问权限。这一做法可以被验证是否有效。至于RSI的迹象是否确实存在,以及6到12个月的时间窗口是否准确,需要外部信息的进一步验证。总的来看,一位前沿AI公司的首席执行官公开呼吁行业 slowdown,并承认自身公司内RSI的出现,这一系列举措是值得持续关注的信号。 龙8头号玩家国际
她在开业典礼上,自信展露真实的自己,岁月未曾削弱她的光彩
篮球,改变的不仅是身心,还有你的人生!...