No.37:伊利亚·苏茨克弗——超级智能(ASI)的孤独守门人
主播|散修小仙(贝贝)张欢 伊利亚·苏茨克弗(Ilya Sutskever)是ChatGPT的“造物主”之一,是2023年那场震动全球的OpenAI“宫斗”风暴的核心。但在被贴上“逼宫者”的标签之前与之后,他更是一位从AlexNet时代就塑造AI面貌的奠基科学家,一个对“人工智能可能终结人类”怀有深切恐惧的先知,以及一个正在用新公司押注人类未来的孤独探索者。今天,我们就来讲述这位天才科学家的故事,他的恐惧、他的坚持,以及他对人类命运的宏大思考。
伊利亚·苏茨克弗(Ilya Sutskever)
时间轴
——————————————————————————————
第一部分:天才的轨迹——从诺夫哥罗德到AI神坛
第二部分:裂痕与风暴——与山姆·奥特曼的根本分歧
第三部分:成立Safe Superintelligence Inc
第四部分:最新的3个洞察
在近期深度访谈中,伊利亚分享了他最新的思考,总结一下,就是3个洞察
洞察1:那种无脑堆算力的时代,已经翻篇了
过去这五年,大家都在喊规模法则,好像只要GPU够多、数据够大,把整个互联网喂进去,AGI就自动产出来了。但Ilya直接泼了盆冷水。他说Pre-training(预训练)已经开始式微,现在数据快用光了,到了后面这一步(强化学习和后训练),光靠“大”没用了。现在又回到了2012年之前那种需要“拼品味、拼直觉”的手搓时代(Age of Research)。
洞察2:情绪不是人类的累赘,而是进化给人类的礼物
我们通常觉得AI是理性的,人类是感性的,情绪会坏事。Ilya把这个反过来了。人类的“情绪”是一个被进化硬写进基因里的、极其精准的“价值函数”。现在的AI之所以笨,是因为它们没有情绪。所以,让AI拥有“情绪”或者说“直觉”,反而是通往真正智能的必经之路。
洞察3:AGI不是全知全能的神
Ilya说真正的AGI更像是一个“15岁的天才少年”。它可能刚出来时什么行业黑话都不懂,但它学习能力很强。而且,它们在未来可以“合并智能”。这一秒它还是个新手,下一秒它就拥有了100万人一辈子的经验。这种“分布式体验,集中式进化”,才是经济奇点真正到来的方式。
主播结语:
“技术奇点”引发了一系列伦理和哲学问题,包括机器的权利、人类存在的意义,以及人类如何控制和利用这种强大的技术力量等。这可能导致人类文明发生根本性变化,也可能使人类社会陷入越来越大的矛盾和危机中。
在奥特曼忙于商业、官司与并购时,伊利亚就像一个孤独的守门人,带领SSI进行一场可能定义人类命运的、孤独的豪赌。
——————————————————————————————
你可以在小宇宙、喜马拉雅、苹果播客、虎扑等平台找到我们。欢迎关注、评论、转发,我们真诚感谢所有反馈,同时也期待与大家有更多连接。

善悪不定夺
当时只觉得他突然消失了

韩电烈
越聪明的人越容易先看到结局