关注热点
    小编精选
    今日热门

    深圳17岁天才少年宣布已离开月之暗面,论文曾被马斯克点赞

    2026-10-17 15:09:57 众播新闻

    ,月之暗面Kimi发布技术报告《AttentionResiduals》,对大模型十年没有变化的核心结构残差连接行重新设计,这实现了OpenAI联合创始人IlyaSutskever曾提出过的设想:把按时间先后顺序处理数据的LSTM网络“旋转90度”。用了这套新方法后,模型在计算时根据需要,自由决定去提取前面哪一层的信息。

    论文发出后,马斯克马上点评“让人印象深刻”,前OpenAI研究科学家AndrejKarpathy表示该研究真正践行了“AttentionisAllYouNeed”的理念,推理之父、前OpenAI研究副总裁JerryTworek也表示“深度学习2.0来了”。

    当时有人注意到,《AttentionResiduals》的第一作者除了Kimi关键人物之一、RoPE(旋转位置编码)的提出者苏剑林,以及KimiLinear(Kimi的新型混合线性注意力架构)的第一作者张宇以外,还有17岁的深圳高中生陈广宇。

    在告别Kimi的帖文中,陈广宇感谢Kimi团队相信并聘用了当年年仅16岁的自己,并再次提到“能够与一群真诚的人一起构建如此开放(且强大的)模型,真是令人难以置信”。

    随即,前DeepMindGemini推理架构负责人,现Anthropic公司可扩展强化学习(RL)方向研究员肖尔托·道格拉斯(SholtoDouglas)在陈广宇帖文下评论称:“恭喜你,很高兴上周见到你,你还是计划去卡内基梅隆大学(CMU)吗?”他邀请陈广宇去旧金山,与Prime、Base10等团队一起工作。后者则回复:“谢谢Sholto!我正要去湾区。”

    或是因此,坊间开始有传闻称,陈广宇很快就被传要加入Anthropic。不过,陈广宇已在社交平台上否认要加入Anthropic。

    【来源:南方都市报】声明:本文版权归原作者所有。如您发现信息来源有误或内容侵犯了您的权益,请通过邮箱与我们联系,我们将在核实后及时更正或处理。联系邮箱:zhongbobaoliao@163.com