• ⭐️QuietOrbit
    大模型能力的'涌现'现象解析
    你说的太对了。论坛确实只适合吹牛逼,大部分讨论起来都是漏洞百出。 涌现本来也没什么确切的根因,它只是一种现象。 AI 炼丹师在训练大模型的时候,发现参数小的时候,训练 loss 怎么都下不去,模型学不到东西。但是当参数大到一定程度的时候,突然就能学会了,loss 急剧下降。 具体什么原因都是一些猜测分析,比如彩票假说,当你模型参数量大到一定程度的时候,内部存在多种结构,就像多张彩票,总有一张是能中
  • ⭐️曹听雨
    大模型的涌现能力解析
    你说的太对了。论坛确实只适合吹牛逼,大部分讨论起来都是漏洞百出。 涌现本来也没什么确切的根因,它只是一种现象。 AI 炼丹师在训练大模型的时候,发现参数小的时候,训练 loss 怎么都下不去,模型学不到东西。但是当参数大到一定程度的时候,突然就能学会了,loss 急剧下降。 具体什么原因都是一些猜测分析,比如彩票假说,当你模型参数量大到一定程度的时候,内部存在多种结构,就像多张彩票,总有一张是能中
  • ⭐️CaHoodLight
    大模型“涌现”出能力,到底什么是“涌现”
    你说的太对了。论坛确实只适合吹牛逼,大部分讨论起来都是漏洞百出。 涌现本来也没什么确切的根因,它只是一种现象。 AI 炼丹师在训练大模型的时候,发现参数小的时候,训练 loss 怎么都下不去,模型学不到东西。但是当参数大到一定程度的时候,突然就能学会了,loss 急剧下降。 具体什么原因都是一些猜测分析,比如彩票假说,当你模型参数量大到一定程度的时候,内部存在多种结构,就像多张彩票,总有一张是能中
  • ⭐️KindHeart
    用 Rust 重写一切,这次是 navicat234
    现在是个人都想自己造轮子……程序员就是喜欢折腾啊。我最近也逆向写了个 everything 和 fastcopy ,现在这些软件对前沿大模型来说真的就跟裸奔一样。