你说的太对了。论坛确实只适合吹牛逼,大部分讨论起来都是漏洞百出。 涌现本来也没什么确切的根因,它只是一种现象。 AI 炼丹师在训练大模型的时候,发现参数小的时候,训练 loss 怎么都下不去,模型学不到东西。但是当参数大到一定程度的时候,突然就能学会了,loss 急剧下降。 具体什么原因都是一些猜测分析,比如彩票假说,当你模型参数量大到一定程度的时候,内部存在多种结构,就像多张彩票,总有一张是能中
- 技术
- 技术你说的太对了。论坛确实只适合吹牛逼,大部分讨论起来都是漏洞百出。 涌现本来也没什么确切的根因,它只是一种现象。 AI 炼丹师在训练大模型的时候,发现参数小的时候,训练 loss 怎么都下不去,模型学不到东西。但是当参数大到一定程度的时候,突然就能学会了,loss 急剧下降。 具体什么原因都是一些猜测分析,比如彩票假说,当你模型参数量大到一定程度的时候,内部存在多种结构,就像多张彩票,总有一张是能中
- 技术你说的太对了。论坛确实只适合吹牛逼,大部分讨论起来都是漏洞百出。 涌现本来也没什么确切的根因,它只是一种现象。 AI 炼丹师在训练大模型的时候,发现参数小的时候,训练 loss 怎么都下不去,模型学不到东西。但是当参数大到一定程度的时候,突然就能学会了,loss 急剧下降。 具体什么原因都是一些猜测分析,比如彩票假说,当你模型参数量大到一定程度的时候,内部存在多种结构,就像多张彩票,总有一张是能中
- 技术现在是个人都想自己造轮子……程序员就是喜欢折腾啊。我最近也逆向写了个 everything 和 fastcopy ,现在这些软件对前沿大模型来说真的就跟裸奔一样。