
商业 · zh
什么?一个人就能训练大模型,指标还能硬刚K3V4?
训练一个5000亿参数的大模型,需要多少人? AI行业的经验是,至少几十人,大厂动辄投入数百人。 但硅谷一家叫Mirendil的初创公司,把这个数字压缩到了极致——只要一个人。 最近,Mirendil在官网发了一篇文章,标题非常耸人听闻:《无需预训练团队的大规模预训练》。 文章标题下面列着三个数字: 1名研究员、三个半月、成本不到1000万美元。 这些钱涵盖了Agent的token消耗、数据处理和全部研究实验成本。只靠这些投入,他们真的把千亿参数的模型训出来了:Mirendil-Base,一个1000亿到 5000亿参数区间的编码专用基座模型。 Mirendil在文章中称,新模型超过99%的代码不是人写的,而是Agent写的。 人类研究员只需要负责确定方向、下判断,在关键节点踩刹车。…




