更为强大的Llama 4 Behemoth仍在训练中 ... Llama 4的内部模型性能始终无法达到开源SOTA（State-of-the-Art，顶尖水平）基准，且差距明显。为达成目标 ...

此外，Meta还预览了其迄今最强大最智能的模型——Llama 4 Behemoth，是“新模型中的教师”。 Llama 4模型是Llama系列模型中首批采用混合专家（MoE）架构的模型。这一模型也是DeepSeek系列模型采用的架构，与传统的稠密模型相比，在MoE架构中，单独的token只会激活全部 ...

对标 GPT-4o，性能不逊色，推理成本仅为其十分之一； • Behemoth：2T 参数，288B激活，16 专家 MoE，不部署、不开放，仅用于训练阶段，为 Scout 和 Maverick 生成训练数据。 一个用、一主力、一教学，不卷彼此，也不试图通吃所有任务。 讲道理，看这个发布的时候 ...

Llama 4 Scout，激活17B，16个专家，109B参数； Llama 4 Maverick，激活17B，128个专家，402B参数； Llama 4 Behemoth，激活288B，16个专家，2T参数。 Llama 4发布后排名 ...

对标 GPT-4o，性能不逊色，推理成本仅为其十分之一 • Behemoth：2T 参数，288B激活，16 专家 MoE，不部署、不开放，仅用于训练阶段，为 Scout 和 Maverick ...

这是Meta首个基于MoE架构模型系列，目前共有三个款： Llama 4 Scout、Llama 4 Maverick、Llama 4 Behemoth。 最后一个尚未推出，只是预告，但Meta已经毫不避讳地 ...

平台声明：该文观点仅代表作者本人，搜狐号系信息发布平台，搜狐仅提供信息存储空间服务。