TII 开源 1800 亿参数大模型 Falcon 180B 并上线 Hugging Face

TII 正式在 Hugging Face 推出开源大语言模型 Falcon 180B，包含基础版与聊天版，拥有 1800 亿参数。该模型基于 RefinedWeb 等 3.5 万亿 token 预训练，规模达 Llama 2 的 2.5 倍，在 MMLU 等基准测试中超越 Llama 2 70B 与 GPT-3.5。