所有公开日志
跳到导航
跳到搜索
所有牛奶河Wiki公开日志的联合展示。您可以通过选择日志类型、输入用户名(区分大小写)或相关页面(区分大小写)筛选日志条目。
- 2024年8月2日 (五) 09:29 阿奔 讨论 贡献创建了页面Llama3 example (创建页面,内容为“2024 年 4 月,Meta 正式发布了开源大模型 Llama 3,包括 8B 和 70B 两个参数量版本。400B 参数量的版本计划在 2024 年 7 月 23 日发布。Llama-3 支持 8K 长文本,并采用了一个编码效率更高的 tokenizer(sentencepiece -> tiktoken, GPT4 使用 tiktoken),词表大小为 128K。在预训练数据方面,Llama-3 使用了超过 15T token 的语料。 2024 年 7 月 24 日,Meta 正式发布新一代开源大模型 Ll…”)