Llama3 example:修订历史

跳到导航 跳到搜索

差异选择:选中要对比的版本的单选按钮,按Enter键或下方的按钮。
说明:(当前)=与最后版本之间的差异,(之前)=与上一版本之间的差异,=小编辑。

2024年8月7日 (星期三)

2024年8月2日 (星期五)

  • 当前之前 09:292024年8月2日 (五) 09:29阿奔 讨论 贡献 17,970字节 +17,970 创建页面,内容为“2024 年 4 月,Meta 正式发布了开源大模型 Llama 3,包括 8B 和 70B 两个参数量版本。400B 参数量的版本计划在 2024 年 7 月 23 日发布。Llama-3 支持 8K 长文本,并采用了一个编码效率更高的 tokenizer(sentencepiece -> tiktoken, GPT4 使用 tiktoken),词表大小为 128K。在预训练数据方面,Llama-3 使用了超过 15T token 的语料。 2024 年 7 月 24 日,Meta 正式发布新一代开源大模型 Ll…”