AI
LLaMA 3的Rust实现
借助Candle中LLaMA 3的高质量Rust代码，可以帮助我们更直观地理解大羊驼架构、注意力与推演缓存机制。
AI
大语言模型输出的罚重操作
Repeat penalty的作用与实现。
AI
Azure OpenAI的定价与使用前提
GPT有几种？
AI
使用LLAMA.CPP推演百川13B大语言模型
脱离PyTorch，使用C++实现百川大语言模型的高效推理。
AI
Guanaco的秘密QLoRA
Guannaco说低精度也能获得好效果
AI
LoRA撬动大语言模型的杠杆
大语言模型与下游任务的高效桥接方法。
AI
GPT的一生
State of GPT是由OpenAI的Andrej Karpathy在Microsoft Build 2023上发表的演讲。其中详细介绍了GPT模型的生成过程，含金量极高，推荐阅读。
AI
Alpaca指令遵循大语言模型
Alpaca，羊驼家族中最正统的名字，曾经的中文互联网网红。
AI
Vicuna小羊驼也是大语言模型
Vicuna是什么，以及如何获取与转换权重。
AI
LLaMA大语言模型
什么是LLaMA，如何获取权重文件以及HuggingFace格式转换。