六款大模型应用开发常用工具库

通用文本语义特征提取模型GTE-QWEN

执着于输出下一个Token的大语言模型，如何改造为固定输出长度的Embedding模型。

LLaMA 3的Rust实现

借助Candle中LLaMA 3的高质量Rust代码，可以帮助我们更直观地理解大羊驼架构、注意力与推演缓存机制。

大语言模型输出的罚重操作

Repeat penalty的作用与实现。