Latest
解决三大问题,实现GTE-QWEN的Rust推理
使用Rust语言实现通义千问的文本嵌入式特征模型。了解特征提取模型与因果语言模型在推理时的差异,以及输入数据的预处理技巧。
通用文本语义特征提取模型GTE-QWEN
执着于输出下一个Token的大语言模型,如何改造为固定输出长度的Embedding模型。
六款大模型应用开发常用工具库
Rust图形界面编程之Tauri
面向桌面环境的Rust编程
LLaMA 3的Rust实现
借助Candle中LLaMA 3的高质量Rust代码,可以帮助我们更直观地理解大羊驼架构、注意力与推演缓存机制。
大语言模型输出的罚重操作
Repeat penalty的作用与实现。
LLaMA 3的Rust推理
借助Candle实现LLaMA 3的快速推理
Rust深度学习框架Candle
师出名门HuggingFace
Rust深度学习框架Burn
Rust还年轻,这意味着成熟可用的基础组件在数量上少于其它语言。在深度学习这个领域如果希望使用Rust,那么可以考虑一下Burn或者Candle。这篇文章将简单介绍一下Burn。
代码AI会取代程序员吗?
人们本以为人工智能会首先将人类从繁重的体力劳动中解放出来,而不曾想这一波变革中脑力劳动最先受到了冲击。
极简LaTeX简历模板
与新质生产力相关的公司
使用Rust开发ChatGPT微信接入服务
如何在微信中与ChatGPT聊天。