Rust
使用Prometheus监控瑞芯微NPU负载
简单高效的瑞芯微NPU负载Prometheus监控指标导出工具。
更早的文章
新手入门
裁剪ONNX模型
按需裁剪ONNX模型，仅保留所需要的部分。
AI
使用LLAMA.CPP推演百川13B大语言模型
脱离PyTorch，使用C++实现百川大语言模型的高效推理。
Kubernetes
在Kubernetes集群部署RTSP流媒体转发服务
使用MediaMTX实现RTSP流媒体转发
Ascend
编译并使用基于华为CANN的ONNXRUNTIME C++库
为ONNXRUNTIME启用CANN支持，以无缝支持华为昇腾计算设备的C++开发。
新手入门
CMake使用MinIO的C++开发SDK
如何编译MINIO开发SDK，并集成在自己的CMake工程中。
AI
Guanaco的秘密QLoRA
Guannaco说低精度也能获得好效果
AI
LoRA撬动大语言模型的杠杆
大语言模型与下游任务的高效桥接方法。
深度学习
Grounding DINO开集物体检测
深度学习
DINO
深度学习
DETR基于Transformer的目标检测
AI
GPT的一生
State of GPT是由OpenAI的Andrej Karpathy在Microsoft Build 2023上发表的演讲。其中详细介绍了GPT模型的生成过程，含金量极高，推荐阅读。
AI
Alpaca指令遵循大语言模型
Alpaca，羊驼家族中最正统的名字，曾经的中文互联网网红。