使用LLAMA.CPP推演百川13B大语言模型

两个概念的解释：

1. 百川13B。这是百川大语言模型的一个变体。百川大语言模型是由来自中国的百川公司开发的大语言模型系列，它们与LLAMA系列共享相同的设计，在某些模块上做了额外的改进。而最关键的是这款模型在预训练阶段就使用了大量的中文语料，这使得它在处理中文语言时更具优势。
2. LLAMA.CPP。这是一款使用C++语言开发的LLAMA模型推演库。可以使模型推演将不再依赖PyTorch。

由于百川与LLAMA在结构上高度同源，LLAMA.CPP可以支持百川模型推演。以下为具体实现过程。