您可以从这里下载模型,或者您也可以自行将 PyTorch/SafeTensor 模型转换为 mllm 模型。
在转换模型前,您需要安装 Python(3.8+),并安装所需的软件包。
转换单文件 PyTorch 模型
您可以按照下面的说明转换单个文件的 PyTorch 模型。
转换多文件 PyTorch 模型
您可以按照下面的说明转换多文件的 PyTorch 模型。
转换单文件 SafeTensor 模型
您可以按照下面的说明转换单个文件的 SafeTensor 模型。
转换多文件 SafeTensor 模型
您可以从Hugging Face下载模型,并按照下面的说明转换多文件的 SafeTensor 模型。