前段时间,Meta开源了第三代大语言模型Llama3,在业界,原生Llama的存在具有奠基石的意义,但这些国外的模型对于中文的支持实在不太理想。于是,我花了一点时间对Llama3进行了微调,本期视频,就教会你轻松展开模型验证、转换和量化的实操。
模型下载链接:https://pan.baidu.com/s/1gu808REN4y9lHwsyIZlByg?pwd=jxlf
训练环境:
WSL2 on Windows 11
Ubuntu 22.04
torch = 2.2.2
python=3.12
cuda 11.8