Llama3

在个人服务器上部署llama3 8B模型

最近在各大平台上都被“llama”和“AI”这两个词刷屏,我一开始还好奇怎么羊驼能跟AI也能联系到一起,后来才知道llama是Meta的一个开源AI大模型。最近他们刚开源了llama3模型,估计闻到血腥味的国内AI公司们马上又要迎来一波技术突破。不过有个信息吸引到了我,树莓派也能本地部署llama 3模型,因此我决定就不等国产AI大模型突破了,我自己先捣腾捣腾。