使用腾讯 Cloud Studio 免费算力部署 Llama3.1 私有化模型
这篇文章主要介绍在自己本地 GPU 性能不足或者没有 GPU 的时候,如何部署体验 Llama3.1。
解决方案
采用腾讯 Cloud Studio 免费算力,结合 Ollama 工具私有化部署 Llama3.1-8B 模型。
1. 注册腾讯 Cloud Studio
注册网址:https://cloud.tencent.com/product/cloudstudio

2. 登录与实名认证
登录之后,如果需要进行实名,就完成实名认证。

3. 免费算力说明
目前每个月有 1800 分钟的免费基础算力,可以用来部署大模型。

4. 创建开发环境
创建的时候应用模板选择 Ollama。

创建完成点击实例进入开发环境。

5. 运行模型
点击终端->新建终端。






