本文在以下博客的基础上进行进一步的补充。VsCode远程连接服务器后安装Github Copilot无法使用_vscode copilot chat用不了-ZEEKLOG博客
在vscode中，通过ssh或docker等连接远程服务器时，在远程窗口中可能会无法使用copilot，提示处于脱机状态。
只需要在设置(setting)中搜索"extension kind"，点击settings.json；
进入settings.json后，找到"remote.extensionKind"，加入如下"Github."开头的4行代码即可。
重启远程连接后，即可畅通使用copilot的ask和agent模式，也可以进行代码补全。
第1步：安装环境 git clone https://github.com/hiyouga/LLaMA-Factory.git cd LLaMA-Factory # 推荐使用 conda conda create -n llama-factory python=3.10 conda activate llama-factory pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118 pip install -r requirements.txt pip install -e ".[torch,metrics]" ⚠️ 注意：推荐使用
文章目录 * 1. 引言：为什么你的代码助手总是“差点意思”？——一场凌晨 2 点的生产力惨案 * 2. 核心洞察：代码是图，不是文本 —— 为什么传统切分必“翻车”？ * 2.1 “文本刀法”的三大原罪 * 1. 语义连贯性被物理斩断（Semantic Decapitation） * 2. 噪声泛滥与上下文窗口的极度浪费（Context Pollution） * 3. 依赖缺失：硬伤中的硬伤（Missing Dependencies） * 3. 技术范式转移：引入 Tree-sitter 与 AST 结构化索引 * 3.1 降维打击的武器：Tree-sitter * 3.2 节点元数据（Metadata）建模：构建代码知识图谱 * 3.3
ChatGLM-6B智能写作助手开发指南 1. 引言 你有没有过这样的经历？面对空白的文档，脑子里有无数想法，但就是不知道从何下笔。写工作报告时，总觉得语言干巴巴的，缺乏感染力；写营销文案时，绞尽脑汁也想不出吸引人的标题；写技术文档时，又担心表达不够专业准确。 如果你也有这些困扰，那么今天要聊的这个话题可能会让你眼前一亮。基于ChatGLM-6B开发一个智能写作助手，听起来可能有点技术含量，但实际上并没有想象中那么复杂。这个助手不仅能帮你生成各种文体的内容，还能检查语法错误、优化表达风格，甚至根据你的需求调整语气和长度。 我最近就在自己的项目中尝试了这套方案，用下来感觉确实能节省不少时间。特别是那些重复性的写作任务，比如写产品介绍、整理会议纪要、生成邮件模板等等，现在基本上交给助手就能搞定，我只需要做最后的润色和调整。 接下来，我就详细分享一下如何从零开始搭建这样一个智能写作助手，包括环境部署、功能开发、实际应用等各个环节。无论你是开发者想要集成写作功能，还是内容创作者想要提升效率，相信都能从中找到有用的信息。 2. ChatGLM-6B模型简介 在开始动手之前，我们
小显存福音：LLaMA Factory+QLoRA微调70B模型实测 对于许多研究者来说，想要在消费级显卡上实验大参数模型一直是个难题。常规方法往往连模型加载都做不到，更别提进行微调了。本文将介绍如何使用LLaMA Factory框架结合QLoRA技术，在有限显存条件下实现对70B大模型的微调。这类任务通常需要GPU环境，目前ZEEKLOG算力平台提供了包含该镜像的预置环境，可快速部署验证。 为什么需要LLaMA Factory+QLoRA 大模型微调一直是AI研究的热点，但面临两个主要挑战： * 显存需求大：70B参数的模型在FP16精度下就需要140GB显存，远超消费级显卡容量 * 技术门槛高：需要手动实现量化、梯度检查点等优化技术 LLaMA Factory框架通过以下方式解决了这些问题： * 内置QLoRA技术：通过低秩适配器大幅减少可训练参数 * 自动优化：集成量化、梯度检查点等显存优化技术 * 开箱即用：预置多种微调方法和数据集 环境准备与镜像部署 在开始前，我们需要准备一个支持CUDA的GPU环境。以下是具体步骤： 1. 选择包含LLaM