node-llama-cpp安装与配置：Windows、Linux和Mac全平台教程 【免费下载链接】node-llama-cppRun AI models locally on your machine with node.js bindings for llama.cpp. Force a JSON schema on the model output on the generation le…
node-llama-cpp是一个基于llama.cpp的Node.js绑定库，让你能够在本地机器上运行AI模型，并在生成级别强制模型输出符合JSON模式。本文将为你提供Windows、Linux和Mac全平台的安装与配置教程，帮助你快速上手这款强大的AI工具。
在开始安装node-llama-cpp之前，请确保你的系统满足以下要求：
node-llama-cpp提供了预构建的二进制文件，适用于macOS、Linux和Windows系统，因此安装过程非常简单。只需在终端中运行以下命令：
npm install node-llama-cpp
这条命令会自动下载并安装适合你当前系统的预构建二进制文件。如果你的系统没有可用的预构建二进制文件，node-llama-cpp会自动下载llama.cpp的源代码并尝试从源码构建。
在Windows系统上，如果你需要从源码构建node-llama-cpp，需要安装以下构建工具：
你可以通过WinGet安装所有依赖：
winget install --id Microsoft.VisualStudio.2022.BuildTools --force --override "--add Microsoft.VisualStudio.Component.VC.CMake.Project Microsoft.VisualStudio.Component.VC.CoreBuildTools Microsoft.VisualStudio.Component.VC.Tools.x86.x64 Microsoft.VisualStudio.Component.VC.ATL Microsoft.VisualStudio.Component.VC.ATLMFC Microsoft.VisualStudio.Component.VC.Llvm.ClangToolset Microsoft.VisualStudio.Component.VC.Llvm.Clang Microsoft.VisualStudio.Component.VC.Redist.14.Latest Microsoft.Component.VC.Runtime.UCRTSDK Microsoft.VisualStudio.Component.Windows10SDK Microsoft.VisualStudio.Component.Windows10SDK.20348"
WinGet是Windows 11和现代Windows 10版本的内置工具。
或者，你也可以手动下载并安装Visual C++ Build Tools，确保勾选以下组件：
如果你使用的是Windows on Arm系统，需要安装额外的构建工具：
winget install --id Microsoft.VisualStudio.2022.BuildTools --force --override "--add Microsoft.VisualStudio.Component.VC.CMake.Project Microsoft.VisualStudio.Component.VC.CoreBuildTools Microsoft.VisualStudio.Component.VC.Tools.x86.x64 Microsoft.VisualStudio.Component.VC.Tools.ARM64 Microsoft.VisualStudio.Component.VC.ATL Microsoft.VisualStudio.Component.VC.ATL.ARM64 Microsoft.VisualStudio.Component.VC.ATLMFC Microsoft.VisualStudio.Component.VC.MFC.ARM64 Microsoft.VisualStudio.Component.VC.Llvm.ClangToolset Microsoft.VisualStudio.Component.VC.Llvm.Clang Microsoft.VisualStudio.Component.VC.Redist.14.Latest Microsoft.Component.VC.Runtime.UCRTSDK Microsoft.VisualStudio.Component.Windows10SDK Microsoft.VisualStudio.Component.Windows10SDK.20348"
在Linux系统上，你需要安装以下依赖：
对于Debian/Ubuntu系统，可以使用以下命令安装：
sudo apt-get update sudo apt-get install build-essential cmake git libstdc++6 libgomp1
如果需要从源码构建，可以使用以下命令：
npx node-llama-cpp source download npx node-llama-cpp source build
在Mac上，你需要安装Xcode命令行工具：
xcode-select --install
使用Homebrew安装必要的依赖：
brew install cmake git
如果需要从源码构建，可以使用以下命令：
npx node-llama-cpp source download npx node-llama-cpp source build
为了确保在运行npm install后自动下载模型，建议在package.json中设置postinstall脚本。详细方法可以参考官方文档中的Using the CLI部分。
如果构建失败，请确保你已安装所有必要的构建工具和依赖。对于特定平台的问题，可以参考building-from-source文档。
如果在Windows上遇到权限错误，确保不要使用管理员账户运行npm install，然后用普通用户账户运行代码。
在Windows上构建Electron应用时，如果遇到EPERM: operation not permitted错误，需要启用开发者模式以允许创建符号链接。
通过本教程，你已经了解了如何在Windows、Linux和Mac系统上安装和配置node-llama-cpp。现在你可以开始在本地运行AI模型，享受高效的AI推理体验了。如果需要更多帮助，可以查阅项目的官方文档或提交issue寻求支持。
祝你使用愉快！ 🚀
微信公众号「极客日志」，在微信中扫描左侧二维码关注。展示文案：极客日志 zeeklog
解析常见 curl 参数并生成 fetch、axios、PHP curl 或 Python requests 示例代码。 在线工具，curl 转代码在线工具，online
将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具，Base64 字符串编码/解码在线工具，online
将字符串、文件或图像转换为其 Base64 表示形式。 在线工具，Base64 文件转换器在线工具，online
将 Markdown（GFM）转为 HTML 片段，浏览器内 marked 解析；与 HTML转Markdown 互为补充。 在线工具，Markdown转HTML在线工具，online
将 HTML 片段转为 GitHub Flavored Markdown，支持标题、列表、链接、代码块与表格等；浏览器内处理，可链接预填。 在线工具，HTML转Markdown在线工具，online
通过删除不必要的空白来缩小和压缩JSON。 在线工具，JSON 压缩在线工具，online