llama.cpp docker 镜像pull国内加速地址

目前llama cpp官方提供的llama.cpp提供的docker 镜像下载命令:docker pull ghcr.io/ggml-org/llama.cpp:server-cuda-b6222
服务器下载速度非常的慢。

llama.cpp docker image


比较好的方法是把ghcr.io替换为国内镜像源地址ghcr.nju.edu.cn进行下载:

// 官方命令: docker pull ghcr.io/ggml-org/llama.cpp:server-cuda //国内源地址命令 docker pull ghcr.nju.edu.cn/ggml-org/llama.cpp:server-cuda 

速度快了几十倍,非常节约时间 推荐给大家!

Read more

5分钟部署通义千问2.5-7B-Instruct,AI对话机器人快速上手

5分钟部署通义千问2.5-7B-Instruct,AI对话机器人快速上手 1. 引言:为什么选择通义千问2.5-7B-Instruct? 在当前大模型快速发展的背景下,如何在有限硬件资源下实现高性能、可商用的本地化AI服务成为开发者关注的核心问题。通义千问2.5-7B-Instruct 正是在这一需求驱动下诞生的一款极具竞争力的开源语言模型。 该模型由阿里于2024年9月发布,作为Qwen2.5系列的重要成员,定位为“中等体量、全能型、可商用”的指令微调模型。其70亿参数规模在性能与效率之间取得了良好平衡,尤其适合部署在消费级显卡(如RTX 3060/3090)或边缘设备上,满足企业级应用对响应速度和推理成本的双重要求。 本文将带你从零开始,在5分钟内完成通义千问2.5-7B-Instruct的本地部署,并通过Gradio搭建一个交互式Web界面,实现完整的AI对话功能。无论你是AI初学者还是工程实践者,都能快速上手并投入实际使用。 2. 模型特性解析:技术优势与适用场景 2.1 核心参数与性能表现 特性参数说明参数量70亿(非MoE结构,全权重激活)显存占用FP

使用西门子博途TIA及仿真软件S7-PLCSIM Advanced通过Kepware OPCUA通讯与Fanuc ROBOGUIDE软件连接进行虚拟仿真调试机器人

使用西门子博途TIA及仿真软件S7-PLCSIM Advanced通过Kepware OPCUA通讯与Fanuc ROBOGUIDE软件连接进行虚拟仿真调试机器人

前言 使用ROBOGUIDE软件调试机器人时,与PLC通讯那端的调试使我很头痛,包含激活机器人启动回HOME等功能很难单独使用ROBOGUIDE实现(我想应该归咎于我比较菜),此时又需要建立新的PLC控制FANUC机器人的库就做了尝试用OPC搭建仿真环境的测试。测试成功用起来还不错。 配置TIA程序 ·创建PLC,例1515。开启OPC服务器。 OPC配置如下: 在TIA中为添加Fanuc机器人组态 以上为在TIA中OPC作为服务器的配置。 配置S7-PLCSIM Advanced V3.0  ·建立仿真PLC注意开Online Access。   输入PLC名称和IP地址,启动后将TIA中的PLC程序和配置下载到PLCSIM中。 配置kepware ·由于S7-1500作为OPC服务器,因此需要将kepware设置为客户端 ·先配置OPCUA项目属性 新建客户端配置属性 项目中属性要开允许匿名访问。客户端要输入opc服务器地址就是TIA配置的地址。 ·建立S7-1500通讯的变量 查看变量通讯状态。Quality为良好为通讯正常,Unknow

虚幻版Pico大空间VR入门教程 04 —— PicoOpenXR和PicoXR插件对于PDC串流、SteamVR串流、OpenXR串流对比 和 手势追踪对比

虚幻版Pico大空间VR入门教程 04 —— PicoOpenXR和PicoXR插件对于PDC串流、SteamVR串流、OpenXR串流对比 和 手势追踪对比

省流 串流方式最重要,笔者使用【Pico4UE 企业版】一体机,使用【PicoOpenXR插件+OpenXR插件】【企业串流v2.0的apk+exe应用】和【OpenXR串流方式】进行有线串流, 串流调试时可以正常手势追踪,打包apk和exe的VR手势追踪正常。 文章包含整理的百度云资源、SteamVR串流、不同UE版本的手势追踪对比记录,曾经的踩坑笔记(略长)。 插件文档 PicoXR和PicoOpenXR 插件文档 https://developer-cn.picoxr.com/document/ PicoXR 开发文档 https://developer-cn.picoxr.com/document/unreal/ PicoOpenXR 开发文档 https://developer-cn.picoxr.com/document/unreal-openxr/ 插件下载 PicoXR和PicoOpenXR Pico SDK

AD9361 FPGA纯Verilog驱动:LVDS接口,无依赖库,易于移植与使用

AD9361 FPGA纯Verilog驱动:LVDS接口,无依赖库,易于移植与使用

AD9361 FPGA驱动,纯verilog驱动,lvds接口,没有使用任何依赖库和ip核,方便移植,代码结构清晰,容易使用。 代码在ZYNQ、XILINX K7、Cyclone IV芯片中测试通过。 图1:ILA抓取到的发射端发射的正弦波基带信号; 图2:抓取到的中频信号在MATLAB上绘图; 图3:频谱仪测量的射频信号。 AD9361这颗射频芯片的驱动开发向来是个头疼活儿,尤其是纯Verilog实现LVDS接口的方案。今天咱们来扒一扒这个开箱即用的驱动方案,看看怎么用不到5000行代码搞定全链路通信。 驱动核心分为三个模块:SPI配置引擎、LVDS数据接口、时钟同步电路。SPI模块用状态机实现了自动化的寄存器配置,重点看看这个时钟分频逻辑: always @(posedge clk_50m) begin if(spi_busy) begin clk_div <= clk_div + 1; if(clk_div == SPI_CLK_DIV)