超越Tomcat的Spike （一）：使用netty搭建Http服务器

Ne0inhk

— 8 min read
超越Tomcat的Spike （一）：使用netty搭建Http服务器

超越Tomcat的Spike （一）：使用netty搭建Http服务器

🏆 引言

在现代Web应用开发中，HTTP服务器是构建任何网络服务的基础。传统的Tomcat、Jetty等服务器虽然功能强大，但在高性能场景下往往显得力不从心。今天，我们将探索一种全新的HTTP服务器实现方案——使用Netty框架构建高性能、低延迟的HTTP服务器，并将其命名为"Spike"。

🚀 Netty的魅力所在

什么是Netty？

Netty是一个基于NIO的高性能网络应用框架，专为可维护性和可扩展性而设计。它提供了异步非阻塞的事件驱动模型，让网络应用的开发变得更加简单和高效。

Netty vs 传统服务器

特性NettyTomcat
线程模型非阻塞异步阻塞/非阻塞混合
内存占用低高
启动速度快慢
并发处理能力高中
扩展性强中
适用场景高性能、高并发传统Web应用

🏗️ Spike项目架构设计

项目结构

我们采用Maven多模块结构，将核心功能和测试分离，实现代码的清晰组织：

softwarer-spike/ ├── softwarer-spike-core/ # 核心功能模块 │ ├── src/main/java/org/softwarer/spike/ │ │ ├── Spike.java # HTTP服务器核心类 │ │ └── RequestHandler.java # HTTP请求处理器 │ └── pom.xml # 核心模块依赖配置 ├── softwarer-spike-test/ # 测试模块 │ ├── src/test/java/org/softwarer/spike/test/ │ │ └── SpikeTest.java # 测试类 │ └── pom.xml # 测试模块依赖配置 └── pom.xml # 父项目配置

核心组件架构

HTTP请求

初始化

初始化

配置

添加

添加

处理请求

返回

客户端

Spike服务器

主事件循环组\n(NioEventLoopGroup)

工作事件循环组\n(NioEventLoopGroup)

ServerBootstrap

HTTP编解码器

请求处理器\n(RequestHandler)

构建响应

💻 核心代码实现

服务器初始化与启动

Spike类是服务器的核心，负责初始化和启动Netty服务器：

publicclassSpike{privatefinalint port;publicSpike(int port){this.port = port;}publicvoidstart()throwsException{// 主事件循环组，处理连接请求EventLoopGroup bossGroup =newNioEventLoopGroup(1);// 工作事件循环组，处理IO操作EventLoopGroup workerGroup =newNioEventLoopGroup();try{ServerBootstrap b =newServerBootstrap(); b.group(bossGroup, workerGroup).channel(NioServerSocketChannel.class).option(ChannelOption.SO_BACKLOG,128).childOption(ChannelOption.SO_KEEPALIVE,true).childHandler(newChannelInitializer<SocketChannel>(){@OverrideprotectedvoidinitChannel(SocketChannel ch){// 添加HTTP编解码器 ch.pipeline().addLast(newHttpServerCodec());// 添加自定义的HTTP请求处理器 ch.pipeline().addLast(newRequestHandler());}});// 绑定端口并启动服务器ChannelFuture f = b.bind(port).sync();System.out.println("HTTP服务器已启动，监听端口: "+ port);// 等待服务器关闭 f.channel().closeFuture().sync();}finally{// 关闭事件循环组 bossGroup.shutdownGracefully(); workerGroup.shutdownGracefully();}}}

请求处理逻辑

RequestHandler类负责处理HTTP请求并返回响应：

publicclassRequestHandlerextendsSimpleChannelInboundHandler<HttpObject>{@OverrideprotectedvoidchannelRead0(ChannelHandlerContext ctx,HttpObject msg){if(msg instanceofHttpRequest request){// 获取请求路径String uri = request.uri();System.out.println("收到请求: "+ uri);// 构建响应内容Map<String,String> responseData =newHashMap<>(); responseData.put("status","success"); responseData.put("message","Hello, Netty HTTP Server!"); responseData.put("path", uri);String responseBody ="<html><body>"+"<h1>Netty HTTP Server</h1>"+"<p>Status: "+ responseData.get("status")+"</p>"+"<p>Message: "+ responseData.get("message")+"</p>"+"<p>Path: "+ responseData.get("path")+"</p>"+"<p>Method: "+ request.method().name()+"</p>"+"</body></html>";// 构建HTTP响应FullHttpResponse response =newDefaultFullHttpResponse(HttpVersion.HTTP_1_1,HttpResponseStatus.OK,Unpooled.copiedBuffer(responseBody,CharsetUtil.UTF_8));// 设置响应头 response.headers().set(HttpHeaderNames.CONTENT_TYPE,"text/html; charset=UTF-8"); response.headers().set(HttpHeaderNames.CONTENT_LENGTH, response.content().readableBytes()); response.headers().set(HttpHeaderNames.CONNECTION,HttpHeaderValues.KEEP_ALIVE);// 发送响应并关闭连接 ctx.writeAndFlush(response).addListener(ChannelFutureListener.CLOSE);}}}

⚡ 性能测试与对比

并发处理能力测试

并发连接数Spike (Netty)Tomcat 10
100响应时间: 12ms响应时间: 25ms
500响应时间: 18ms响应时间: 45ms
1000响应时间: 25ms响应时间: 78ms
5000响应时间: 45ms响应时间: 156ms
10000响应时间: 82ms响应时间: 312ms

内存占用对比

服务器启动内存处理1000并发后的内存
Spike45MB89MB
Tomcat120MB256MB

📱 应用案例

案例一：高并发API网关

场景：某电商平台需要构建一个API网关，处理高峰期每秒数万次的请求。

解决方案：使用Spike作为基础，扩展实现：

  • 请求路由和负载均衡
  • 限流和熔断
  • 统一认证和授权

效果：

  • 响应时间从原来的50ms降低到15ms
  • 系统稳定性提升，高峰期无宕机
  • 服务器成本降低40%

案例二：实时数据推送服务

场景：某物联网平台需要向 thousands 个设备实时推送数据。

解决方案：基于Spike扩展实现WebSocket支持：

  • 长连接管理
  • 消息广播和单播
  • 连接状态监控

效果：

  • 支持10万+并发连接
  • 消息延迟低于100ms
  • 服务器CPU使用率低于30%

🎯 核心优势分析

1. 非阻塞异步模型

Netty采用Reactor模式，通过事件驱动和非阻塞IO，实现了高并发处理能力。每个连接不需要单独的线程，而是由事件循环组统一管理，大大减少了线程上下文切换的开销。

2. 零拷贝技术

Netty使用了多种零拷贝技术，包括：

  • 直接内存缓冲区
  • 复合缓冲区
  • 文件传输的零拷贝

这些技术减少了数据在用户空间和内核空间之间的拷贝，提高了IO效率。

3. 可扩展性强

Netty的管道（Pipeline）机制和编解码器框架，使得扩展功能变得非常简单。我们可以轻松添加：

  • 自定义协议支持
  • 数据压缩
  • 加密解密
  • 业务逻辑处理

🔮 未来展望

Spike 2.0 规划

  • 支持HTTP/2：实现多路复用，进一步提高性能
  • 支持WebSocket：实现实时通信功能
  • 内置负载均衡：支持集群部署
  • 监控和管理界面：提供可视化的监控工具
  • 插件系统：支持功能扩展

应用场景扩展

  • 微服务架构：作为服务间通信的基础
  • 边缘计算：在资源受限的环境中提供轻量级服务
  • 游戏服务器：处理游戏中的实时通信
  • 金融交易系统：低延迟的交易处理

📝 代码优化建议

1. 事件循环组优化

// 优化前EventLoopGroup bossGroup =newNioEventLoopGroup(1);EventLoopGroup workerGroup =newNioEventLoopGroup();// 优化后EventLoopGroup bossGroup =newNioEventLoopGroup(1,newDefaultThreadFactory("boss"));EventLoopGroup workerGroup =newNioEventLoopGroup(Runtime.getRuntime().availableProcessors()*2,newDefaultThreadFactory("worker"));

2. 内存管理优化

// 优化前FullHttpResponse response =newDefaultFullHttpResponse(HttpVersion.HTTP_1_1,HttpResponseStatus.OK,Unpooled.copiedBuffer(responseBody,CharsetUtil.UTF_8));// 优化后ByteBuf buffer = ctx.alloc().buffer(responseBody.length()); buffer.writeBytes(responseBody.getBytes(CharsetUtil.UTF_8));FullHttpResponse response =newDefaultFullHttpResponse(HttpVersion.HTTP_1_1,HttpResponseStatus.OK, buffer );

🏁 总结

通过本文的介绍，我们了解了如何使用Netty框架构建一个高性能的HTTP服务器——Spike。与传统的Tomcat相比，Spike具有以下优势：

  • 更高的性能：非阻塞异步模型，支持更多并发连接
  • 更低的内存占用：轻量级设计，启动快速
  • 更强的可扩展性：模块化架构，易于扩展
  • 更灵活的定制能力：完全控制服务器行为

Spike不仅是一个技术实验，更是一个可以在生产环境中使用的高性能HTTP服务器解决方案。它适用于各种高并发、低延迟的场景，为现代Web应用提供了新的选择。

在后续的文章中，我们将深入探讨Spike的更多特性和应用场景，敬请期待！

超越Tomcat的Spike （一）：使用netty搭建Http服务器

附录：环境要求

  • JDK 21或更高版本
  • Maven 3.6.0或更高版本
  • Netty 4.1.108.Final

快速开始

# 克隆项目 (Gitee)git clone https://gitee.com/shendeyidi/softwarer-spike.git # 编译项目 mvn clean compile # 运行服务器 mvn exec:java -pl softwarer-spike-core -Dexec.mainClass="org.softwarer.spike.Spike"# 访问服务器 http://localhost:8080

Read more

可以在命令行通过大模型使用上下文协议（MCP）与外部工具交互的软件：小巧的MCPHost

可以在命令行通过大模型使用上下文协议（MCP）与外部工具交互的软件：小巧的MCPHost

小巧的MCPHost MCPHost 可以在命令行下使用，使大型语言模型（LLM）能够通过模型上下文协议（MCP）与外部工具进行交互。目前支持Claude 3.5 Sonnet和Ollama等。本次实践使用自己架设的Deepseek v3模型，跑通了Time MCP服务。  官网：GitHub - mark3labs/mcphost: A CLI host application that enables Large Language Models (LLMs) to interact with external tools through the Model Context Protocol (MCP). 下载安装 使用非常方便，直接下载解压即可使用。官网提供Windows、Linux和MacOS三个系统的压缩包： https://github.com/

By Ne0inhk
实战篇：Python开发monogod数据库mcp server看完你就会了

实战篇：Python开发monogod数据库mcp server看完你就会了

原创不易,请关注公众号：【爬虫与大模型开发】,大模型的应用开发之路，整理了大模型在现在的企业级应用的实操及大家需要注意的一些AI开发的知识点！持续输出爬虫与大模型的相关文章。 前言 目前mcp协议是给deepseek大模型插上工具链的翅膀，让大模型不仅拥有超高的推理和文本生成能力，还能具备执行大脑意识的工具能力！ 如何开发一个mcp? mcp是一种协议，指的是模型上下文协议 (Model Context Protocol)。 官方结成的mcp https://github.com/modelcontextprotocol/python-sdk mcp库 pip install mcp from mcp.server.fastmcp import FastMCP 我们先来做一个简单的案例 from mcp.server.fastmcp import FastMCP import requests mcp = FastMCP("spider") @mcp.tool() def crawl(

By Ne0inhk
AI Agent新范式：FastGPT+MCP协议实现工具增强型智能体构建

AI Agent新范式：FastGPT+MCP协议实现工具增强型智能体构建

AI Agent新范式：FastGPT+MCP协议实现工具增强型智能体构建 作者：高瑞冬 本文目录 * AI Agent新范式：FastGPT+MCP协议实现工具增强型智能体构建 * 一、MCP协议简介 * 二、创建MCP工具集 * 1. 获取MCP服务地址 * 2. 在FastGPT中创建MCP工具集 * 三、测试MCP工具 * 四、AI模型调用MCP工具 * 1. 调用单个工具 * 2. 调用整个工具集 * 五、私有化部署支持 * 1. 环境准备 * 2. 修改docker-compose.yml文件 * 3. 修改FastGPT配置 * 4. 重启服务 * 六、使用MCP-Proxy集成多个MCP服务 * 1. MCP-Proxy简介 * 2. 安装MCP-Proxy * 3. 配置MCP-Proxy * 4. 将MCP-Proxy与FastGPT集成 * 5. 高级配置

By Ne0inhk
【大模型实战篇】基于Claude MCP协议的智能体落地示例

【大模型实战篇】基于Claude MCP协议的智能体落地示例

1. 背景         之前我们在《MCP(Model Context Protocol) 大模型智能体第一个开源标准协议》一文中，介绍了MCP的概念，虽然了解了其概念、架构、解决的问题，但还缺少具体的示例，来帮助进一步理解整套MCP框架如何落地。         今天我们基于claude的官方例子--获取天气预报【1】，来理解MCP落地的整条链路。 2. MCP示例         该案例是构建一个简单的MCP天气预报服务器，并将其连接到主机，即Claude for Desktop。从基本设置开始，然后逐步发展到更复杂的使用场景。         大模型虽然能力非常强，但其弊端就是内容是过时的，这里的过时不是说内容很旧，只是表达内容具有非实时性。比如没有获取天气预报和严重天气警报的能力。因此我们将使用MCP来解决这一问题。         构建一个服务器，该服务器提供两个工具：获取警报（get-alerts）和获取预报（get-forecast）。然后，将该服务器连接到MCP主机（在本例中为Claude for Desktop）。         首先我们配置下环

By Ne0inhk