用Selenium实现一个免费的Web搜索API服务

优质文章学习记录

— 11 min read
用Selenium实现一个免费的Web搜索API服务

用Selenium实现一个免费的Web搜索API服务

一、引言：为什么我们需要这个工具？

在AI智能体（Agents）飞速发展的今天，让它们能够“联网思考”已成为刚需。想象一下，你的AI助手不仅能回答训练数据中的问题，还能实时获取最新的新闻、股价、科研成果——这就像给盲人恢复了视力。

然而，现实很骨感：主流的搜索API服务（如Google Search API、Bing Search API等）往往需要付费注册，有的还有严格的调用限制。对于个人开发者、学生或小型项目来说，这些门槛可能让人望而却步。

本文将介绍如何利用 Selenium（一个流行的浏览器自动化工具）搭建一个完全免费的Web搜索API服务，让你的AI智能体也能轻松获取实时网络信息。

二、核心思路：模拟人类，获取数据

我们的解决方案基于一个简单而有效的想法：如果AI不能直接调用搜索API，那我们就让它“像人一样使用浏览器”。

具体流程如下：

  1. 使用Selenium启动一个“隐形”的浏览器（无头模式）
  2. 访问Bing的Copilot搜索页面
  3. 从页面中提取、整理搜索结果
  4. 通过一个简单的Web API将结果返回给调用者

这种方法绕过了官方API的限制，直接与搜索引擎的公开界面交互，实现了“曲线救国”。

环境搭建参考

三、分步实现

1、搭建搜索服务端（server.py）

服务端的核心是一个Flask Web应用，它接收搜索请求，用Selenium执行搜索，然后返回结果。

import datetime from tqdm import tqdm import os import time import json import re from selenium import webdriver from selenium.webdriver.support.wait import WebDriverWait from selenium.webdriver.support import expected_conditions as EC from selenium.webdriver.common.by import By from selenium.webdriver.chrome.options import Options import urllib.parse from flask import Flask, jsonify, request from flask_cors import CORS import traceback app = Flask(__name__) CORS(app)# 允许跨域请求# 设置Chrome选项 chrome_options = Options() chrome_options.add_argument('--headless')# 无头模式，可选 chrome_options.add_argument('--disable-gpu')# 禁用GPU加速 chrome_options.add_argument('--no-sandbox') chrome_options.add_argument('--enable-features=AllowSoftwareGLFallbackDueToCrashes,AllowSwiftShaderFallback') chrome_options.add_argument('--enable-unsafe-swiftshader') chrome_options.add_argument('--disable-dev-shm-usage') chrome_options.add_argument('--disable-blink-features=AutomationControlled') chrome_options.add_experimental_option("excludeSwitches",["enable-automation"]) chrome_options.add_experimental_option('useAutomationExtension',False) chrome_options.add_argument('--user-agent=Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/120.0.0.0 Safari/537.36') chrome_options.add_argument('--disable-extensions')# 禁用扩展 chrome_options.add_argument('--disable-infobars')# 禁用信息栏 prefs ={'profile.managed_default_content_settings.images':2,# 2 表示禁止加载图片} chrome_options.add_experimental_option('prefs', prefs)defget_result(wait,driver): combined_texts=[] combined_text=""# Bing的搜索结果放在iframe中，需要切换进去 driver.switch_to.default_content() iframes = driver.find_elements(By.TAG_NAME,"iframe")try:for i,iframe inenumerate(iframes): src=iframe.get_attribute('src')if src.startswith("https://www.bing.com/search"): driver.switch_to.frame(iframe) wait.until(EC.presence_of_all_elements_located((By.XPATH,"//div[contains(@class, 'answer_container')]"))) answer_elements = driver.find_elements(By.XPATH,"//div[contains(@class, 'answer_container')]")if answer_elements:for element in answer_elements: span_elements = element.find_elements(By.TAG_NAME,"span")if span_elements: span_texts =[span.text for span in span_elements if span.text.strip()] combined_text ='\n'.join(span_texts) combined_texts.append(combined_text) combined_text="\n".join(combined_texts).replace("查看所有链接","")except:passreturn combined_text defsearch_impl(key_world ="介绍一下中国的首都"): driver = webdriver.Chrome(options=chrome_options) wait = WebDriverWait(driver,5) key_world_url_encoded = urllib.parse.quote(key_world) url =f"https://www.bing.com/copilotsearch?q={key_world_url_encoded}" t0=time.time() driver.delete_all_cookies() driver.get(url)for i inrange(30): combined_text = get_result(wait,driver)print(len(combined_text))iflen(combined_text)>4:break time.sleep(1) t1=time.time() output_data ={"success":True,"message":combined_text,"query": key_world,"duration": t1-t0,"url": driver.current_url,"page_title": driver.title } driver.quit()return output_data @app.route("/search", methods=["POST"])defsearch():try: data = request.get_json()ifnot data:return jsonify({"success":False,"message":"params invalid"}),400 key_world = data.get("query") body=search_impl(key_world)return jsonify(body),200except Exception as e: traceback.print_exc()return jsonify({"success":False,"message":f"服务器内部错误: {str(e)}"}),500if __name__ =="__main__": app.run(host="0.0.0.0", port=5000, debug=True)

为什么要用无头模式？

  • 服务器通常没有图形界面
  • 减少资源消耗，运行更高效
  • 避免弹出浏览器窗口干扰其他进程

为什么需要等待机制？

  • 网络速度和服务器响应时间不确定
  • 页面元素需要时间加载完成
  • 避免在内容加载前就尝试提取（会导致空结果）

2、创建客户端（client.py）

客户端是一个简单的Python脚本，用于测试我们的搜索服务。

import requests import json defsend_search_request(query, timeout=30):""" 发送搜索请求 Args: query: 查询字符串 timeout: 超时时间（秒） Returns: 响应结果或错误信息 """ url ="http://localhost:5000/search"try: response = requests.post( url, json={"query": query}, headers={"Content-Type":"application/json"}, timeout=timeout ) response.raise_for_status()# 如果状态码不是200，抛出异常# 尝试解析JSON响应try:return response.json()except json.JSONDecodeError:return{"text": response.text,"status_code": response.status_code}except requests.exceptions.Timeout:return{"error":"请求超时"}except requests.exceptions.ConnectionError:return{"error":"连接失败，请检查服务是否启动"}except requests.exceptions.RequestException as e:return{"error":f"请求异常: {str(e)}"}# 使用示例if __name__ =="__main__": result = send_search_request("获取最新的AI咨询")print(json.dumps(result, indent=2, ensure_ascii=False))

四、如何运行？

1. 启动服务端

打开终端，运行：

python server.py

如果一切正常，你会看到类似下面的输出：

 * Serving Flask app 'server' * Debug mode: on * Running on all addresses (0.0.0.0) * Running on http://127.0.0.1:5000 * Running on http://[你的IP地址]:5000

2. 测试客户端

在另一个终端中，运行：

python client.py

输出

{"duration":4.231590747833252, "message":"。GPT Image 1.5 在图像生成中实现详细特征保留与光线精准渲染\n。GPT\nImage\n1.5\n在图像生成中实现详细特征保留与光线精准渲染\n。\nAnthropic Claude系列：发布Claude Opus 4.6与Claude Cowork，支持百万token上下文、代码编译及零日漏洞自发现能力\nAnthropic\nClaude系列\n：发布Claude\nOpus\n4.6与Claude\nCowork，支持百万token上下文、代码编译及零日漏洞自发现能力\n。\n通义千问 Qwen 系列：开源 Qwen3-TTS、Qwen3-Coder-Next、Qwen3-VL-Embedding，覆盖语音生成、编程与多模态检索场景\n通义千问\nQwen\n系列\n：开源\nQwen3-TTS、Qwen3-Coder-Next、Qwen3-VL-Embedding，覆盖语音生成、编程与多模态检索场景\n。\n多模态与视频AI：可灵AI 3.0和2.6版本实现音画同步、自动分镜控制，PixVerse V5.5可在几秒内生成导演级多镜头短片\n多模态与视频AI\n：可灵AI\n3.0和2.6版本实现音画同步、自动分镜控制，PixVerse\nV5.5可在几秒内生成导演级多镜头短片\n。美团LongCat系列与Vidi2显著提升视频编辑和理解能力\n。美团LongCat系列与Vidi2显著提升视频编辑和理解能力\n。\n端侧与嵌入式AI：MiniMax、智谱GLM系列、阿里通义Fun-Audio-Chat、腾讯混元3D Studio 支持本地计算，提升端侧推理效率，支持音乐、语音、文本、图像等多模态任务\n端侧与嵌入式AI\n：MiniMax、智谱GLM系列、阿里通义Fun-Audio-Chat、腾讯混元3D\nStudio\n支持本地计算，提升端侧推理效率，支持音乐、语音、文本、图像等多模态任务\n。\n行业企业与融资动态\n港股上市与融资：MiniMax、智谱AI纷纷启动或完成港股IPO，融资数额达数十亿港元，推动全球化布局与算力扩展\n港股上市与融资\n：MiniMax、智谱AI纷纷启动或完成港股IPO，融资数额达数十亿港元，推动全球化布局与算力扩展\n。\nAI创业与投资：xAI完成200亿美元E轮融资，Meta、迪士尼、亚马逊、英伟达等加码投入AI应用及硬件\nAI创业与投资\n：xAI完成200亿美元E轮融资，Meta、迪士尼、亚马逊、英伟达等加码投入AI应用及硬件\n。国内新型AI公司如DeepWisdom、Vidu、Kimi、Luma AI、RockFlow等也完成战略融资\n。国内新型AI公司如DeepWisdom、Vidu、Kimi、Luma\nAI、RockFlow等也完成战略融资\n。\n开源社区发展：面壁智能、Mistral AI、阿里Qwen、谷歌Gemini 3 Flash等项目开源，推动算法、模型和工具的全民可用性\n开源社区发展\n：面壁智能、Mistral\nAI、阿里Qwen、谷歌Gemini\n3\nFlash等项目开源，推动算法、模型和工具的全民可用性\n。\nAI应用趋势\n办公与生产力：AgentOS、扣子2.0、MiniMax Agent 2.0、ChatExcel等智能体平台，实现办公自动化、代码协作和科研辅助\n办公与生产力\n：AgentOS、扣子2.0、MiniMax\nAgent\n2.0、ChatExcel等智能体平台，实现办公自动化、代码协作和科研辅助\n。\n多模态交互与智能助手：蚂蚁“灵光”、京东AI购、Meta WorldGen、OpenAI购物研究等，推动AI在现实生活场景的便利化应用\n多模态交互与智能助手\n：蚂蚁“灵光”、京东AI购、Meta\nWorldGen、OpenAI购物研究等，推动AI在现实生活场景的便利化应用\n。\n个性化与自动化生成：AI视频、音乐、图像、3D内容生成实现自动化与定制化生产，支持多语言、角色扮演及场景复现\n个性化与自动化生成\n：AI视频、音乐、图像、3D内容生成实现自动化与定制化生产，支持多语言、角色扮演及场景复现\n。\n推荐获取平台\nAI工具集：实时更新产业新闻、融资动态、产品发布，覆盖多模态、智能体及工具类AI应用\nAI工具集\n：实时更新产业新闻、融资动态、产品发布，覆盖多模态、智能体及工具类AI应用\n。\nAIbase.cn：每日AI日报、热点资讯及产品数据库，内容专业全面\nAIbase.cn\n：每日AI日报、热点资讯及产品数据库，内容专业全面\n。\nAI日报：每天3分钟掌握最新AI模型、行业动态及前沿技术\nAI日报\n：每天3分钟掌握最新AI模型、行业动态及前沿技术\n。\n用户可根据兴趣选择平台，结合社群或订阅功能获取\n实时资讯与深度分析\n。这些平台适用于技术研究、行业分析、投资决策及产品应用探索。", "page_title":"获取最新的AI咨询", "query":"获取最新的AI咨询", "success": true, "url":"https://www.bing.com/copilotsearch?q=%E8%8E%B7%E5%8F%96%E6%9C%80%E6%96%B0%E7%9A%84AI%E5%92%A8%E8%AF%A2"}

五、实际应用：集成到AI智能体

现在你有了一个可用的搜索API，可以轻松地将它集成到各种AI框架中：

示例：在LangChain中使用

from langchain.tools import Tool defsearch_tool(query:str)->str:"""调用我们的本地搜索服务""" result = send_search_request(query)if result.get("success"):return result.get("message","未找到相关信息")returnf"搜索失败: {result.get('error','未知错误')}"# 创建工具实例 search_tool_instance = Tool( name="Web搜索", func=search_tool, description="用于搜索最新的网络信息")# 将工具添加到你的AI智能体中

五、结语

通过这个项目，你不仅获得了一个免费的搜索API，更重要的是理解了如何通过自动化工具解决实际开发中的限制。这种"模拟用户行为"的思路可以应用于许多其他场景，如自动化测试、数据采集、监控报警等。

技术的本质是创造可能性。当现有方案受限时，像这样创造性地组合工具，往往能开辟出新的道路。

提示：请合理使用此工具，尊重目标网站的robots.txt协议，避免给服务器造成过大压力。本文仅供学习交流使用。

Read more

如何高效识别票据表格？用DeepSeek-OCR-WEBUI + SpringBoot轻松搞定

如何高效识别票据表格？用DeepSeek-OCR-WEBUI + SpringBoot轻松搞定 1. 背景与业务场景分析 在企业级应用中，大量纸质单据如采购订单、发票、入库单等仍需录入系统。传统人工录入方式效率低、成本高且易出错。随着AI技术的发展，基于深度学习的OCR（光学字符识别）成为自动化处理结构化文档的关键技术。 尤其在财务、物流、零售等行业，票据表格识别是高频刚需。然而，普通OCR工具对复杂布局、跨行合并单元格、模糊图像或手写体的支持较差，导致准确率不理想。为此，需要一个高精度、可集成、支持结构化输出的解决方案。 DeepSeek-OCR-WEBUI 正是为此类场景设计的开源OCR引擎。它基于先进的大模型架构，在中文文本识别、表格解析方面表现优异，并提供Web API接口，便于与Java后端系统无缝对接。 本文将介绍如何通过 SpringBoot 后端服务调用 DeepSeek-OCR-WEBUI 的图表解析能力，实现票据表格的自动识别与结构化数据提取，最终构建一套完整的“拍照→识别→校验→入库”流程。 2. 技术选型与核心优势

从零到一：国产DSP FT-M6678的EMIF接口开发避坑指南

从零到一：国产DSP FT-M6678的EMIF接口开发避坑指南 在嵌入式系统开发中，外部存储器接口（EMIF）的设计与调试往往是决定项目成败的关键环节之一。对于采用国产DSP FT-M6678的工程师来说，EMIF接口不仅关系到系统性能，更直接影响到数据吞吐的稳定性和实时性。本文将深入探讨在实际开发过程中可能遇到的各类技术陷阱，并提供经过实践验证的解决方案，帮助开发者避开常见误区，提升开发效率。 1. 硬件设计与信号完整性保障 EMIF接口的硬件设计是确保系统稳定运行的基础。FT-M6678的EMIF支持32位总线宽度，兼容16位和8位存储器，但在实际布线中需要特别注意信号完整性问题。 PCB布局布线关键要点： * 时钟信号（EMIF_CLK）应优先布线，并保持与其他信号线的间距至少3倍线宽 * 数据线（EMIF_D[31:0]）采用组内等长设计，误差控制在±50mil以内 * 地址线（EMIF_A[addr_width-1:0]）组内等长误差控制在±100mil * 控制信号（CE、WE、OE）需要与时钟信号保持严格的时序关系 提示：使用阻抗匹配电阻（
【前端实战】多进制奇偶校验检查器（HTML+CSS+JS）完整实现，附源码

【前端实战】多进制奇偶校验检查器（HTML+CSS+JS）完整实现，附源码

在数字通信、数据传输及嵌入式开发中，奇偶校验是一种简单高效的差错检测方法，通过判断二进制数据中“1”的个数为奇数或偶数，快速校验数据是否存在传输错误。日常开发中，我们常需要对不同进制（二进制、八进制、十进制、十六进制）的数字进行奇偶校验，手动计算繁琐且易出错。 今天就给大家分享一款纯前端实现的「多进制奇偶校验检查器」，支持4种常用进制切换、自动识别进制前缀（如0x、0o、0b）、偶校验/奇校验可选，无需后端依赖，打开浏览器即可使用。同时拆解核心代码逻辑，适合前端新手练习DOM操作、正则验证及进制转换相关知识点。 先看效果 运行后 一、工具核心功能介绍 这款多进制奇偶校验检查器聚焦“便捷、精准、易用”，核心功能如下，覆盖日常开发中的奇偶校验场景： * 多进制支持：兼容二进制（2）、八进制（8）、十进制（10）、十六进制（16），可自由切换 * 智能前缀识别：

彻底掀翻前端桌子！2026年HTML最被严重低估的神仙功能，直接干废一票JS组件库！

就在上周一，我还在为了一个破下拉菜单，死磕着整整 150 行 JavaScript 代码。这破玩意儿不仅要管展开、收起，还得处理焦点管理和无障碍访问（Accessibility）。更别提那无穷无尽、让人崩溃的 z-index 层级大战了；移动端上按 ESC 键退出的逻辑直接罢工；至于那个“点击空白处自动关闭”的屎山代码，更是让我连吐槽的力气都没有了。 就在我快要砸键盘的时候，我猛然醒悟：Popover API 已经在 2025 年 4 月达成了 Baseline Widely Available（基线广泛可用） 状态！这意味着，它现在已经在 Chrome、Firefox、Safari 和 Edge 里实现了完美的跨浏览器支持。于是，我直接把那个恶心的组件彻底推翻，只用了区区 8 行纯 HTML