蓝耘科技上线DeepSeek满血版:500万Tokens专享,解锁AI推理新体验

蓝耘科技上线DeepSeek满血版:500万Tokens专享,解锁AI推理新体验

蓝耘科技:智算云平台的创新者

作为专注于高性能AI基础设施的科技企业,蓝耘科技于2024年11月正式发布元生代智算云平台,整合了智算算力调度、AI应用市场和协作开发三大模块。该平台通过裸金属调度和容器化技术,为用户提供灵活高效的算力资源管理,同时支持团队协作开发,大幅提升AI模型训练与推理效率。

DeepSeek-R1满血版:技术突破与实战优势

此次上线的DeepSeek-R1满血版,基于MoE(Mixture of Experts)架构优化,在32K上下文窗口下实现了动态稀疏激活

  • 数学推理:通过RLHF+DPO混合训练策略,在MATH数据集上准确率达到68.3%(GPT-4为74.9%),但推理成本降低97%。
  • 代码生成:集成代码检索增强技术(RAG),支持Python/Java/C++等12种语言,HumanEval pass@1得分82.1%。
  • 长文本理解:采用滑动窗口注意力机制(SWA),在16K tokens文本摘要任务中ROUGE-L得分提升15%。

开发者可通过量化压缩技术(支持FP16/INT8)灵活控制显存占用,在单卡RTX 4090上即可部署7B版本模型,实测生成速度达45 tokens/秒。

元生代推理引擎:释放AI无限潜能

通过元生代推理引擎,开发者可轻松实现以下功能:

  1. 复杂任务处理:支持多模态数据输入与动态推理,适用于科学计算、金融分析等高精度场景。
  2. 高效资源调度:结合容器化技术,自动优化算力分配,降低延迟与成本。
  3. 安全合规:内置策略引擎确保模型输出符合安全规范,减少重大错误概率。

 

三步调用大模型接口:OpenAI SDK无缝兼容

蓝耘的API接口完全兼容OpenAI官方规范,开发者只需简单配置即可迁移现有应用:

  1. 替换API参数:将base_url设置为蓝耘接口地址(例如[https://api.lkeap.cloud.tencent.com/v1 ](https://api.lkeap.cloud.tencent.com/v1 )),并使用平台生成的api_key
  2. 选择模型:调用时指定model参数为deepseek-r1deepseek-v3
  3. 发送请求:通过标准OpenAI SDK发起对话,享受与ChatGPT一致的开发体验

如果使用python进行终端回答调用

创建一个python文件命名为ark_example.py,将下面示例代码拷贝进文件。并替换密钥为您的API KEY。替换content中的<你是谁>为您想要的提问内容。点击运行,稍等您可以在终端窗口中看到模型调用的返回结果。这样您就完成了您的首次型服务调用。

from openai import OpenAI # 构造 client client = OpenAI( api_key="sk-xxxxxxxxxxx", # APIKey base_url="https://maas-api.lanyun.net/v1", ) # 流式 stream = True # 请求 chat_completion = client.chat.completions.create( model="/maas/deepseek-ai/DeepSeek-R1", messages=[ { "role": "user", "content": "你是谁", } ], stream=stream, ) if stream: for chunk in chat_completion: # 打印思维链内容 if hasattr(chunk.choices[0].delta, 'reasoning_content'): print(f"{chunk.choices[0].delta.reasoning_content}",) # 打印模型最终返回的content if hasattr(chunk.choices[0].delta, 'content'): if chunk.choices[0].delta.content != None and len(chunk.choices[0].delta.content) != 0: print(chunk.choices[0].delta.content,) else: result = chat_completion.choices[0].message.content 

 回答的答案为:

 

开发者实战:OpenAI SDK进阶用法 

场景1:流式输出与速率控制

from openai import OpenAI client = OpenAI(base_url="https://api.lkeap.cloud.tencent.com/v1", api_key="sk-xxx") response = client.chat.completions.create( model="deepseek-r1", messages=[{"role": "user", "content": "用Python实现快速排序"}], temperature=0.3, stream=True, # 启用流式输出 max_tokens=500, timeout=10 # 设置超时阈值 ) for chunk in response: print(chunk.choices[0].delta.content,, flush=True) 

 场景2:函数调用(Function Calling)

response = client.chat.completions.create( model="deepseek-r1", messages=[{"role": "user", "content": "北京明天天气怎么样?"}], tools=[{ "type": "function", "function": { "name": "get_weather", "parameters": { "type": "object", "properties": { "location": {"type": "string"}, "date": {"type": "string"} } } } }] ) # 解析返回的JSON Schema并执行外部API调用 

 

搭配Chatbox:打造本地化AI助手

获取 API Key

 

 

点击API开放平台,然后点击API KEY管理,单击创建API KEY 

 

 

搭配chatbox 

Chatbox作为开源跨平台客户端,是连接蓝耘API的绝佳工具:

  1. 下载安装:支持Windows、Mac、Linux及移动端,从官网或第三方平台获取最新版本。
  2. 配置API:在设置中选择“自定义提供方”,填写蓝耘的base_urlapi_key,模型名称设为deepseek-r1

进行填写

 

1.名称(随便填,比如可以是 lanyun,方便区分)

2.API 地址:https://maas-api.lanyun.net

3.API 路径:/v1/chat/completions

4.API 密钥:填写刚刚复制的APIKEY

5.填写模型名称,比如/maas/deepseek-ai/DeepSeek-R1

6.点击保存

7.创建对话
,确认要使用的模型,开始聊天吧

 

 聊天测试

功能扩展:利用Prompt模板定制专属助手,如代码生成器、多语言翻译等,提升工作效率。 

结束语

注册蓝耘智算云平台即可:
✅ 免费获取500万tokens,畅享DeepSeek-R1满血版。
✅ 体验元生代推理引擎,解锁高效AI开发流程。
✅ 搭配Chatbox客户端,零门槛构建智能应用。

抓住技术红利,加速您的AI项目落地!点击立即注册,开启智能新纪元。

官网链接: https://cloud.lanyun.net//#/registerPage?promoterCode=0131

Read more

Qwen3-0.6B-FP8实战教程:构建跨平台AI助手——Web/Telegram/Discord多端统一后端

Qwen3-0.6B-FP8实战教程:构建跨平台AI助手——Web/Telegram/Discord多端统一后端 1. 开篇:为什么需要一个多端统一的AI助手? 想象一下这个场景:你正在电脑前写代码,突然想到一个问题,于是打开浏览器,访问一个AI对话页面提问。过了一会儿,你出门了,在手机上收到朋友的消息,想用同一个AI助手帮忙想个点子,却不得不切换到另一个App。晚上,你和团队在Discord上讨论项目,又想调用AI来辅助决策,结果发现还得重新部署一套服务。 是不是很麻烦?这就是我们今天要解决的问题。 Qwen3-0.6B-FP8是一个小巧但强大的语言模型,它能在资源有限的环境下流畅运行。但光有模型还不够,我们需要一个能同时服务Web页面、Telegram机器人和Discord机器人的统一后端。这样,无论你在哪里,用什么设备,都能无缝使用同一个AI助手。 这篇文章,我就带你一步步搭建这样一个系统。不需要高深的编程知识,跟着做就行。 2. 环境准备与模型部署 2.1 你需要准备什么 在开始之前,确保你有以下环境: * 一台Linux服务器:可以是云服务器,也可以是

Chrome 开发者工具(DevTools)快速入门——前端必备技能

Chrome 开发者工具(DevTools)快速入门——前端必备技能

在前端开发中,Chrome 开发者工具(DevTools) 是我们排查问题、优化性能、理解浏览器行为最强大的助手之一。无论是想快速定位页面样式异常、分析接口请求,还是调试 JavaScript 逻辑,DevTools 都能提供直观高效的方式帮助我们“看清代码背后发生了什么”。 这篇笔记将带你快速入门,从最基本的面板功能到常用调试技巧,让你能在实战中灵活运用它,提升开发效率与问题解决能力。 1. 打开方式与放大缩小 1. 快捷键: * Windows/Linux:F12 或 Ctrl + Shift + I * macOS:Command + Option + I 1. 右键打开:在页面任意元素上右键 → “检查 (Inspect)” 2. 菜单打开:点击右上角 ⋮ → “更多工具” → “开发者工具” 在使用 Chrome 开发者工具时,可以通过 鼠标滚轮 快速调整界面缩放。

基于AI工程化文档创建应用前端代码示例

基于AI工程层级文档,使用通义灵码、TypeDom框架示例构建的儿童英语学习应用的全部过程已经运行结果。 一、AI工程文档 基于AI语义框架,编写 Readme.md 文档。 # Language Learning App ## 1.Product | 产品层 - **Description | 描述**: Product overview and purpose language learning app 语言学习应用 - **Target User | 目标用户**: Intended audience and user personas helps users improve their language skills through practice and feedback. 通过练习和反馈帮助用户提高语言技能。 - **Goal | 目标*