亚马逊云科技 EC2 部署 Dify,集成 Amazon Bedrock 构建生成式 AI 应用

亚马逊云科技 EC2 部署 Dify,集成 Amazon Bedrock 构建生成式 AI 应用

亚马逊云科技 EC2 部署 Dify,集成 Amazon Bedrock 构建生成式 AI 应用

文章目录

在这里插入图片描述

新用户可获得高达 200 美元的服务抵扣金

亚马逊云科技新用户可以免费使用亚马逊云科技免费套餐(Amazon Free Tier)。注册即可获得 100 美元的服务抵扣金,在探索关键亚马逊云科技服务时可以再额外获得最多 100 美元的服务抵扣金。使用免费计划试用亚马逊云科技服务,最长可达 6 个月,无需支付任何费用,除非您选择付费计划。付费计划允许您扩展运营并获得超过 150 项亚马逊云科技服务的访问权限。

前言

本文围绕 Amazon EC2 实例上部署 Dify 开源版本展开,通过集成 Amazon Bedrock,实现多模型的快速调用,为开发者降低了门槛、提升了效率,助力用户从环境搭建到应用上线高效完成,轻松开启生成式 AI 的实践之旅

前提准备:亚马逊云科技注册流程

Step.1 登录官网
登录亚马逊云科技官网,填写邮箱和账户名称完成验证(注册亚马逊云科技填写 root 邮箱、账户名,验证邮件地址,查收邮件填验证码验证,验证通过后设 root 密码并确认)

Step.2 选择账户计划
选择账户计划,两种计划,按需选"选择免费计划 / 选择付费计划"继续流程免费(6 个月,适合学习实验,含$200抵扣金、限精选服务,超限额或到期可升级付费,否则关停)付费(适配生产,同享$200 抵扣金,可体验全部服务,抵扣金覆盖广,用完按即用即付计费)

Step.3 填写联系人信息
填写联系人信息(选择使用场景,填联系人全名、电话,选择所在国家地区,完善地址、邮政编码,勾选同意客户协议,点击继续 进入下一步)

Step.4 绑定信息
绑定相关信息,选择国家地区,点击"Send code"收验证码填写,勾选同意协议后,点击"验证并继续"进入下一步

Step.5 电话验证
电话验证填写真实手机号,选择验证方式,完成安全检查,若选语音,网页同步显 4 位数字码,接来电后输入信息,再填收到的验证信息,遇问题超 10 分钟收不到可返回重试。

Step.6 售后支持
售后支持:免费计划自动获基本支持,付费计划需选支持计划(各计划都含客户服务,可访问文档白皮书,按需选后点 “完成注册”,若需企业级支持可了解付费升级选项,确认选好即可完成整个注册流程 )

Dify 集成 Amazon Bedrock 构建生成式 AI 应用

Amazon EC2 实例启动
1、启动 Amazon EC2 实例



2、点击启动实例



3、配置EC2实例(设名称标签,选AMI,定实例类型,还需补充设密钥对、存储、网络及高级项)



4、密钥对配置



5、网络设置



6、存储配置



7、摘要配置



8、连接实例



9、查看并保存公有 IPv4 地址

Dify 部署
1、安装 Docker 环境(通过 SSH 连接 EC2 实例后,安装 Docker 环境)

2、检查是否成功安装

3、安装并启动 Dify

4、安装结果



5、进程信息查看

Dify 集成 Amazon Bedrock
1、浏览器访问 http://{公有IPv4地址},即可成功访问 Dify 平台



2、设置管理员账号邮箱,用户名和密码登录



3、模型配置(点击右上角用户名-设置,模型供应商选择 Bedrock)



4、模型供应商配置



5、模型列表查看



6、系统模型设置,选择默认系统推理模型为 Llama 2 Chat 70B, Embedding 模型为 amazon.titan-embed-text-v2:0

Dify 构建应用
1、对话型应用创建



2、选择聊天助手,基础编排,并为此应用起名,图中应用名称为聊天机器人,点击创建



3、编排页面中,添加提示词,并确认添加变量 jobName,点击左下的 + 添加功能 ,打开对话开场白设置



4、配置完成开始聊天,点击右上的模型名称切换不同模型,开启模型对比,以及微调模型参数



Amazon Bedrock 介绍

在这里插入图片描述
Amazon Bedrock 亚马逊云科技推出的全托管生成式 AI 服务,统一 API 为核心纽带,聚合亚马逊云科技自研的 Titan 系列模型及 Anthropic Claude、Meta Llama、Stability AI 等第三方顶尖大语言模型与生成式 AI 模型,构建起多元且强大的模型生态,开发者无需投入精力管理模型训练、部署所需的底层服务器、算力调度等基础设施,只需通过简单的 API 调用,即可快速接入各类模型能力,轻松构建从智能对话机器人、自动化内容生成到图像创作等多样化的生成式 AI 应用。这种 “开箱即用” 的模式,大幅降低了生成式 AI 技术的使用门槛,还让企业与开发者能更聚焦于业务场景创新,加速 AI 应用从概念到落地的全流程

多模型生态聚合:整合亚马逊云科技自研 Titan 系列、Anthropic Claude、Meta Llama 等主流模型,支持文本生成、图像创建等多元场景,用户可按需选择或对比不同模型性能,无需重复适配接口

全托管与低门槛:无需搭建模型训练 / 部署环境,通过简单 API 调用即可使用模型能力,同时支持模型微调与定制,让企业能快速将自有数据融入模型,贴合业务需求

安全合规与无缝集成:数据隐私受严格保护,符合 GDPR、HIPAA 等合规标准;且能与 EC2、S3、Lambda 等亚马逊云科技服务深度联动,轻松构建端到端的生成式 AI 应用链路

总结

通过实践可以清晰看到,Dify 凭借对大语言模型访问流程的深度封装,为用户打造了一条低门槛的 LLM 接入路径 ,无需复杂的底层开发,开发者就能在短时间内构建出接近生产级别的 AI 应用,Dify 与 Amazon Bedrock 的无缝集成,让用户得以轻松调用 Bedrock 生态中的多款主流模型,无需单独适配不同模型的接口,大幅简化多模型管理与应用迭代的复杂度,真正实现了 “轻量部署、快速落地” 生成式 AI 开发体验简化接入流程:封装 LLM 底层逻辑,可视化操作降低技术门槛,非专业开发者也能快速上手多模型灵活集成:与 Amazon Bedrock 深度联动,一键调用多款主流模型,无需单独适配,提升应用灵活性加速应用落地:轻量化全流程设计,快速构建准生产级应用,降低时间与资源成本

以上就是本文的全部内容啦。最后提醒一下各位工友,如果后续不再使用相关服务,别忘了在控制台关闭,避免超出免费额度产生费用~

Read more

论文阅读笔记(一):《深度学习在自主导航中的应用与方法最新进展:全面综述》

论文阅读笔记(一):《深度学习在自主导航中的应用与方法最新进展:全面综述》

最近想要学习一下关于AI的知识,准备读一个综述《RECENT ADVANCEMENTS IN DEEP LEARNING APPLICATIONS AND METHODS FOR AUTONOMOUS NAVIGATION: A COMPREHENSIVE REVIEW》,并将学习内容记录在此,本笔记主要内容为记录并梳理文献中介绍的基础神经元网络部分,欢迎大家讨论并批评指正。 Artiffcial Neuron(人工神经元) 文献中提到,人工神经元是一个数学函数,用于模拟生物神经元的行为。它接收一个输入信号x,这个信号被一个权重w加权,并加上一个偏置b,然后通过一个激活函数 f来产生输出信号y。 上图展示了一个神经元的结构:它有多个输入,对应多个权重 。这些加权输入在传输函数(通常是求和函数Σ)中合并,然后通过激活函数ϕ产生最终的输出Y 神经网络就是将这些单个的神经元以不同的方式连接起来组成的层级结构(例如,一个神经元的输出可以作为另一个神经元的输入)。通过调整神经元之间的连接权重,神经网络可以学习并模拟复杂的非线性关系,从而实现模式识别、决策等功能,是深度学习的基础。

AI绘画报错

提示输出验证失败:CheckpointLoaderSimple: - 值不在列表中:ckpt_name: 'v1-5-pruned-emaonly-fp16.safetensors' 不在 ['anything-v5-PrtRE.safetensors'] 中 模型文件夹里面没模型 这是官方链接:v1-5-pruned-emaonly.safetensors https://huggingface.co/runwayml/stable-diffusion-v1-5/tree/main 点击同一行的小下载箭头。然后把文件放在:models/checkpoints文件夹里 你还需要标准的VAE文件,也就是:vae-ft-mse-840000-ema-pruned.safetensors https://huggingface.co/stabilityai/sd-vae-ft-mse-original/tree/main 这个文件放在:models/vae文件夹里 现在你已经拥有运行所需的一切了。慢慢来。你最初生成的图片会很糟糕。但是继续尝试,很快你就能得到很棒的结果。

使用西门子博途TIA及仿真软件S7-PLCSIM Advanced通过Kepware OPCUA通讯与Fanuc ROBOGUIDE软件连接进行虚拟仿真调试机器人

使用西门子博途TIA及仿真软件S7-PLCSIM Advanced通过Kepware OPCUA通讯与Fanuc ROBOGUIDE软件连接进行虚拟仿真调试机器人

前言 使用ROBOGUIDE软件调试机器人时,与PLC通讯那端的调试使我很头痛,包含激活机器人启动回HOME等功能很难单独使用ROBOGUIDE实现(我想应该归咎于我比较菜),此时又需要建立新的PLC控制FANUC机器人的库就做了尝试用OPC搭建仿真环境的测试。测试成功用起来还不错。 配置TIA程序 ·创建PLC,例1515。开启OPC服务器。 OPC配置如下: 在TIA中为添加Fanuc机器人组态 以上为在TIA中OPC作为服务器的配置。 配置S7-PLCSIM Advanced V3.0  ·建立仿真PLC注意开Online Access。   输入PLC名称和IP地址,启动后将TIA中的PLC程序和配置下载到PLCSIM中。 配置kepware ·由于S7-1500作为OPC服务器,因此需要将kepware设置为客户端 ·先配置OPCUA项目属性 新建客户端配置属性 项目中属性要开允许匿名访问。客户端要输入opc服务器地址就是TIA配置的地址。 ·建立S7-1500通讯的变量 查看变量通讯状态。Quality为良好为通讯正常,Unknow

基于深度学习YOLO算法+qwen deepseek大模型的无人机河道巡检系统平台 支持AI对话与文档生成分析

基于深度学习YOLO算法+qwen deepseek大模型的无人机河道巡检系统平台 支持AI对话与文档生成分析

YOLO+DeepSeek河道环境检测系统 项目简介 基于改进YOLO深度学习模型与DeepSeek大语言模型的河道环境智能检测与分析系统。本系统采用先进的计算机视觉技术,结合自然语言处理能力,实现对河道环境中各类目标的高精度检测与智能分析。系统支持单张图片、批量图片、视频文件及实时摄像头等多种输入方式,提供从环境检测到智能建议的完整解决方案,为河道治理、环境保护与水资源管理提供智能化技术支持。 ✨ 核心亮点 • 多场景检测支持:全面覆盖单张图片、图片文件夹、视频文件、实时摄像头四种输入方式 • 改进YOLO模型:基于YOLOv5/v8/v11/v12的优化版本,专注河道环境目标检测 • AI智能分析:集成DeepSeek/Qwen大模型,生成专业的河道环境分析与治理建议 • 实时处理反馈:前端实时展示检测进度与结果,支持实时视频流处理 • 完整技术栈:PyTorch深度学习 + SpringBoot后端 + Vue3前端 + Flask中台的完整架构 • 开箱即用:提供完整源码、预训练模型与详细部署文档,快速上手使用 🌊 检测对象范围 系统可精准识别河道