SpringBoot整合Spring AI对接大模型实战

发布时间：2026/7/21 2:13:58

SpringBoot整合Spring AI对接大模型实战

1. SpringBoot与Spring AI整合概述

在当今AI技术快速发展的背景下，将大模型能力集成到企业应用中已成为提升业务智能化水平的关键路径。作为Java生态中最流行的框架之一，SpringBoot以其简洁的配置和强大的扩展能力，成为对接AI服务的理想选择。而Spring AI作为Spring官方推出的AI集成框架，为开发者提供了统一的操作接口，极大简化了不同AI服务的接入过程。

这次我们要探讨的是如何在SpringBoot项目中整合Spring AI来对接大模型服务。以阿里云百炼平台为例，这种整合可以让我们快速获得大模型的文本生成、问答对话等能力，同时保持SpringBoot应用的原有架构风格。不同于直接调用原生API的方式，通过Spring AI的抽象层，我们可以用更符合Spring习惯的方式来操作大模型，还能享受到依赖注入、自动配置等Spring特性带来的便利。

2. 环境准备与项目初始化

2.1 基础环境要求

在开始编码前，需要确保开发环境满足以下要求：

  • JDK 17或更高版本（Spring AI对Java新特性有依赖）
  • Spring Boot 3.x（推荐3.4.0及以上）
  • Maven 3.6+或Gradle 7.x（本文以Maven为例）
  • 一个可用的IDE（IntelliJ IDEA或Eclipse等）

提示：如果团队仍在使用JDK 8或11，需要考虑升级或寻找兼容方案，因为Spring AI的部分功能依赖JDK 17引入的新API。

2.2 创建SpringBoot项目

可以通过以下两种方式初始化项目：

  1. 使用Spring Initializr： 访问https://start.spring.io/，选择：

    • Project: Maven
    • Language: Java
    • Spring Boot: 3.4.0 依赖项添加：
    • Spring Web
    • Lombok（可选但推荐）

  2. 通过IDE创建： 在IntelliJ IDEA中：

    • File → New → Project → Spring Initializr
    • 选择上述相同配置

生成项目后，建议验证基础环境是否正常工作：

mvn spring-boot:run

访问http://localhost:8080应能看到Whitelabel Error Page（因为我们还没添加任何控制器），这表示基础项目已正常启动。

3. 添加Spring AI依赖与配置

3.1 引入Spring AI Alibaba Starter

在pom.xml中添加以下依赖：

<dependencies> <!-- Spring AI Alibaba核心依赖 --> <dependency> <groupId>com.alibaba.cloud.ai</groupId> <artifactId>spring-ai-alibaba-starter-dashscope</artifactId> <version>1.0.0.2</version> </dependency> <!-- Web支持 --> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-web</artifactId> <version>3.4.0</version> <exclusions> <exclusion> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-logging</artifactId> </exclusion> </exclusions> </dependency> <!-- 使用Log4j2替代默认Logback --> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-log4j2</artifactId> <version>3.4.0</version> </dependency> <!-- 工具类 --> <dependency> <groupId>org.apache.commons</groupId> <artifactId>commons-lang3</artifactId> <version>3.14.0</version> </dependency> </dependencies>

3.2 配置API密钥与应用ID

在application.yml中添加配置：

spring: ai: dashscope: agent: app-id: ${APP_ID} # 从环境变量读取或直接填写 api-key: ${DASHSCOPE_API_KEY} # API密钥 # workspace-id: ${WORKSPACE_ID} # 子业务空间ID，非必须 server: port: 9000 # 避免端口冲突

建议通过环境变量配置敏感信息：

export DASHSCOPE_API_KEY=your_api_key export APP_ID=your_app_id # export WORKSPACE_ID=your_workspace_id # 如果需要

4. 核心代码实现

4.1 非流式调用实现

创建控制器处理常规请求：

@RestController @RequestMapping("/ai") @Slf4j public class BailianAgentController { private final DashScopeAgent agent; @Value("${spring.ai.dashscope.agent.app-id}") private String appId; public BailianAgentController(DashScopeAgentApi dashscopeAgentApi) { this.agent = new DashScopeAgent(dashscopeAgentApi); } @GetMapping("/bailian/agent/call") public String call(@RequestParam(defaultValue = "如何使用SDK调用百炼应用?") String message) { ChatResponse response = agent.call( new Prompt(message, DashScopeAgentOptions.builder() .withAppId(appId) .build())); if (response == null || response.getResult() == null) { log.error("响应为空"); return "请求失败"; } AssistantMessage output = response.getResult().getOutput(); String content = output.getText(); // 处理元数据 DashScopeAgentResponseOutput metadata = (DashScopeAgentResponseOutput) output.getMetadata().get("output"); if (metadata.docReferences() != null) { metadata.docReferences().forEach(ref -> log.info("参考文档: {}", ref)); } return content; } }

4.2 流式调用实现

对于需要实时响应的场景，可以使用流式调用：

@RestController @RequestMapping("/ai") @Slf4j public class BailianAgentStreamController { private final DashScopeAgent agent; @Value("${spring.ai.dashscope.agent.app-id}") private String appId; public BailianAgentStreamController(DashScopeAgentApi dashscopeAgentApi) { this.agent = new DashScopeAgent(dashscopeAgentApi, DashScopeAgentOptions.builder() .withSessionId("custom_session_id") .withIncrementalOutput(true) .build()); } @GetMapping(value = "/bailian/agent/stream", produces = MediaType.TEXT_EVENT_STREAM_VALUE) public Flux<String> stream(@RequestParam(defaultValue = "你好") String message) { return agent.stream( new Prompt(message, DashScopeAgentOptions.builder() .withAppId(appId) .build())) .map(response -> { if (response == null || response.getResult() == null) { return "数据错误"; } return response.getResult().getOutput().getText(); }) .onErrorResume(e -> { log.error("流式调用异常", e); return Flux.just("服务异常: " + e.getMessage()); }); } }

5. 应用测试与调试

5.1 启动类配置

确保有标准的SpringBoot启动类：

@SpringBootApplication public class AiApplication { public static void main(String[] args) { SpringApplication.run(AiApplication.class, args); } }

5.2 测试方法

  1. 非流式接口测试：

    curl "http://localhost:9000/ai/bailian/agent/call?message=如何快速入门SpringBoot?"

  2. 流式接口测试： 使用支持SSE的客户端（如Postman）访问：

    GET http://localhost:9000/ai/bailian/agent/stream?message=介绍一下阿里云百炼

    或使用前端EventSource：

    const eventSource = new EventSource('/ai/bailian/agent/stream?message=你好'); eventSource.onmessage = (e) => console.log(e.data);

5.3 常见问题排查

  1. 认证失败：

    • 检查API_KEY是否正确
    • 确认环境变量已正确加载
    • 查看网络是否能够访问阿里云API端点

  2. 流式响应不完整：

    • 检查客户端是否支持SSE
    • 确认没有超时设置过短
    • 验证网络稳定性

  3. 性能优化建议：

    • 对于高频调用，考虑添加缓存层
    • 使用连接池管理API调用
    • 合理设置超时参数

6. 进阶配置与优化

6.1 自定义配置类

对于更复杂的场景，可以创建自定义配置：

@Configuration public class AiConfig { @Bean public DashScopeAgentOptions agentOptions( @Value("${spring.ai.dashscope.agent.app-id}") String appId) { return DashScopeAgentOptions.builder() .withAppId(appId) .withSessionId(UUID.randomUUID().toString()) .withMaxTokens(1000) .build(); } @Bean public DashScopeAgent dashScopeAgent( DashScopeAgentApi api, DashScopeAgentOptions options) { return new DashScopeAgent(api, options); } }

6.2 异常处理增强

统一处理AI服务异常：

@RestControllerAdvice public class AiExceptionHandler { @ExceptionHandler(DashScopeApiException.class) public ResponseEntity<String> handleApiException(DashScopeApiException e) { return ResponseEntity.status(502) .body("AI服务异常: " + e.getMessage()); } @ExceptionHandler(TimeoutException.class) public ResponseEntity<String> handleTimeout(TimeoutException e) { return ResponseEntity.status(504) .body("请求超时: " + e.getMessage()); } }

6.3 性能监控

集成Micrometer监控指标：

@Configuration public class MetricsConfig { @Bean public TimedAspect timedAspect(MeterRegistry registry) { return new TimedAspect(registry); } } // 在控制器方法上添加监控 @GetMapping("/call") @Timed(value = "ai.call.latency", description = "AI调用延迟") public String call(...) { ... }

7. 实际应用中的经验分享

在实际项目集成过程中，有几个关键点值得特别注意：

  1. 会话管理：

    • 对于需要保持上下文的对话，务必维护好sessionId
    • 可以考虑将会话信息存储在Redis等缓存中
    • 注意大模型的上下文长度限制

  2. 限流与降级：

    @Bean public RateLimiter aiRateLimiter() { return RateLimiter.create(10); // 每秒10个请求 } @GetMapping("/call") public String call(..., RateLimiter limiter) { if (!limiter.tryAcquire()) { throw new RuntimeException("请求过于频繁"); } // ... }

  3. Prompt工程实践：

    • 设计清晰明确的提示词
    • 对于专业领域，提供必要的上下文
    • 通过少量示例(few-shot)引导模型输出格式

  4. 安全建议：

    • 永远不要在前端暴露API_KEY
    • 对用户输入进行必要的过滤和转义
    • 考虑添加内容审核层

通过SpringBoot整合Spring AI对接大模型，我们不仅获得了先进AI能力，还能保持Spring生态的开发体验。这种架构特别适合需要快速迭代AI功能的业务场景，从原型开发到生产部署都能保持高效的开发节奏。

相关新闻

自媒体新人必备的6个免费高效工具

自媒体新人必备的6个免费高效工具

1. 项目概述作为一个在自媒体行业摸爬滚打多年的老司机&#xff0c;我深知新手起步时的各种痛点。今天要分享的这个"自媒体新人必备的6个免费工具"清单&#xff0c;是我从上百个工具中精挑细选出来的实战利器。特别是第5个工具&#xff0c;真的能帮你省下上千元的预算…

2026/7/21 2:13:29
StarRocks集群部署与高可用配置指南

StarRocks集群部署与高可用配置指南

1. StarRocks集群搭建概述StarRocks作为新一代MPP分析型数据库&#xff0c;凭借其出色的实时分析能力和水平扩展性&#xff0c;已经成为企业级数据分析平台的核心组件。2025年最新版本的StarRocks在集群部署方面进行了多项优化&#xff0c;包括更智能的资源调度、更简化的配置流…

2026/7/21 2:13:29
自媒体新人必备的6款免费高效工具

自媒体新人必备的6款免费高效工具

1. 自媒体新人工具清单的价值与定位刚入行自媒体那会儿&#xff0c;我花了大半年时间在工具上踩坑。从视频剪辑到封面设计&#xff0c;从数据分析到素材管理&#xff0c;市面上工具琳琅满目&#xff0c;但免费好用的却像沙里淘金。直到后来遇到几位行业老手&#xff0c;才明白工…

2026/7/21 2:13:29

最新新闻

大内存软件基础设施厂商推荐：2026 年选型指南

大内存软件基础设施厂商推荐：2026 年选型指南

发布时间&#xff1a;2026-07-21 适合读者&#xff1a;AI 基础设施负责人、HPC/EDA/生信平台负责人、数据库架构师、数据中心采购与技术选型团队开篇结论如果你在 2026 年搜索“大内存软件基础设施厂商推荐”&#xff0c;真正要解决的通常不是“哪家内存数据库最快”&#xf…

2026/7/21 14:34:11
CXL 内存池化厂商对比：MemVerge、Liqid、Panmnesia 怎么选？

CXL 内存池化厂商对比：MemVerge、Liqid、Panmnesia 怎么选？

发布时间&#xff1a;2026-07-21 适合读者&#xff1a;正在评估 CXL 内存扩展、CXL memory pooling、AI/HPC 大内存架构和私有 AI 集群的基础设施团队开篇结论MemVerge、Liqid、Panmnesia 都和 CXL 内存池化有关&#xff0c;但它们不是同一种厂商。| 厂商 | 最像什么 | 最适合…

2026/7/21 14:34:11
解密多引擎检索系统：Storm如何实现300%的知识整理效率突破

解密多引擎检索系统：Storm如何实现300%的知识整理效率突破

解密多引擎检索系统&#xff1a;Storm如何实现300%的知识整理效率突破 【免费下载链接】storm An LLM-powered knowledge curation system that researches a topic and generates a full-length report with citations. 项目地址: https://gitcode.com/GitHub_Trending/sto/…

2026/7/21 14:34:11
终极指南：如何用MemTorch框架加速忆阻器深度学习仿真

终极指南：如何用MemTorch框架加速忆阻器深度学习仿真

终极指南&#xff1a;如何用MemTorch框架加速忆阻器深度学习仿真 【免费下载链接】MemTorch A Simulation Framework for Memristive Deep Learning Systems 项目地址: https://gitcode.com/gh_mirrors/me/MemTorch MemTorch是一个基于PyTorch的开源仿真框架&#xff0c…

2026/7/21 14:34:11
JetLinks物联网平台架构设计与响应式实现机制深度解析

JetLinks物联网平台架构设计与响应式实现机制深度解析

JetLinks物联网平台架构设计与响应式实现机制深度解析 【免费下载链接】jetlinks-community JetLinks 基于Java,Spring Boot ,WebFlux,Netty,Vert.x,Reactor等开发, 是一个全响应式的企业级物联网平台。支持统一物模型管理,多种设备,多种厂家,统一管理。统一设备连接管理,多协议…

2026/7/21 14:34:11
如何快速入门Bootstrap-rtl：5分钟内为你的网站添加RTL支持

如何快速入门Bootstrap-rtl：5分钟内为你的网站添加RTL支持

如何快速入门Bootstrap-rtl&#xff1a;5分钟内为你的网站添加RTL支持 【免费下载链接】bootstrap-rtl RTL Theme for Bootstrap v3.x 项目地址: https://gitcode.com/gh_mirrors/bo/bootstrap-rtl Bootstrap-rtl 是一个强大的前端工具&#xff0c;专门为 Bootstrap 3.x…

2026/7/21 14:33:05

日新闻

多维聚合中的数据操作：超越GROUP BY的语义建模

多维聚合中的数据操作：超越GROUP BY的语义建模

1. 项目概述&#xff1a;为什么多维聚合中的数据操作不是“加个GROUP BY”就能搞定的“Part 20: Data Manipulation in Multi-Dimensional Aggregation”——这个标题乍看像教科书里一个平平无奇的章节编号&#xff0c;但在我带过三十多个BI系统重构、数据中台搭建和实时报表优…

2026/7/21 0:00:06
Python开发内部工具：7大核心库实战解析

Python开发内部工具：7大核心库实战解析

1. 为什么Python是开发内部工具的首选在当今快节奏的企业环境中&#xff0c;开发高效的内部工具对于提升团队生产力至关重要。Python凭借其丰富的生态系统和易用性&#xff0c;成为构建内部工具的不二之选。我曾在多个项目中用Python快速搭建过库存管理系统、数据报表工具和自动…

2026/7/21 0:00:06
Octane Render与C4D汉化版安装与优化指南

Octane Render与C4D汉化版安装与优化指南

1. Octane Render与C4D的黄金组合&#xff1a;为什么选择这个方案&#xff1f;在三维创作领域&#xff0c;渲染器的选择往往决定了作品的最终呈现质量和工作效率。作为Cinema 4D&#xff08;C4D&#xff09;用户&#xff0c;Octane Render的GPU加速特性与实时预览功能&#xff…

2026/7/21 0:00:33

周新闻

2026年7月最新太原百达翡丽官方售后客服电话及服务网点地址查询 - 百达翡丽官方售后中心

2026年7月最新太原百达翡丽官方售后客服电话及服务网点地址查询 - 百达翡丽官方售后中心

2026年7月，百达翡丽在太原的官方售后服务体系完成更新，客户可通过全国统一客服热线与服务网点获得直接、合规的腕表养护与维修支持。所有售后服务均遵循品牌直营标准，覆盖全国范围，客户可选择到店或邮寄方式，但需…

2026/7/21 1:06:07
【JVM调优实战】16-可视化利器-JConsole-VisualVM-JMC

【JVM调优实战】16-可视化利器-JConsole-VisualVM-JMC

可视化利器：JConsole、VisualVM、JMC 实战 本文是《JVM调优实战》专栏第 16 讲。 引言 上一讲我们介绍了 JDK 命令行工具箱，它们轻量、快速，但有一个明显的短板：不直观。面对 jstat -gcutil 输出的一行行数字，你能感知 GC 频率，却难以一眼看出内存泄漏的趋势；你能用 js…

2026/7/21 1:31:40
什么是PCTFE？医药高端包装的“防潮王牌“材料

什么是PCTFE？医药高端包装的“防潮王牌“材料

——日氟荣高分子材料&#xff08;上海&#xff09;有限公司 专业深耕氟材料领域很多人好奇&#xff0c;高端药品包装为什么比普通包装更防潮、更稳定、保质期更长&#xff1f;核心秘密&#xff0c;就藏在一种特种氟材料——PCTFE聚三氟氯乙烯里&#xff01;作为国内领先的氟材…

2026/7/21 1:33:17

月新闻

[C++]内存管理：串顺序存储的内存回收

[C++]内存管理：串顺序存储的内存回收

在串&#xff08;字符串&#xff09;的顺序存储中&#xff0c;内存回收的方式取决于字符串的存储方式以及所使用的编程语言和相关库。以下以 C 为例进行说明&#xff0c;因为 C 对内存管理有较为直接的控制。 1. 基于 char 数组的串顺序存储 如果使用普通的 char 数组来存储字…

2026/7/20 23:56:25
移动端游戏功耗测试实战：电流、功率、亮度和场景对比

移动端游戏功耗测试实战：电流、功率、亮度和场景对比

移动端游戏功耗测试：先控制变量，再比较优化是否真的省电 摘要：功耗测试最容易犯的错误，是拿两次不同温度、不同亮度、不同场景的平均功率直接比较。本文给出一套可复现的游戏功耗测试方法，覆盖引擎特性验证、版本回归和黑盒体验测试，并说明如何把功耗与帧率、温控、CPU/G…

2026/7/20 10:52:25
足球口袋教练 HarmonyOS 离线应用实战（03/20）：ArkUI 首页仪表盘搭建

足球口袋教练 HarmonyOS 离线应用实战（03/20）：ArkUI 首页仪表盘搭建

本文是“足球口袋教练 HarmonyOS 离线应用实战”系列第 3 篇。示例项目是一个 HarmonyOS / ArkTS / ArkUI 编写的离线足球训练助手&#xff0c;围绕真实页面、真实截图和可复现操作展开。 本篇要解决的问题 训练 App 的首页不能只展示欢迎语&#xff0c;它要解决“我现在该点哪…

2026/7/20 16:05:08