项目概述 📋

Spring AI 是一个为开发 AI 应用程序提供 Spring 友好的 API 和抽象层的项目。它将 Spring 生态系统的设计原则(如可移植性和模块化设计)应用到 AI 领域,并促进使用 POJO 作为 AI 应用程序的构建块。

核心理念 💡

在其核心,Spring AI 解决了 AI 集成的根本挑战:将您的企业数据APIAI 模型连接起来。

技术架构层次 🏛️

在这里插入图片描述

快速开始(以Ollma为例) 🚀

1. 添加依赖

<dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-starter-model-ollama</artifactId>
    <version>1.0.0-SNAPSHOT</version>
</dependency>

2. 使用 OllamaChatModel

package cn.jishuba;

import org.springframework.ai.chat.client.ChatClient;
import org.springframework.ai.chat.model.ChatModel;
import org.springframework.ai.ollama.OllamaChatModel;
import org.springframework.ai.ollama.api.OllamaApi;
import org.springframework.ai.ollama.api.OllamaOptions;

public class App
{
    public static void main( String[] args )
    {
        // 指定Ollama API的地址
        OllamaApi ollamaApi = OllamaApi.builder()
                .baseUrl("http://localhost:11434")
                .build();
        // 创建Ollama聊天模型
        ChatModel model = OllamaChatModel.builder()
                .defaultOptions(OllamaOptions.builder()
                        .model("qwen2.5:latest")
                        .build())
                .ollamaApi(ollamaApi)
                .build();
        // 创建聊天客户端
        ChatClient chatClient = ChatClient.builder(model)
                .build();
        String response = chatClient.prompt()
                            .user("你好,讲个关于Java的笑话")
                            .call()
                            .content();
        System.out.println(response);
    }
}

整体架构 🏗️

在这里插入图片描述

主要功能模块 🎯

1. AI 模型支持 🤖

支持的模型类型
  • 聊天完成 (Chat Completion) 💬
  • 嵌入 (Embedding) 🔗
  • 文本转图像 (Text to Image) 🎨
  • 音频转录 (Audio Transcription) 🎵
  • 文本转语音 (Text to Speech) 🔊
  • 内容审核 (Moderation) 🛡️
支持的提供商
提供商 模块名称 支持功能
OpenAI spring-ai-openai 聊天、嵌入、图像、音频
Anthropic spring-ai-anthropic 聊天、嵌入
Azure OpenAI spring-ai-azure-openai 聊天、嵌入、图像
AWS Bedrock spring-ai-bedrock 聊天、嵌入
Google Gemini spring-ai-vertex-ai-gemini 聊天、嵌入
Ollama spring-ai-ollama 本地部署聊天模型
DeepSeek spring-ai-deepseek 聊天、嵌入
Minimax spring-ai-minimax 聊天
智谱AI spring-ai-zhipuai 聊天、嵌入

2. 向量数据库支持 🗄️

支持的向量数据库
数据库 模块名称 特性
PostgreSQL/PGVector spring-ai-pgvector-store 🐘 开源、SQL兼容
Chroma spring-ai-chroma-store 🎨 轻量级、易用
Pinecone spring-ai-pinecone-store 🌲 云原生、高性能
Redis spring-ai-redis-store 🔴 内存存储、高速
Elasticsearch spring-ai-elasticsearch-store 🔍 全文搜索
MongoDB Atlas spring-ai-mongodb-atlas-store 🍃 文档数据库
Neo4j spring-ai-neo4j-store 🔗 图数据库
Apache Cassandra spring-ai-cassandra-store 🔧 分布式
Weaviate spring-ai-weaviate-store 🕸️ 向量搜索

3. 核心功能组件 ⚙️

ChatClient API 💬
  • 流式 API,类似于 WebClient 和 RestClient
  • 支持同步和异步调用
  • 内置对话记忆管理
  • 支持 RAG (检索增强生成)
Advisors API 🎯
  • 封装常见的生成式 AI 模式
  • 转换发送到/从语言模型的数据
  • 提供跨不同模型的可移植性
工具/函数调用 🛠️
  • 允许模型请求执行客户端工具和函数
  • 访问实时信息
  • 扩展 AI 应用的功能边界
观测性 📊
  • 提供 AI 相关操作的洞察
  • 监控模型性能和使用情况
  • 集成 Spring Boot Actuator

4. 数据处理 📈

ETL 框架
  • 文档注入 ETL 框架
  • 数据工程支持
  • 文档读取器:
    • jsoup-reader - HTML 解析
    • markdown-reader - Markdown 文档
    • pdf-reader - PDF 文档
    • tika-reader - 多格式文档
结构化输出
  • AI 模型输出到 POJO 的映射
  • 类型安全的响应处理

模块关系图 🔄

在这里插入图片描述

主要特性 ✨

🔧 可移植性

  • 统一的 API 抽象,轻松切换不同的 AI 提供商
  • 标准化的配置方式

🎯 Spring 集成

  • 完整的 Spring Boot 自动配置
  • 依赖注入支持
  • Spring 生态系统兼容

📈 可扩展性

  • 模块化设计,按需选择组件
  • 插件式架构,易于扩展

🛡️ 企业级

  • 完整的观测性支持
  • 错误处理和重试机制
  • 生产就绪的特性

🌐 多语言支持

  • 不仅限于 Python 开发者
  • Java 生态系统的完整支持

总结 🎉

Spring AI 为 Java 开发者提供了一个强大、灵活、易于使用的 AI 应用开发框架。通过其模块化设计和 Spring 生态系统的深度集成,开发者可以快速构建生产级的 AI 应用程序,同时保持代码的可维护性和可扩展性。

无论您是要构建聊天机器人、知识问答系统、还是复杂的 AI 工作流,Spring AI 都为您提供了必要的工具和抽象层,让您专注于业务逻辑的实现,而不是底层的 AI 模型集成细节。

Logo

GitCode 天启AI是一款由 GitCode 团队打造的智能助手,基于先进的LLM(大语言模型)与多智能体 Agent 技术构建,致力于为用户提供高效、智能、多模态的创作与开发支持。它不仅支持自然语言对话,还具备处理文件、生成 PPT、撰写分析报告、开发 Web 应用等多项能力,真正做到“一句话,让 Al帮你完成复杂任务”。

更多推荐