spring-ai

Spring AI 是 Spring 生态系统中的开源应用框架，将 Spring 的设计原则——可移植性、模块化和强类型 API——引入 AI 应用开发。其核心目标是通过一致且适合 Spring 的抽象层，将企业数据与 API 同 AI 模型连接起来。 模型提供商支持涵盖 Anthropic、OpenAI、Amazon Bedrock、Google、Ollama、Mistral AI、DeepSeek 等，覆盖聊天、嵌入、文本生成图像、音频转写、文本转语音和内容审核。可移植 API 可在不同提供商之间用于同步和流式调用，同时在需要时仍可访问特定模型的选项。 向量存储集成同样广泛，支持 Amazon Bedrock Knowledge Base、Amazon S3、Apache Cassandra、Azure Vector Search、Chroma、Couchbase、Elasticsearch、GemFire、MariaDB、Milvus、MongoDB Atlas、Neo4j、OpenSearch、Oracle、PostgreSQL/PGVector、Pinecone、Qdrant、Redis、Typesense 和 Weaviate。跨这些存储的可移植 API 包含类 SQL 的元数据过滤 API。 关键能力包括：结构化输出，可将模型响应映射为 POJO；工具调用，使模型能够请求客户端执行函数以获取实时信息；可观测性模块，用于洞察 AI 操作；用于数据工程的文档注入 ETL 框架；以及用于评估生成内容并防范幻觉的 AI 模型评估工具。 ChatClient API 提供类似 WebClient/RestClient 的流式接口，用于与聊天模型交互；Advisors API 则封装了常见的生成式 AI 模式，并对流向和流出 LLM 的数据进行转换。项目通过 Boot Starters 和 Java 注解提供一流的 MCP（Model Context Protocol）支持，支持 STDIO、SSE 和 Streamable-HTTP 传输，使应用可以消费 MCP 服务器，或将 Spring 服务暴露给 AI 生态。 聊天会话记忆支持可插拔的持久化后端（JDBC、Cassandra、MongoDB、Neo4j、Redis），并内置检索增强生成（RAG）。Spring Boot 自动配置和 Starters 覆盖所有受支持的模型与向量存储，项目可通过 start.spring.io 快速搭建。 版本策略与 Spring Boot 对齐：Spring AI 2.x 面向 Spring Boot 4.x，而 Spring AI 1.1.x 面向 Spring Boot 3.5.x。项目提供参考文档、Javadoc、升级说明、示例仓库，以及用于构建基于 Spring 的 AI 集成的社区组织。从源码构建是可选的，可通过 `./mvnw clean install` 将构件发布到本地 Maven 仓库。