Spring AI 是一款用于 AI 工程的应用框架。其目标是将 Spring 生态系统设计原则(如可移植性和模块化设计)应用于 AI 领域,并促进在 AI 领域使用 POJO 作为应用程序的构建块。
功能跨 AI 提供商的便携式 API 支持,适用于聊天、文本转图像和嵌入模型。支持同步和流式 API 选项。也支持降级以访问特定于模型的功能。
聊天模型
OpenAIAzure Open AIAmazon BedrockCohere 的 CommandAI21 Labs 的 Jurassic-2Meta 的 LLama 2Amazon 的 TitanGoogle Vertex AI PalmGoogle GeminiHuggingFace - 访问数千个模型,包括来自 Meta 的 Llama2 等Ollama - 在本地机器上运行 AI 模型MistralAI文本转图像模型
OpenAI 与 DALL-EStabilityAI转录(音频转文本)模型
OpenAI嵌入模型
OpenAIAzure OpenAIOllamaONNXPostgresMLBedrock CohereBedrock TitanGoogle VertexAIMistal AI向量存储 API 提供跨不同提供商的可移植性,具有新颖的类似 SQL 的元数据过滤 API,该 API 保持可移植性。
向量数据库
Azure 向量搜索ChromaMilvusNeo4jPostgreSQL/PGVectorPineConeRedisWeaviateQdrantSpring Boot 自动配置和启动器,用于 AI 模型和向量存储。
函数调用 您可以将 java.util.Function 实现