使用spring-ai快速对接ChatGpt

05-13 阅读 0评论

什么是spring-ai

该Spring AI项目旨在简化包含人工智能功能的应用程序的开发，避免不必要的复杂性。

该项目从著名的 Python 项目（例如 LangChain 和 LlamaIndex）中汲取灵感，但 Spring AI 并不是这些项目的直接移植。该项目的成立相信下一波生成式人工智能应用程序不仅适用于 Python 开发人员，而且将在许多编程语言中普遍存在。

Spring AI 的核心提供了抽象，作为开发 AI 应用程序的基础。这些抽象有多种实现，可以通过最少的代码更改轻松进行组件交换。

Spring AI 提供以下功能：

支持所有主要模型提供商，例如 OpenAI、Microsoft、Amazon、Google 和 Huggingface。
支持的模型类型包括“聊天”和“文本到图像”，还有更多模型类型正在开发中。
跨 AI 提供商的可移植 API，用于聊天和嵌入模型。支持同步和流 API 选项。还支持下拉访问模型特定功能。
AI 模型输出到 POJO 的映射。
支持所有主要矢量数据库提供商，例如 Azure 矢量搜索、Chroma、Milvus、Neo4j、PostgreSQL/PGVector、PineCone、Qdrant、Redis 和 Weaviate
跨 Vector Store 提供商的可移植 API，包括同样可移植的新颖的类似 SQL 的元数据过滤器 API。
函数调用
AI 模型和向量存储的 Spring Boot 自动配置和启动器。

数据工程的 ETL 框架

OpenAI 聊天

Spring AI 支持 OpenAI 的 AI 语言模型 ChatGPT。由于创建了行业领先的文本生成模型和嵌入，ChatGPT 在激发人们对人工智能驱动的文本生成的兴趣方面发挥了重要作用。

先决条件

需要使用 OpenAI 创建 API （访问此网址需要魔法）来访问 ChatGPT 模型。在OpenAI 注册页面创建帐户并在API 密钥页面生成令牌（生成令牌需要国外手机号验证码：国外免费接码平台推荐_国外手机号短信验证码平台-CSDN博客）。 Spring AI 项目定义了一个名为的配置属性，应该将其设置为从 openai.com 获取spring.ai.openai.api-key的值。

第一步：打开专业版idea并新建项目

第二步：添加这二个依赖项后点击创建

第三步：在application.properties配置相关东西

spring.application.name=demo_ai
spring.ai.openai.api-key=这里写自己申请的gpt的api
spring.ai.openai.chat.options.model=gpt-3.5-turbo
spring.ai.openai.chat.options.temperature=0.7

第四步：新建个 ChatController的Java类

package org.example.demo_ai;
import org.springframework.ai.chat.ChatResponse;
import org.springframework.ai.chat.messages.UserMessage;
import org.springframework.ai.chat.prompt.Prompt;
import org.springframework.ai.openai.OpenAiChatClient;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;
import reactor.core.publisher.Flux;
import java.util.Map;
@RestController
public class ChatController {
    private final OpenAiChatClient chatClient;
    @Autowired
    public ChatController(OpenAiChatClient chatClient) {
        this.chatClient = chatClient;
    }
    @GetMapping("/ai/generate")
    public Map generate(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
        return Map.of("generation", chatClient.call(message));
    }
    @GetMapping("/ai/generateStream")
    public Flux generateStream(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
        Prompt prompt = new Prompt(new UserMessage(message));
        return chatClient.stream(prompt);
    }
}

第五步：运行springboot项目，并在Postman测试接口