各位大佬如何用 Java 实现 chatgpt 接口的流式返回，逐句回答

[xhf1024]

postman 调用 openai 的接口是一次性返回的流数据要得等好久，使用基于 Python3.10 的 Tornado 异步非阻塞框架来实现 Server-sent events 通信是可以，但是 java 不知道怎么实现

[yazinnnn]

随便一个 reactive 的客户端都可以吧，比如 reactor vertx mutiny 之类的

[brader]

对了，提醒你一点我踩过的坑，你测试的时候最好不要用 postman 测试，即使你的是流式输出接口，它也会等全部数据回来。
你最好用命令行测试，或者用浏览器测试，浏览器测试加响应头
Content-Type: text/event-stream // 以事件流的形式告知浏览器进行显示
Cache-Control: no-cache // 告知浏览器不进行缓存
X-Accel-Buffering: no // 关闭 nginx 之类的缓存

[brader]

下面是我用 php 实现的流式输出，并简单的解析出了 EventSource 消息，只把结果返回给前端，可以给你参考

[qiyuey]

我用的 kotlin flow

[ByteCat]

我用 JS 写的，rx.js 的 observable ，貌似 Java 也有，可以试试？不过我不是很熟悉 Java 。
你的 postman 不是最新的吧，我试了 postman 可以接受 POST 请求的 SSE ，并且是流式传输的。

[TWorldIsNButThis]

flow ？
java 9 加的那个
然后用 spring webflux
以前一直不知道这类技术有什么实际应用场景，近来才知道原来 chatgpt 在用这个

[zoharSoul]

netty

[unco020511]

关键字 「 http sse 」,比如:https://github.com/square/okhttp/tree/master/okhttp-sse

[K1W1]

https://github.com/Grt1228/chatgpt-steam-output

[oldshensheep]

很简单的啊，Spring Web 就默认支持，我写的一个多人协作像素图程序就用了，非常简单的。下面是代码
https://github.com/oldshensheep/place/blob/8be1c89ed5d839317ba6cdf81209d42d29b6715d/src/main/java/com/oldshensheep/place/web/Controller.java#L47

官方文档 https://docs.spring.io/spring-framework/docs/current/reference/html/web.html#mvc-ann-async-sse

[cveoy]

看看我接口就知道了
https://ai1.chagpt.fun/

[jackwaycn]

Spring SseEmitter

[WashFreshFresh]

websocket 就好了，原来搞语音识别返回文字效果挺好的。

[sobev]

之前写的
https://github.com/bev0129so/openai-java-demo/blob/main/src/main/java/com/sobev/openai/controller/OpenAIController.java

[jethroX]

我是通过 http SSE 实现的，你可以搜一下你的 java 框架要怎么实现 sse 。

[mmdsun]

今天弄反应式项目集成 chatgpt ，发现 spring webflux 只需要一句话。。
https://www.baeldung.com/spring-server-sent-events

这个参考也不错： https://github.com/git-syl/chat-gpt-java-demo