[GPT, Node.js, React] 실시간으로 ChatGPT 연동하기

일을 하다가~

 

요새 핫한 ChatGPT를 활용한 프로덕트를 만들었다.

OpenAI의 API는 JSON으로 받아 내는데, 속도가 매우 매우 - 매우 

 

오래 걸렸기 때문에,

 

유저 경험이 좋지 않았다ㅠ.ㅠ

 

소켓으로 뚫기로 했다.

나는 유저 경험을 매우 소중히 생각하는 친절하고 배려심있고 착한 낭만 개발자기 때문이다.

그래서 요렇게 만들었다.

 

1. 프론트에서는 채팅방에 입장하자마자 Socket을 연결한다.

2. 상호작용이 있을 때(채팅) API 호출

3. Node에서 GPT로 Stream를 받는다.
4. 연결된 Socket으로 Stream데이터를 쏜다.

 

 

Easy~~!

 

물론 실프로덕트에선..

 

시스템 프롬프트와, 각종 예외 처리등등.. MSA..

여러가지 잔처리 일들이 많았다~
정말로~

공식문서에서도 Node는 지원안한다고 적혀있었지만~

그런게 어딨어~~

하면 되지~~ Yeah