랭체인을 이용한 챗봇을 만들며 하는 작업

언어모델 : gpt-3.5-turbo
  - chatGPT가 아닙니다. chatGPT와 gpt는 다릅니다.

문서를 작성할 때 필요한 항목을 gpt를 통해 묻고 사용자가 대답하는 챗봇을 만들었습니다.
(로컬에서 작성한 것을 허깅페이스에 앱으로 올려서 테스트했습니다.)

시행착오를 거치면서 대화를 통해 오류를 찾고 고치는 과정을 반복하고 있습니다.
일부러 지급총액(지급해야할 총금액)보다 지급한금액을 높여서 적었습니다.
이상한 부분이 있지 않냐고 지급총액과 지급한금액을 설명하며 몇 번을 되물었습니다.
그랬더니 gpt가 답을 제대로 말해줍니다.

 

그래서 수정된 항목을 사람들이 일상적으로 쓰는 말로 "지급총액에서 0이 하나 빠졌어요. 수정해주세요"라고 하니 고치지를 않았어요.
아직 사람들이 쓰는 언어를 제대로 파악하지 못하는 것 같았습니다.
다시 "'지급총액'에서 숫자 영이 하나 빠졌네요. 고쳐주세요" 하니 제대로 고쳐줍니다.

 

 

이런 과정을 왜 하냐하면 이런 부분을 참조하여 템플릿을 작성, 수정합니다.
gpt에게 지겨울 정도로 질문을 했습니다. 
이렇게 질문을 하는 이유는 질문에 대한 gpt의 대답을 보면서 템플릿을 작성하기 위함입니다.
템플릿은 gpt와 사용자가 서로 질문과 답을 주고받으면서 제대로된 결론에 도달하도록 하는 지침서 같은 것입니다.
템플릿을 작성하기 위해 이러한 과정을 반복합니다.

chatGPT를 통해서는 대화는 가능하지만 원하는 값을 변수에 담고 그것을 DB의 테이블에 넣는 과정을 하는 방법을 아직 알지 못합니다.
랭체인 언어 모델(gpt)로 대화를 통해서 파악한 값을 변수에 담고 그것을 DB에 넣는 것은 성공했고 좀더 완전한 서비스를 위해 저런 테스트를 하는 중입니다.

앞에 3개 이미지는 위의 과정을 설명한 것이고 네 번째 이미지는 gpt가 화가 났는지 불만을 토해내는 과정입니다.
(지급총액보다 지급된금액이 많은 경우 생각하고 대답하라고 그러니 저런 말을 토합니다. 사람으로 치면 짜증섞인 반응이랄까? 제가 말을 너무 심하게 했나 봅니다.)

이걸 보고 한참 웃었습니다.