챗봇개발과 API 과금 줄이기
채팅 앱에서 대화의 연속성을 위해 챗 메모리를 사용합니다. 먼저 용어부터... - 턴 : 사용자의 요청과 봇의 답변을 한 쌍으로 묶음 아무 조건없이 메모리를 사용하면 모든 대화 내용을 기억합니다. 챗봇에서 '기억'이라는 의미는 좀 다릅니다. 예를 들어 LLM에 전달되는 내용으로 설명하겠습니다.LLM에 전달(API) : 사용자 질문1과 챗봇의 답변1 -> 턴1LLM에 전달 : (턴1 의 내용) + 질문2 + 답변2 -> 턴2LLM에 전달 : (턴1 + 턴2) + 질문3 + 답변3 -> 턴3이런 형태로 LLM에 전달됩니다. LLM에 전달된다는 것이 바로 입력토큰(Input Token)이 됩니다. 답변은 물론 출력토큰(Output Token)이구요. 11번째 대화가 이루어지면 1턴에서 10턴까지 내용..
machineLearning/LLM
2026. 8. 16. 14:45
공지사항
최근에 올라온 글
최근에 달린 댓글
- Total
- Today
- Yesterday
링크
TAG
- 변화율
- 랭체인
- 암석역학
- GPT
- RAG
- 미분계수
- 로피탈정리
- 텐서플로우
- checkpoint
- LangChain
- programmers
- Python
- streamlit
- 고등학교 수학
- TensorFlow
- FewShot
- 파이썬
- 미분
- AI_고교수학
- RockMechanics
- 프로그래머스
- LLM
- 약수
- Chatbot
- programmers.co.kr
- prompt
- ChatGPT
- 미분법
- 챗봇
- 도함수
| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | ||||
| 4 | 5 | 6 | 7 | 8 | 9 | 10 |
| 11 | 12 | 13 | 14 | 15 | 16 | 17 |
| 18 | 19 | 20 | 21 | 22 | 23 | 24 |
| 25 | 26 | 27 | 28 | 29 | 30 | 31 |
글 보관함