2:31 5/31
bcho.tistory.com
2:31
bcho.tistory.com
조대협의 블로그https://bcho.tistory.com/
평범하게 살고 싶은 월급쟁이
기술적인 토론 환영합니다.같이 이야기 하고 싶으시면 부담 말고 연락주세요:이메일-bwcho75골뱅이지메일 닷컴.
저작도구: tistory
최종 피드 수집: 2025-06-01 20:48
전체 (59)
1y
LLM 애플리케이션 아키텍처 (1/2)
LLM 애플리케이션 아키텍처 (1/2) 조대협 (http://bcho.tistory.com) ChatGPT나, Gemini 모델과 같은 LLM 을 이용한 애플리케이션을 개발하는 형태를 보면, 보통 LLM에 프롬프트 엔지니어링을 사생성형 AI (ChatGPT etc)
ChatGPT
Generative AI
+ 더보기
langchain
LLM
llmops
생성형 ai
아키텍처
조대협
1y
#20. ChatGPT에서 대화 히스토리 유지하기
조대협 (http://bcho.tistory.com) 노트 : 이글은 LLM 개발 프레임웍 Langchain의 일부 글입니다. 연재 글은 https://bcho.tistory.com/category/%EB%B9%85%EB%8D%BChatGPT
conversational buffer memory
langchain
+ 더보기
memory
랭체인
생성형 ai
조대협
쳇봇
1y
#19 ChatGPT에서 질문과 관련된 웹페이지 크롤링하기
조대협 (http://bcho.tistory.com) Langchain 에서 Agent가 사용하는 Tool을 사용자가 쉽게 개발해서 추가할 수 있다. 이번 예제에서는 DuckDuckSearch Tool을 이용하여, 질문에 관련된생성형 AI (ChatGPT etc)
agent
ChatGPT
+ 더보기
langchain
tools
검색 연동
랭체인
생성형 ai
조대협
1y
#18.LangSmith를 이용한 Langchain agent 내부 동작 구조 이해
앞의 예제는 agent를 생성할때 initialize_agent를 사용하는 방식으로 Langchain 0.1.0 까지는 지원하지만 deplicate 될 예정이고 새 버전의 create_react_agent 함수를 사용하기를 권장하생성형 AI (ChatGPT etc)
agent
ChatGPT
+ 더보기
langchain
langsmith
LLM
tool
내부 아키텍처
동작원리
랭체인
생성형 ai
1y
Langchain을 이용한 LLM 애플리케이션 구현 #17-ChatGPT 구글 검색 엔진과 연동하기
Agent/Tool 을 이용하여 ChatGPT와 구글 검색엔진 연동하기 조대협 (http://bcho.tistory.com) LLM 모델은 기본적으로 학습 당시에 저장된 데이터만을 기반으로 답변을 한다. RAG를 이용하여 외부의생성형 AI (ChatGPT etc)
agent
ChatGPT
+ 더보기
langchain
LLM
SerperAPI
tool
검색엔진
랭체인
연동
조대협
1y
Langchain Integrations
https://integrations.langchain.com/toolkits https://integrations.langchain.com/toolkits integrations.langchain.com생성형 AI (ChatGPT etc)
Integrations
langchain
+ 더보기
1y
Langchain을 이용한 LLM 애플리케이션 구현 - #15 자연어로 SQL 쿼리하기
자연어로 SQL 생성하기 조대협 (http://bcho.tistory.com) 지금까지 살펴본 Chain 은 모두 LLMChain으로, 입력값을 프롬프트에 삽입하여 모델에 입력해서 결과를 리턴하는 형태였다. Chain 기능을 통해생성형 AI (ChatGPT etc)
ChatGPT
langchain
+ 더보기
NLP to SQL
랭체인
생성형 ai
자연어 SQL 생성
조대협
1y
Langchain을 이용한 LLM 애플리케이션 구현 #15 - LCEL
LCEL (LangChain Expression Language) 조대협 (http://bcho.tistory.com) 앞에서 소개한 Chain은 개념적으로는 훌륭하지만, 코드양이 다소 많아지고, 병렬처리나 비동기 처리, 스트리밍생성형 AI (ChatGPT etc)
ChatGPT
LCEL
+ 더보기
LLM
Sequencial
랭체인
생성형ai
조대협
1y
LLM Finetune vs RLHF
Difference between Finetune vs RLHF RLHF RLHF DataSet - Preference Data : { input text, summary 1, summary 2, human preference생성형 AI (ChatGPT etc)
Finetune
LLM
+ 더보기
RHLF
1y
Langchain을 이용한 LLM 애플리케이션의 구현 #14 - Chain을 이용한 워크 플로우 구현 #2
Chain을 이용한 복잡한 워크 플로우의 구현 조대협 (http://bcho.tistory.com) Advanced Sequential Chain 앞의 예제는 순차적으로 LLMChain을 간단한 워크 플로우를 구현해봤다. Sequ생성형 AI (ChatGPT etc)
ChatGPT
langchain
+ 더보기
LLM
RouterChain
SequentialChain
랭체인
분기
생성형 AI 개발
워크플로우
조대협
1y
Langchain을 이용한 LLM 애플리케이션 개발 #13 - Chain을 이용한 워크 플로우 구현 #1
Chain을 이용한, LLM 워크 플로우 구현 #1 조대협 (http://bcho.tistory.com) LLM 기반 애플리케이션을 개발할때, 한번의 LLM 호출로 결과를 낼 수 도 있지만, 복잡한 LLM 애플리케이션의 경우, L생성형 AI (ChatGPT etc)
chain
ChatGPT
+ 더보기
langchain
LLM
LLM 연결
랭체인
생성형 ai
조대협
쳇봇
1y
Langchain을 이용한 LLM 애플리케이션 개발 #12 - 큰문서를 나눠서 검색하기 (Parent-Child Chunking)
지금까지 살펴본 Retriever 들은, chunk 의 원본 문서 또는 문장을 저장할때 벡터 데이터 베이스에 text 필드에 저장하였다. 보통 한 문서 또는 한 문장은 여러개의 chunk로 분할되어 각각 저장되기 때문에 원본 Te생성형 AI (ChatGPT etc)
ChatGPT
chunking
+ 더보기
langchain
LLM
Parent Child Doc Chunking
rag
랭체인
생성형 ai
조대협
1y
Langchain Vector Store Record Delete
Langchain Retriever를 리서치하다가 개별의 레코드를 삭제하거나 업데이트 하는 방법에 대해서 찾아봤는데, 작년까지만 해도, record id와 metadata filter를 통해서 삭제가 가능하였다. 지금도 아래 코드생성형 AI (ChatGPT etc)
delete
indexing
+ 더보기
langchain
VectoStore
랭체인
레코드 삭제
1y
Langchain을 이용한 LLM 애플리케이션 개발 #11 - 벡터DB 검색 내용을 요약하기
ContextualCompression을 이용하여, 벡터 데이터베이스의 검색 내용을 요약하고 중복 제거하기 조대협 (http://bcho.tistory.com) 벡터 데이터 베이스에서 관련된 문서를 찾아온 후에, 이 문서의 내용을생성형 AI (ChatGPT etc)
ChatGPT
Halluciation
+ 더보기
langchain
Pinecone
rag
랭체인
벡터 DB
벡터데이터베이스
생성형 ai
조대협
1y
Langchain을 이용한 LLM 애플리케이션 개발 #10- 벡터 DB 검색하기
벡터데이터 베이스 검색하기 조대협 (http://bcho.tistory.com) 앞의 포스트에서 pinecone 벡터데이터베이스에 임베딩된 chunk를 저장하였으면, 이제 이 chunk를 검색하는 방법을 살펴보자. 아래 예제는 l생성형 AI (ChatGPT etc)
ChatGPT
langchain
+ 더보기
MultiQuery
Pinecone
rag
개발
랭체인
생성형 ai
애플리케이션
유사도 검색
1y
Langchain을 이용한 LLM 애플리케이션 개발 #9 - RAG를 이용한 문서 참조. 문서 저장하기
LLM은 학습 당시의 데이터만 기억하고 있기 때문에 학습 이후에 데이터에 대한 질의에 답변할 수 없고, LLM의 고질적인 문제인 환상(Halluciation)효과를 방지하기 위해서는 Ground Truth(진실)에 해당하는 외부생성형 AI (ChatGPT etc)
ChatGPT
langchain
+ 더보기
LLM
Pinecone
rag
Text Spillter
생성형 ai
조대협
1y
Langchain을 이용한 LLM 애플리케이션 개발 #8 - 프롬프트 예제 선택기
프롬프트 예제 선택기를 이용한 동적으로 프롬프트 삽입하기 조대협 (http://bcho.tistory.com) 프롬프트를 통한 정확도를 높이기 위한 기법인 프롬프트 튜닝에서 가장 큰 효과를 볼 수 있는 방식이 프롬프트에 질문과 답생성형 AI (ChatGPT etc)
ChatGPT
langchain
+ 더보기
LLM
N shot prompt
Prompt
랭체인
생성형 ai
조대협
프롬프트
프롬프트 예제
1y
LLM 애플리케이션 개발을 위한 Langchain #7-PromptTemplate
Langchain - PromptTemplate 조대협 (http://bcho.tistory.com) LLM 기반 애플리케이션 개발에서 가장 중요한 것중의 하나가 프롬프트 엔지니어링이다. 프롬프트를 잘 만들어서 원하는 답변을 얻어생성형 AI (ChatGPT etc)
ChatGPT
langchain
+ 더보기
LLM
Prompt
prompt template
랭체인
조대협
프롬프트
프롬프트 재사용
프롬프트 템플릿
1y
LLM 애플리케이션 개발을 위한 Langchain #6-Chat Model
Langchain에서 채팅 모델 사용하기 조대협 (http://bcho.tistory.com) 텍스트 LLM 모델이 단일 입력에 대한 단일 출력을 지원하는 모델이라면, Chat 모델은 기존의 대화 히스토리를 기반으로 해서 질문에생성형 AI (ChatGPT etc)
ChatGPT
ChatModel
+ 더보기
langchain
LLM
OpenAI
랭체인
생성형 ai
조대협
채팅모델
쳇봇
1y
LLM 애플리케이션 개발을 위한 Langchain #5- 캐싱을 이용한 API 비용 절감
Langchain 캐싱을 이용한 비용 절감 조대협 (http://bcho.tistory.com) LLM 애플리케이션을 개발하다보면 개발이나 테스트 단계에서 동일한 프롬프트로 반복해서 호출해야 하는 경우가 생긴다. 코딩을 하다가 에생성형 AI (ChatGPT etc)
cache
ChatGPT
+ 더보기
langchain
LLM
Redis
Semantic Cache
랭체인
생성형ai