다양한 서비스를 만들어보자

https://github.com/gilbutITbook/080413/tree/main/%EC%8B%A4%EC%8A%B5/5%EC%9E%A5

환경

스트림릿을 사용하기 위해서는 아나콘다 환경이여야 한다.

<1> 서비스1- 간단한 챗봇 만들기 - 아나콘다 (실습) - 재확인 필요

<2> 서비스2- RAG기반 챗봇 만들기 - 코랩 (실습)-잘됨

<3> 서비스3- PDF 요약 웹사이트 - 스트림릿,아나콘다 - 재확인 요망

<4> 서비스4- 독립형 질문 챗봇 - 스트림릿,아나콘다 - 재확인 요망

<5> 서비스5- 대화형 챗봇 - 스트림릿,아나콘다 - 재확인 요망

<6> 서비스6- 번역서비스 - 스트림릿,아나콘다 - 재확인 요망

<7> 서비스7- 메일 작성기 - 스트림릿,아나콘다 - 재확인 요망

<8> 서비스8- CSV 파일 분석하기 - 아나콘다 - 잘됨

<9> 추가 서비스들

<1> 서비스1- 간단한 챗봇 만들기 - 아나콘다 (실습) - 재확인 필요

1

아나콘다 설치하기

https://brunch.co.kr/@topasvga/4145

2

오류발생

2024-11-13 02:11:15.426 Thread 'MainThread': missing ScriptRunContext! This warning can be ignored when running in bare mode. 2024-11-13 02:11:15.430 Thread 'MainThread': missing ScriptRunContext! This warning can be ignored when running in bare mode. 2024-11-13 02:11:15.432 Thread 'MainThread': missing ScriptRunContext! This warning can be ignored when running in bare mode.

3

소스에 있는 모델 없어짐.

모델 변경

4

import streamlit as st

from langchain.chat_models import ChatOpenAI

st.set_page_config(page_title="�� 뭐든지 질문하세요~ ")

st.title('�� 뭐든지 질문하세요~ ')

import os

os.environ["OPENAI_API_KEY"] = "sk-proj-6IA" #openai 키 입력

def generate_response(input_text): #llm이 답변 생성

llm = ChatOpenAI(temperature=0, # 창의성 0으로 설정

model_name='gpt-4', # 모델명

)

st.info(llm.predict(input_text))

with st.form('Question'):

text = st.text_area('질문 입력:', 'What types of text models does OpenAI provide?') #첫 페이지가 실행될 때 보여줄 질문

submitted = st.form_submit_button('보내기')

generate_response(text)

# 서비스1- 간단한 챗봇 만들기 - jupyter notebook (실습)- 재확인 필요

1

windows 10 pc에서

Anaconda Prompt

jupyter notebook

2

3

!pip install langchain

!pip install streamlit

!pip install openai

4

C:\Users\seo\anaconda3\envs\llm\Scripts

5

실습

https://github.com/gilbutITbook/080413/blob/main/%EC%8B%A4%EC%8A%B5/5%EC%9E%A5/5_1_%EA%B0%84%EB%8B%A8%ED%95%9C_%EC%B1%97%EB%B4%87_%EB%A7%8C%EB%93%A4%EA%B8%B0.ipynb

<2> 서비스2- RAG기반 챗봇 만들기 - 코랩 (실습)-잘됨

랭체인에서 RAG 구현 방법을 알아보자.

1

순서

상세

https://github.com/gilbutITbook/080413/blob/main/%EC%8B%A4%EC%8A%B5/5%EC%9E%A5/5_2_%EB%9E%AD%EC%B2%B4%EC%9D%B8%EA%B3%BC_%EC%B1%97GPT%EB%A1%9C_RAG_%EA%B5%AC%ED%98%84%ED%95%98%EA%B8%B0.ipynb

2

# 코랩 사용

https://colab.research.google.com/?hl=ko

3

# 여러 라이브러리 설치

!pip install unstructured

실행

ALT + ENTER

4

!pip install chromadb

!pip install openai

!pip install langchain-openai

5

#AI 파일을 코랩이 올리자

6

from langchain.document_loaders import TextLoader

documents = TextLoader("ai.txt").load()

5

from langchain.text_splitter import RecursiveCharacterTextSplitter

# 문서를 청크로 분할

def split_docs(documents,chunk_size=1000,chunk_overlap=20):

text_splitter = RecursiveCharacterTextSplitter(chunk_size=chunk_size, chunk_overlap=chunk_overlap)

docs = text_splitter.split_documents(documents)

return docs

# docs 변수에 분할 문서를 저장

docs = split_docs(documents)

6

#OpenAI의 임베딩 모델 사용

from langchain_openai import OpenAIEmbeddings

api_key="sk-prfMLWHM_1ENA06iDl86IA"

embeddings = OpenAIEmbeddings(model="text-embedding-ada-002", api_key=api_key)

# Chromdb에 벡터 저장, 저장 장소는 코랩

from langchain.vectorstores import Chroma

db = Chroma.from_documents(docs, embeddings, persist_directory="/")

# Chromdb에 벡터 저장, 저장 장소는 코랩

7

from langchain.chat_models import ChatOpenAI

model_name = "gpt-3.5-turbo" #GPT-3.5-turbo 모델 사용

llm = ChatOpenAI(model_name=model_name, api_key=api_key)

# Q&A 체인을 사용하여 쿼리에 대한 답변 얻기

from langchain.chains.question_answering import load_qa_chain

chain = load_qa_chain(llm, chain_type="stuff",verbose=True)

# 쿼리를 작성하고 유사성 검색을 수행하여 답변을 생성,따라서 txt에 있는 내용을 질의해야 합니다

query = "AI란?"

matching_docs = db.similarity_search(query)

answer = chain.run(input_documents=matching_docs, question=query)

answer

8

결과

> Entering new StuffDocumentsChain chain... > Entering new LLMChain chain... Prompt after formatting: System: Use the following pieces of context to answer the user's question. If you don't know the answer, just say that you don't know, don't try to make up an answer. ---------------- Artificial intelligence (AI) is the intelligence of machines or software, as opposed to :

:

:

optimization, formal logic, artificial neural networks, and methods based on statistics, operations research, and economics.[b] AI also draws upon psychology, linguistics, philosophy, neuroscience and other fields.[12] Human: AI란? > Finished chain. > Finished chain.

'

AI(Artificial Intelligence)란 기계나 소프트웨어의 지능을 말합니다. 이는 인간이나 동물의 지능과는 다른 것을 의미하며, 컴퓨터 과학 분야에서 개발되고 연구되는 지능 기계들을 가리킵니다. AI 기술은 산업, 정부, 과학 분야에서 널리 사용되며, 구글 검색, YouTube, 아마존, 넷플릭스 등의 추천 시스템, 구글 어시스턴트, Siri, Alexa와 같은 음성 인식, Waymo와 같은 자율 주행 자동차, ChatGPT, AI art 등의 창의적인 도구, 체스와 바둑과 같은 전략 게임에서의 초인간적인 플레이와 분석 등 다양한 분야에서 사용되고 있습니다.

앞으로 돌아가기

https://brunch.co.kr/@topasvga/3864

<3> 서비스3- PDF 요약 웹사이트 - 스트림릿,아나콘다 - 재확인 요망

PDF파일을 요약해주는 서비스.

웹페이지에 PDF를 올리면 요약해서 보여 준다.

1

https://github.com/gilbutITbook/080413/tree/main/%EC%8B%A4%EC%8A%B5/5%EC%9E%A5

2

# 쥬피터 노트북에서 안됨.

에러 내용

ModuleNotFoundError Traceback (most recent call last) Cell In[15], line 2 1 import os ----> 2 from PyPDF2 import PdfReader 3 import streamlit as st 4 from langchain.text_splitter import CharacterTextSplitter ModuleNotFoundError: No module named 'PyPDF2'

<4> 서비스4- 독립형 질문 챗봇 - 스트림릿,아나콘다 - 재확인 요망

내가 가진 PDF로 RAG 구성

RAG는 질문을 받으면 내가가진 PDF내용을 찾아보고 질문과 찾은 결과를 LLM에 제공하여 답변을 얻는다.

PDF 문서를 가져와 텍스트를 추춘하고 청크로 분할한다.

분할된 청크는 임베딩처리하고 파스(FAISS)에 저장

https://github.com/gilbutITbook/080413/tree/main/%EC%8B%A4%EC%8A%B5/5%EC%9E%A5

오류

import streamlit as st

from PyPDF2 import PdfReader

from langchain_openai import OpenAIEmbeddings

from langchain.chat_models import ChatOpenAI

from langchain.chains import ConversationalRetrievalChain, RetrievalQA

from langchain.memory import ConversationBufferWindowMemory

from langchain.vectorstores import FAISS

from langchain.document_loaders import PyPDFLoader

from langchain.text_splitter import RecursiveCharacterTextSplitter

api_key="sk-proj-fea2QijO-fMLWHM_1ENA06iDl86IA"

ImportError: cannot import name '_signature' from 'langchain_community.chat_models.baichuan' (C:\Users\seo\anaconda3\envs\llm\lib\site-packages\langchain_community\chat_models\baichuan.py)

<5> 서비스5- 대화형 챗봇 - 스트림릿,아나콘다 - 재확인 요망

<6> 서비스6- 번역서비스 - 스트림릿,아나콘다 - 재확인 요망

1

번역 서비스?

번역을 원하는 텍스트를 입력한다.

번역을 원하는 언어를 선택 > 번역 클릭

번역된다.

2

10

번역 서비스 py 파일 실행 오류 - 재확인 필요

<7> 서비스7- 메일 작성기 - 스트림릿,아나콘다 - 재확인 요망

1

메일 작성서비스 ?

모임이 있어요 입력

[예제를 보여 주세요] 버튼을 클릭하면 이메일을 작성해주는 서비스를 만들자.

2

아나콘다 프롬프트

3

!pip install streamlit

!pip install langchain

!pip install openai

4

import streamlit as st

import os

os.environ["OPENAI_API_KEY"] = "sk-proj-fMLWHM_1ENA06iDl86IA" #openai 키 입력

st.set_page_config(page_title="이메일 작성 서비스예요~", page_icon=":robot:")

st.header("이메일 작성기")

5

def getEmail():

input_text = st.text_area(label="메일 입력", label_visibility='collapsed',

placeholder="당신의 메일은...", key="input_text")

return input_text

input_text = getEmail()

6

# 이메일 변환 작업을 위한 템플릿 정의

query_template = """

메일을 작성해주세요.

아래는 이메일입니다:

이메일: {email}

"""

7

from langchain import PromptTemplate

# PromptTemplate 인스턴스 생성

prompt = PromptTemplate(

input_variables=["email"],

template=query_template,

)

8

from langchain.chat_models import ChatOpenAI

# 언어 모델을 호출합니다

def loadLanguageModel():

llm = ChatOpenAI(temperature=0.0,model_name='gpt-4')

return llm

9

# 예시 이메일을 표시

st.button("*예제를 보여주세요*", type='secondary', help="봇이 작성한 메일을 확인해보세요.")

st.markdown("### 봇이 작성한 메일은:")

if input_text:

llm = loadLanguageModel()

# PromptTemplate 및 언어 모델을 사용하여 이메일 형식을 지정

prompt_with_email = prompt.format(email=input_text)

formatted_email = llm.predict(prompt_with_email)

# 서식이 지정된 이메일 표시

st.write(formatted_email)

# 반응이 없다. 정상.

10

# 주피터 노트에서 .py 확장자료 다운 받자. = File > Save and Export Notebook > Executable Scropt 선택

11

도스창에서

streamlit run email.py

실행하자.

11

오류?

12

제공하는 파이썬 코드 실행시도 오류 - 2024-11-13

<8> 서비스8- CSV 파일 분석하기 - 아나콘다 - 잘됨

CSV 파일(Excel)파일을 읽고 , 원하는 것을 묻고 답변을 받는 서비스

1

가상환경 하나 추가로 만들자

판다스 사용하려 한다. = 파이썬 3.9 이상에서 동작한다.

2

Windows에서 아나콘다 프롬프트 실행

3

conda create -n llm2 python=3.9

activate llm2

pip install ipykernel

python -m ipykernel install --user --name llm39 --display-name "llm39"

jupyter notebook

4

NEW > llm39 선택하여 사용

5

# 라이브러리 설치하자.

# langchain-experimental 는 판다스 사용을 위해 필요하다.

!pip install langchain-experimental

!pip install tabulate

!pip install pandas

!pip install openai

6

# CSV 파일을 C:/data 폴더에 넣어두자.

CSV파일의 형식은 다음과 같다.

import pandas as pd #파이썬 언어로 작성된 데이터를 분석 및 조작하기 위한 라이브러리

#csv 파일을 데이터프레임으로 가져오기

df = pd.read_csv('c:/data/booksv_02.csv') #booksv_02.csv 파일이 위치한 경로 지정

df.head()

7

from langchain_experimental.agents.agent_toolkits import create_pandas_dataframe_agent

from langchain.chat_models import ChatOpenAI

from langchain.agents.agent_types import AgentType

import os

os.environ["OPENAI_API_KEY"] = "sk-proj-febmAeqQRjKvXZvNA06iDl86IA" #openai 키 입력

#에이전트 생성

agent = create_pandas_dataframe_agent(

ChatOpenAI(temperature=0, model='gpt-4o'), #gpt-3.5-turbo 사용

df, #데이터가 담긴 곳

verbose=False, #추론 과정을 출력하지 않음

agent_type=AgentType.OPENAI_FUNCTIONS,

allow_dangerous_code=True,

)

8

결과 확인 ?

# 카운트 높은것에 대해 문의

# 가장 최근 출간된 책 문의

<9> 추가 서비스들

1

고객센터 ?

기존 상담원에서 바뀐 화장품에 대한 추가 교육

신규 입사한 상담원에게 이전 버전과 바뀐 버전에 대한 교육필요로 비용,시간 부담 가중

LLM을 이용해 스크립트 생성

동작)

xx 상품에 대해 이전 버전과 비교 설명해줘?

화장품 DB에서 검색

검색 결과 반환

질문 +검색 결과 반환 로 LLM에 문의

스크립트 생성

상담원이 스크립트 보고 답변함.

2

상품 추천 ?

동작)

최근 유행하는 청바지는? 묻는다.

검색 엔진을 통해 가장 많이 팔린 청바지 확인.

최근 유행하는 청바지 + 검색 엔진을 통해 가장 많이 팔린 청바지 확인. 으로 질문

LLM이 답변한다.

3

보험 가입 신청 검토 ?

보험료, 가입 조건을 결정해 계약의 승낙/거절 여부를 판단.

동작)

보험 가입 여부 질의 - 사용자 정보 확인 (질병여부, 최근 3년내 보험금 지급내역 등)- 질문 + 검색결과 - 가입?

다음

https://brunch.co.kr/@topasvga/3865

1-3. 랭체인을 활용한 서비스

댓글