AWS에서 만든 최신 파운데이션 모델인 Amazon Nova 사용해 보자.

<1> Amazon Nova

<2> Agent Workflow

<3> Amazon Bedrock Agents를 활용한 Agents Chatbot 데모

<1> Amazon Nova

1

가격 대비 성능을 제공하는 최신 파운데이션 모델

2

제공 모델 2가지?

언더스텐딩 모델

콘텐츠 크리에이터 모델

3

콘텐츠 크리에이터 모델 2가지?

Amazon Nova Canvas - 이미지 생성에 특화된 모델

Amazon Nova Reel - 동영상 상성에 특화된 모델

4

언더스텐딩 모델 4가지?

Nova Premier는 출시 예정 (2025년 3월 현재)

출시된 제품 모두 가성비 좋은 모델이다.

미세조정 가능 (Fine-Tune) 가능하다.

빠른 추론 능력 제공한다. 실시간 서비스가 필요한 챗봇, 고객서비스에 적합하다.

장문의 콘텍스트 이해 - 법률문서, 기술문서, 학술 문서 등 긴문서를 다루는데 적합하다.

300K의 대용량 콘텍스트 제공한다.

Nova Premier 5M 콘텍스트 모델 출시 예정

<2> Agent Workflow

1

AI 에이전트는?

스스로 인지하고 결정하고 행동하는 자율적인 시스템.

엔터프라이즈 데이터 액세스 가능

계획, 추론 및 실행

다양한 도구 사용 기능

2

Amazone Bedrock Agents?

아마존 배드락 에이전트를 쉽게 구성가능하다.

3

많이 사용하는 Agent Workflow?

Tool use 패턴 - 적절한 도구를 정의하고, 모델이 필요한 순간 호출하여 사용.

Reflection 패턴 - 결과물에 대한 자가 점검 및 개선.

Planning : 단계별 실행계획 수립 및 실행.

Multi-agent collaboration : 다양한 문제 해결을 위해 여러 에이전트가 협업하여 처리.

4

Tool use 패턴 - 적절한 도구를 정의하고, 모델이 필요한 순간 호출하여 사용.

도구의 실행 결과를 저장할 리스트 초기화. 각 도구의 호출을 반복 실행

Bedrock Agent Action API를 호출하여 도구 실행

<3> Amazon Bedrock Agents를 활용한 Agents Chatbot 데모

콘솔로 Amazon Bedrock Agents 사용

<4> LangGraph로 구현하는 Agentic Workflow

Nova Pro 활용 데모

챗봇 데모

1

일상 대화?

시간과 날씨 질문 - 답변 못함

nova pro 질문 - 답변 못함

2

RAG 사용?

nova pro 질문 - 답변함. Amazon Nova user guide 참고하여 답변함.

3

Tool use 패턴 - 적절한 도구를 정의하고, 모델이 필요한 순간 호출하여 사용.

미리 등록된 tools들을 실행.

시간과 날씨 질문 - 답변함. 시간과 날씨를 알려줌.

4

Reflection 패턴 - 결과물에 대한 자가 점검 및 개선.

Generate , Teflect, Revise과정을 통해 초안을 향상한다.

부족, 조언, 추가 검색어를 추출할 수 있다.

5

Planning : 단계별 실행계획 수립 및 실행.

Plan, Execute , Replan Node를 이용해 Workflow를 구성한다.

6

Multi-agent collaboration : 다양한 문제 해결을 위해 여러 에이전트가 협업하여 처리.

Planning agent와 Reflection agent을 수행하는 multi-agent을 활용하여 보고서를 생성할 수 있다.

다음

https://brunch.co.kr/@topasvga/4349

감사합니다.

6. Amazon Nova로 구현

댓글