<div id="readability-page-1" class="page"><div>
  
  
  <p><span>2023년 05월 01일 작성</span></p><h2 id="tldr">TL;DR</h2>

<p>코드는 여기<sup id="fnref:1" role="doc-noteref"><a href="#fn:1" rel="footnote">1</a></sup></p>

<h2 id="시작하며">시작하며</h2>

<p>옛날에는 세이지메이커 파이프라인 대신 스텝펑션으로 파이프라인을 구성해서 썼지만, 세이지메이커 스튜디오와 세이지메이커 파이프라인이 생기면서 이쪽을 이용해서 MLOps 파이프라인을 구성하는 것이 대세가 되고 있다.</p>

<p>개인적으로 세이지메이커 스튜디오의 몇몇 단점들 때문에 쓰기 싫어서 미루고 미루다가 결국 흐름에 떠밀려 공부를 하게 되었고, 샘플만들고 공부한건 몇달전이지만 이제서야 정리해본다.</p>

<p>본 글에서는 세이지메이커 파이프라인을 이용해서 YOLOv8 모델을 피카츄를 찾을 수 있는 모델로 파인튜닝하는 예제를 보여준다.</p>

<h2 id="세이지메이커-스튜디오">세이지메이커 스튜디오</h2>

<p>세이지메이커 파이프라인을 쓰려면 반드시 세이지메이커 스튜디오를 설정해야 한다.</p>

<p>세이지메이커 스튜디오를 콘솔에서 직접 만들거나 다음<sup id="fnref:2" role="doc-noteref"><a href="#fn:2" rel="footnote">2</a></sup> CDK 프로젝트를 배포해서 만들 수 있다.</p>

<p>CDK 프로젝트로 배포후, 노트북을 실행하기 전 콘솔에서 README 에 있는 <strong>Enable Project templates</strong> 단계 진행해야 배포용 Project 를 생성할 수 있다.</p>

<p>이렇게 스튜디오가 강제된다는 점이, 개인적으로 생각하는 세이지메이커 파이프라인의 가장 큰 단점이다.</p>

<p>세이지메이커 스튜디오 안에서 만든 몇몇 리소스들은 (예, 파이프라인, 모델 레지스트리) AWS 콘솔에서 확인할 수 없다.</p>

<p>따라서 해당 리소스들을 확인 하려면 반드시 세이지메이커 스튜디오나 AWS CLI를 이용해야 한다. 운영팀과 모델 개발팀이 분리되어 있는 경우에 운영팀 입장에서는 상당히 불편한 부분이다. (즉, DS 쓰라고 만들어둔 툴을 운영팀도 쓸 줄 알아야 한다.)</p>

<h2 id="코드-다운로드">코드 다운로드</h2>

<p>세이지메이커 스튜디오를 열고 터미널을 열어서 다음 명령어를 실행한다.</p>

<div><pre><code>git clone https://github.com/haandol/sagemaker-pipeline-yolov8-example
</code></pre></div>

<p>왼쪽 파일 탐색기에서 <code>sagemaker-pipeline-yolov8-example</code> 폴더아래에 <code>notebook/pikachu_sagemaker.ipynb</code> 노트북을 더블클릭해서 실행한다.</p>

<p>데이터 다운로드부터 시작해서 모델 훈련까지 모든 과정을 노트북에서 실행할 수 있다.</p>

<h3 id="빌드용-이미지-배포">빌드용 이미지 배포</h3>

<p>세이지메이커 파이프라인을 VPC 에 붙여서 실행하는 경우 ECR 이미지만 쓸 수 있다.</p>

<p>그리고 세이지메이커 스튜디오에는 도커가 없다.</p>

<p>따라서 Cloud9 이나 로컬에서 도커를 이용해서 빌드용 이미지를 만들어서 ECR 에 배포해야 한다.</p>

<div><pre><code>git clone https://github.com/haandol/sagemaker-pipeline-yolov8-example
<span>cd </span>sagemaker-pipeline-yolov8-example/train
./build_and_push
</code></pre></div>

<p>위의 스크립트는 실행한 AWS 계정에 <code>yolov8-training-gpu</code> 이름으로 ECR 레포지토리를 만들고 pytorch 1.13.1-gpu 기반 yolov8 학습환경 이미지를 배포한다.</p>

<h3 id="사용한-데이터">사용한 데이터</h3>

<p>파인튜닝에 사용할 데이터는 Roboflow 의 <a href="https://universe.roboflow.com/oklahoma-state-university-jyn38/pikachu-detection/dataset/1">Pikachu dataset</a> 이다.</p>

<p><img src="https://haandol.github.io/assets/img/2023/0501/dataset.png" alt="dataset"></p>

<p>코드에 포함된 노트북을 통해 다운받고 S3 에 업로드할 수 있다.</p>

<h2 id="세이지메이커-파이프라인">세이지메이커 파이프라인</h2>

<p>현재 세이지메이커 파이프라인을 이용한 MLOps 베스트 프랙티스는 아래와 그림과 같으며</p>

<ul>
  <li>모델 빌드</li>
  <li>모델 배포</li>
</ul>

<p>2개의 파트로 되어 있다.</p>

<p><img src="https://d2908q01vomqb2.cloudfront.net/f1f836cb4ea6efb2a0b1b99f41ad8b103eff4b59/2021/01/12/SageMaker-Pipelines-Architecture.jpg" alt="SageMaker Pipelines Architecture"></p>

<p>위의 노트북을 실행하면 좌측 모델 빌드에 관련된 세이지메이커 파이프라인이 생성되고 실행된다.</p>

<div><pre><code>...
execution <span>=</span> pipeline.start<span>()</span>
execution.describe<span>()</span>
</code></pre></div>

<h2 id="파이프라인-확인">파이프라인 확인</h2>

<p>학습은 <code>m5.xlarge</code> 에서 진행되며 대략 20분정도 소요된다.</p>

<p>세이지메이커 스튜디오 좌측 사이드바의 <strong>홈버튼-&gt;Pipelines-&gt;pikachu-yolo-pipeline</strong> 로 이동하여 파이프라인 실행 상태를 확인할 수 있다.</p>

<p><img src="https://haandol.github.io/assets/img/2023/0501/pipeline1.png" alt="pipeline1"></p>

<p><img src="https://haandol.github.io/assets/img/2023/0501/pipeline2.png" alt="pipeline2"></p>

<p>학습이 완료되면 모델 레지스트리에 모델이 등록된다.</p>

<p>모델레지스트리는 세이지메이커 스튜디오 좌측 사이드바의 <strong>홈버튼-&gt;Model Registry</strong> 에서 확인할 수 있다.</p>

<p><img src="https://haandol.github.io/assets/img/2023/0501/model-registry.png" alt="model registry"></p>

<h2 id="배포용-파이프라인-생성">배포용 파이프라인 생성</h2>

<p><img src="https://d2908q01vomqb2.cloudfront.net/f1f836cb4ea6efb2a0b1b99f41ad8b103eff4b59/2021/01/12/SageMaker-Pipelines-Architecture.jpg" alt="SageMaker Pipelines Architecture"></p>

<p>우측의 배포용 파이프라인 생성은 스튜디오의 프로젝트를 통해 하면 쉽게 할 수 있다.
세이지메이커 프로젝트는 원하는 형태의 인프라 템플릿과 설정을 미리 저장해두고 재사용할 수 있게 도와주는 기능이다.</p>

<ol>
  <li>세이지메이커 스튜디오 좌측 사이드바의 <strong>홈버튼-&gt;Deployments-&gt;Projects</strong> 로 이동하여
<strong>Sagemaker templates</strong> 탭에서, <strong>Model Deployments</strong> 템플릿을 클릭하고 <strong>Select project template</strong> 버튼을 클릭한다.</li>
</ol>

<p><img src="https://haandol.github.io/assets/img/2023/0501/project1.png" alt="project 1"></p>

<ol>
  <li><strong>Name</strong> 에 <strong>pikachu-deploy</strong> 를 입력하고, <strong>Project template parameters</strong> 에는 <strong>PikachuYOLOv8</strong> 을 입력해서 프로젝트를 생성한다.</li>
</ol>

<p><img src="https://haandol.github.io/assets/img/2023/0501/project2.png" alt="project 2"></p>

<p>생성후 사이드바의 <strong>Deployments-&gt;Projects</strong> 메뉴에 가보면 프로젝트가 생성되어 있을 것이다.</p>

<p>해당 프로젝트는 코드커밋 레포지토리 및 <a href="https://ap-northeast-2.console.aws.amazon.com/codesuite/codepipeline/pipelines?region=ap-northeast-2">코드파이프라인</a>을 생성해준다. (그렇다, 세이지메이커 파이프라인이 아니다. 배포는 코드파이프라인을 쓴다..)</p>

<p>이렇게 생성된 배포 파이프라인은 모델레포지토리에서 모델상태를 변경하거나, 코드커밋 레포지토리에 변경이 발생하면 자동으로 실행된다.</p>

<p>본 글에서는 모델 레포지토리에서 상태변경으로만 파이프라인을 실행해보겠지만, 필요하면 프로젝트가 생성해준 레포지토리를 클론받아서 코드를 직접 수정하고 배포할 수 있다.</p>

<h2 id="모델-승인">모델 승인</h2>

<p>세이지메이커 스튜디오 좌측 사이드바의 <strong>홈버튼-&gt;Models-&gt;Model Registry</strong> 로 이동하여 <strong>PikachuYOLOv8</strong> 을 선택하고 가장 최근에 등록된 모델의 Status 를 Approved 로 변경해준다.</p>

<p>모델 목록에서 마우스 우클릭을해서 상태업데이트를 해줘도 되고, 모델을 더블클릭해서 상세페이지로 간뒤 상단의 <strong>Update status</strong> 를 클릭해서 상태를 변경해줘도 된다.</p>

<p><img src="https://haandol.github.io/assets/img/2023/0501/model-approve.png" alt="model approve"></p>

<p>위에서 배포한 <a href="https://ap-northeast-2.console.aws.amazon.com/codesuite/codepipeline/pipelines?region=ap-northeast-2">배포용 코드파이프라인</a>으로 가보면 코드가 자동으로 배포되는 것을 확인할 수 있다.</p>

<p>기본 설정은 가장 <strong>최근에 생성된 모델중 Approved 상태인 모델</strong>을 배포한다. 또한 파이프라인 기본 설정상 모델은 <strong>ml.m5.large</strong> 로 배포가 되는데, 인스턴스 타입을 변경하고 싶다면 파이프라인에서 생성해준 코드커밋 레포지토리의 코드를 수정해서 푸시해줘야 한다.</p>

<p><img src="https://haandol.github.io/assets/img/2023/0501/codepipelin1.png" alt="codepipeline1"></p>

<p>파이프라인은 스테이징 과 프로덕션으로 엔드포인트를 나눠서 배포하도록 자동 구성되어 있다. 아래 그림과 같이 스테이징 엔드포인트는 즉시 배포되고, 사용자가 수동으로 승인을 하면 프로덕션 엔드포인트가 배포된다.</p>

<p><img src="https://haandol.github.io/assets/img/2023/0501/codepipelin2.png" alt="codepipeline2"></p>

<p>본 글에서는 굳이 승인을 하지는 않겠지만 일반적으로 사용하는 프로세스를 자동으로 구성해주므로 편하게 쓸 수 있다.</p>

<h2 id="세이지메이커-엔드포인트-테스트">세이지메이커 엔드포인트 테스트</h2>

<p>배포가 완료되면 <strong>pikachu-deploy-staging</strong> 이라는 이름으로 엔드포인트가 생성된다.</p>

<p><img src="https://haandol.github.io/assets/img/2023/0501/endpoint.png" alt="endpoint"></p>

<p>노트북 하단에 엔드포인트를 통해 테스트 하는 코드가 있다. 해당코드로 테스트 해보자.</p>

<p><img src="https://haandol.github.io/assets/img/2023/0501/inference.png" alt="inference"></p>

<h2 id="마치며">마치며</h2>

<p>모델 레지스트리에 등록하는 부분까지는 세이지메이커 스튜디오 및 세이지메이커 파이프라인에서 진행하고,</p>

<p>모델 레지스트리에 등록된 모델을 배포하는 부분은 코드파이프라인을 통해 진행한다는 점이 약간 헷갈릴 수 있지만</p>

<p>그래도, 해당 내용을 직접 만드는거에 비해서 세이지메이커 파이프라인을 쓰면 MLOps 프로세스를 쉽게 만들고 관리할 수 있다.</p>

<hr>



</div></div>

Haandol

TL;DR
코드는 여기1
시작하며
옛날에는 세이지메이커 파이프라인 대신 스텝펑션으로 파이프라인을 구성해서 썼지만, 세이지메이커 스튜디오와 세이지메이커 파이프라인이 생기면서 이쪽을 이용해서 MLOps 파이프라인을 구성하는 것이 대세가 되고 있다.
개인적으로 세이지메이커 스튜디오의 몇몇 단점들 때문에 쓰기 싫어서 미루고 미루다가 결국 흐름에 떠밀려 공부를 하게 되었고, 샘플만들고 공부한건 몇달전이지만 이제서야 정리해본다.
본 글에서는 세이지메이커 파이프라인을 이용해서 YOLOv8 모델을 피카츄를 찾을 수 있는 모델로 파인튜닝하는 예제를 보여준다.
세이지메이커 스튜디오
세이지메이커 파이프라인을 쓰려면 반드시 세이지메이커 스튜디오를 설정해야 한다.
세이지메이커 스튜디오를 콘솔에서 직접 만들거나 다음2 CDK 프로젝트를 배포해서 만들 수 있다.
CDK 프로젝트로 배포후, 노트북을 실행하기 전 콘솔에서 README 에 있는 Enable Project templates 단계 진행해야 배포용 Project 를 생성할 수 있다.
이렇게 스튜디오가 강제된다는 점이, 개인적으로 생각하는 세이지메이커 파이프라인의 가장 큰 단점이다.
세이지메이커 스튜디오 안에서 만든 몇몇 리소스들은 (예, 파이프라인, 모델 레지스트리) AWS 콘솔에서 확인할 수 없다.
따라서 해당 리소스들을 확인 하려면 반드시 세이지메이커 스튜디오나 AWS CLI를 이용해야 한다. 운영팀과 모델 개발팀이 분리되어 있는 경우에 운영팀 입장에서는 상당히 불편한 부분이다. (즉, DS 쓰라고 만들어둔 툴을 운영팀도 쓸 줄 알아야 한다.)
코드 다운로드
세이지메이커 스튜디오를 열고 터미널을 열어서 다음 명령어를 실행한다.
git clone https://github.com/haandol/sagemaker-pipeline-yolov8-example
왼쪽 파일 탐색기에서 sagemaker-pipeline-yolov8-example 폴더아래에 notebook/pikachu_sagemaker.ipynb 노트북을 더블클릭해서 실행한다.
데이터 다운로드부터 시작해서 모델 훈련까지 모든 과정을 노트북에서 실행할 수 있다.
빌드용 이미지 배포
세이지메이커 파이프라인을 VPC 에 붙여서 실행하는 경우 ECR 이미지만 쓸 수 있다.
그리고 세이지메이커 스튜디오에는 도커가 없다.
따라서 Cloud9 이나 로컬에서 도커를 이용해서 빌드용 이미지를 만들어서 ECR 에 배포해야 한다.
git clone https://github.com/haandol/sagemaker-pipeline-yolov8-example
cd sagemaker-pipeline-yolov8-example/train
./build_and_push
위의 스크립트는 실행한 AWS 계정에 yolov8-training-gpu 이름으로 ECR 레포지토리를 만들고 pytorch 1.13.1-gpu 기반 yolov8 학습환경 이미지를 배포한다.
사용한 데이터
파인튜닝에 사용할 데이터는 Roboflow 의 Pikachu dataset 이다.
코드에 포함된 노트북을 통해 다운받고 S3 에 업로드할 수 있다.
세이지메이커 파이프라인
현재 세이지메이커 파이프라인을 이용한 MLOps 베스트 프랙티스는 아래와 그림과 같으며
모델 빌드
모델 배포
2개의 파트로 되어 있다.
위의 노트북을 실행하면 좌측 모델 빌드에 관련된 세이지메이커 파이프라인이 생성되고 실행된다.
...
execution = pipeline.start()
execution.describe()
파이프라인 확인
학습은 m5.xlarge 에서 진행되며 대략 20분정도 소요된다.
세이지메이커 스튜디오 좌측 사이드바의 홈버튼->Pipelines->pikachu-yolo-pipeline 로 이동하여 파이프라인 실행 상태를 확인할 수 있다.
학습이 완료되면 모델 레지스트리에 모델이 등록된다.
모델레지스트리는 세이지메이커 스튜디오 좌측 사이드바의 홈버튼->Model Registry 에서 확인할 수 있다.
배포용 파이프라인 생성
우측의 배포용 파이프라인 생성은 스튜디오의 프로젝트를 통해 하면 쉽게 할 수 있다.
세이지메이커 프로젝트는 원하는 형태의 인프라 템플릿과 설정을 미리 저장해두고 재사용할 수 있게 도와주는 기능이다.
세이지메이커 스튜디오 좌측 사이드바의 홈버튼->Deployments->Projects 로 이동하여
Sagemaker templates 탭에서, Model Deployments 템플릿을 클릭하고 Select project template 버튼을 클릭한다.
Name 에 pikachu-deploy 를 입력하고, Project template parameters 에는 PikachuYOLOv8 을 입력해서 프로젝트를 생성한다.
생성후 사이드바의 Deployments->Projects 메뉴에 가보면 프로젝트가 생성되어 있을 것이다.
해당 프로젝트는 코드커밋 레포지토리 및 코드파이프라인을 생성해준다. (그렇다, 세이지메이커 파이프라인이 아니다. 배포는 코드파이프라인을 쓴다..)
이렇게 생성된 배포 파이프라인은 모델레포지토리에서 모델상태를 변경하거나, 코드커밋 레포지토리에 변경이 발생하면 자동으로 실행된다.
본 글에서는 모델 레포지토리에서 상태변경으로만 파이프라인을 실행해보겠지만, 필요하면 프로젝트가 생성해준 레포지토리를 클론받아서 코드를 직접 수정하고 배포할 수 있다.
모델 승인
세이지메이커 스튜디오 좌측 사이드바의 홈버튼->Models->Model Registry 로 이동하여 PikachuYOLOv8 을 선택하고 가장 최근에 등록된 모델의 Status 를 Approved 로 변경해준다.
모델 목록에서 마우스 우클릭을해서 상태업데이트를 해줘도 되고, 모델을 더블클릭해서 상세페이지로 간뒤 상단의 Update status 를 클릭해서 상태를 변경해줘도 된다.
위에서 배포한 배포용 코드파이프라인으로 가보면 코드가 자동으로 배포되는 것을 확인할 수 있다.
기본 설정은 가장 최근에 생성된 모델중 Approved 상태인 모델을 배포한다. 또한 파이프라인 기본 설정상 모델은 ml.m5.large 로 배포가 되는데, 인스턴스 타입을 변경하고 싶다면 파이프라인에서 생성해준 코드커밋 레포지토리의 코드를 수정해서 푸시해줘야 한다.
파이프라인은 스테이징 과 프로덕션으로 엔드포인트를 나눠서 배포하도록 자동 구성되어 있다. 아래 그림과 같이 스테이징 엔드포인트는 즉시 배포되고, 사용자가 수동으로 승인을 하면 프로덕션 엔드포인트가 배포된다.
본 글에서는 굳이 승인을 하지는 않겠지만 일반적으로 사용하는 프로세스를 자동으로 구성해주므로 편하게 쓸 수 있다.
세이지메이커 엔드포인트 테스트
배포가 완료되면 pikachu-deploy-staging 이라는 이름으로 엔드포인트가 생성된다.
노트북 하단에 엔드포인트를 통해 테스트 하는 코드가 있다. 해당코드로 테스트 해보자.
마치며
모델 레지스트리에 등록하는 부분까지는 세이지메이커 스튜디오 및 세이지메이커 파이프라인에서 진행하고,
모델 레지스트리에 등록된 모델을 배포하는 부분은 코드파이프라인을 통해 진행한다는 점이 약간 헷갈릴 수 있지만
그래도, 해당 내용을 직접 만드는거에 비해서 세이지메이커 파이프라인을 쓰면 MLOps 프로세스를 쉽게 만들고 관리할 수 있다.
Sagemaker Pipeline YOLOv8 Example ↩
CDk Sagemaer Studio ↩

세이지메이커 파이프라인으로 YOLOv8 파인튜닝 해보기

댓글