<div id="readability-page-1" class="page"><div>
 <div id="SE-c06b240f-9aa4-41b7-866c-b3d6ed2c0365">
 2025년 5월 12일알리시아 프레임, Azure AI 파운드리 부문 수석 제품 관리자​오늘, o4-mini(곧 출시 예정), GPT-4.1-nano용 감독 파인튜닝(SFT) 및 Llama 4 Scout 모델(지금 사용 가능)을 통해 Azure AI Foundry-Reinforcement Fine-Tuning(RFT)의 모델 파인튜닝에 대한 세 가지 주요 개선 사항을 발표하게 되어 기쁩니다. 이러한 업데이트는 조직이 고도로 맞춤화된 도메인 적응형 AI 시스템을 구축하여 실제 영향력을 발휘할 수 있는 도구를 제공하려는 지속적인 노력을 반영합니다. ​이 새로운 모델을 통해 두 가지 주요한 LLM 커스터마이징의 길이 열렸습니다: GPT-4.1-nano는 강력한 소형 모델로 증류에 이상적인 반면, o4-mini는 파인튜닝이 가능한 최초의 추론 모델이며, Llama 4 Scout는 동급 최강의 오픈 소스 모델입니다. ​
 </div> <div id="SE-cf7e372e-4acf-4294-beb3-012712dc03de">
 강화 파인튜닝은 모델 동작을 복잡한 비즈니스 로직에 맞추기 위한 새로운 수준의 제어 기능을 도입합니다. 정확한 추론에 보상을 제공하고, 바람직하지 않은 출력에 불이익을 줌으로써, RFT는 역동적이거나 리스크가 큰 환경에서 모델 의사 결정을 개선합니다.​빠른 추론 성능을 유지하면서 적응형 추론, 상황 인식, 도메인별 로직을 필요로 하는 사용 사례에 대한 새로운 가능성을 열어주는 RFT는 곧 o4-mini 모델에 적용될 예정입니다.<a href="https://youtu.be/I7h0ywG2GKA" data-linktype="text" data-linkdata="{&quot;id&quot;: &quot;SE-2ef81f33-c583-4d6f-a123-012f658638db&quot;, &quot;link&quot;: &quot;https://youtu.be/I7h0ywG2GKA&quot;}" target="_blank">https://youtu.be/I7h0ywG2GKA</a>
 </div> 
 
 <div id="SE-7c76cf17-7c82-4ef5-961a-f7562652527c">
 법률 기술 스타트업인 DraftWise는 계약서 생성 및 검토에 맞게 조정된 추론 모델의 성능을 향상하기 위해 Azure AI 파운드리 모델에서 RFT(강화 파인튜닝)를 사용했습니다. 변호사에게 문맥에 맞고 법적으로 타당한 제안을 제공해야 하는 과제에 직면한 DraftWise는 독점 법률 데이터를 사용하여 Azure OpenAI 모델을 파인튜닝하여 응답 정확도를 개선하고 미묘한 사용자 프롬프트에 적응했습니다. 그 결과 검색 결과 품질이 30% 개선되어 변호사가 계약서 초안을 더 빠르게 작성하고 고부가가치 자문 업무에 집중할 수 있게 되었습니다. 
 </div> <div id="SE-750877ac-4e6d-4f43-9f29-ed6fdaa44b65">
 <blockquote>
 추론 모델에 대한 파인튜닝 강화는 잠재적인 게임 체인저입니다. 모델이 법률 언어의 뉘앙스를 이해하고 복잡한 초안 작성 지침에 더 지능적으로 대응할 수 있게 되어 변호사에게 실시간으로 훨씬 더 유용한 제품이 될 것으로 기대합니다.
 -제임스 딩, DraftWise 설립자 겸 CEO.
 </blockquote>
 </div>
 <div id="SE-455c41a3-deb4-4878-bbe3-61e663b045d3">
 강화 파인튜닝은 적응성, 반복 학습 및 도메인별 동작이 필수적인 사용 사례에 가장 적합합니다. 시나리오에 이러한 사항이 포함되는 경우 RFT를 고려해야 합니다: ​<ol><li>사용자 지정 규칙 구현: RFT는 의사 결정 로직이 조직에 매우 구체적이고 정적 프롬프트나 기존 학습 데이터로는 쉽게 포착할 수 없는 환경에서 효과적입니다. 이를 통해 모델은 실제 복잡성을 반영하는 유연하고 진화하는 규칙을 학습할 수 있습니다. </li><li>도메인별 운영 표준: 내부 절차가 업계 표준과 다른 경우, 그리고 이러한 맞춤형 표준을 준수하는 것이 성공 여부에 달려 있는 시나리오에 이상적입니다. RFT는 연장된 타임라인이나 수정된 규정 준수 임계값과 같은 절차적 변수를 모델의 동작에 효과적으로 인코딩할 수 있습니다. </li><li>높은 의사 결정 복잡성: RFT는 계층화된 로직과 변수가 많은 의사 결정 트리가 있는 도메인에서 탁월한 성능을 발휘합니다. 결과가 수많은 하위 사례를 탐색하거나 여러 입력값을 동적으로 평가하는데 달려 있는 경우, RFT는 모델이 복잡성을 일반화하여 보다 일관되고 정확한 의사 결정을 내릴 수 있도록 도와줍니다. </li></ol>​
 </div> <div id="SE-a0838d29-c1ec-4a67-a45b-3b4bec1f95c8">
 RFT의 잠재력을 보여주기 위해 가상의 자산 자문 회사인 콘토소 웰니스를 예로 들어보겠습니다. o4-mini 모델은 RFT를 사용하여 고객의 순자산과 가용 자금의 비율과 같은 미묘한 패턴을 기반으로 최적의 고객 상호 작용을 식별하는 등 고유한 비즈니스 규칙에 적응하는 방법을 학습했습니다. 이를 통해 콘토소는 온보딩 프로세스를 간소화하고 정보에 입각한 의사 결정을 더 빠르게 내릴 수 있었습니다.<a href="https://youtu.be/L1LMzcqGQ8w" data-linktype="text" data-linkdata="{&quot;id&quot;: &quot;SE-8656fddb-a735-4ea4-9784-6c530aef6b78&quot;, &quot;link&quot;: &quot;https://youtu.be/L1LMzcqGQ8w&quot;}" target="_blank">https://youtu.be/L1LMzcqGQ8w</a>
 </div> 
 
 <div id="SE-f637c75d-8ec0-4cf6-8d61-7ff1ed557327">
 이제 GPT-4.1-nano에서 감독형 파인튜닝 사용 가능 
 </div> <div id="SE-082dcc86-119e-48a8-9307-ab2993e4ff4a">
 처리량이 많고 비용에 민감한 워크로드에 최적화된 작지만 강력한 기본 모델인 GPT-4.1-nano 모델에도 SFT(Supervised Fine-Tuning) 기능을 제공합니다. SFT를 사용하면 회사별 어조, 용어, 워크플로, 구조화된 결과물을 모두 도메인에 맞게 모델에 적용할 수 있습니다. 이 모델은 향후 며칠 내에 파인튜닝이 가능할 예정입니다. ​GPT-4.1-nano로 파인튜닝해야 하는 이유는? <ul><li>규모에 맞는 정밀도: 속도와 효율성을 유지하면서, 모델의 응답을 조정할 수 있습니다. </li><li>엔터프라이즈급 출력: 비즈니스 프로세스 및 음성 톤에 맞게 조정할 수 있습니다. </li><li>경량 및 배포 가능: 고객 서비스 봇, 온디바이스 처리, 대용량 문서 구문 분석 등 지연 시간과 비용이 중요한 시나리오에 적합합니다. </li></ul>​4.1-nano는 대형 모델에 비해 추론 속도가 빠르고 컴퓨팅 비용이 낮기 때문에, 다음과 같은 대규모 워크로드에 적합합니다: ​<ul><li>시간당 수천 건의 티켓을 일관된 어조와 정확도로 처리해야 하는 고객 지원 자동화. </li><li>회사 스타일과 프로토콜에 따라 문서를 요약하거나 FAQ에 응답하는 내부 지식 도우미. </li></ul>​작고 빠르지만 성능이 뛰어난 모델인 GPT-4.1-nano는 증류(distillation)에도 적합합니다. GPT-4.1 또는 o4와 같은 모델을 사용하여 학습 데이터를 생성하거나 저장된 완료로 프로덕션 트래픽을 캡처하고, 4.1-nano도 마찬가지로 스마트하게 학습시킬 수 있습니다!
 </div> <div id="SE-fdaea8d3-c405-4ee2-bf73-f4e09bedb0a2">
 <a href="#" onclick="return false;" data-linktype="img" data-linkdata="{&quot;id&quot; : &quot;SE-fdaea8d3-c405-4ee2-bf73-f4e09bedb0a2&quot;, &quot;src&quot; : &quot;https://azure.microsoft.com/en-us/blog/wp-content/uploads/2025/05/nano.gif&quot;, &quot;originalWidth&quot; : &quot;3828&quot;, &quot;originalHeight&quot; : &quot;1971&quot;, &quot;linkUse&quot; : &quot;false&quot;, &quot;link&quot; : &quot;&quot;}">
 <img src="https://azure.microsoft.com/en-us/blog/wp-content/uploads/2025/05/nano.gif" alt="">
 </a>
 
 </div>
 <div id="SE-a537adec-13b8-4e1e-8ec8-06468fc8e89c">
 또한, 추론을 위해 단일 H100 GPU에 적합하면서 업계 최고의 170억 개의 활성 매개변수 창을 제공하는 최첨단 모델인 Meta의 Llama 4 Scout에 대한 파인튜닝 지원도 발표하게 되어 기쁩니다. 동급 최강의 모델이며 이전 세대의 모든 라마 모델보다 더 강력합니다. ​관리형 컴퓨팅 제품에서 Llama 4 파인튜닝을 사용할 수 있으므로, 자체 GPU 할당량을 사용하여 파인튜닝 및 추론할 수 있습니다. Azure AI Foundry와 Azure 머신 러닝 구성 요소로 모두 사용할 수 있으며, 서버리스 환경과 비교하여 더 심층적인 사용자 지정을 위해 추가 하이퍼파라미터에 액세스할 수 있습니다.
 </div> <div id="SE-34897bfd-2e6f-4ad8-b4ac-96c5157f9ecc">
 Azure AI Foundry는 엔터프라이즈급 AI 튜닝을 위한 기반입니다. 이러한 파인튜닝 개선 사항을 통해 모델 사용자 지정의 새로운 지평을 열어, 비즈니스 DNA를 반영하는 방식으로 생각하고 응답하는 인텔리전트 시스템을 빌드할 수 있습니다.​<ul><li>o4-mini와 함께 강화 파인튜닝을 사용하여 경험을 통해 학습하고 시간이 지남에 따라 진화하는 추론 엔진을 빌드하세요. 미국 동부2 및 스웨덴 중부 지역에 대한 지역적 가용성과 함께 Azure AI Foundry에서 곧 제공될 예정입니다. </li><li>4.1-nano의 감독 파인튜닝을 사용하여 조직 전체에서 안정적이고 비용 효율적이며 고도로 사용자 지정된 모델 동작을 확장하세요. 현재 미국 북중부 및 스웨덴 센트럴의 Azure AI Foundry에서 사용할 수 있습니다. </li><li>동급 최고의 오픈 소스 모델을 사용자 지정하기 위해 Llama 4 스카우트 파인튜닝을 사용해 보세요. 현재 Azure AI Foundry 모델 카탈로그 및 Azure 머신 러닝에서 사용 가능합니다. </li></ul>​Azure AI Foundry를 사용하면 파인튜닝은 정확성뿐만 아니라 스택의 모든 계층에서 신뢰, 효율성 및 적응성을 향상시킬 수 있습니다. ​자세히 살펴보세요: ​이제 시작에 불과합니다. 더 스마트하고 안전하며 고유한 AI를 빌드하는데 도움이 되는 더 많은 모델 지원, 고급 튜닝 기술 및 도구를 계속 지켜봐 주세요. 
 </div> 
 </div></div>

I ❤ Hands-On

2025년 5월 12일 알리시아 프레임, Azure AI 파운드리 부문 수석 제품 관리자 오늘, o4-mini(곧 출시 예정), GPT-4.1-nano용 감독 파인튜닝(SFT) 및 Llama 4 Scout 모델(지금 사용 가능)을 통해 Azure AI Foundry-Reinforcement Fine-Tuning(RFT)의 모델 파인튜닝에 대한 세 가지 주요 개선 사항을 발표하게 되어 기쁩니다. 이러한 업데이트는 조직이 고도로 맞춤화된 도메인 적응형 AI 시스템을 구축하여 실제 영향력을 발휘할 수 있는 도구를 제공하려는 지속적인 노력을 반영합니다. 이 새로운 모델을 통해 두 가지 주요한 LLM 커스터마이징의 길이 열렸습니다: GPT-4.1-nano는 강력한 소형 모델로 증류에 이상적인 반면, o4-mini는 파인튜닝.......

Azure AI Foundry의 새로운 파인튜닝 모델 및 기술 발표

댓글