<div id="readability-page-1" class="page"><div id="content">
		<main id="main" role="main">

					<div>
				
<article id="post-75">
	

	<div>
		
<p>NVIDIA의 CUDA는 고성능 병렬 컴퓨팅을 위한 강력한 플랫폼이지만, 특정 하드웨어 벤더에 대한 의존성을 야기하는 문제점이 있습니다. 이러한 벤더 종속성(vendor lock-in)을 탈피하기 위한 대안으로 ONNX(Open Neural Network Exchange)가 주목받고 있습니다. 이 보고서에서는 ONNX가 CUDA 의존성 문제를 해결하는 데 어떻게 기여할 수 있는지, 그리고 효과적인 활용 방안에 대해 살펴보겠습니다.</p>







<p>ONNX는 다양한 머신러닝 프레임워크 간의 상호운용성을 제공하는 오픈 포맷으로, 모델을 프레임워크나 하드웨어에 종속되지 않는 표준화된 형식으로 변환할 수 있게 해줍니다. ONNX 형식은 머신러닝 모델을 변환하고 ONNX 런타임을 통해 추론을 수행할 수 있는 강력한 솔루션을 제공합니다<a target="_blank" rel="noreferrer noopener" href="https://dataplatform.cloud.ibm.com/docs/content/wsj/analyze-data/deploy-onnx-overview.html?context=cpdaas&amp;locale=ko">2</a>. 이는 특정 하드웨어나 소프트웨어 환경에 종속되지 않고 다양한 플랫폼에서 모델을 실행할 수 있게 함으로써, 벤더 종속 문제를 해결하는 데 기여합니다.</p>



<p>ONNX의 핵심 가치는 ‘한 번 변환, 어디서나 실행’이라는 패러다임에 있습니다. 개발자는 자신이 선호하는 프레임워크(PyTorch, TensorFlow 등)로 모델을 개발한 후, 이를 ONNX 형식으로 변환하여 다양한 환경에서 활용할 수 있습니다. 이는 특히 CUDA와 같은 특정 가속기 기술에 종속되는 문제를 완화하는 데 중요한 역할을 합니다.</p>



<h2>ONNX가 CUDA 의존성 탈피에 기여하는 방식</h2>



<p>ONNX는 다음과 같은 방식으로 CUDA 의존성 문제를 해결하는 데 기여할 수 있습니다:</p>



<h2>1. 하드웨어 중립적 실행 환경 제공</h2>



<p>ONNX 런타임은 다양한 하드웨어 백엔드를 지원하도록 설계되어 있어, NVIDIA GPU뿐만 아니라 AMD GPU, Intel CPU/GPU, 심지어 모바일 프로세서와 같은 다양한 플랫폼에서 모델을 실행할 수 있습니다. 이는 특정 하드웨어 제조사에 대한 종속성을 줄이고, 하드웨어 선택의 유연성을 높이는 데 기여합니다.</p>



<h2>2. 프레임워크 간 이식성 향상</h2>



<p>ONNX는 PyTorch, TensorFlow, scikit-learn, XGBoost, CatBoost 등 다양한 머신러닝 프레임워크에서 학습된 모델을 표준화된 형식으로 변환할 수 있습니다<a target="_blank" rel="noreferrer noopener" href="https://dataplatform.cloud.ibm.com/docs/content/wsj/analyze-data/deploy-onnx-overview.html?context=cpdaas&amp;locale=ko">2</a>. 이는 특정 프레임워크나 그 프레임워크의 CUDA 종속성에 구애받지 않고 모델을 활용할 수 있게 해줍니다.</p>



<h2>3. 클라우드 및 엣지 환경에서의 유연성</h2>



<p>ONNX 모델은 클라우드 서비스 제공업체의 특정 기술 스택에 종속되지 않고, 다양한 환경에서 실행될 수 있습니다. 이는 클라우드 서비스의 벤더 종속 문제를 완화하는 데 도움이 됩니다<a target="_blank" rel="noreferrer noopener" href="https://www.etnews.com/200811250082">3</a><a target="_blank" rel="noreferrer noopener" href="https://f-lab.kr/insight/cloud-service-vendor-lock-in">4</a>. 또한, 엣지 디바이스와 같은 제한된 환경에서도 최적화된 성능을 발휘할 수 있어, 다양한 배포 시나리오에 대응할 수 있습니다.</p>



<h2>ONNX의 효과적인 활용 방안</h2>



<p>ONNX를 통해 CUDA 의존성을 탈피하고 보다 유연한 머신러닝 인프라를 구축하기 위한 전략적 방안을 살펴보겠습니다:</p>



<h2>1. 모델 변환 프로세스 표준화</h2>



<p>다양한 머신러닝 모델을 ONNX 형식으로 체계적으로 변환하는 파이프라인을 구축하는 것이 중요합니다. 예를 들어, CatBoost 모델을 ONNX로 변환하는 경우 다음과 같은 과정을 따를 수 있습니다:</p>



<p>먼저 CatBoost 모델을 로드하고, 그 다음 format 파라미터를 “onnx”로 설정하여 save_model 함수를 호출합니다. 이때 export_parameters에는 onnx_domain, onnx_model_version, onnx_doc_string, onnx_graph_name 등의 메타데이터를 포함시킵니다<a target="_blank" rel="noreferrer noopener" href="https://dataplatform.cloud.ibm.com/docs/content/wsj/analyze-data/deploy-onnx-overview.html?context=cpdaas&amp;locale=ko">2</a>. 이러한 표준화된 변환 프로세스는 모델의 일관된 관리와 배포를 가능하게 합니다.</p>



<h2>2. 멀티 백엔드 실행 환경 구축</h2>



<p>ONNX 런타임은 다양한 하드웨어 백엔드에서 모델을 실행할 수 있습니다. 이를 활용하여 NVIDIA GPU, AMD GPU, Intel CPU/GPU 등 다양한 하드웨어 환경에서 모델을 실행할 수 있는 유연한 인프라를 구축하는 것이 좋습니다. 이는 하드웨어 가용성, 비용, 성능 요구사항 등에 따라 최적의 실행 환경을 선택할 수 있게 해줍니다.</p>



<h2>3. 성능 최적화 및 모니터링</h2>



<p>ONNX 모델은 다양한 백엔드에서 실행될 수 있지만, 각 환경에 따라 성능 차이가 발생할 수 있습니다. 따라서 다양한 실행 환경에서의 성능을 지속적으로 모니터링하고 최적화하는 것이 중요합니다. 필요에 따라 양자화(quantization), 그래프 최적화 등의 기술을 적용하여 성능을 향상시킬 수 있습니다.</p>



<h2>4. 하이브리드 접근 방식 고려</h2>



<p>일부 고성능 연산이 필요한 경우에는 CUDA를 활용하고, 나머지 부분은 ONNX를 통해 다양한 하드웨어에서 실행하는 하이브리드 접근 방식도 고려해볼 수 있습니다. 이는 성능과 유연성의 균형을 맞추는 데 도움이 될 수 있습니다.</p>



<h2>5. 오픈소스 대안과의 병행 고려</h2>



<p>LibreCUDA와 같은 프로젝트는 독점적인 CUDA 런타임 없이도 NVIDIA GPU에서 CUDA 코드를 실행할 수 있게 해주는 대안을 제시합니다<a target="_blank" rel="noreferrer noopener" href="https://discuss.pytorch.kr/t/gn-librecuda-nvidia-gpu-cuda/5017">1</a>. 이러한 오픈소스 대안과 ONNX를 병행하여 활용함으로써, 보다 포괄적인 벤더 종속성 탈피 전략을 구축할 수 있습니다.</p>



<h2>한계점 및 고려사항</h2>



<p>ONNX가 CUDA 의존성 탈피에 기여할 수 있는 중요한 도구이지만, 몇 가지 한계점과 고려사항도 존재합니다:</p>



<h2>1. 고급 CUDA 기능 지원 제한</h2>



<p>ONNX는 기본적인 신경망 연산을 지원하지만, CUDA의 모든 고급 기능을 대체하지는 못할 수 있습니다. 특히 커스텀 커널이나 특수 알고리즘을 활용하는 경우에는 추가적인 대안을 고려해야 할 수 있습니다.</p>



<h2>2. 성능 차이</h2>



<p>ONNX 런타임이 다양한 하드웨어를 지원하지만, NVIDIA GPU에서 CUDA를 직접 활용하는 것보다 성능이 낮을 수 있습니다. 따라서 성능이 중요한 애플리케이션에서는 이러한 차이를 고려해야 합니다.</p>



<h2>3. 생태계 성숙도</h2>



<p>CUDA는 오랜 기간 동안 발전해온 풍부한 생태계를 가지고 있는 반면, ONNX는 상대적으로 새로운 기술입니다. 따라서 일부 고급 기능이나 도구가 아직 충분히 성숙하지 않을 수 있습니다.</p>



<h2>결론</h2>



<p>ONNX는 NVIDIA CUDA와 같은 특정 소프트웨어 기술의 종속성을 탈피하기 위한 중요한 대안이 될 수 있습니다. 모델 포맷의 표준화, 다양한 하드웨어 백엔드 지원, 프레임워크 간 이식성 향상 등을 통해 벤더 종속 문제를 완화하는 데 기여합니다.</p>



<p>효과적인 활용을 위해서는 모델 변환 프로세스 표준화, 멀티 백엔드 실행 환경 구축, 성능 최적화 및 모니터링, 하이브리드 접근 방식 고려, 그리고 오픈소스 대안과의 병행 활용 등의 전략을 고려해볼 수 있습니다. 그러나 고급 CUDA 기능 지원 제한, 성능 차이, 생태계 성숙도 등의 한계점도 함께 고려해야 합니다.</p>



<p>궁극적으로 ONNX는 특정 벤더에 종속되지 않는 유연하고 지속 가능한 머신러닝 인프라를 구축하는 데 기여할 수 있는 중요한 도구입니다. 머신러닝 프로젝트의 요구사항과 제약 조건을 고려하여, ONNX를 포함한 다양한 대안을 전략적으로 활용하는 접근이 필요합니다.</p>



<h3>Citations:</h3>



<ol>
<li><a href="https://discuss.pytorch.kr/t/gn-librecuda-nvidia-gpu-cuda/5017">https://discuss.pytorch.kr/t/gn-librecuda-nvidia-gpu-cuda/5017</a></li>



<li><a href="https://dataplatform.cloud.ibm.com/docs/content/wsj/analyze-data/deploy-onnx-overview.html?context=cpdaas&amp;locale=ko">https://dataplatform.cloud.ibm.com/docs/content/wsj/analyze-data/deploy-onnx-overview.html?context=cpdaas&amp;locale=ko</a></li>



<li><a href="https://www.etnews.com/200811250082">https://www.etnews.com/200811250082</a></li>



<li><a href="https://f-lab.kr/insight/cloud-service-vendor-lock-in">https://f-lab.kr/insight/cloud-service-vendor-lock-in</a></li>



<li><a href="https://onnxruntime.ai/docs/execution-providers/CUDA-ExecutionProvider.html">https://onnxruntime.ai/docs/execution-providers/CUDA-ExecutionProvider.html</a></li>



<li><a href="https://wikidocs.net/235922">https://wikidocs.net/235922</a></li>



<li><a href="https://docs.ultralytics.com/ko/integrations/onnx/">https://docs.ultralytics.com/ko/integrations/onnx/</a></li>



<li><a href="https://www.cloudflare.com/ko-kr/learning/cloud/what-is-vendor-lock-in/">https://www.cloudflare.com/ko-kr/learning/cloud/what-is-vendor-lock-in/</a></li>



<li><a href="https://m.boannews.com/html/detail.html?idx=56528&amp;kind=3">https://m.boannews.com/html/detail.html?idx=56528&amp;kind=3</a></li>



<li><a href="https://jseobyun.tistory.com/583">https://jseobyun.tistory.com/583</a></li>



<li><a href="https://huggingface.co/docs/transformers/ko/serialization">https://huggingface.co/docs/transformers/ko/serialization</a></li>



<li><a href="https://www.cio.com/article/3529892/%ED%81%B4%EB%9D%BC%EC%9A%B0%EB%93%9C-%EB%A1%9D%EC%9D%B8%EC%9D%98-%EC%83%88%EB%A1%9C%EC%9A%B4-%EC%9C%84%ED%97%98-ai-%EC%A2%85%EC%86%8D.html">https://www.cio.com/article/3529892/%ED%81%B4%EB%9D%BC%EC%9A%B0%EB%93%9C-%EB%A1%9D%EC%9D%B8%EC%9D%98-%EC%83%88%EB%A1%9C%EC%9A%B4-%EC%9C%84%ED%97%98-ai-%EC%A2%85%EC%86%8D.html</a></li>



<li><a href="https://www.mql5.com/ko/forum/444792/page5">https://www.mql5.com/ko/forum/444792/page5</a></li>



<li><a href="https://developer0hye.tistory.com/772">https://developer0hye.tistory.com/772</a></li>



<li><a href="https://tutorials.pytorch.kr/advanced/super_resolution_with_onnxruntime.html">https://tutorials.pytorch.kr/advanced/super_resolution_with_onnxruntime.html</a></li>



<li><a href="https://soundprovider.tistory.com/entry/huggingface-transformers-%EB%AA%A8%EB%8D%B8-onnx%EB%A1%9C-%EB%B3%80%ED%99%98%ED%95%98%EA%B8%B0">https://soundprovider.tistory.com/entry/huggingface-transformers-%EB%AA%A8%EB%8D%B8-onnx%EB%A1%9C-%EB%B3%80%ED%99%98%ED%95%98%EA%B8%B0</a></li>



<li><a href="https://wikidocs.net/227935">https://wikidocs.net/227935</a></li>



<li><a href="https://learn.microsoft.com/ko-kr/azure/machine-learning/how-to-use-automl-onnx-model-dotnet?view=azureml-api-2">https://learn.microsoft.com/ko-kr/azure/machine-learning/how-to-use-automl-onnx-model-dotnet?view=azureml-api-2</a></li>



<li><a href="https://giayn.tistory.com/35">https://giayn.tistory.com/35</a></li>



<li><a href="https://www.oss.kr/news/show/72100923-c465-4c4d-9f10-c59706072faf">https://www.oss.kr/news/show/72100923-c465-4c4d-9f10-c59706072faf</a></li>



<li><a href="https://periar.tistory.com/244">https://periar.tistory.com/244</a></li>



<li><a href="https://tech.scatterlab.co.kr/serving-architecture-3/">https://tech.scatterlab.co.kr/serving-architecture-3/</a></li>



<li><a href="https://blog.naver.com/matlablove/221384921885?viewType=pc">https://blog.naver.com/matlablove/221384921885?viewType=pc</a></li>



<li><a href="https://zdnet.co.kr/view/?no=20230817111614">https://zdnet.co.kr/view/?no=20230817111614</a></li>



<li><a href="https://onnxruntime.ai/docs/install/">https://onnxruntime.ai/docs/install/</a></li>
</ol>



<hr>



<p>Perplexity로부터의 답변: <a href="https://www.perplexity.ai/search/nvidiayi-cuda-dependancyreul-g-TEbqFC4nQxuYE73OKp11yA?utm_source=copy_output">https://www.perplexity.ai/search/nvidiayi-cuda-dependancyreul-g-TEbqFC4nQxuYE73OKp11yA?utm_source=copy_output</a></p>

			
						</div>

	
</article>
			</div>

				
	
			


		
		</main>
	</div></div>

김명신의 즐거운 하루

NVIDIA의 CUDA는 고성능 병렬 컴퓨팅을 위한 강력한 플랫폼이지만, 특정 하드웨어 벤더에 대한 의존성을 야기하는 문제점이 있습니다. 이러한 벤더 종속성(vendor lock-in)을 탈피하기 위한 대안으로 ONNX(Open Neural Network Exchange)가 주목받고 있습니다. 이 보고서에서는 ONNX가 CUDA 의존성 문제를 해결하는 데 어떻게 기여할 수 있는지, 그리고 효과적인 활용 방안에 대해 살펴보겠습니다.
ONNX의 역할과 기능
ONNX는 다양한 머신러닝 프레임워크 간의 상호운용성을 제공하는 오픈 포맷으로, 모델을 프레임워크나 하드웨어에 종속되지 않는 표준화된 형식으로 변환할 수 있게 해줍니다. ONNX 형식은 머신러닝 모델을 변환하고 ONNX 런타임을 통해 추론을 수행할 수 있는 강력한 솔루션을 제공합니다2. 이는 특정 하드웨어나 소프트웨어 환경에 종속되지 않고 다양한 플랫폼에서 모델을 실행할 수 있게 함으로써, 벤더 종속 문제를 해결하는 데 기여합니다.
ONNX의 핵심 가치는 ‘한 번 변환, 어디서나 실행’이라는 패러다임에 있습니다. 개발자는 자신이 선호하는 프레임워크(PyTorch, TensorFlow 등)로 모델을 개발한 후, 이를 ONNX 형식으로 변환하여 다양한 환경에서 활용할 수 있습니다. 이는 특히 CUDA와 같은 특정 가속기 기술에 종속되는 문제를 완화하는 데 중요한 역할을 합니다.
ONNX가 CUDA 의존성 탈피에 기여하는 방식
ONNX는 다음과 같은 방식으로 CUDA 의존성 문제를 해결하는 데 기여할 수 있습니다:
1. 하드웨어 중립적 실행 환경 제공
ONNX 런타임은 다양한 하드웨어 백엔드를 지원하도록 설계되어 있어, NVIDIA GPU뿐만 아니라 AMD GPU, Intel CPU/GPU, 심지어 모바일 프로세서와 같은 다양한 플랫폼에서 모델을 실행할 수 있습니다. 이는 특정 하드웨어 제조사에 대한 종속성을 줄이고, 하드웨어 선택의 유연성을 높이는 데 기여합니다.
2. 프레임워크 간 이식성 향상
ONNX는 PyTorch, TensorFlow, scikit-learn, XGBoost, CatBoost 등 다양한 머신러닝 프레임워크에서 학습된 모델을 표준화된 형식으로 변환할 수 있습니다2. 이는 특정 프레임워크나 그 프레임워크의 CUDA 종속성에 구애받지 않고 모델을 활용할 수 있게 해줍니다.
3. 클라우드 및 엣지 환경에서의 유연성
ONNX 모델은 클라우드 서비스 제공업체의 특정 기술 스택에 종속되지 않고, 다양한 환경에서 실행될 수 있습니다. 이는 클라우드 서비스의 벤더 종속 문제를 완화하는 데 도움이 됩니다34. 또한, 엣지 디바이스와 같은 제한된 환경에서도 최적화된 성능을 발휘할 수 있어, 다양한 배포 시나리오에 대응할 수 있습니다.
ONNX의 효과적인 활용 방안
ONNX를 통해 CUDA 의존성을 탈피하고 보다 유연한 머신러닝 인프라를 구축하기 위한 전략적 방안을 살펴보겠습니다:
1. 모델 변환 프로세스 표준화
다양한 머신러닝 모델을 ONNX 형식으로 체계적으로 변환하는 파이프라인을 구축하는 것이 중요합니다. 예를 들어, CatBoost 모델을 ONNX로 변환하는 경우 다음과 같은 과정을 따를 수 있습니다:
먼저 CatBoost 모델을 로드하고, 그 다음 format 파라미터를 “onnx”로 설정하여 save_model 함수를 호출합니다. 이때 export_parameters에는 onnx_domain, onnx_model_version, onnx_doc_string, onnx_graph_name 등의 메타데이터를 포함시킵니다2. 이러한 표준화된 변환 프로세스는 모델의 일관된 관리와 배포를 가능하게 합니다.
2. 멀티 백엔드 실행 환경 구축
ONNX 런타임은 다양한 하드웨어 백엔드에서 모델을 실행할 수 있습니다. 이를 활용하여 NVIDIA GPU, AMD GPU, Intel CPU/GPU 등 다양한 하드웨어 환경에서 모델을 실행할 수 있는 유연한 인프라를 구축하는 것이 좋습니다. 이는 하드웨어 가용성, 비용, 성능 요구사항 등에 따라 최적의 실행 환경을 선택할 수 있게 해줍니다.
3. 성능 최적화 및 모니터링
ONNX 모델은 다양한 백엔드에서 실행될 수 있지만, 각 환경에 따라 성능 차이가 발생할 수 있습니다. 따라서 다양한 실행 환경에서의 성능을 지속적으로 모니터링하고 최적화하는 것이 중요합니다. 필요에 따라 양자화(quantization), 그래프 최적화 등의 기술을 적용하여 성능을 향상시킬 수 있습니다.
4. 하이브리드 접근 방식 고려
일부 고성능 연산이 필요한 경우에는 CUDA를 활용하고, 나머지 부분은 ONNX를 통해 다양한 하드웨어에서 실행하는 하이브리드 접근 방식도 고려해볼 수 있습니다. 이는 성능과 유연성의 균형을 맞추는 데 도움이 될 수 있습니다.
5. 오픈소스 대안과의 병행 고려
LibreCUDA와 같은 프로젝트는 독점적인 CUDA 런타임 없이도 NVIDIA GPU에서 CUDA 코드를 실행할 수 있게 해주는 대안을 제시합니다1. 이러한 오픈소스 대안과 ONNX를 병행하여 활용함으로써, 보다 포괄적인 벤더 종속성 탈피 전략을 구축할 수 있습니다.
한계점 및 고려사항
ONNX가 CUDA 의존성 탈피에 기여할 수 있는 중요한 도구이지만, 몇 가지 한계점과 고려사항도 존재합니다:
1. 고급 CUDA 기능 지원 제한
ONNX는 기본적인 신경망 연산을 지원하지만, CUDA의 모든 고급 기능을 대체하지는 못할 수 있습니다. 특히 커스텀 커널이나 특수 알고리즘을 활용하는 경우에는 추가적인 대안을 고려해야 할 수 있습니다.
2. 성능 차이
ONNX 런타임이 다양한 하드웨어를 지원하지만, NVIDIA GPU에서 CUDA를 직접 활용하는 것보다 성능이 낮을 수 있습니다. 따라서 성능이 중요한 애플리케이션에서는 이러한 차이를 고려해야 합니다.
3. 생태계 성숙도
CUDA는 오랜 기간 동안 발전해온 풍부한 생태계를 가지고 있는 반면, ONNX는 상대적으로 새로운 기술입니다. 따라서 일부 고급 기능이나 도구가 아직 충분히 성숙하지 않을 수 있습니다.
결론
ONNX는 NVIDIA CUDA와 같은 특정 소프트웨어 기술의 종속성을 탈피하기 위한 중요한 대안이 될 수 있습니다. 모델 포맷의 표준화, 다양한 하드웨어 백엔드 지원, 프레임워크 간 이식성 향상 등을 통해 벤더 종속 문제를 완화하는 데 기여합니다.
효과적인 활용을 위해서는 모델 변환 프로세스 표준화, 멀티 백엔드 실행 환경 구축, 성능 최적화 및 모니터링, 하이브리드 접근 방식 고려, 그리고 오픈소스 대안과의 병행 활용 등의 전략을 고려해볼 수 있습니다. 그러나 고급 CUDA 기능 지원 제한, 성능 차이, 생태계 성숙도 등의 한계점도 함께 고려해야 합니다.
궁극적으로 ONNX는 특정 벤더에 종속되지 않는 유연하고 지속 가능한 머신러닝 인프라를 구축하는 데 기여할 수 있는 중요한 도구입니다. 머신러닝 프로젝트의 요구사항과 제약 조건을 고려하여, ONNX를 포함한 다양한 대안을 전략적으로 활용하는 접근이 필요합니다.
Citations:
https://discuss.pytorch.kr/t/gn-librecuda-nvidia-gpu-cuda/5017
https://dataplatform.cloud.ibm.com/docs/content/wsj/analyze-data/deploy-onnx-overview.html?context=cpdaas&locale=ko
https://www.etnews.com/200811250082
https://f-lab.kr/insight/cloud-service-vendor-lock-in
https://onnxruntime.ai/docs/execution-providers/CUDA-ExecutionProvider.html
https://wikidocs.net/235922
https://docs.ultralytics.com/ko/integrations/onnx/
https://www.cloudflare.com/ko-kr/learning/cloud/what-is-vendor-lock-in/
https://m.boannews.com/html/detail.html?idx=56528&kind=3
https://jseobyun.tistory.com/583
https://huggingface.co/docs/transformers/ko/serialization
https://www.cio.com/article/3529892/%ED%81%B4%EB%9D%BC%EC%9A%B0%EB%93%9C-%EB%A1%9D%EC%9D%B8%EC%9D%98-%EC%83%88%EB%A1%9C%EC%9A%B4-%EC%9C%84%ED%97%98-ai-%EC%A2%85%EC%86%8D.html
https://www.mql5.com/ko/forum/444792/page5
https://developer0hye.tistory.com/772
https://tutorials.pytorch.kr/advanced/super_resolution_with_onnxruntime.html
https://soundprovider.tistory.com/entry/huggingface-transformers-%EB%AA%A8%EB%8D%B8-onnx%EB%A1%9C-%EB%B3%80%ED%99%98%ED%95%98%EA%B8%B0
https://wikidocs.net/227935
https://learn.microsoft.com/ko-kr/azure/machine-learning/how-to-use-automl-onnx-model-dotnet?view=azureml-api-2
https://giayn.tistory.com/35
https://www.oss.kr/news/show/72100923-c465-4c4d-9f10-c59706072faf
https://periar.tistory.com/244
https://tech.scatterlab.co.kr/serving-architecture-3/
https://blog.naver.com/matlablove/221384921885?viewType=pc
https://zdnet.co.kr/view/?no=20230817111614
https://onnxruntime.ai/docs/install/
Perplexity로부터의 답변: https://www.perplexity.ai/search/nvidiayi-cuda-dependancyreul-g-TEbqFC4nQxuYE73OKp11yA?utm_source=copy_output

ONNX(Open Neural Network Exchange)를 통한 NVIDIA CUDA 의존성 탈피 전략

댓글