Posts
개발에 도움이 되는 글을 살펴보세요
블로그 등록
1. 초고속 성능 (eBPF 기반)
• 커널 모드에서 작동하여 컨텍스트 스위칭 없이 로드 밸런싱 수행
• 높은 QPS(queries per second) 처리 능력 → AI 모델 API 요청에
전체 (85.7K)
MCP(Model Context Protocol)-based AI 서비스 인프라의 CNCF 프로젝트 ‘LoxiLB’ 사용
‘LoxiLB’ 도입 시 장점1. 초고속 성능 (eBPF 기반)
• 커널 모드에서 작동하여 컨텍스트 스위칭 없이 로드 밸런싱 수행
• 높은 QPS(queries per second) 처리 능력 → AI 모델 API 요청에
+ AI 인프라
+ Cloud (클라우드)
+ Date Center (데이터센터)
+ 더보기
