데이터센터중요
인텔과 삼바노바, GPU 한계를 넘어선 분산 추론 아키텍처 주목
인텔과 삼바노바가 에이전트형 AI가 초래하는 GPU 부하 문제를 해결하기 위해 GPU, RDU, CPU를 함께 활용하는 분산 추론 아키텍처를 제안하고 있다. GPU 단독 시스템의 한계를 극복하고 효율성과 확장성을 높이는 데 초점을 맞췄다.
작성자 관리자조회 3
인텔과 삼바노바는 에이전트형 AI 워크로드가 GPU 중심 시스템의 한계를 드러내는 가운데, GPU와 RDU, CPU를 결합한 분산 추론(split inference) 아키텍처를 추진하고 있다. 이 아키텍처는 효율성과 확장성을 높이는 것을 목표로 한다.