모든 데이터를 클라우드로 보낼 수 없다면, 클라우드를 데이터가 있는 곳으로 가져와야 합니다.
<‘AI 주권’을 위한 프라이빗 클라우드의 역습>
AI 시대가 본격화되면서 모든 것을 퍼블릭 클라우드에 의존하는 전략의 한계가 드러나고 있어요. 막대한 비용, 데이터 유출 우려, 특정 기업에 대한 기술 종속 문제 때문이죠. 브로드컴이 인수한 VM웨어의 VCF 9.1은 이러한 고민에 대한 명확한 해답을 제시해요. 기업이 자체 데이터센터에 보유한 민감한 데이터를 외부에 노출하지 않으면서, 그 안에서 직접 AI 모델을 학습하고 운영하는 '프라이빗 AI' 환경을 구축하는 것이죠. 이는 단순히 서버를 구축하는 것을 넘어, 데이터 주권과 통제력을 확보하려는 기업들에게 필수적인 전략으로 자리 잡고 있어요.
<벤더 종속성 탈피, ‘골라 쓰는’ GPU 지원>
이번 VCF 9.1 업데이트에서 가장 주목할 만한 부분은 하드웨어 유연성이에요. 지금까지 AI 인프라 시장은 특정 GPU 제조사에 대한 의존도가 매우 높았어요. 하지만 VCF 9.1은 엔비디아의 블랙웰 GPU는 물론, 경쟁사인 AMD와 인텔의 하드웨어까지 폭넓게 지원해요. 이는 기업 입장에서 공급망 리스크를 줄이고, 여러 제조사의 제품 중 현재 시점에서 가장 효율적이고 합리적인 가격의 GPU를 선택할 수 있는 강력한 협상력을 갖게 됨을 의미해요. 특정 벤더에 얽매이지 않는 '개방형 생태계'를 지향하는 이번 변화는 AI 인프라 시장의 판도를 바꿀 수 있는 중요한 움직임이에요.
<비용 절감의 핵심, 지능형 메모리 티어링>
AI 모델을 구동하려면 방대한 양의 메모리가 필요하지만, 모든 데이터가 가장 비싼 초고속 메모리에 있을 필요는 없어요. VCF 9.1은 '지능형 메모리 티어링'이라는 기술을 통해 이 문제를 해결해요. AI 작업의 특성을 분석해 당장 필요한 데이터는 고성능 메모리에, 그렇지 않은 데이터는 비교적 저렴한 메모리에 자동으로 배치하는 것이죠. 이를 통해 서버 한 대당 필요한 고비용 메모리 양을 줄여 전체 인프라 비용을 최대 40%까지 절감할 수 있어요. 성능 저하 없이 비용 효율성을 극대화하는 이 기술은 프라이빗 AI 도입의 가장 큰 장벽이었던 초기 투자 비용 부담을 크게 낮춰줄 거예요.
©AI Image