메타(META): 저커버그가 H100을 35만 개나 산 이유? 오픈소스 '라마(Llama) 3'를 위한 인프라 전략

1. 컴퓨팅 파워가 곧 국력인 시대

마크 저커버그는 최근 인터뷰에서 "올해 말까지 엔비디아 H100 그래픽처리장치(GPU) 35만 개를 확보할 것"이라고 밝혔습니다.

다른 GPU까지 합치면 환산 기준 약 60만 개에 달하는 엄청난 규모입니다. 돈으로 따지면 수십조 원에 달합니다.

주주들은 처음엔 우려했습니다. 메타버스에 돈을 쏟아붓더니, 이제는 AI 장비에 과도하게 지출하는 것이 아니냐는 비판이었습니다. 

메타의 이 무식할 정도의 하드웨어 투자는 단순한 과시용이 아닙니다.

폐쇄적인 생태계를 가진 애플과 구글에 대항해, AI 시대의 표준을 장악하려는 정교한 인프라 전략이 깔려 있습니다.

---

 

2. 왜 오픈소스인가? 생태계를 죽이는 전략

메타는 수조 원을 들여 개발한 거대언어모델(LLM)  '라마 3(Llama 3)'를 무료로 공개합니다.

경쟁사인 구글(Gemini)과 오픈AI(GPT-4)가 유료 API로 돈을 벌 때, 메타는 설계도까지 다 보여줍니다.

이유는 간단합니다. '표준'이 되기 위해서입니다.

과거 모바일 시대에 메타는 애플의 iOS와 구글의 안드로이드라는 남의 땅 위에서 집을 지었습니다.

그 결과 애플이 개인정보 정책을 바꾸자 메타의 광고 매출이 순식간에 증발하는 수모를 겪었습니다.

AI 시대에는 똑같은 실수를 반복하지 않겠다는 의지입니다.

전 세계 개발자들이 라마(Llama)와 파이토치(PyTorch)를 기반으로 서비스를 만들게 하여,

AI 생태계의 바닥(Base Layer)을 메타가 장악하려는 것입니다.

이를 위해서는 압도적인 컴퓨팅 파워로 가장 성능 좋은 모델을 계속 찍어내야만 합니다.

 

---

 

3. 인프라의 비밀: 인피니밴드가 아닌 '이더넷'을 선택하다

메타의 GPU 클러스터 구축 방식에는 엔지니어들이 주목하는 독특한 점이 있습니다. 바로 네트워크입니다.

보통 엔비디아 H100 수만 개를 연결할 때는 엔비디아의 전용 네트워크 기술인 '인피니밴드'를 사용하는 것이 정석입니다.

성능이 가장 좋기 때문입니다.

하지만 메타는 과감하게 범용 기술인 이더넷(Ethernet) 기반의 RoCE(RDMA over Converged Ethernet) 기술을 도입했습니다.

메타는 두 개의 거대한 2만 4천 개 GPU 클러스터를 구축하면서, 하나는 인피니밴드로, 하나는 이더넷(RoCE)으로 만들었습니다. 그리고 이더넷으로도 충분히 초거대 AI 학습이 가능하다는 것을 증명해 냈습니다.

이것은 특정 벤더에 네트워크까지 종속되지 않겠다는 메타의 고집이자, 향후 인프라 확장 비용을 낮추기 위한 기술적 포석입니다.

 

---

 

4. 자체 칩 MTIA: 엔비디아 의존도 줄이기

메타가 H100을 35만 개나 샀지만, 그렇다고 엔비디아만 바라보고 있는 것은 아닙니다.

메타 역시 MTIA(Meta Training and Inference Accelerator)라는 자체 AI 반도체를 개발했습니다.

• 학습(Training): 라마 3 같은 초거대 모델을 똑똑하게 가르치는 건 엔비디아 H100이 담당합니다. 대체 불가능한 영역
• 추론(Inference): 완성된 AI를 인스타그램이나 페이스북에서 추천 알고리즘으로 돌리는 건 자체 칩 MTIA가 담당

학습보다 추론의 빈도가 압도적으로 높은 서비스 특성상, MTIA의 비중을 높일수록 메타의 운영 비용은 획기적으로 줄어듭니다.

구매는 공격적으로 하되, 뒷문으로는 비용 절감 칩을 키우는 투트랙 전략입니다.

---

 

5. 결론: AGI를 향한 가장 현실적인 접근

메타는 현재 전 세계에서 가장 강력한 오픈소스 AI 리더입니다.

개발자들은 메타의 라마를 쓰고, 메타의 파이토치로 코딩하며, 메타가 주도하는 개방형 이더넷 표준을 따릅니다.

저커버그가 구매한 35만 개의 H100은 단순한 소비가 아닙니다.

미래 AI 생태계의 주도권을 가져오기 위한 '무기'입니다.

하드웨어(GPU)와 소프트웨어(Llama), 그리고 네트워크 인프라까지 수직 계열화를 시도하는 메타의 행보는,

그들이 단순한 SNS 기업을 넘어 세계 최고의 AI 인프라 기업으로 진화하고 있음을 보여줍니다.

---

 

📌 함께 읽어보면 좋은 글

 

메타가 이렇게 엔비디아 칩을 쓸어 담을 때, 구글은 다른 길을 가고 있습니다. 엔비디아 의존도를 낮추기 위한 구글의 독자적인 칩 전략이 궁금하다면 아래 글을 참고해 보세요. 메타와 구글의 전략 차이가 명확히 보이실 겁니다.

🔗 구글이 엔비디아를 덜 사도 되는 이유 (TPU 분석) 글 보러가기

 

본문에서 메타가 엔비디아 전용 네트워크(인피니밴드) 대신 '이더넷'을 선택했다고 말씀드렸습니다. 이 결정을 가장 반긴 기업이 바로 아리스타 네트웍스입니다. 메타의 인프라 파트너인 아리스타의 기술력이 궁금하다면 아래 글을 확인해 보세요.

🔗 아리스타(ANET) vs 시스코(CSCO): 데이터센터 스위치 전쟁 분석 바로가기