가격 70% 급락: AI 계산으로 임대료 거품이 꺼지는 방법

유진 체아 제공: J1N, Techub News

AI 컴퓨팅 파워 비용의 하락은 저비용 자원으로 혁신하는 스타트업의 붐을 일으킬 것으로 예상됩니다.

작년에는 AI 컴퓨팅 파워의 공급이 부족해 시간당 8달러에 H100을 임대했지만, 지금은 시장에 공급 과잉이 발생하면서 가격이 시간당 2달러 미만으로 떨어졌습니다. 이는 초기에 임대를 계약한 일부 기업이 남는 전력을 낭비하지 않기 위해 예약된 컴퓨팅 리소스를 재판매하기 시작했고, 시장에서는 대부분 오픈 소스 모델을 선택하면서 새로운 모델에 대한 수요가 줄어들었기 때문입니다. 이제 시장의 H100 공급이 수요를 훨씬 초과하기 때문에 H100을 구매하는 것보다 임대하는 것이 더 비용 효율적이며, 새로운 H100에 투자하는 것이 더 이상 수익성이 없습니다.

AI 경쟁의 간략한 역사

시장에서 GPU 컴퓨팅 파워의 가격은 급등하여 처음에는 시간당 약 4.70달러에 임대되던 H100은 최고 8달러 이상까지 상승했습니다. 이는 프로젝트 창립자들이 다음 펀딩 라운드를 달성하고 투자자를 설득하기 위해 서둘러 AI 모델을 훈련시켜야 했기 때문입니다.

ChatGPT는 2022년 11월에 A100 시리즈 GPU를 사용하여 출시되었고, 2023년 3월에 NVIDIA는 A100보다 3배 더 강력하지만 가격은 2배 더 비싸다고 광고한 새로운 H100 시리즈 GPU를 출시했습니다.

이것은 AI 스타트업에게 큰 매력입니다. GPU의 성능은 개발할 수 있는 AI 모델의 속도와 규모를 직접적으로 결정하기 때문에, H100의 성능은 이들 기업이 이전보다 더 빠르고, 더 크고, 더 효율적인 AI 모델을 개발할 수 있으며, 잠재적으로는 OpenAI와 같은 업계 리더를 따라잡거나 능가할 수도 있다는 것을 의미합니다. 물론 이 모든 것은 H100을 대량으로 구매하거나 임대할 수 있는 충분한 자본이 있다는 전제하에 이루어집니다.

H100의 성능이 크게 향상되고 AI 분야의 경쟁이 치열해지면서 많은 스타트업이 막대한 자금을 투자해 H100을 확보하고 이를 통해 모델 학습을 가속화하기 위해 노력하고 있습니다. 이러한 수요 급증으로 인해 처음에는 시간당 4.70달러로 시작했던 H100의 대여 가격이 급등했지만 현재는 8달러 이상으로 상승했습니다.

이러한 스타트업들이 높은 임대료를 기꺼이 지불한 이유는 수억 달러 규모의 다음 펀딩 라운드에서 투자자들의 관심을 끌 수 있을 만큼 빠르게 모델을 훈련하여 사업을 계속 확장하고 싶었기 때문입니다.

H100이 많은 산술 센터의 경우 GPU를 많이 보유한 연산 센터(팜)의 경우, GPU 임대 수요가 매우 높아서 '문 앞의 돈'과 같습니다. 그 이유는 이러한 AI 스타트업들이 모델 트레이닝을 위해 H100을 임대하고 싶어하며 심지어 선불로 지불할 의향도 있기 때문입니다. 즉, GPU 팜은 시간당 4.70달러(또는 그 이상)에 GPU를 장기간 대여할 수 있습니다.

계산에 따르면, 이러한 속도로 GPU를 계속 대여할 수 있다면 H100에 대한 투자 회수 기간(구매 비용을 회수하는 데 걸리는 시간)은 1.5년이 채 되지 않습니다. 이 투자 회수 기간이 끝나면 각 GPU는 연간 10만 달러 이상의 순 현금 흐름 수익을 창출하게 됩니다.

H100 및 기타 고성능 GPU에 대한 수요가 계속 증가함에 따라 GPU Farm 투자자들은 수익성이 매우 높아 비즈니스 모델에 동의했을 뿐만 아니라 더 많은 돈을 벌기 위해 더 많은 GPU에 더 많은 투자를 했습니다.

튤립의 어리석음. 역사상 최초의 투기 거품이 발생한 이후 1634년 튤립 가격이 계속 상승하여 1637년 2월에 폭락

인공지능 및 빅데이터 처리 수요가 증가함에 따라 고성능 GPU(특히 NVIDIA의 H100)에 대한 기업의 수요가 급증하고 있습니다. 수요가 급증하면서 이러한 컴퓨팅 집약적인 작업을 지원하기 위해 글로벌 기업들은 초기에 약 6천억 달러를 하드웨어 및 인프라에 투자하여 GPU를 구매하고 데이터센터를 구축하는 등 컴퓨팅 성능을 강화하는 데 투자했습니다. 그러나 공급망 지연으로 인해 2023년 대부분 동안 H100 가격은 시간당 4.70달러 이상으로 높게 유지될 것이며, 구매자가 거액의 보증금을 선불로 지불할 의향이 없는 한, 시간당 4.70달러를 상회할 것으로 예상됩니다. 2024년 초에는 더 많은 공급업체가 시장에 진입하면서 H100 렌탈 가격이 약 2.85달러로 떨어졌지만, 공급이 증가하면서 시장 경쟁이 치열해졌음을 반영하는 각종 판매 이메일을 받기 시작했습니다.

초기 H100 GPU는 는 초기에 시간당 8~16달러에 임대되었지만, 2024년 8월에는 경매 기반 임대 가격이 시간당 1~2달러로 떨어졌습니다. 시장 가격은 매년 40% 이상 하락할 것으로 예상되며, 이는 4년간 시간당 4달러라는 NVIDIA의 예측을 훨씬 뛰어넘는 수치입니다. 이러한 급격한 가격 하락은 새로운 고가의 GPU를 구매한 사람들에게 리스를 통해 비용을 회수하지 못할 수도 있기 때문에 재정적 위험을 초래할 수 있습니다.

H100에 5만 달러를 투자했을 때 자본 수익률은 얼마인가요?

H100의 구매 비용은 약 5만 달러이며 전력 및 냉각 비용과 관계없이 예상 수명은 5년입니다. 임대는 일반적으로 단기 온디맨드 임대와 장기 예약의 두 가지 모드로 이루어집니다. 단기 임대는 더 비싸지만 유연하고, 장기 예약은 더 저렴하지만 안정적입니다. 그런 다음 이 두 모델의 수익률을 분석하여 투자자가 5년 안에 비용을 회수하고 수익을 낼 수 있는지 계산합니다.

단기 온디맨드 렌탈

임대 가격 및 해당 수익:

$2.85: 수익성 측면에서 주식 시장 IRR을 능가합니다.

<$2.85: 주식 시장 수익률을 밑도는 수익률.

<$1.65: 예상 투자 손실.

"혼합 가격" 모델은 향후 5년 동안 임대료가 현재 가격의 50%까지 떨어질 수 있다고 예측합니다. 임대료가 시간당 4.50달러로 유지되면 투자 수익률(IRR)이 20% 이상으로 수익성이 있지만, 가격이 시간당 2.85달러로 떨어지면 IRR은 10%에 불과해 수익이 크게 감소합니다. 가격이 2.85달러 이하로 떨어지면 투자 수익률이 주식 시장 수익률보다 더 낮아질 수 있으며, 특히 최근 H100 서버를 구매한 투자자의 경우 1.65달러 이하로 떨어지면 심각한 손실 위험에 처하게 됩니다.

주: '혼합 가격'은 향후 5년 동안 H100 임대 가격이 점진적으로 현재 가격의 절반으로 하락한다는 가정에 따른 것입니다. 이 추정치는 현재 시장 가격이 연간 40% 이상 하락하고 있으므로 가격 인하를 고려하는 것이 합리적이라는 점에서 낙관적인 것으로 간주됩니다.

장기 예약 리스(3년 이상)

장기 예약 리스(3년 이상) )

인공지능 붐이 일던 시기, 많은 기존 인프라 제공업체는 과거 경험을 바탕으로 2023년에 수익을 확보하기 위해 3~5년 고가의 선불 리스를 도입했으며, 특히 GPU 임대 가격이 급등하고 급락했던 암호화폐 초기 이더리움 PoW 시대에는 더욱 그러했습니다. 이러한 계약은 일반적으로 고객이 시간당 4달러 이상, 심지어 50%에서 100%까지 선불로 지불해야 합니다. 특히 이미지 생성 분야에서 AI에 대한 수요가 급증함에 따라, 기본 모델 회사들은 시장에서 우위를 점하고 최신 GPU 클러스터를 가장 먼저 사용해 목표 모델을 빠르게 완성하고 경쟁력을 갖추기 위해 높은 가격에도 불구하고 이러한 계약을 체결할 수밖에 없었습니다. 그러나 모델 학습이 완료되면 이러한 기업들은 더 이상 이러한 GPU 리소스가 필요하지 않지만 계약상의 종속성 때문에 쉽게 계약을 해지할 수 없으며, 손실을 최소화하기 위해 임대한 GPU 리소스를 재판매하여 비용의 일부를 회수하려고 합니다. 이로 인해 시장에 재판매되는 GPU 리소스가 많아지고 공급이 증가하여 시장의 임대 가격과 수급에 영향을 미쳤습니다.

현재 H100 가치 사슬

주: 가치 사슬 분석, 가치 사슬 모델 등으로도 알려진 가치 사슬은 1985년 Michael Porter에 의해 개발되었습니다. 마이클 포터가 1985년 저서 '경쟁 우위'에서 제안한 개념입니다. 포터는 고유 한 경쟁 우위를 개발하고 상품과 서비스에 대한 더 높은 부가가치를 창출하기 위해 비즈니스 전략은 기업의 비즈니스 모델을 일련의 부가가치 프로세스로 구조화하는 것이며,이 일련의 부가가치 프로세스가 "가치 사슬"이라고 지적했습니다.

하드웨어에서 AI 추론 모델에 이르는 H100 가치 사슬은 크게 다음과 같이 분류할 수 있습니다

• 데이터센터 인프라 공급업체 및 파트너

• 데이터센터 인프라 공급업체 및 파트너

• 벤처 캐피탈 펀드, 대기업, 스타트업: 기본 모델 구축 계획(또는 이미 구축 완료)

• 용량 리셀러: runpod, SFCompute, Together.ai, Vast.ai, GPUlist.ai, 기타.

현재 H100 가치 사슬에는 하드웨어 벤더부터 데이터센터 제공업체, AI 모델 개발업체, 용량 리셀러, AI 추론 서비스 제공업체에 이르기까지 다양한 부문이 포함됩니다. 시장에 대한 주요 압박은 사용하지 않는 리소스를 계속 재판매하거나 임대하는 미사용 H100 용량 리셀러와 Llama 3와 같은 '충분히 좋은' 오픈 소스 모델의 광범위한 사용으로 인해 H100 수요가 감소한 데서 비롯됩니다. 이 두 가지 요인이 결합되어 H100의 공급 과잉이 발생했고, 이는 결국 시장 가격에 하락 압력을 가했습니다.



시장 동향: 오픈 소스 가중치의 부상 모델의 부상

오픈 소스 가중치 모델은 정식 오픈 소스 라이선스가 없더라도 무료로 공개적으로 배포되어 상업적으로 널리 사용되는 가중치 모델입니다.

이러한 모델 사용에 대한 수요는 두 가지 주요 요인, 즉 LLaMA3 및 DeepSeek-v2와 같이 GPT-4와 유사한 규모의 대형 오픈 소스 모델의 출현과 소형(80억 개의 파라미터) 및 중형(700억 개) 미세 조정 모델의 성숙 및 광범위한 채택에 의해 주도되고 있습니다.

이러한 오픈 소스 모델의 성숙도가 높아짐에 따라 기업들은 대부분의 AI 애플리케이션, 특히 추론과 미세 조정에 쉽게 액세스하고 사용할 수 있게 되었습니다. 이러한 모델은 일부 벤치마크에서 독점 모델보다 약간 열등할 수 있지만, 대부분의 비즈니스 사용 사례에서 충분히 우수한 성능을 발휘합니다. 그 결과, 오픈 소스 가중치 모델이 대중화되면서 추론 및 미세 조정에 대한 시장 수요가 빠르게 증가하고 있습니다.

오픈 소스 가중치 모델은 세 가지 주요 이점도 제공합니다.

첫째, 오픈 소스 모델은 높은 수준의 유연성을 제공하여 사용자가 특정 도메인이나 작업에 맞게 모델을 미세 조정하여 다양한 애플리케이션 시나리오에 더 잘 맞출 수 있도록 해줍니다. 둘째, 오픈 소스 모델은 일부 독점 모델에서처럼 모델 가중치가 예고 없이 업데이트되지 않아 업데이트에 따른 일부 개발 문제를 방지하고 모델에 대한 사용자의 신뢰를 높일 수 있어 안정성을 제공합니다. 마지막으로, 보안 및 개인정보 보호도 보장하므로 조직은 타사 API 엔드포인트를 통해 프롬프트와 고객 데이터가 손상되지 않도록 보장할 수 있어 데이터 프라이버시 위험을 줄일 수 있습니다. 이러한 이점 덕분에 특히 추론 및 미세 조정 분야에서 오픈 소스 모델이 지속적으로 성장하고 광범위하게 채택되고 있습니다.

중소 모델 제작자의 수요 변화

중소 모델 제작자는 70억 개에 달하는 파라메트릭 모델과 같은 대규모 기본 모델을 처음부터 훈련할 능력이나 계획이 없는 기업 또는 스타트업을 말합니다. 오픈 소스 모델이 부상하면서 많은 기업들은 새로운 모델을 처음부터 직접 학습시키는 것보다 기존 오픈 소스 모델을 미세 조정하는 것이 더 비용 효율적이라는 사실을 깨닫게 되었습니다. 그 결과, 점점 더 많은 기업이 모델을 직접 학습시키는 대신 미세 조정을 선택하고 있습니다. 이렇게 하면 H100과 같은 컴퓨팅 리소스의 필요성이 크게 줄어듭니다.

미세 조정은 처음부터 훈련하는 것보다 훨씬 저렴합니다. 기존 모델을 미세 조정하는 것은 기본 모델을 처음부터 훈련하는 것보다 훨씬 적은 컴퓨팅 리소스를 필요로 합니다. 대규모 기본 모델에는 일반적으로 16개 이상의 H100 노드가 학습에 필요한 반면, 미세 조정에는 일반적으로 1~4개의 노드만 필요합니다. 이러한 업계의 변화는 중소규모 기업의 대규모 클러스터에 대한 필요성을 줄여주며, H100 컴퓨팅 성능에 대한 의존도를 직접적으로 줄여줍니다.

또한, 기본 모델 구축에 대한 투자도 줄어듭니다. 2023년에는 많은 중소기업이 새로운 기본 모델을 만들려고 시도했지만, 현재는 더 나은 아키텍처나 수백 개의 언어 지원과 같은 혁신을 가져올 수 없다면 새로운 기본 모델 생성 프로젝트는 거의 없을 것입니다. 이미 시장에 Llama 3와 같은 강력한 오픈 소스 모델이 충분히 존재하기 때문에 소규모 기업이 새로운 모델을 만드는 것을 정당화하기 어렵기 때문입니다. 투자자들의 관심과 자금도 처음부터 모델을 학습시키기보다는 미세 조정하는 쪽으로 옮겨가면서 H100 리소스의 필요성이 더욱 줄어들고 있습니다.

마지막으로, 예약 노드의 초과 용량도 문제입니다. 많은 기업이 2023년을 정점으로 장기적으로 H100 리소스를 예약했지만, 미세 조정으로 전환한 결과 일부 하드웨어가 노후화되면서 예약된 노드가 더 이상 필요하지 않다는 사실을 발견하고 있습니다. 이렇게 사용하지 않는 H100 노드가 재판매되거나 임대되면서 시장의 공급이 더욱 증가하여 H100 리소스의 공급 과잉으로 이어지고 있습니다.

전반적으로 모델 미세 조정의 인기, 중소형 기본 모델의 생성 감소, 예약 노드의 과잉으로 인해 H100 시장에서는 수요가 크게 감소하고 공급 과잉이 증가했습니다.

기타 GPU 컴퓨팅 성능의 공급 증가와 수요 감소에 기여하는 요인

오픈 소스 클라우드 플랫폼에서 벗어나는 대규모 모델 제작자

Facebook, X.AI, OpenAI와 같은 대형 AI 모델 제작자들이 점차 퍼블릭 클라우드 플랫폼에서 자체 구축한 프라이빗 컴퓨팅 클러스터로 이동하는 데에는 몇 가지 이유가 있습니다. 첫째, 기존의 퍼블릭 클라우드 리소스(예: 1,000노드 클러스터)로는 더 이상 대규모 모델 학습에 대한 요구를 충족할 수 없기 때문입니다. 둘째, 재무적 관점에서 보면 데이터 센터나 서버와 같은 자산을 구매하면 회사의 가치를 높일 수 있는 반면, 퍼블릭 클라우드를 임대하면 자산을 향상시키지 못하는 비용만 발생하기 때문에 자체 클러스터를 구축하는 것이 더 유리합니다. 또한 이러한 기업들은 이러한 시스템을 구축하고 관리하기 위해 소규모 데이터 센터 회사를 인수할 만큼 충분한 자원과 전문가 팀을 보유하고 있습니다. 따라서 더 이상 퍼블릭 클라우드에 의존하지 않습니다. 이러한 기업들이 퍼블릭 클라우드 플랫폼에서 벗어나면 컴퓨팅 리소스에 대한 시장 수요가 감소하여 잠재적으로 사용하지 않는 리소스가 시장에 재진입하고 공급이 증가할 수 있습니다.



Vast. AI는 본질적으로 자유 시장 시스템으로, 전 세계 공급업체들이 서로 경쟁하는

 유휴 및 지연된 H100의 출하가 동시에 온라인

과 함께 H100 GPU가 동시에 온라인에 출시되어 시장 공급 증가와 가격 인하에 기여하고 있습니다. Vast.ai와 같은 플랫폼은 글로벌 공급업체들이 서로 가격 경쟁을 하는 자유 시장 모델을 사용합니다. H100의 출하 지연으로 2023년에 제때 온라인화되지 못했던 많은 자원이 이제 새로운 H200 및 B200 장치, 그리고 스타트업과 기업의 미사용 H100 자원과 함께 시장에 진입하기 시작합니다. 스타트업과 기업의 유휴 컴퓨팅 리소스. 중소규모 클러스터의 소유자는 일반적으로 8~64개의 노드를 보유하고 있지만, 활용도가 낮고 자본이 고갈되어 있기 때문에 저렴한 가격으로 리소스를 임대하여 최대한 빨리 비용을 회수하는 것을 목표로 합니다. 이를 위해 고정 요금, 경매 시스템 또는 자유 시장 가격 책정 방식을 통해 고객을 유치하기 위해 경쟁합니다. 특히 경매 및 자유 시장 모델은 공급업체가 리소스를 임대하기 위해 가격을 낮추기 때문에 궁극적으로 시장 전체의 가격을 크게 떨어뜨릴 수 있습니다.

더 저렴한 GPU 대안

또 다른 주요 요인은 산술 비용이 예산 범위를 벗어나면, 특히 다음과 같은 경우 AI 추론 인프라에 대한 대안이 많다는 것입니다. 더 작은 모델을 실행하는 경우. H100을 사용하면 인피니밴드에 대한 추가 비용을 지불할 필요가 없습니다.

Nvidia 시장 세분화

AI 추론 작업을 위한 H100 GPU의 저렴한 대안의 등장은 H100에 대한 시장 수요에 직접적인 영향을 미칩니다. 첫째, H100은 AI 모델을 훈련하고 미세 조정하는 데는 적합하지만 추론(즉, 모델 실행) 분야에서는 특히 소규모 모델의 경우 수요를 충족할 수 있는 더 저렴한 GPU가 많이 있습니다. 추론 작업에는 인피니밴드 네트워크와 같은 H100의 고급 기능이 필요하지 않으므로 사용자는 보다 저렴한 대안을 선택하여 비용을 절감할 수 있습니다.

추론 시장에는 H100의 약 1/3 성능에 5분의 1 가격으로 제공되는 추론 전용 GPU인 L40S와 같은 대안이 있습니다. L40S는 다중 노드 훈련에는 H100만큼 효과적이지 않지만, 단일 노드 추론과 소규모 클러스터의 미세 조정에는 충분히 강력하여 보다 비용 효율적인 대안이 될 수 있습니다.



H100 인피니밴드 클러스터 성능 구성 표(2024년 8월)

AMD 및 인텔 대체 벤더

또한, AMD와 인텔은 저렴한 가격의 이러한 GPU는 추론 및 단일 노드 작업에 탁월하며, H100보다 저렴하면서도 메모리와 컴퓨팅 성능이 더 뛰어납니다. 아직 대규모 멀티 노드 클러스터 훈련에 대해 완전히 검증되지는 않았지만, 추론 작업에는 H100의 강력한 대안이 될 만큼 충분히 성숙해졌습니다.

이러한 저렴한 GPU는 대부분의 추론 작업, 특히 LLaMA 3과 같은 일반적인 모델 아키텍처에서 추론 및 미세 조정 작업을 처리하는 것으로 입증되었습니다. 따라서 호환성 문제가 해결되면 사용자는 비용을 절감하기 위해 이러한 대체 GPU를 선택할 수 있습니다. 요약하자면, 추론 영역에서 이러한 대안은 특히 소규모 추론 및 미세 조정 작업에서 H100을 점차 대체하고 있으며, 이로 인해 H100의 필요성이 더욱 줄어들고 있습니다.



웹3 공간의 GPU 사용량 감소

암호화폐 시장의 변화로 인해 암호화폐 채굴에서의 GPU 사용량이 감소하고 있으며, 그 결과 많은 수의 GPU가 클라우드 시장으로 유입되고 있습니다. 이러한 GPU는 하드웨어의 한계로 인해 복잡한 AI 학습 작업은 수행할 수 없지만, 간단한 AI 추론 작업에서는 뛰어난 성능을 발휘하므로 특히 예산이 제한된 사용자가 소규모 모델(예: 10억 개 미만의 파라미터)로 작업할 때 비용 효율적인 옵션이 될 수 있습니다. 대규모 모델도 실행할 수 있도록 최적화된 이 GPU는 H100 노드를 사용하는 것보다 비용이 저렴합니다.

AI 컴퓨팅 렌탈 거품 이후 시장은 어떤 모습일까요?

현재 진입의 문제점: 새로운 퍼블릭 클라우드 H100 클러스터는 시장에 늦게 진입하여 수익성이 떨어질 수 있으며 일부 투자자는 많은 손실을 볼 수 있습니다.

새롭게 시장에 진입하는 H100 퍼블릭 클라우드 클러스터의 수익성 문제. 임대 가격이 너무 낮게 책정되면(2.25달러 미만) 운영 비용을 충당하지 못해 손실이 발생할 수 있고, 가격이 너무 높으면(3달러 이상) 고객을 잃고 유휴 용량이 발생할 수 있습니다. 또한, 나중에 시장에 진입한 클러스터는 초기의 높은 가격(시간당 4달러)을 놓쳐 비용 회수가 어렵고, 투자자는 수익을 내지 못할 위험을 감수해야 합니다. 이로 인해 클러스터 투자는 매우 어렵고 투자자에게 상당한 손실을 초래할 수도 있습니다.

초기 진입자의 혜택: 초기에 장기 임대를 체결한 중대형 모델 빌더는 이미 비용을 지불하고 수익을 얻고 있습니다

중대형 모델 빌더는 장기적으로 H100 컴퓨팅 리소스를 임대하여 이미 가치를 얻었습니다. 컴퓨팅 리소스는 이미 가치를 얻었으며 이러한 리소스 비용은 파이낸싱 시점에 충당됩니다. 일부 컴퓨팅 리소스를 완전히 활용하지는 못했지만, 이들 기업은 파이낸싱 시장을 통해 현재와 미래의 모델 훈련에 이러한 클러스터를 사용함으로써 가치를 창출했습니다. 사용하지 않는 자원이 있더라도 재판매나 임대를 통해 추가 수익을 창출할 수 있어 시장 가격을 낮추고 부정적인 영향을 줄이며 생태계에 전반적으로 긍정적인 영향을 미치고 있습니다.

버블 붕괴 이후: 저렴한 H100이 오픈 소스 AI의 도입을 가속화할 수 있습니다

저가의 H100 GPU가 출시되면 오픈 소스 AI의 성장을 촉진할 것입니다. H100 가격이 하락함에 따라 AI 개발자와 애호가들은 오픈 소스 가중치 모델을 보다 저렴하게 실행하고 미세 조정할 수 있게 되어 이러한 모델을 더 널리 채택할 수 있게 됩니다. 향후 GPT5++와 같은 클로즈드 소스 모델이 획기적인 기술 혁신을 이루지 못한다면 오픈 소스 모델과 클로즈드 소스 모델 간의 격차가 좁혀져 AI 애플리케이션의 성장을 촉진할 것입니다. AI 추론 및 미세 조정 비용이 감소함에 따라 AI 채택의 새로운 물결을 일으키고 시장의 전반적인 발전을 가속화할 수 있습니다.

결론: 새로운 H100을 구매하지 마세요

지금 당장 새로운 H100 GPU에 투자하면 손실을 볼 가능성이 높습니다. 하지만 프로젝트가 H100을 할인된 가격에 구매할 수 있거나, 전력 비용이 저렴하거나, 해당 AI 제품이 시장에서 충분한 경쟁력을 갖춘 경우와 같은 특별한 상황에서만 투자하는 것이 합리적일 수 있습니다. 투자를 고려하고 있다면 더 나은 수익률을 위해 다른 분야나 주식 시장에 자금을 투자하는 것이 좋습니다.