엔비디아 H100의 힘

 

백우진 경제칼럼니스트·글쟁이㈜ 대표
“광어도 아니고 컴퓨터 칩 가격이 ‘시가’예요. 그것도 없어서 못 사요. 주문 넣은 뒤 몇 달 기다려야 해요.” 

지난해 3월 16일, 강연자가 말한 ‘광어 칩’이 엔비디아의 H100이었다. 강연 주제는 ‘거대언어모델(LLM) 기반 생성형 인공지능(AI)’이었는데, 그 핵심이 H100이라는 그래픽처리장치(GPU)라는 사실은 최근에야 알게 됐다. GPU는 방대한 데이터를 병렬로 빠르게 처리해냄으로써 생성형 AI를 가능하게 한다. 

H100은 손바닥보다 조금 크다. 가로 268㎜, 세로 111㎜다. 무게는 1690g. 이 칩 시세가 최근 개당 4만 달러를 넘어섰다고 전해졌다. 1g에 약 24달러로, 금값의 40%에 가깝다. 대체재 AMD 칩 가격의 4배 정도다. 

돈의 세계
높은 몸값은 추종을 불허하는 성능 덕분이다. 생성형 AI를 제공하려는 업체들에는 시간과 완성도가 생명이다. 짧은 시간 내에 수준 높은 서비스를 제공할 수 있게 하는 H100에 엔비디아의 고객사들은 기꺼이 고가를 감수한다. 지난해 시장의 92%를 엔비디아가 차지했다. AMD의 점유율은 3%다. 

H100은 2022년 9월부터 TSMC에서 양산됐다. 이 칩이 몇 개나 생산되는지 엔비디아는 밝히지 않는다. 수요와 관련한 발표 하나가 지난달 나왔다. 메타의 마크 저커버그는 H100을 연내 약 35만 개 확보하겠다고 밝혔다. 

H100은 엔비디아 실적과 주가의 터보 엔진이 됐다. 이 칩을 담당하는 데이터센터 부문의 매출은 2022년 1분기 37억 달러였다가 지난 1월 마감한 2023 회계연도 4분기에는 184억 달러로 급증했다. 전체 매출 221억 달러의 83%다. 지난해 강연을 들을 때 필자의 머릿속에서는 엔비디아 주식이 떠오르지 않았다. 주가는 3배로 뛰었다. 

미국 골드러시 때 안정적으로 큰돈을 번 회사는 청바지 업체였다. 생성형 AI가 돈맥을 찾는 동안 엔비디아가 받는 부러움도 계속 커지겠다. 

백우진 경제칼럼니스트·글쟁이㈜ 대표

댓글

댓글 쓰기

이 블로그의 인기 게시물

픽업트럭 시장

이미지
  그동안 KG 모빌리티(KGM)의 독주 체제가 이어져 왔던 국내 픽업 시장에 국내외 주요 브랜드가 잇따라 도전장을 내밀면서 신년부터 업체 간 경쟁이 한층 치열해질 것으로 보인다. 28일 완성차 업계에 따르면 KGM은 올해 하반기 출시를 목표로 브랜드 첫 전기 픽업트럭인 ‘O100(프로젝트명)’을 개발 중이다. 앞서 지난해 3월 일산 킥텍스에서 열린 ‘2023 서울모빌리티쇼’에서 처음으로 공개된 바 있는 콘셉트 모델 O100은 도시와 아웃도어를 모두 아우르는 라이프 스타일을 추구하는 고객들을 겨냥해 실용성을 강조한 디자인으로 호평을 받은 바 있다. 앞서 KGM이 콘셉트카 버전과 크게 달라지지 않은 디자인을 바탕으로 토레스와 전기차 버전인 토레스 EVX를 선보였던 만큼, 업계에서는 O100의 양산형 모델 역시 콘셉트카와 크게 다르지 않을 것이라는 관측이 나온다. O100에는 KGM이 지난 1월 미국 라스베이거스에서 열린 세계 최대의 가전·IT 박람회인 CES 2024에서 공개됐던 무선충전 플랫폼 상용화 기술이 적용되는 것으로 알려졌다. KGM은 내연기관 모델로서 국내 픽업트럭 시장에서 꾸준한 판매량을 보이고 있는 ‘렉스턴 스포츠’와 전기차 모델 O100을 통해 국내 시장에서 터줏대감 지위를 이어가고, 아울러 더 많은 수요층을 확보해 나가겠다는 구상이다. GMC가 이달 초 출시한 2024년형 ‘시에라’ 외관 [GMC 제공] 또한 풀사이즈급 픽업트럭 시장에서 각 업체들의 새판짜기 경쟁도 치열해질 것으로 보인다. 제너럴모터스(GM)의 프리미엄 픽업·SUV(스포츠유틸리티차량) 브랜드 GMC는 이달 초 상품성을 개선한 2024년형 ‘시에라’를 시장에 내놨다. 시에라는 전장 5890㎜, 전폭 2065㎜, 전고 1950㎜의 차체 크기를 갖춘 풀사이즈 픽업트럭 모델로, 국내 시장에서는 포드 픽업트럭 ‘레인저’와 직접 경쟁을 벌이고 있다. 상품성 개선 시에라 모델에는 전 트림에 드라이브 모드에 따라 차별화된 배기음을 경험할 수 있는 ‘액티브 가변 배기 시스템’이 탑재됐으...
자세한 내용 보기

AI 기업 모델 개발 경쟁

이미지
  오픈 AI   대항마로 꼽히는 미국 스타트업 앤스로픽이 8개월 만에 초거대 인공지능( AI )을 대대적으로 업데이트했다. 오픈 AI 가   GPT-3.5 를 4.0으로 개선하는 데 1년이 걸린 점을 고려할 때 모델 개선 속도가 더욱 빨라지는 대목이다. 4일(현지시간) 앤스로픽은 클로드3를 전면 공개했다. 클로드3는 사진, 차트, 문서, 기타 비정형 데이터를 올려 분석하고 답을 얻을 수 있는 이른바 멀티모달( Multi   Modal )이다. 예를 들어 연어 요리 사진을 올리면, 해당 조리법을 알려준다. 특히 한 번에 약 10만개 토큰(약 1만6000개 영단어)을 일시에 분석하는 클로드2가 지난해 7월에 나온 점을 고려할 때 매우 빠른 속도라는 평가다. 클로드3는 학습 데이터에 따라 '오푸스( Opus )' '소네트( Sonnet )' '하이쿠( Haiku )' 3종으로 출시된다. 오푸스와 소네트는 159개국에 동시 출시된 상태고, 무료 버전에는 소네트가 장착됐다. 앤스로픽은 "대학원 수준의 추론 능력, 기초 수학 능력, 코드 생성 지원, 스페인어·일본어·프랑스어로 대화 등 상당수 기능이 개선됐다"면서 "테스트에서 오픈 AI 의   GPT-4 와 구글의 제미나이 울트라보다 뛰어난 성능을 보였다"고 강조했다. AI 를 둘러싼 경쟁이 치열해지면서 개발 속도가 빨라지고 있다. 오픈 AI 는 2020년 6월 인간 두뇌의 시냅스에 해당하는 파라미터가 1750억개에 달하는   GPT-3.0 을 발표했다. 이후 2022년 3월 챗 GPT   서비스의 근간이 되는   GPT-3.5 를, 2023년 3월 영문 책 300장의 처리 능력을 갖춘   GPT-4.0 을 공개했다. 구글 역시 빠른 속도로 대응하고 있다. 구글은 2021년 5월 대규모언어모델( LLM )인 람다( LaMDA )를 공개한 데 이어 2023년 2월 이를 토대로 한 챗봇인 바드를 출시했다. 하지만 오픈 AI 에 비해 성능이 뒤처진...
자세한 내용 보기

케이카

이미지
  중고차를 온라인으로 산다? 차를 온라인으로 산다는 게 선뜻 이해되지 않지만 중고차 구매자 상당수가 이미 온라인을 이용하고 있다. 중고차 업체의 차량 검수와 보증 강화 등으로 온라인 구매에 대한 신뢰도가 높아진 데 따른 것이다. 국내 온라인 중고차 시장이 가파르게 성장하고 있다. 앞으로도 성장하는 중고차 시장과 함께 온라인 시장도 점차 커질 것으로 예상된다. 국내 직영중고차 플랫폼 기업인 케이카는 지난해 전체 중고차 판매 대수 10만9997대 중 6만2322대가 온라인을 통해 판매됐다고 29일 밝혔다. 전체 판매 대수의 56.7%가 온라인으로 판매된 셈이다. 이로써 케이카는 지난해 처음으로 온라인 판매 비중이 절반을 넘게 됐다. 2015년 10월 차량 선택부터 결제까지 모든 구매과정을 온라인으로 진행할 수 있는 ‘내차사기 홈서비스’를 출시한 이후 8년 만이다. 케이카의 내차사기 홈서비스는 출시 이후 지속적인 성장세를 보여왔다. 2016년 9.3%에서 2017년 18.6%, 2018년 24.8%, 2019년 28.2%로 비중이 높아졌다. ‘비대면 선호 현상’이 생긴 팬데믹 시기에는 더욱 급증했다. 2020년엔 30%, 2021년에는 40% 선을 넘었다. 2022 년엔 49%로 절반에 근접했다. 지난해엔 2016년 대비 6배 이상 성장을 이뤘다. 2024년 2월 기준 누적 이용 고객은 69만명에 달한다. 중고차 온라인 플랫폼인 엔카닷컴의 온라인 판매 대수도 크게 늘었다. 엔카닷컴은 2019년 온라인 구매 서비스인 ‘엔카홈서비스’를 출시했는데, 4년 만에 신청 건수가 8배, 판매 대수는 11배 증가했다. 온라인 중고차 시장의 커지는 이유는 온라인을 통해 차량의 모든 정보가 투명하게 공개되고, 이용하기도 편리하기 때문이다. 업체별로 차량 관련 사진 등을 수십장씩 제공하고, 환불 서비스를 도입한 점도 신뢰도를 높였다. 업계 관계자는 “전체 온라인 고객의 95%는 차량 실물을 보지 않고 온라인에서 결제 완료한다”며 “구매 결정에 필요한 정보를 모두 온라인에서 얻...
자세한 내용 보기