오픈AI, 자체 칩 '할라페뇨' 성능 공개 — GPU 없는 AI 시대가 열리나?

ChatGPT를 만든 오픈AI가 이제 반도체까지 직접 만들기 시작했습니다. 이름은 '할라페뇨(Jalapeño)'. 멕시코 고추 이름을 붙인 이 칩의 첫 벤치마크 결과가 지난주 Hot Chips 2026 컨퍼런스에서 공개되면서 반도체 시장이 술렁이고 있습니다.

왜 만들었을까? — 전기료의 압박

AI 서비스를 운영하려면 엔비디아 GPU가 필수입니다. 문제는 너무 비싸고, 전기도 어마어마하게 먹는다는 거예요. 엔비디아 최신 칩 GB300은 하나에 1,400W를 소비합니다. 가정용 에어컨(약 1,000W)보다 많은 전기를 칩 하나가 먹는 셈이죠.

전 세계 수십억 명이 매일 ChatGPT를 쓰는 오픈AI 입장에서 전기료는 곧 생존 문제입니다. 그래서 브로드컴(Broadcom)과 협력해 자체 칩을 만들었고, 설계부터 완성까지 단 9개월 만에 해냈습니다. 놀라운 건 이 과정에서 자체 AI 모델이 칩 설계를 도왔다는 점이에요. AI가 AI를 위한 칩을 설계한 겁니다.

벤치마크 — 진짜 엔비디아를 넘었나?

SemiAnalysis가 오픈AI 연구실에서 직접 GPT-OSS 120B, 딥시크 R1 등 실제 대형 모델을 돌린 결과입니다.

항목할라페뇨엔비디아 GB300

소비 전력	700W	1,400W
메모리	HBM4 216GB	HBM3e 288GB
와트당 처리량	1.5~1.9배 우위	기준
응답 지연시간	1.7~3.6배 빠름	기준
대화형 워크로드	최대 4.1배 빠름	기준

SemiAnalysis는 **"엔비디아·AMD·구글 칩 중 최고"**라고 평가했습니다. 특히 대화형 워크로드에서 최대 4.1배까지 차이가 벌어졌어요.

핵심은 전력 효율입니다. 엔비디아 젠슨 황 CEO 스스로가 "와트당 처리량이 곧 매출"이라고 말한 적 있죠. 700W로 1,400W짜리 칩과 비슷한 성능을 낸다면, 같은 데이터센터에서 두 배 많은 칩을 돌릴 수 있다는 뜻입니다. 전기료가 최대 비용인 AI 데이터센터에서, 이건 기술 자랑이 아니라 돈 이야기예요.

공정한 비교일까? — 전문가들의 지적

포브스는 이 비교가 **"다소 불공정"**하다고 분석했습니다. 이유는 세 가지입니다.

첫째, 할라페뇨는 최신 HBM4 메모리를 쓰고, 비교 대상 GB300은 이전 세대 HBM3e를 씁니다. 메모리 세대 차이만으로도 성능 격차가 크기 때문에, 같은 HBM4를 쓰는 엔비디아 차세대 칩 **'루빈'**과 비교해야 공정합니다.

둘째, 할라페뇨는 추론(Inference) 전용이라 AI 모델 학습은 못 합니다. 훈련과 추론을 모두 하는 엔비디아 GPU와 비교하면 용도가 제한적이에요.

셋째, 테스트가 짧은 문맥의 단일 턴 대화 위주였습니다. 실제 서비스에서 흔한 멀티턴 에이전트 트래픽에서의 성능은 아직 검증 전입니다.

삼성 HBM4 탑재 — 한국에도 기회

할라페뇨에는 삼성전자의 HBM4가 탑재된 것으로 알려졌습니다. SK하이닉스가 엔비디아 시장을 독점하던 구도에서, 오픈AI라는 대형 고객이 삼성을 선택한 건 의미가 큽니다.

오픈AI가 브로드컴과 체결한 10기가와트 규모 배치 계약이 본격화되면 HBM4 수요가 급증합니다. SK하이닉스 CEO도 "2027년이 HBM 부족의 최악의 해"라고 경고했고, 마이크론은 HBM4가 DDR5 대비 3배의 웨이퍼 면적을 먹는다고 밝혔어요. 삼성에게는 HBM4 시장 입지를 넓힐 중요한 기회입니다.

AI 칩 전국시대 — 엔비디아 독점의 끝?

오픈AI는 엔비디아 GPU도 계속 쓸 거라고 했습니다. 할라페뇨가 추론을, 엔비디아가 학습을 맡는 이중 체제를 구상 중이에요. 하지만 더 큰 그림을 보면 판이 바뀌고 있습니다. 오픈AI, 구글(TPU), 아마존(Trainium), 메타(MTIA)까지 빅테크 4사 모두 자체 칩 개발 중이거든요.

2세대 칩이 수개월 내 완성, 3세대도 이미 개발 중. 2026년 말 소량 배치를 시작해 2027년 본격 확대됩니다. 소프트웨어 회사를 넘어 모델·칩·메모리를 직접 설계하는 풀스택 AI 기업으로의 전환, 엔비디아 독점 시대의 끝이 시작된 셈입니다.