오픈AI(OpenAI)가 브로드컴과 협력해 자체 설계한 첫 AI 추론용 가속기 칩 ‘할라페뇨(Jalapeño)’를 공개했다. 할라페뇨는 오픈AI가 모델·소프트웨어·서비스뿐 아니라 하드웨어까지 아우르는 풀스택 인프라 전략을 본격화하는 신호탄으로, 두 회사가 공동 개발 중인 다세대 컴퓨팅 플랫폼의 첫 제품이다. 할라페뇨는 LLM(거대언어모델) 추론에 최적화된 완전 신규 아키텍처로 설계됐으며, 데이터 이동을 최소화하고 컴퓨팅·메모리·네트워킹 자원을 균형 있게 배치해 이론적 성능에 근접한 활용률을 목표로 한다. 초기 테스트에서는 기존 최첨단 가속기 대비 와트당 성능이 크게 향상된 것으로 나타났으며, GPT-5.3-Codex-Spark 등 다양한 ML 워크로드를 목표 주파수와 전력 조건에서 이미 구동 중이다.

오픈AI는 브로드컴, 셀레스티카(Celestica)와 함께 칩 설계부터 보드·랙 시스템 통합, 대규모 생산 체계 구축까지 전 과정을 9개월 만에 완성했다. 이는 고성능 ASIC 개발 역사상 가장 빠른 주기 중 하나로 평가된다. 오픈AI는 자사 모델을 칩 설계 과정에도 활용해 최적화 속도를 높였으며, 이러한 소프트웨어-하드웨어 공동 개발 방식이 향후 컴퓨팅 비용 절감과 AI 접근성 확대에 기여할 것으로 기대하고 있다.

할라페뇨는 챗GPT, Codex, API 등 오픈AI의 실제 서비스 운영 패턴을 기반으로 설계된 만큼 대규모 대화형 LLM 제품에 적합한 지연 시간과 처리량을 제공하는 것을 목표로 한다. 오픈AI는 이를 통해 더 빠르고 안정적이며 저렴한 AI 서비스를 제공하고, 향상된 인프라가 더 강력한 모델 개발로 이어지는 선순환 구조를 강화하겠다는 전략이다. 브로드컴은 이번 협력이 향후 10년간 AI 인프라 확장을 위한 핵심 기반이 될 것이라며, 2026년부터 마이크로소프트 등과 함께 기가와트급 데이터센터 구축이 가능해질 것이라고 밝혔다.

할라페뇨는 올해 말 초기 배포를 목표로 하며, 그 이후 여러 세대에 걸쳐 확장될 것으로 알려졌다. 오픈AI는 이번 플랫폼이 학생, 개발자, 기업 등 다양한 사용자에게 더 저렴하고 신뢰할 수 있는 고급 AI를 제공하는 데 중요한 역할을 할 것이라고 강조했다.