사이버 보안 및 클라우드 기업 아카마이 테크놀로지스는 29일 코어 데이터 센터에서 인터넷 엣지까지 추론을 확장해 AI의 활용 영역과 방식을 재정의하는 플랫폼인 ‘아카마이 인퍼런스 클라우드(Akamai Inference Cloud)’를 출시했다.

아카마이 인퍼런스 클라우드는 사용자와 디바이스에 가까운 엣지에서 지능적이고 에이전틱한 AI 추론을 가능하게 한다. 기존 시스템과 달리 전 세계적인 규모로 저지연(low latency), 실시간 엣지 AI 처리를 제공하도록 특별히 설계됐다. 아카마이는 이번 출시를 통해 전 세계에 분산된 아키텍처 구축 전문성과 NVIDIA Blackwell AI 인프라를 결합, AI의 진정한 잠재력을 발휘하기 위해 필요한 가속 컴퓨팅을 획기적으로 재해석하고 확장한다.

개인화된 디지털 경험과 스마트 에이전트부터 실시간 의사 결정 시스템에 이르는 차세대 AI 애플리케이션은 AI 추론이 사용자에 더 가까운 곳에서 수행돼야 하며, 사용자가 상호작용하는 위치에서 즉각적인 응답을 제공하고 리퀘스트를 어디로 라우팅할지에 대한 최적의 결정을 내릴 수 있어야 한다. 에이전틱 워크로드는 저지연 추론, 로컬 컨텍스트, 즉각적인 글로벌 확장성에 대한 역량이 필요하다. 아카마이 인퍼런스 클라우드는 이러한 혁신을 주도하기 위해 설계되었으며, NVIDIA AI 스택을 데이터 생성 및 의사 결정이 이뤄지는 지점에 가깝게 배치하는 분산 및 생성형 엣지 플랫폼이다.

톰 레이튼(Tom Leighton) 아카마이 CEO 겸 공동 창립자는 “차세대 AI는 인터넷이 오늘날의 보편적인 글로벌 플랫폼으로 성장할 수 있게 한 것과 동일한 사용자 근접성이 요구된다”고 말했다. 이어 “엔비디아 AI 인프라를 기반으로 하는 아카마이 인퍼런스 클라우드는 AI 추론 성능 확장에 대한 요구가 커지는 가운데, AI 의사결정 기능을 전 세계 수천 지점에 배치해 더 빠르고 스마트하며 안전한 의사결정을 가능하게 할 것”이라고 덧붙였다.

젠슨 황(Jensen Huang) 엔비디아 창립자 겸 CEO는 “엔비디아와 아카마이는 협력을 통해 전 세계 사용자에게 더 가깝게 추론을 제공해 더 빠르고 확장 가능한 생성형 AI를 구현하고 차세대 지능형 애플리케이션의 시대를 열 것”이라고 말했다.

아카마이 인퍼런스 클라우드는 사용자 및 디바이스 가까이에서 지능적이고 에이전틱한 AI 추론을 가능하게 함으로써 AI의 활용 장소와 방식을 새롭게 정의한다. 또 아카마이 인퍼런스 클라우드는 최근 발표된 NVIDIA BlueField-4 DPU 등 엔비디아의 최신 기술을 활용해 코어에서 엣지까지 데이터 액세스 및 AI 추론 워크로드를 한층 더 가속하고 보안을 강화해 전 세계적으로 확장 가능한 분산형 AI 성능이라는 아카마이의 비전을 실현할 것이다.

아카마이는 엔비디아와 협력해 AI 추론을 그동안 도달하지 못했던 새로운 영역으로 확장하고 아카마이 인퍼런스 클라우드를 통해 새로운 AI 영역을 개척하고 있다. 세부적으로는 △엔터프라이즈 AI 팩토리를 엣지로 확장해 스마트 커머스 에이전트 및 개인 맞춤형 디지털 경험 구현 △스트리밍 추론 및 에이전트를 통해 즉각적인 금융 인사이트 제공 및 실시간 의사 결정 수행 △인간 수준을 뛰어넘는 실시간 피지컬 AI 동작 지원 △가치 실현 시간 단축 등이 있다.

아카마이는 현재 전 세계 20개 지역을 대상으로 아카마이 인퍼런스 클라우드 서비스를 시작했고 향후 서비스 지역을 확장할 계획이다.