OpenAI는 20개의 HBM 스택과 인텔 EMIB 스타일 브리지를 탑재하여 성능 한계를 뛰어넘는 첨단 AI 칩에 대한 특허를 공개했습니다.

OpenAI는 혁신적인 AI 칩 아키텍처 설계안을 공개하는 새로운 특허를 발표하며 기술적 진전을 알렸습니다.이 설계는 다수의 컴퓨팅 칩렛이 여러 개의 HBM(고대역폭 메모리) 스택으로 둘러싸인 형태로, AI 컴퓨팅 성능에 획기적인 발전을 가져올 가능성을 시사합니다.

OpenAI 특허, 첨단 AI 칩 아키텍처에 주목

” 임베디드 로직 브리지를 통한 고대역폭 메모리 칩렛, I/O 칩렛 및 컴퓨팅 칩렛의 비인접 연결 “이라는 제목의 이 특허는 칩 설계에 대한 혁신적인 접근 방식을 제시합니다. OpenAI는 임베디드 로직 브리지를 활용하여 더 먼 거리에서도 HBM 칩렛과 컴퓨팅 칩렛 간의 연결을 용이하게 하는 방안을 제안합니다.

이 전략은 최적의 기능을 위해 상당한 메모리 접근이 필수적인 고성능 컴퓨팅 및 인공지능 애플리케이션의 역량을 확장하는 것을 목표로 합니다.현재 기존 패키징 기술은 기존 금속선 연결을 사용하여 메모리를 컴퓨팅 칩렛에 인접하게 장착해야 하므로 HBM 통합에 제약이 있습니다.

'그림 2A'로 표시된 기술 도면은 OpenAI의 AI 칩 특허와 관련된 구성 요소들의 상호 연결된 배열을 보여줍니다.

현행 JEDEC 표준에 따르면 HBM은 컴퓨팅 칩렛에서 6mm 이내에 위치해야 하므로 데이터 전송에 병목 현상이 발생합니다.새롭게 제안된 임베디드 로직 브리지는 이러한 제약을 크게 완화하여 통신 거리를 제한적인 6mm에서 보다 실용적인 16mm까지 확장할 수 있습니다.

이러한 브리지는 두 가지 이점을 제공합니다.칩렛 통신 거리를 확장하는 동시에 HBM 스택의 컨트롤러 또는 효율적인 패키지 내 통신을 위한 고속 PHY(물리 계층) 역할을 수행할 수 있습니다.이 아키텍처는 칩 간 상호 운용성을 촉진하는 UCIe(Universal Chiplet Interconnect Express) 표준을 준수합니다.

예를 들어, OpenAI의 설계는 임베디드 로직 브리지를 통해 컴퓨팅 칩렛이 최대 20개의 HBM 메모리 스택을 지원할 수 있음을 보여줍니다.이는 기존 설계에서 4개, 6개 또는 8개 스택으로 제한되었던 것과 비교하면 상당한 증가입니다.이러한 개선은 더 크고 복잡한 AI 모델을 구동할 수 있는 차세대 칩으로 이어질 수 있습니다.

'그림 2B'로 표시된 도표는 제안된 칩 아키텍처를 나타내는 경로로 연결된 다양한 구성 요소를 포함하는 반도체 설계를 보여줍니다.

본 연구는 유사 기술, 특히 인텔의 EMIB(Embedded Multi-Interconnect Bridge) 시스템의 지속적인 개발 동향과 맥락을 같이합니다. EMIB는 고효율 칩의 설계 및 성능을 향상시키는 소형 브리지를 활용하여 2.5D 패키징 기술의 현재 한계를 극복하도록 설계된 고급 패키징 솔루션입니다.

EMIB와 그 후속 제품인 EMIB-T는 모두 단순성, 소형화 및 비용 효율성을 비롯한 다양한 이점을 제공하는 동시에 기존 인터포저가 달성할 수 있는 것 이상의 설계 유연성을 제공합니다.

인텔의 '진정한 패키징 혁신'이라는 제목의 프레젠테이션 슬라이드는 EMIB의 유연성과 효율성을 업계 표준과 비교합니다.

이러한 발전 상황을 고려할 때, 인텔의 EMIB 기술이 다수의 칩렛과 방대한 HBM 메모리를 통합하는 것을 목표로 하는 OpenAI의 차세대 맞춤형 AI 칩에 통합될 수 있을지 궁금해진다.이 특허에서 얻은 통찰력은 분명히 그러한 방향을 시사하며, 이러한 협력적 혁신이 AI 환경을 재편할 미래에 대한 기대감을 불러일으킨다.

더 자세한 정보는 SETI Park 웹사이트를 참조하세요.추가 정보 및 이미지를 보려면 Wccftech를 방문하세요.