IBM, 생성형 AI 시대를 위한 새로운 광학 기술 발표

IBM이 데이터센터에서 생성형 AI 모델의 학습과 실행 방식을 획기적으로 개선할 수 있는 차세대 광학 기술을 발표했다.

공개된 공동 패키지형 광학(Co-Packaged Optics, CPO) 기술은 기존 전선 기반 통신을 대체하며, 데이터센터 내부의 전송 속도를 크게 높일 수 있다. 특히 IBM은 이 기술을 구현할 폴리머 광학 도파관(Polymer Optical Waveguide, PWG)을 설계하고 조립해 처음으로 시연했다.

전선 기반 연결 한계 극복
현재 데이터센터 외부 통신 네트워크에서는 광섬유를 사용하지만, 내부 연결에는 대부분 구리선이 활용되고 있다. 이러한 기존 방식은 대규모 분산 학습 과정에서 GPU 가속기가 데이터를 기다리는 시간이 길어지고, 에너지 소비가 증가하며 비용 부담을 초래하는 문제가 있었다. IBM은 새로운 광학 기술을 통해 이러한 제약을 해결할 방안을 제시했다.

데이터센터의 성능과 효율을 개선하는 고속 광학 연결
IBM은 최근 발표한 논문에서 데이터센터의 전송 속도를 크게 개선하고 에너지 소비를 줄일 수 있는 새로운 광학 모듈의 시제품을 소개했다. 이 기술은 기존의 구리 기반 배선을 대체하며, 효율성과 지속 가능성을 동시에 달성할 수 있는 가능성을 제시한다.

IBM의 기술은 기존 방식 대비 전력 소비를 5배 이상 줄일 수 있다. 전력 효율 향상은 데이터센터 운영 비용을 감소시키는 데 크게 기여하며, 에너지 사용량을 최적화해 환경 부담을 줄인다. 또한, 해당 기술은 거대 언어 모델(LLM)의 학습 속도를 최대 5배까지 향상시켜, 평균 3개월이 걸리던 학습 과정을 단 3주로 단축할 수 있다. 더 나아가, 많은 GPU를 사용하는 대규모 모델에서는 더욱 큰 성능 개선 효과를 기대할 수 있다.

이와 함께, 해당 기술은 AI 모델 학습에 소모되는 막대한 전력을 절감할 수 있다. IBM은 새로운 기술을 통해 AI 모델 학습 시 소모되는 전력을 미국 가정 약 5천 가구의 연간 전력 소비량에 해당하는 수준으로 절약할 수 있다고 분석했다. 이를 통해 데이터센터는 더욱 친환경적이고 효율적인 운영이 가능해질 전망이다.

미래 데이터센터의 진화와 지속 가능성 확보
다리오 길(Dario Gil) IBM 리서치 수석 부회장은 “생성형 AI는 더 많은 처리 능력과 에너지를 필요로 한다. CPO 기술은 이러한 요구를 충족하며 데이터센터를 미래에 적합하도록 변화시킬 것”이라며, “미래의 데이터 통신은 광섬유 기반 시스템으로 전환될 것이며, 이는 속도와 에너지 효율을 동시에 만족시키는 새로운 시대를 열어줄 것”이라고 설명했다.

IBM의 반도체 혁신을 이어가는 성과
CPO 기술은 데이터센터 내부 통신을 전기에서 광학으로 전환하는 새로운 접근 방식을 제시하며, AI의 고성능 요구를 충족할 기술적 돌파구로 평가받고 있다. 이 기술은 IBM의 2nm 노드 칩, 나노시트 트랜지스터, 수직 트랜지스터(VTFET) 등 IBM이 선도해 온 반도체 혁신의 연장선에 있다.