[영상뉴스] “GPU 메모리 부족, ‘이더넷’으로 푼다”…차세대 공유 기술 개발

챗GPT와 같은 초대형 인공지능(AI) 모델이 등장하면서 데이터 처리량은 폭발적으로 늘었지만, 하드웨어가 이를 따라가지 못하는 병목 현상이 심화하고 있다. 아무리 성능 좋은 GPU(그래픽처리장치)를 써도 메모리 용량이 부족하면 연산 속도가 급격히 떨어지는 이른바 ‘메모리 장벽(Memory Wall)’ 때문이다.

국내 연구진이 이 난제를 가장 대중적인 통신 기술인 ‘이더넷(Ethernet)’으로 풀어냈다. 물리적으로 떨어진 장비들의 메모리를 하나로 묶어 쓰는 기술로, 향후 AI 인프라 구축 비용을 획기적으로 낮출 것으로 기대된다.

한국전자통신연구원(ETRI)은 초대형 AI 학습 과정에서 발생하는 메모리 용량 한계를 극복할 수 있는 차세대 메모리 기술 ‘옴니익스텐드(OmniXtend)’를 개발했다고 밝혔다.

초대형 AI 학습 발목 잡던 ‘메모리 장벽’ 붕괴
최근 AI 모델은 거대해지는 반면, 개별 GPU에 탑재할 수 있는 메모리 용량은 물리적 한계에 부딪혔다. 부족한 메모리를 확보하려면 서버를 통째로 늘려야 해 비용 부담이 막대했다.

ETRI가 개발한 옴니익스텐드는 이 문제를 ‘발상의 전환’으로 해결했다. 각 서버나 가속기에 꽂힌 메모리를 개별적으로 쓰지 않고, 네트워크를 통해 거대한 ‘메모리 풀(Pool)’로 합치는 방식이다. 이렇게 되면 AI 학습 도중 특정 장비의 메모리가 부족할 때, 네트워크로 연결된 다른 장비의 유휴 메모리를 끌어다 쓸 수 있게 된다.

마치 여러 개의 물탱크를 파이프(이더넷)로 연결해 하나의 거대한 저수지처럼 활용하는 원리다. 사용자는 필요한 만큼 메모리를 유연하게 할당받아 쓸 수 있어, 메모리 부족으로 인한 학습 중단이나 성능 저하를 막을 수 있다.

표준 이더넷으로 ‘메모리 풀’ 구성…비용·성능 두 토끼 잡다
기존에도 ‘PCIe’ 같은 인터페이스로 장비를 연결하는 시도는 있었지만, 연결 거리가 짧고 확장이 어렵다는 한계가 있었다. 반면 옴니익스텐드는 전 세계 어디서나 쓰이는 ‘표준 이더넷’ 스위치를 활용한다. 전용 고가 장비 없이도 물리적으로 떨어진 다수의 서버를 손쉽게 연결할 수 있어 확장성과 경제성 면에서 압도적이다.

성능 검증 결과도 탁월했다. 연구진이 대규모 언어 모델(LLM)을 이용해 연산 부하 테스트를 진행한 결과, 메모리 부족으로 저하됐던 추론 성능이 옴니익스텐드 적용 후 2배 이상 회복됐다. 이는 충분한 메모리를 갖춘 고가 장비 환경과 유사한 수준의 처리 성능이다.

글로벌 무대서 기술력 입증…“상용화·표준화 주도할 것”
ETRI는 이미 글로벌 무대에서 기술력을 인정받았다. 지난해 5월 프랑스 파리와 미국 샌타클라라에서 열린 ‘RISC-V 서밋 2025’에서 해당 기술을 공개해 업계의 이목을 집중시켰다. 현재는 리눅스 재단 산하 ‘칩스 얼라이언스’에서 오픈소스 표준 정립을 주도하고 있다.

ETRI는 향후 데이터센터 기업 등에 기술을 이전해 상용화에 속도를 낼 계획이다. 또한 AI 서버뿐만 아니라 자율주행차, 선박 등 대용량 데이터 처리가 필수적인 고신뢰 임베디드 시스템으로 적용 범위를 넓혀갈 방침이다.

김강호 ETRI 초성능컴퓨팅연구본부장은 “글로벌 AI·반도체 기업의 차세대 시스템에 우리 기술이 적용될 수 있도록 기술 고도화와 국제 협력을 지속하겠다”며 “NPU와 가속기 중심의 메모리 연결 기술 연구를 본격적으로 확대해 나갈 것”이라고 밝혔다.