AI를 ‘실험’에서 ‘기업 운영’으로…한국IBM, 에이전틱 AI 전환 전략 제시

기업용 AI를 둘러싼 질문이 ‘도입할 것인가’에서 ‘어떻게 실제 업무에 안착시킬 것인가’로 옮겨가고 있다. 생성형 AI를 개별 업무의 생산성 도구로 쓰는 데서 그치지 않고 기업 데이터와 기존 시스템, 의사결정 구조에 연결해 지속적으로 운영하는 문제가 새로운 과제로 떠오른 것이다.

한국IBM은 1일 서울 웨스틴 서울 파르나스에서 ‘IBM AI 서밋 코리아 2026’을 열고 에이전틱 AI 시대의 기업 전환 전략을 제시했다. 행사에서는 에이전틱 AI의 기업 적용 전략과 데이터·자동화·하이브리드 클라우드 기반의 운영 방향, 양자컴퓨팅의 산업 활용 가능성이 소개됐다.


“AI의 가치는 업무 자동화에서 끝나지 않는다”
이수정 한국IBM 사장은 기업의 AI 활용이 개별 업무 자동화를 넘어 데이터와 시스템, 의사결정 구조를 다시 설계하는 단계로 나아가야 한다고 강조했다.

이 사장은 “AI의 가치는 개별 업무를 자동화하는 데서 끝나지 않는다”며 “기업의 데이터와 시스템, 의사결정 구조, 업무 운영 방식을 새롭게 연결하고 재설계할 때 비로소 AI의 진정한 가치가 실현될 수 있다”고 말했다.

그는 AI를 실제 비즈니스 프로세스에 연결하고 이를 조직 전체로 확대할 수 있는 역량이 중요하다고 설명했다. AI와 함께 하이브리드 클라우드, 양자컴퓨팅도 향후 기업 경쟁력을 좌우할 기술 축으로 제시했다.

에이전틱 AI, 많이 도입하는 것보다 어떻게 운영할지가 관건
닐 순다레산 IBM 오토메이션 & AI 총괄 사장은 AI 에이전트가 실제 업무를 수행하는 환경에서는 모델 성능만큼 운영 구조가 중요하다고 진단했다.

순다레산 사장은 “AI는 더 이상 생산성을 높이는 보조 도구가 아니라 기업 운영 방식을 근본적으로 바꾸는 새로운 운영 모델이 되고 있다”며 “앞으로 성공적인 기업은 AI를 얼마나 도입했는지가 아니라 얼마나 신뢰할 수 있고 확장 가능한 방식으로 운영하느냐에 따라 경쟁력이 결정될 것”이라고 말했다.


AI 에이전트가 여러 업무 과정에 관여할수록 기업 내부 데이터와 자동화 체계, 거버넌스를 함께 관리해야 한다는 게 IBM의 설명이다. AI 모델을 추가하는 데 그치지 않고 기존 시스템과 데이터를 연결하고 결과를 통제할 수 있는 운영 기반이 필요하다는 의미다.

KB증권 ‘깨비’가 보여준 데이터의 중요성
현장에서는 실제 기업의 AI 전환 사례도 공유됐다.

박재만 KB증권 AI·디지털 본부장은 AI 서비스 ‘깨비’ 구축 경험을 소개하며 에이전틱 AI를 구현하기에 앞서 신뢰할 수 있는 데이터 기반을 갖추는 일이 중요하다고 설명했다.

KB증권은 여러 데이터 소스를 통합하고 품질 관리 체계를 마련하는 방식으로 AI 활용 기반을 구축했다. 개별 서비스에 머무르지 않고 조직 전반의 AI 전환과 새로운 사업 기회로 활용 범위를 넓히고 있다는 설명도 이어졌다.

이지은 한국IBM 최고기술책임자(CTO) 전무는 “생성형 AI를 넘어 에이전틱 AI 시대로 접어들면서 기업들은 개별 AI 활용을 넘어 업무 프로세스와 운영 전반에 통합하는 단계로 나아가고 있다”며 “AI를 신뢰할 수 있는 데이터와 연결하고 실제 비즈니스 실행으로 이어지게 하는 것이 기업 경쟁력을 좌우할 요소가 될 것”이라고 말했다.

양자컴퓨팅도 중장기 기술축으로
AI와 함께 양자컴퓨팅의 산업 활용 가능성도 주요 의제로 다뤄졌다.

백한희 IBM 퀀텀 알고리즘 센터 디렉터는 양자컴퓨팅을 단순한 미래 기술 투자가 아니라 기업이 복잡한 문제 해결에 대비하기 위한 장기 전략의 하나로 제시했다.

백 디렉터는 “양자 시대를 기다리기보다 지금부터 활용 가능성을 검토하고 준비하는 것이 중요하다”고 말했다. 이어 IBM의 양자 기술 로드맵과 연구 성과를 소개하고 반도체와 배터리, 바이오, 금융 등에서 적용 가능성을 모색할 수 있다고 설명했다.


전시장에선 AI 개발·운영 기술 시연
행사장 전시관에서는 기업이 AI를 개발하고 실제 운영 환경에 적용하는 과정을 보여주는 기술 시연이 이어졌다.

소프트웨어 개발 과정에서 개발자와 협업하도록 설계된 AI 파트너 ‘IBM 밥(Bob)’을 비롯해 AI 애플리케이션과 인프라 운영을 지원하는 IBM 콘서트(IBM Concert), 하시코프 솔루션이 소개됐다. 데이터와 AI를 연결하는 왓슨x 포트폴리오도 전시됐다.

전시관에서는 AI 개발·운영, 데이터 관리, 하이브리드 클라우드, 양자컴퓨팅 등 기업의 AI 활용 기반을 구성하는 IBM의 제품과 기술이 소개됐다.