기업용 소규모 언어 모델(SLM) 도입 가속화… 2027년엔 LLM 사용량 3배 전망

글로벌 시장조사기관 가트너(Gartner)는 2027년까지 소규모 언어 모델(SLM)의 사용이 범용 대규모 언어 모델(LLM)에 비해 최소 3배 이상 많아질 것으로 내다봤다. 이 같은 변화는 전문성이 요구되는 업무에서의 정확도 향상뿐 아니라, 응답 속도 개선과 자원 효율성이라는 현실적인 이점이 결합된 결과라는 분석이다.

Financial Express에 따르면, 가트너의 수밋 아가왈(Sumit Agarwal) 부사장은 다양한 비즈니스 흐름 속에서 점점 더 높은 수준의 정확도가 요구되면서, 범용 LLM보다 특정 도메인에 맞춰 미세 조정된 모델이 더 적합해지고 있다고 언급했다. 그는 특히 SLM이 컴퓨팅 자원을 적게 소모하고 응답 속도가 빨라 운영 비용을 절감할 수 있는 구조라고 덧붙였다.

기술 전문 매체 CRN India는 기업이 기존 LLM에 검색 증강 생성(RAG)과 미세 조정 기술을 적용해 특정 목적에 최적화된 SLM을 구축할 수 있다고 전했다. 이 과정에서 기업의 고유 데이터는 차별화의 핵심 자원이 되며, 데이터를 수집하고 선별·구조화하는 과정이 성공적인 모델 구현을 좌우한다고 분석했다.

특정 비즈니스 영역에서는 LLM이 기대하는 수준의 응답 품질이나 속도를 충족하지 못하는 사례도 적지 않다. 이에 따라 가트너는 기업들이 맥락 기반의 시범 도입을 통해 SLM의 효용을 검증할 필요가 있다고 조언했다. 아울러 단일 모델로는 복합적인 업무를 처리하기 어렵다는 점을 들어, 다양한 모델을 결합하고 여러 단계의 워크플로우와 연동하는 방식이 더욱 효과적일 수 있다고 강조했다.

데이터 준비 역량뿐만 아니라, 관련 인재의 협업 체계도 중요하다는 점도 지적됐다. CRN India는 데이터 과학자와 AI 엔지니어뿐 아니라, 리스크 관리와 규정 준수 담당자, 비즈니스 기획 전문가 등 다양한 기술·기능 인력이 함께 참여하는 통합 조직이 SLM 기반 AI 전략의 성공을 좌우한다고 설명했다.

가트너는 궁극적으로 기업이 자체적으로 구축한 SLM을 통해 독자적인 인사이트를 수익화하고, 이를 외부 이해관계자들과 공유하는 방식으로 개방적 생태계를 확대할 가능성이 높다고 진단했다. 이는 폐쇄적인 데이터 운용 모델에서 벗어나, 협업 기반의 AI 활용 체제로 이행하는 전환점이 될 수 있다는 분석이다.