데이터리즘 시대···AI로 인한 사회 갈등 방지 위해 제도적 장치 마련해야

데이터와 알고리즘은 메타버스, 자율주행 자동차 등에 적용되며, 인류 삶의 패러다임을 바꿔나가고 있다. 이와 관련해 향후 규모 확대가 예상되는 관련 업계 시장의 주도권을 쟁탈하기 위해 국가 및 기업 간 경쟁이 치열한 상황이다.

최근 하나금융연구소가 발표한 보고서에 따르면, 스마트폰 보급 확대와 IoT기술 및 인공지능(AI) 발전으로 인해 부와 권력의 원천인 데이터리즘 시대를 촉발시켰다.

데이터리즘(Datarithm)은 데이터(Data)와 알고리즘(Algorithm)의 합성어이며, 데이터와 알고리즘 기술이 부와 권력의 원천이 된다는 의미로 하나금융연구소가 재정의 했다.

현재 다양한 IT기업들은 부와 권력을 얻기 위해 DT, 클라우드 등을 통해 데이터를 수집하고 있고, 초거대 AI 개발 등 알고리즘 기술 개발에도 주력 중이다.

관련 내용을 살펴보면, 메타버스는 로블록스, 마인크래프트 등 게임사가 주도 중인 시장에 애플, 아마존 등 빅테크 기업이 참여하면서 주도권 선점을 위한 경쟁이 심화되고 있다.

자율주행은 GM, 현대, 테슬라 등 전통적인 자동차 제조사뿐만이 아닌, 전자업체인 애플, 소니 등도 관련 업계에 뛰어들고 있다.

반면, 일각에서는 데이터와 알고리즘 기술 발전이 사회 갈등을 조장한다는 내용도 제기되고 있다.

수집한 데이터의 편향된 사용은 AI의 인종차별, 불공정 행위 등 사회 갈등을 야기할 수 있다는 것이다. 특히 AI 기술은 피싱, 가짜뉴스 등과 같이 불법적인 범죄에 악용될 우려가 있으며, 이용자에게 편향된 정보를 제공함으로써 이용자의 지식 및 가치관 확대를 방해할 수 있다는 게 보고서의 분석이다.

보고서는 AI 품질에 대한 신뢰성을 높이기 위해 데이터 및 AI 모델 검증 기준, AI 윤리 원칙 등 제도적 장치 마련을 통해 예상 가능한 사회 갈등을 미연에 방지할 필요가 있다고 봤다.

하나금융연구소 이기홍 연구위원은 ‘향후 AI알고리즘의 편향성 문제를 줄이기 위해 사회, 인종, 지역 등 민감한 영역에 대해 윤리적 검증 기준이 필요하다’면서 ‘부와 권력의 원천인 데이터에 대한 정보 생성 주체의 주권 보호와 기업들의 남용을 막는 제도적 장치가 필요하다’고 강조했다.