도덕적인 인공지능(AI)?…“인류 안전 보장 위한 논의 필수”

인공지능(AI)을 둘러싼 논란 중 하나는 과연 AI가 인류에게 ‘선물’로 자리할지, ‘재앙’으로 덮칠지에 대한 것이다. 아이러니하게도 해답의 핵심 열쇠는 결국 인류의 손에 달린 듯하다.

13일 국회의원회관 제1소회의실에서는 더불어민주당 노웅래 의원 주최의 ‘AI·데이터 시대의 새로운 기회와 법제도 발전 방향’을 주제로 한 토론회가 진행됐다.

2019년, 세간은 기술로 인해 발생한 사건 사고들로 들끓었다. 사이버 공간으로 전장을 확대한 국가 간 전쟁은 물론, 기업의 데이터 유출, 자율주행차 등의 예기치 못한 오작동 사고는 모두 지능정보기술의 역기능으로 인해 발발한 사례들이다.

AI의 활용에 대해 법과 제도로 통제할 수 없는 영역인 도덕적이고 윤리적인 부분에 대한 깊이 있는 논의도 부족한 상황이기에 심각성이 더해지고 있다.

고려대학교의 권헌영 교수는 “복제 인간의 경우, 과연 인간이 기술적인 한계로 만들지 않고 있는 것일까. 아니다. 이는 법적 제재가 아닌 암묵적인 약속으로 지켜지고 있는 것”이라며 “하지만 AI에 이러한 도덕성을 심어주는 것은 기준이 모호해 힘든 상황”이라고 말했다.

AI 시대의 성공적인 도래를 위해 미국과 중국 등 기술 선진국들은 AI 활용을 위한 최적의 기반을 마련하기 위해 고군분투하고 있다.

한국도 예외는 아니다. AI의 ‘밥’으로 여겨지는 데이터 활용을 촉진하기 위한 법·제도 개선 노력은 물론, 로봇과 블록체인, 공유경제 등 신기술 기반의 새로운 산업 성장 동력을 발굴하기 위해 열과 성을 다하고 있다.

하지만 이 모든 노력 전반에서 윤리와 책임에 관한 심도 깊은 논의는 인류의 안전함을 보장하기 위해 필수적으로 동반돼야 할 요소로 꼽힌다.

권 교수는 “단순히 혁신과 규제라는 이분법적 관념에서 벗어나 객관적이고 과학적인 공론 과정을 통해 ‘균형된 입법’을 이뤄야 할 것”이라며 “위반 시 업계 퇴출을 고려할 정도의 강력한 윤리 강령을 초기 단계부터 마련해 설명 가능하고 책임질 수 있는 기술 기반의 사회를 만들어야 한다”라고 당부했다.