[AI 통제의 조건] ① 두렵지만 멈추지는 않는다…AI 위험 인식의 역설

AI 위험을 크게 느끼면 개발 속도를 늦추자는 목소리도 커질 것 같지만 조사 결과는 달랐다. AI가 인류의 생존을 위협할 가능성이 높다고 본 응답자 가운데서도 다수는 개발 감속보다 속도 유지와 안전 규제 강화를 함께 택했다.

엘림넷의 온라인 설문조사 플랫폼 나우앤서베이가 지난 23일부터 28일까지 만 20세 이상 전국 성인 패널 1천명을 대상으로 실시한 조사에서 응답자의 68.4%는 ‘AI가 인류의 생존을 위협할 가능성이 높다’고 답했다.

가능성이 낮다는 응답은 23.1%, 잘 모르겠다는 응답은 8.5%였다.

위험에 대한 인식이 곧 개발 중단 요구로 이어지지는 않았다. AI의 생존 위협 가능성을 높게 평가한 684명 가운데 62.3%는 ‘개발 속도는 유지하되 안전 규제를 강화해야 한다’를 선택했다. 안전이 확보될 때까지 개발 속도를 늦춰야 한다는 응답은 31.0%였다.

위협 느껴도 감속보다 규제
전체 응답에서도 비슷한 흐름이 나타났다. AI의 잠재적 위험을 고려해 개발 속도를 늦출 필요가 있는지 묻자 63.9%가 ‘개발 속도는 유지하되 안전 규제를 강화해야 한다’를 골랐다.

‘안전이 확보될 때까지 개발 속도를 늦춰야 한다’는 응답은 23.7%였다. ‘개발 속도를 늦출 필요가 없다’는 8.4%, ‘잘 모르겠다’는 4.0%로 집계됐다.

위험을 바라보는 시선에 따라 감속에 대한 태도에는 차이가 있었다. 위협 가능성을 높게 본 집단에서는 31.0%가 개발 감속을 택했지만, 가능성을 낮게 본 231명 가운데 감속이 필요하다고 답한 비율은 6.9%에 그쳤다.

조사 분석에서는 위험 인식과 개발 속도에 대한 응답 사이에 통계적으로 유의한 연관성이 나타났다. 그럼에도 위험을 크게 느끼는 집단에서 가장 많이 선택한 방안은 개발 감속이 아닌 속도 유지와 안전 규제 강화였다.

조사 수치만 보면 AI에 대한 불안과 기술 개발에 대한 거부감은 같은 방향으로 움직이지 않았다. 응답자 다수는 AI 개발 자체를 멈추기보다 기술 발전을 이어가면서 위험을 관리하는 방안을 선택했다.

첫 대응은 통제와 검증
응답자들은 AI 위험에 대응하는 우선 과제로 인간의 통제권과 안전성 검증을 꼽았다.

AI가 인간의 통제를 벗어날 위험에 대비해 가장 필요한 조치 한 가지를 묻자 ‘인간의 최종 통제권을 보장하는 기술적 장치’가 34.7%로 가장 많았다. ‘AI 안전성 검증 강화’가 28.5%로 뒤를 이었다. 두 응답을 합친 비율은 63.2%다.

‘AI 기업의 법적 책임 강화’는 12.7%였다. ‘국가 간 공동 AI 안전 기준 마련’은 12.3%, ‘위험한 AI의 개발·배포 제한’은 7.5%로 나타났다. ‘잘 모르겠다’는 3.1%, ‘특별한 추가 조치가 필요하지 않다’는 1.2%였다.

개발 속도에 대한 입장에 따라서도 선호하는 안전장치가 달랐다. 안전이 확보될 때까지 개발을 늦춰야 한다고 답한 237명은 ‘AI 안전성 검증 강화’를 38.8%로 가장 많이 선택했다.

개발 속도를 유지하면서 안전 규제를 강화해야 한다고 답한 639명 가운데서는 ‘인간의 최종 통제권을 보장하는 기술적 장치’가 38.0%로 가장 높았다.

조사에서 눈에 띄는 대목은 ‘AI가 위험한가’라는 질문의 답보다 그다음 선택이다. 위험 가능성을 높게 본 사람들조차 다수는 멈춤보다 통제를 택했다. 개발 속도 유지를 선택한 응답자도 안전장치가 필요 없다고 본 것은 아니다.

AI를 둘러싼 논쟁을 ‘개발이냐 중단이냐’라는 양자택일만으로 설명하기 어려운 이유다.

사람이 최종 통제권을 갖는다는 것은 실제 기술에서 무엇을 의미할까. 안전성 검증은 누가 어떤 방식으로 해야 할까. 2편에서는 설문에서 가장 많이 선택된 ‘통제’와 ‘검증’이 AI 기술과 서비스에서 어떻게 구현될 수 있는지 살펴본다.