기술은 '가치중립적’… 생성형 AI 악용 줄이려면?

‘챗GPT’와 같은 대화형 인공지능(AI) 및 생성형 AI 기술이 사람들에게 익숙하게 자리 잡아가고 있지만 그 이면의 사회적 문제 역시 불거지고 있다. 텍스트와 이미지, 동영상 등을 생성해 내는 생성형 AI는 활용과 규제에 대한 논의보다 앞서 대중에 공개되며 기능의 악용, 저작권 문제, 무차별적인 데이터 수집 등으로 우려를 낳고 있다.

이처럼 AI가 야기할 수 있는 사회적 문제들에 대해 진단하고 해결 방안을 논의하기 위한 세미나가 19일 국회의원회관에서 열렸다.

‘ChatGPT와 생성형AI의 윤리적 이슈와 해결 방안’을 주제로 열린 이번 세미나는 송석준 의원실, (사)국제인공지능윤리협회, THE AI가 공동 주최했다.



이지항 상명대 AI 인증센터장은 ‘딥러닝 창시자’ 제프리 힌튼 캐나다 토론토대 교수의 말을 빌려 “역사적으로 봤을 때 기술이 어떤 가치를 가지고 싶었던 적이 있는가. 가치 중립적인 기술을 사람들이 의도를 갖고 썼기 때문에 전혀 다른 결과가 나온 것”이라며 딥페이크, 언어모델이 음란물 제작, 정치적 악용, 악성코드 생성 등에 쓰인 사례를 소개했다.

인공지능 학습 데이터에 문화적, 사회적 배경이 충분히 반영되지 못한 편향성도 지적됐다. 한정된 곳에서 생성된 데이터로 학습한 인공지능 모델의 활용은 너무나 많은 곳에서 이뤄진다는 것이다.

생성 영상의 부자연스러운 부분들을 검출해 내고, 영상의 심박 신호 추출 및 그 여부를 기준으로 검출 하는 등 악용방지를 위한 기술들도 개발되고 있다. 이지항 센터장도 인공지능에 규범적 의사결정 능력, 다양한 사회적 상황 학습 능력을 부여하는 방식 등을 고민하며 연구 중이라고 밝혔다.

이어 “우리가 망치에 어떤 인격을 부여하지 않는 것처럼 인공지능은 ‘도구’적인 생성AI로서 정보의 마중물 역할을 하는 것이라 생각해야 한다”며 AI에 대한 시각을 전환해야 한다고 말했다.

황승택 카카오 인권과기술윤리팀 부장은 AI 시대 기업의 윤리와 저작권 문제에 대응하기 위해
카카오가 수립한 윤리헌장 8개 원칙을 소개했다. ▲카카오 알고리즘의 기본 원칙 ▲차별에 대한 경계　▲학습 데이터 운영 ▲알고리즘의 독립성 ▲알고리즘에 대한 설명 ▲기술의 포용성 ▲아동과 청소년에 대한 보호 ▲프라이버시 보호 항목 등이 담겼다.

또한 학계 및 관련기관 전문가와 함께 증오발언 대응을 위해 개발 중인 ‘코딩북(coding book)’에 대해서도 언급했다. 코딩북이란 수집한 데이터를 분석 가능한 형태로 변환 시 참고할 수 있는 정의나 원칙, 판단 기준 등을 담은 지침서로, 어떤 기술적 증거 발언과 알고리즘을 통한 것인지 분석해 정책적 판단의 근거가 될 것이란 설명이다.

이 외 지난해 7월 출범한 카카오 공동체 기술윤리 위원회와 AI 윤리 확립, 디지털 포용 및 접근성 제고 등을 담당하는 전담 조직 ‘인권과 기술윤리팀’ 발족 내용 등을 소개하며 지속적으로 AI 윤리규정 준수와 위험성 점검, 알고리즘 투명성 강화 등을 수행해 나가겠다고 밝혔다.