윙배너
윙배너

AI 고도화에 악용사례 속출…"제도적 방안 마련해야"

가짜 영상 감지 및 구별하는 AI 개발 필요

인공지능(AI) 기술을 악용한 범죄 사례가 늘면서, 이를 올바르게 활용하기 위해 제도·기술적 대응이 필요하다는 주장이 나왔다.

소프트웨어정책연구소는 지난달 25일 이같은 내용을 골자로 ‘인공지능의 악용 사례, 딥페이크 기술과 과제’ 보고서를 내놓았다.

AI 고도화에 악용사례 속출…"제도적 방안 마련해야" - 산업종합저널 동향


소셜 네트워크 서비스(SNS)의 여성 사진을 누드로 편집(Deep porn)하고, 연예인이나 정치인, 유명 인사를 전혀 다른 사람으로 뒤바꾸는 등 딥페이크나 페이크 페이스(Fake face)와 같은 AI 기술을 악용하는 사례가 등장하고 있다.

딥페이크에 활용하는 AI는 생성적 적대 신경망(Generative Adversarial Network, 이하 GAN)이라는 모델이다. 두 개의 신경망이 서로 경쟁하면서 더 나은 결과를 만들어내는 강화 학습 방식의 AI 기술이다. 위조지폐범은 더욱 정교하게 가짜 돈을 만들고자 노력(학습)하고, 경찰은 이런 가짜 돈을 더 정확하게 감별하기 위해 노력(학습)하는 것과 같은 원리다.
 
GAN은 실제와 가상의 이미지를 보다 정밀하게 구별하고 구현하기 위해 만든 기술이다. 영상이나 이미지를 정교하게 편집해 보다 실감 나는 콘텐츠를 제작하고, 손상된 영상을 복원하는 등 다양한 영역에 활용한다.

최근에는 사람의 피부와 머리카락까지 실제와 비슷한 수준으로 이미지를 만들면서, GAN이 기술적 한계를 이미 뛰어넘었다는 평가도 나오고 있다.
 
다만, 기술 발전과 함께 부작용 사례도 함께 속출하고 있다는 게 보고서의 설명이다. 얼마 전 러시아와 전쟁 중인 우크라이나 젤린스키 대통령과 똑 닮은 인물이 항복을 선언하는 가짜 영상이 온라인 상에 떠돌면서, 논란을 낳은 것이 최근의 사례다. 

보고서는 AI 기술 악용으로 사회·국가적 혼란을 일으키는 사례가 발생하는 만큼 올바른 활용을 위해 기술 및 제도적 대응이 필요하다고 제언했다.
 
MS나 구글 등이 참여하는 ‘AI for Good’ 프로젝트를 사례로 든 보고서는 AI를 활용한 긍정적 경험을 쌓는 과정이 필요하다고 조언했다. 이 프로젝트는 AI기술을 사용해 의료 보건 향상과 환경 보존, 사회적 약자를 보호하는 등 사회 행복에 기여하는 활동이다.

산·학·연이 함께 연구·개발 과제 기획 및 지원에 적극 나서고, 공공의 가치를 실현하는 등 다양한 실험적 시도도 함께 추진해야 한다고 했다. 특히, 미디어를 비롯해 뉴스나 금융, 치안 등 특정 분야에서 악용 사례를 감지 및 구별 하는 AI 개발에 나서야 한다고 강조했다.

이 외에도 ▲지방자치단체와 협력한 생활 밀착형 AI 리빙랩(Living Lab.) 프로젝트 ▲GAN을 활용한 다양한 과제와 기획·개발 ▲시민이 자발적으로 참여하는 생활 속 AI 활용 프로젝트나 경진대회 등도 대안이라는 의견이다.


0 / 1000


많이 본 뉴스

[ROBOT WORLD] 근로자 안전 높여주는 굴삭기 원격 조종 솔루션

굴삭기를 원격으로 조종할 수 있는 솔루션이 일산 킨텍스에서 열린 ‘2023 로보월드(ROBOT WORLD)’에 등장했다. 굴삭기 원격조종 솔루션은 조종석에 레버 모듈과 페달 모듈, 메인 제어기를 설치한 뒤, 원격조정기를 통해 이뤄진다. 4개의 제품이 1개 세트화돼 전용 캐리어로 운반할 수도 있다.

현대자동차 로보틱스랩, 로봇지능 사회 구현 전략 제시

현동진 현대자동차 로보틱스랩(이하 로보틱스랩) 상무가 14일 여의도 국회박물관에서 열린 ‘2023 글로벌 기계기술 포럼’에서 로봇지능 사회 구현 전략을 제시했다. ‘로봇지능 사회’는 로보틱스와 서비스가 연결된 사회를 의미한다. 기계에 다양한 기술 영역을 융합해 일상생활을 바꾼다는 것

[ENVEX 2023]굴 껍질로 제설용 염화칼슘 제조

굴 껍질을 재활용해 만든 제설용 염화칼슘이 서울 코엑스에서 진행 중인 ‘제 44회 국제환경산업기술&그린에너지전(ENVEX 2023, 이하 전시회)'에 등장했다. 제설용 염화칼슘은 주로 중국에서 원재료를 수입해 생산했다. (주)쉘피아 관계자는 “굴 패각을 산에 녹이고, 염화칼슘을 분리해 분말 형태로

“화재차량 순식간에 침수시켜 진압”… 전기차 자동소화시스템

지난 13일부터 15일까지 사흘간 일산 킨텍스에서 개최된 ‘2023 대한민국 안전산업박람회(K-SAFETY EXPO)’에 SG생활안전의 EV자동소화시스템이 전시됐다. 전기차 충전 시 발생하는 리튬이온배터리 화재에 대응, 초기 진압을 위한 솔루션이다. 내열성 방염포로 수조를 형성해 배터리를 침수시키는 방

[산업VIEW]유리섬유, 비닐수지로 철근 대체한다고?

철근보다 가벼우면서도 강한 철근대체제가 ‘넥스트라이즈 2023 서울’에서 참관객들의 눈길을 끌었다. 철근대체제로 사용하는 GFRP(유리 섬유 강화 플라스틱)는 유리섬유와 비닐수지를 8:2 비율로 조합해 제조한다. 무게는 철근의 1/4정도로 가볍고 가격도 저렴하지만 강도는 더 강하다. 녹과 부






산업전시회 일정


미리가보는 전시회