윙배너
윙배너

AI 고도화에 악용사례 속출…"제도적 방안 마련해야"

가짜 영상 감지 및 구별하는 AI 개발 필요

인공지능(AI) 기술을 악용한 범죄 사례가 늘면서, 이를 올바르게 활용하기 위해 제도·기술적 대응이 필요하다는 주장이 나왔다.

소프트웨어정책연구소는 지난달 25일 이같은 내용을 골자로 ‘인공지능의 악용 사례, 딥페이크 기술과 과제’ 보고서를 내놓았다.

AI 고도화에 악용사례 속출…"제도적 방안 마련해야" - 산업종합저널 동향


소셜 네트워크 서비스(SNS)의 여성 사진을 누드로 편집(Deep porn)하고, 연예인이나 정치인, 유명 인사를 전혀 다른 사람으로 뒤바꾸는 등 딥페이크나 페이크 페이스(Fake face)와 같은 AI 기술을 악용하는 사례가 등장하고 있다.

딥페이크에 활용하는 AI는 생성적 적대 신경망(Generative Adversarial Network, 이하 GAN)이라는 모델이다. 두 개의 신경망이 서로 경쟁하면서 더 나은 결과를 만들어내는 강화 학습 방식의 AI 기술이다. 위조지폐범은 더욱 정교하게 가짜 돈을 만들고자 노력(학습)하고, 경찰은 이런 가짜 돈을 더 정확하게 감별하기 위해 노력(학습)하는 것과 같은 원리다.
 
GAN은 실제와 가상의 이미지를 보다 정밀하게 구별하고 구현하기 위해 만든 기술이다. 영상이나 이미지를 정교하게 편집해 보다 실감 나는 콘텐츠를 제작하고, 손상된 영상을 복원하는 등 다양한 영역에 활용한다.

최근에는 사람의 피부와 머리카락까지 실제와 비슷한 수준으로 이미지를 만들면서, GAN이 기술적 한계를 이미 뛰어넘었다는 평가도 나오고 있다.
 
다만, 기술 발전과 함께 부작용 사례도 함께 속출하고 있다는 게 보고서의 설명이다. 얼마 전 러시아와 전쟁 중인 우크라이나 젤린스키 대통령과 똑 닮은 인물이 항복을 선언하는 가짜 영상이 온라인 상에 떠돌면서, 논란을 낳은 것이 최근의 사례다. 

보고서는 AI 기술 악용으로 사회·국가적 혼란을 일으키는 사례가 발생하는 만큼 올바른 활용을 위해 기술 및 제도적 대응이 필요하다고 제언했다.
 
MS나 구글 등이 참여하는 ‘AI for Good’ 프로젝트를 사례로 든 보고서는 AI를 활용한 긍정적 경험을 쌓는 과정이 필요하다고 조언했다. 이 프로젝트는 AI기술을 사용해 의료 보건 향상과 환경 보존, 사회적 약자를 보호하는 등 사회 행복에 기여하는 활동이다.

산·학·연이 함께 연구·개발 과제 기획 및 지원에 적극 나서고, 공공의 가치를 실현하는 등 다양한 실험적 시도도 함께 추진해야 한다고 했다. 특히, 미디어를 비롯해 뉴스나 금융, 치안 등 특정 분야에서 악용 사례를 감지 및 구별 하는 AI 개발에 나서야 한다고 강조했다.

이 외에도 ▲지방자치단체와 협력한 생활 밀착형 AI 리빙랩(Living Lab.) 프로젝트 ▲GAN을 활용한 다양한 과제와 기획·개발 ▲시민이 자발적으로 참여하는 생활 속 AI 활용 프로젝트나 경진대회 등도 대안이라는 의견이다.


0 / 1000


많이 본 뉴스

열분해 기술로 폐타이어 재활용

기후 위기 대응 차원에서 폐기물 자원을 재활용하는 순환자원에 관한 관심이 커지고 있다. 10일 서울 코엑스에서 열린 '2022 대한민국 ESG 친환경대전'에 참가한 친환경 소재기업 (주)엘디카본은 폐타이어를 수집해 재활용하는 과정을 소개했다. 이 회사는 폐타이어나 기타 고무 제품을 수거

[DTon] 고소 작업 시, 추락 방지 위한 ‘발끝막이판’

건물의 골조를 세우기 위해서는 거푸집을 활용한다. 그중에서도 갱폼(Gang Form)은 건축 구조물의 시공성을 높이기 위해 각 부재들을 건물의 형태대로 제작한 거푸집이다. 갱폼이 위치한 층수에서 슬래브 타설을 하는 콘크리트 작업자와 견출 작업자들은 갱폼에 구축된 작업발판을 이용해 이동하기

[DTon] 풀림 방지 강화한 원터치 샤클로 중량물 낙하 예방

건설현장을 비롯한 다양한 산업 현장에는 중량물을 운반하기 위한 중장비 및 타워크레인이 존재한다. 높은 곳에 상주하는 타워크레인 기사는 현장 내 작업자와 무전기를 통해 수신하며 자재를 다른 장소로 옮긴다. 중량물에 결속하는 장비는 슬링이라는 인양 로프와 이를 걸어주는 샤클이 사용된다.

[DTon] 건설안전, 현장의 목소리 반영해 개선

경기 고양시 KINTEX(킨텍스)에서 ‘2022 한국건설안전박람회’가 19일부터 21일까지 사흘 간 진행했다. 이번 행사에 참여한 이동식 CCTV 제조 및 판매, 관리 업체 (주)지에스아이엘(GSIL)은 건설 현장의 애로사항을 고려해 수정하는 과정을 통해 건설 현장의 안전성을 높이는 제품을 선보였다.

기술은 '가치중립적’… 생성형 AI 악용 줄이려면?

‘챗GPT’와 같은 대화형 인공지능(AI) 및 생성형 AI 기술이 사람들에게 익숙하게 자리 잡아가고 있지만 그 이면의 사회적 문제 역시 불거지고 있다. 텍스트와 이미지, 동영상 등을 생성해 내는 생성형 AI는 활용과 규제에 대한 논의보다 앞서 대중에 공개되며 기능의 악용, 저작권 문제, 무차별






산업전시회 일정


미리가보는 전시회