윙배너
윙배너
윙배너

AI 고도화에 악용사례 속출…"제도적 방안 마련해야"

가짜 영상 감지 및 구별하는 AI 개발 필요

인공지능(AI) 기술을 악용한 범죄 사례가 늘면서, 이를 올바르게 활용하기 위해 제도·기술적 대응이 필요하다는 주장이 나왔다.

소프트웨어정책연구소는 지난달 25일 이같은 내용을 골자로 ‘인공지능의 악용 사례, 딥페이크 기술과 과제’ 보고서를 내놓았다.

AI 고도화에 악용사례 속출…"제도적 방안 마련해야" - 산업종합저널 동향


소셜 네트워크 서비스(SNS)의 여성 사진을 누드로 편집(Deep porn)하고, 연예인이나 정치인, 유명 인사를 전혀 다른 사람으로 뒤바꾸는 등 딥페이크나 페이크 페이스(Fake face)와 같은 AI 기술을 악용하는 사례가 등장하고 있다.

딥페이크에 활용하는 AI는 생성적 적대 신경망(Generative Adversarial Network, 이하 GAN)이라는 모델이다. 두 개의 신경망이 서로 경쟁하면서 더 나은 결과를 만들어내는 강화 학습 방식의 AI 기술이다. 위조지폐범은 더욱 정교하게 가짜 돈을 만들고자 노력(학습)하고, 경찰은 이런 가짜 돈을 더 정확하게 감별하기 위해 노력(학습)하는 것과 같은 원리다.
 
GAN은 실제와 가상의 이미지를 보다 정밀하게 구별하고 구현하기 위해 만든 기술이다. 영상이나 이미지를 정교하게 편집해 보다 실감 나는 콘텐츠를 제작하고, 손상된 영상을 복원하는 등 다양한 영역에 활용한다.

최근에는 사람의 피부와 머리카락까지 실제와 비슷한 수준으로 이미지를 만들면서, GAN이 기술적 한계를 이미 뛰어넘었다는 평가도 나오고 있다.
 
다만, 기술 발전과 함께 부작용 사례도 함께 속출하고 있다는 게 보고서의 설명이다. 얼마 전 러시아와 전쟁 중인 우크라이나 젤린스키 대통령과 똑 닮은 인물이 항복을 선언하는 가짜 영상이 온라인 상에 떠돌면서, 논란을 낳은 것이 최근의 사례다. 

보고서는 AI 기술 악용으로 사회·국가적 혼란을 일으키는 사례가 발생하는 만큼 올바른 활용을 위해 기술 및 제도적 대응이 필요하다고 제언했다.
 
MS나 구글 등이 참여하는 ‘AI for Good’ 프로젝트를 사례로 든 보고서는 AI를 활용한 긍정적 경험을 쌓는 과정이 필요하다고 조언했다. 이 프로젝트는 AI기술을 사용해 의료 보건 향상과 환경 보존, 사회적 약자를 보호하는 등 사회 행복에 기여하는 활동이다.

산·학·연이 함께 연구·개발 과제 기획 및 지원에 적극 나서고, 공공의 가치를 실현하는 등 다양한 실험적 시도도 함께 추진해야 한다고 했다. 특히, 미디어를 비롯해 뉴스나 금융, 치안 등 특정 분야에서 악용 사례를 감지 및 구별 하는 AI 개발에 나서야 한다고 강조했다.

이 외에도 ▲지방자치단체와 협력한 생활 밀착형 AI 리빙랩(Living Lab.) 프로젝트 ▲GAN을 활용한 다양한 과제와 기획·개발 ▲시민이 자발적으로 참여하는 생활 속 AI 활용 프로젝트나 경진대회 등도 대안이라는 의견이다.


0 / 1000


많이 본 뉴스

올해 세계 물류산업 전망 ‘맑음’

물류업계가 코로나19 팬데믹에 따른 항공 및 화물 운임 공급망에 대한 즉각적인 구제가 없음에도, 올해 전망을 낙관적으로 평가한 것으로 나타났다. 글로벌 물류회사 어질리티(Agility)가 최근 756명의 물류 업계 전문가를 대상으로 시행해 발표한 ‘2022년 신흥시장물류지수’ 조사 결과, 이중 3

MICE 산업, 코로나 위기 돌파구 모색해야…마이스&테크 결합으로 체질 개선

현재 코로나19 위기가 촉발한 디지털 전환 국면에서 MICE 산업은 새롭게 변화하기 위한 방안을 모색해야 할 시점에 놓여있다. MICE 산업이란 기업회의(Meeting), 포상관광(Incentive Tour), 국제회의(Convention), 전시회(Exhibition)를 일컫는 말이다. 16일 서울 여의도에 있는 중소기업중앙회에서는

AI, 메타버스 활용한 스마트건설기술의 미래

4차산업혁명으로 촉발한 '디지털 전환'은 코로나19와의 장기전이 이어지면서, 그 중요성이 더 커지고 있다. 정보통신기술(ICT)을 중심으로 한 디지털 전환은 이제, 전 산업분야로 확장, 인공지능(AI) 기술과 메타버스, 증강현실 등을 활용한 첨단 솔루션이 속속 개발되고 있다. 건설 산업도 예

카메라 기술은 어떻게 스마트폰 넘어 자동차까지 적용됐나?

스마트폰 시장이 성숙기에 진입하였음에도 카메라 성능에 대한 기대 수요가 높아지면서 스마트폰 제조사들도 카메라의 고화소화, 다기능화를 통해 차별화 전략을 추구하고 있다. 카메라 모듈 시장은 Dual, Triple, Quad, Penta 카메라로 진화하면서 카메라 탑재수가 증가 추이에 있고, 화소수 위주의

이차전지 소재·부품 및 장비전(K-BATTERY SHOW 2022) 개최 연기

오는 6월 8일부터 10일까지 사흘동안 고양시 KINTEX 제2전시장에서 개최 예정이었던 이차전지・소재 및 장비전(K-BATTERY SHOW 2022)이 8월 31일부터 9월 3일까지 4일간 KINTEX 제2전시장에서 열리는 것으로 최종 확정했다. 최근 코로나19 감염속도가 다시 가속화되면서 새로운 국면을 맞고 있는






산업전시회 일정


미리가보는 전시회