윙배너

AI 고도화에 악용사례 속출…"제도적 방안 마련해야"

가짜 영상 감지 및 구별하는 AI 개발 필요

인공지능(AI) 기술을 악용한 범죄 사례가 늘면서, 이를 올바르게 활용하기 위해 제도·기술적 대응이 필요하다는 주장이 나왔다.

소프트웨어정책연구소는 지난달 25일 이같은 내용을 골자로 ‘인공지능의 악용 사례, 딥페이크 기술과 과제’ 보고서를 내놓았다.

AI 고도화에 악용사례 속출…"제도적 방안 마련해야" - 산업종합저널 동향


소셜 네트워크 서비스(SNS)의 여성 사진을 누드로 편집(Deep porn)하고, 연예인이나 정치인, 유명 인사를 전혀 다른 사람으로 뒤바꾸는 등 딥페이크나 페이크 페이스(Fake face)와 같은 AI 기술을 악용하는 사례가 등장하고 있다.

딥페이크에 활용하는 AI는 생성적 적대 신경망(Generative Adversarial Network, 이하 GAN)이라는 모델이다. 두 개의 신경망이 서로 경쟁하면서 더 나은 결과를 만들어내는 강화 학습 방식의 AI 기술이다. 위조지폐범은 더욱 정교하게 가짜 돈을 만들고자 노력(학습)하고, 경찰은 이런 가짜 돈을 더 정확하게 감별하기 위해 노력(학습)하는 것과 같은 원리다.
 
GAN은 실제와 가상의 이미지를 보다 정밀하게 구별하고 구현하기 위해 만든 기술이다. 영상이나 이미지를 정교하게 편집해 보다 실감 나는 콘텐츠를 제작하고, 손상된 영상을 복원하는 등 다양한 영역에 활용한다.

최근에는 사람의 피부와 머리카락까지 실제와 비슷한 수준으로 이미지를 만들면서, GAN이 기술적 한계를 이미 뛰어넘었다는 평가도 나오고 있다.
 
다만, 기술 발전과 함께 부작용 사례도 함께 속출하고 있다는 게 보고서의 설명이다. 얼마 전 러시아와 전쟁 중인 우크라이나 젤린스키 대통령과 똑 닮은 인물이 항복을 선언하는 가짜 영상이 온라인 상에 떠돌면서, 논란을 낳은 것이 최근의 사례다. 

보고서는 AI 기술 악용으로 사회·국가적 혼란을 일으키는 사례가 발생하는 만큼 올바른 활용을 위해 기술 및 제도적 대응이 필요하다고 제언했다.
 
MS나 구글 등이 참여하는 ‘AI for Good’ 프로젝트를 사례로 든 보고서는 AI를 활용한 긍정적 경험을 쌓는 과정이 필요하다고 조언했다. 이 프로젝트는 AI기술을 사용해 의료 보건 향상과 환경 보존, 사회적 약자를 보호하는 등 사회 행복에 기여하는 활동이다.

산·학·연이 함께 연구·개발 과제 기획 및 지원에 적극 나서고, 공공의 가치를 실현하는 등 다양한 실험적 시도도 함께 추진해야 한다고 했다. 특히, 미디어를 비롯해 뉴스나 금융, 치안 등 특정 분야에서 악용 사례를 감지 및 구별 하는 AI 개발에 나서야 한다고 강조했다.

이 외에도 ▲지방자치단체와 협력한 생활 밀착형 AI 리빙랩(Living Lab.) 프로젝트 ▲GAN을 활용한 다양한 과제와 기획·개발 ▲시민이 자발적으로 참여하는 생활 속 AI 활용 프로젝트나 경진대회 등도 대안이라는 의견이다.
강현민 기자
khm546@industryjournal.co.kr


0 / 1000


많이 본 뉴스

이재명 대통령, 첫 내각 인선 발표…“위기 극복과 국민통합 이끌 적임자들”

이재명 대통령이 4일 제21대 대통령 취임 직후, 새 정부를 이끌 첫 내각 인선을 직접 발표했다. 이 대통령은 “즉시 업무가 가능한 능력과 전문성, 성과를 낼 수 있는 정치력과 소통 능력을 갖춘 인사를 중용했다”며 각 인사의 배경과 기대를 상세히 설명했다. 김민석 국회의원, 국무총리

신용취약 소상공인 대상 정책자금 지원, 최대 3천만 원 직접대출

중소벤처기업부(이하 중기부)와 소상공인시장진흥공단(이하 소진공)은 지난 5일 발표된 ‘소상공인·자영업자 맞춤형 지원 강화방안’의 일환으로 ‘저신용 소상공인 자금’을 6일부터 접수를 시작했다고 밝혔다. ‘저신용 소상공인 자금’은 민간 금융기관을 통한 자금조달에 어려움을 겪는 신용취약

2024년 글로벌 실리콘 웨이퍼 출하량 감소… 하반기 회복 전망

글로벌 전자 산업 공급망을 대표하는 산업 협회인 SEMI가 발표한 보고서에 따르면, 2024년 전 세계 실리콘 웨이퍼 출하량은 전년 대비 2.7% 감소한 122억 6,600만 in²을 기록했다. 매출은 6.5% 줄어든 115억 달러로 집계됐다. SEMI는 반도체 업계의 재고 조정이 지속되면서 웨이퍼 출하량과 매출

삼성전자, 글로벌 반도체 시장 1위 탈환…AI 반도체·메모리 시장 성장세

가트너(Gartner)는 2024년 전 세계 반도체 매출 예비조사 결과를 발표하며, 글로벌 반도체 시장이 전년 대비 18.1% 성장해 6천260억 달러를 기록했다고 5일 밝혔다. 2025년 반도체 매출은 7천50억 달러에 이를 것으로 전망된다. 조지 브로클허스트 가트너 부사장은 “데이터센터용 GPU 및

생성형 AI, 국내 기업·공공기관 변화 이끌다… 한국IDC 보고서 공개

IT 시장 분석 및 컨설팅 기관인 인터내셔날데이터코퍼레이션코리아(International Data Corporation Korea Ltd., 이하 한국IDC)는 최근 발표한 ‘국내 생성형 AI 업무 적용 사례 연구(Generative AI Use Cases: Adoption and Priorities in Korea)’ 보고서를 통해 아시아 태평양 지역 조직의 생성형 AI 도






산업전시회 일정


미리가보는 전시회