윙배너
윙배너

기술은 '가치중립적’… 생성형 AI 악용 줄이려면?

'ChatGPT와 생성형AI의 윤리적 이슈와 해결방안' 주제로 국회 세미나 개최

‘챗GPT’와 같은 대화형 인공지능(AI) 및 생성형 AI 기술이 사람들에게 익숙하게 자리 잡아가고 있지만 그 이면의 사회적 문제 역시 불거지고 있다. 텍스트와 이미지, 동영상 등을 생성해 내는 생성형 AI는 활용과 규제에 대한 논의보다 앞서 대중에 공개되며 기능의 악용, 저작권 문제, 무차별적인 데이터 수집 등으로 우려를 낳고 있다.

이처럼 AI가 야기할 수 있는 사회적 문제들에 대해 진단하고 해결 방안을 논의하기 위한 세미나가 19일 국회의원회관에서 열렸다.

‘ChatGPT와 생성형AI의 윤리적 이슈와 해결 방안’을 주제로 열린 이번 세미나는 송석준 의원실, (사)국제인공지능윤리협회, THE AI가 공동 주최했다.

기술은 '가치중립적’… 생성형 AI 악용 줄이려면? - 산업종합저널 동향
19일 오전 서울 여의도 국회의원회관에서 열린 'ChatGPT와 생성형AI의 윤리적 이슈와 해결방안' 세미나에서 송석준 국민의힘 의원(오른쪽 다섯 번째), 박성중 국민의힘 의원(오른쪽 일곱 번째), 전창배 국제인공지능&윤리협회 이사장(오른쪽 여섯 번째) 등 주요 인사들이 기념촬영을 하고 있다.

기술은 '가치중립적’… 생성형 AI 악용 줄이려면? - 산업종합저널 동향

이지항 상명대 AI 인증센터장은 ‘딥러닝 창시자’ 제프리 힌튼 캐나다 토론토대 교수의 말을 빌려 “역사적으로 봤을 때 기술이 어떤 가치를 가지고 싶었던 적이 있는가. 가치 중립적인 기술을 사람들이 의도를 갖고 썼기 때문에 전혀 다른 결과가 나온 것”이라며 딥페이크, 언어모델이 음란물 제작, 정치적 악용, 악성코드 생성 등에 쓰인 사례를 소개했다.

인공지능 학습 데이터에 문화적, 사회적 배경이 충분히 반영되지 못한 편향성도 지적됐다. 한정된 곳에서 생성된 데이터로 학습한 인공지능 모델의 활용은 너무나 많은 곳에서 이뤄진다는 것이다.

생성 영상의 부자연스러운 부분들을 검출해 내고, 영상의 심박 신호 추출 및 그 여부를 기준으로 검출 하는 등 악용방지를 위한 기술들도 개발되고 있다. 이지항 센터장도 인공지능에 규범적 의사결정 능력, 다양한 사회적 상황 학습 능력을 부여하는 방식 등을 고민하며 연구 중이라고 밝혔다.

이어 “우리가 망치에 어떤 인격을 부여하지 않는 것처럼 인공지능은 ‘도구’적인 생성AI로서 정보의 마중물 역할을 하는 것이라 생각해야 한다”며 AI에 대한 시각을 전환해야 한다고 말했다.

황승택 카카오 인권과기술윤리팀 부장은 AI 시대 기업의 윤리와 저작권 문제에 대응하기 위해
카카오가 수립한 윤리헌장 8개 원칙을 소개했다. ▲카카오 알고리즘의 기본 원칙 ▲차별에 대한 경계 ▲학습 데이터 운영 ▲알고리즘의 독립성 ▲알고리즘에 대한 설명 ▲기술의 포용성 ▲아동과 청소년에 대한 보호 ▲프라이버시 보호 항목 등이 담겼다.

또한 학계 및 관련기관 전문가와 함께 증오발언 대응을 위해 개발 중인 ‘코딩북(coding book)’에 대해서도 언급했다. 코딩북이란 수집한 데이터를 분석 가능한 형태로 변환 시 참고할 수 있는 정의나 원칙, 판단 기준 등을 담은 지침서로, 어떤 기술적 증거 발언과 알고리즘을 통한 것인지 분석해 정책적 판단의 근거가 될 것이란 설명이다.

이 외 지난해 7월 출범한 카카오 공동체 기술윤리 위원회와 AI 윤리 확립, 디지털 포용 및 접근성 제고 등을 담당하는 전담 조직 ‘인권과 기술윤리팀’ 발족 내용 등을 소개하며 지속적으로 AI 윤리규정 준수와 위험성 점검, 알고리즘 투명성 강화 등을 수행해 나가겠다고 밝혔다.


0 / 1000


많이 본 뉴스

2024년 글로벌 실리콘 웨이퍼 출하량 감소… 하반기 회복 전망

글로벌 전자 산업 공급망을 대표하는 산업 협회인 SEMI가 발표한 보고서에 따르면, 2024년 전 세계 실리콘 웨이퍼 출하량은 전년 대비 2.7% 감소한 122억 6,600만 in²을 기록했다. 매출은 6.5% 줄어든 115억 달러로 집계됐다. SEMI는 반도체 업계의 재고 조정이 지속되면서 웨이퍼 출하량과 매출

신용취약 소상공인 대상 정책자금 지원, 최대 3천만 원 직접대출

중소벤처기업부(이하 중기부)와 소상공인시장진흥공단(이하 소진공)은 지난 5일 발표된 ‘소상공인·자영업자 맞춤형 지원 강화방안’의 일환으로 ‘저신용 소상공인 자금’을 6일부터 접수를 시작했다고 밝혔다. ‘저신용 소상공인 자금’은 민간 금융기관을 통한 자금조달에 어려움을 겪는 신용취약

삼성전자, 글로벌 반도체 시장 1위 탈환…AI 반도체·메모리 시장 성장세

가트너(Gartner)는 2024년 전 세계 반도체 매출 예비조사 결과를 발표하며, 글로벌 반도체 시장이 전년 대비 18.1% 성장해 6천260억 달러를 기록했다고 5일 밝혔다. 2025년 반도체 매출은 7천50억 달러에 이를 것으로 전망된다. 조지 브로클허스트 가트너 부사장은 “데이터센터용 GPU 및

생성형 AI, 국내 기업·공공기관 변화 이끌다… 한국IDC 보고서 공개

IT 시장 분석 및 컨설팅 기관인 인터내셔날데이터코퍼레이션코리아(International Data Corporation Korea Ltd., 이하 한국IDC)는 최근 발표한 ‘국내 생성형 AI 업무 적용 사례 연구(Generative AI Use Cases: Adoption and Priorities in Korea)’ 보고서를 통해 아시아 태평양 지역 조직의 생성형 AI 도

ICPI WEEK 2025, 킨텍스서 역대 최대 규모로 개막

국내 최대 산업 융복합 전시회 ‘ICPI WEEK 2025’가 22일 고양 킨텍스에서 개막했다. 25개국 1천200개 사가 참여한 이번 행사는 전시면적 6만124㎡ 규모로, 제약, 바이오, 화장품부터 포장, 실험실, 물류, 화학장치 산업까지 전 과정을 아우르는 통합 전시회로 치러진다. 올해 행사는 Korea






산업전시회 일정


미리가보는 전시회