윙배너
윙배너

기술은 '가치중립적’… 생성형 AI 악용 줄이려면?

'ChatGPT와 생성형AI의 윤리적 이슈와 해결방안' 주제로 국회 세미나 개최

‘챗GPT’와 같은 대화형 인공지능(AI) 및 생성형 AI 기술이 사람들에게 익숙하게 자리 잡아가고 있지만 그 이면의 사회적 문제 역시 불거지고 있다. 텍스트와 이미지, 동영상 등을 생성해 내는 생성형 AI는 활용과 규제에 대한 논의보다 앞서 대중에 공개되며 기능의 악용, 저작권 문제, 무차별적인 데이터 수집 등으로 우려를 낳고 있다.

이처럼 AI가 야기할 수 있는 사회적 문제들에 대해 진단하고 해결 방안을 논의하기 위한 세미나가 19일 국회의원회관에서 열렸다.

‘ChatGPT와 생성형AI의 윤리적 이슈와 해결 방안’을 주제로 열린 이번 세미나는 송석준 의원실, (사)국제인공지능윤리협회, THE AI가 공동 주최했다.

기술은 '가치중립적’… 생성형 AI 악용 줄이려면? - 산업종합저널 동향
19일 오전 서울 여의도 국회의원회관에서 열린 'ChatGPT와 생성형AI의 윤리적 이슈와 해결방안' 세미나에서 송석준 국민의힘 의원(오른쪽 다섯 번째), 박성중 국민의힘 의원(오른쪽 일곱 번째), 전창배 국제인공지능&윤리협회 이사장(오른쪽 여섯 번째) 등 주요 인사들이 기념촬영을 하고 있다.

기술은 '가치중립적’… 생성형 AI 악용 줄이려면? - 산업종합저널 동향

이지항 상명대 AI 인증센터장은 ‘딥러닝 창시자’ 제프리 힌튼 캐나다 토론토대 교수의 말을 빌려 “역사적으로 봤을 때 기술이 어떤 가치를 가지고 싶었던 적이 있는가. 가치 중립적인 기술을 사람들이 의도를 갖고 썼기 때문에 전혀 다른 결과가 나온 것”이라며 딥페이크, 언어모델이 음란물 제작, 정치적 악용, 악성코드 생성 등에 쓰인 사례를 소개했다.

인공지능 학습 데이터에 문화적, 사회적 배경이 충분히 반영되지 못한 편향성도 지적됐다. 한정된 곳에서 생성된 데이터로 학습한 인공지능 모델의 활용은 너무나 많은 곳에서 이뤄진다는 것이다.

생성 영상의 부자연스러운 부분들을 검출해 내고, 영상의 심박 신호 추출 및 그 여부를 기준으로 검출 하는 등 악용방지를 위한 기술들도 개발되고 있다. 이지항 센터장도 인공지능에 규범적 의사결정 능력, 다양한 사회적 상황 학습 능력을 부여하는 방식 등을 고민하며 연구 중이라고 밝혔다.

이어 “우리가 망치에 어떤 인격을 부여하지 않는 것처럼 인공지능은 ‘도구’적인 생성AI로서 정보의 마중물 역할을 하는 것이라 생각해야 한다”며 AI에 대한 시각을 전환해야 한다고 말했다.

황승택 카카오 인권과기술윤리팀 부장은 AI 시대 기업의 윤리와 저작권 문제에 대응하기 위해
카카오가 수립한 윤리헌장 8개 원칙을 소개했다. ▲카카오 알고리즘의 기본 원칙 ▲차별에 대한 경계 ▲학습 데이터 운영 ▲알고리즘의 독립성 ▲알고리즘에 대한 설명 ▲기술의 포용성 ▲아동과 청소년에 대한 보호 ▲프라이버시 보호 항목 등이 담겼다.

또한 학계 및 관련기관 전문가와 함께 증오발언 대응을 위해 개발 중인 ‘코딩북(coding book)’에 대해서도 언급했다. 코딩북이란 수집한 데이터를 분석 가능한 형태로 변환 시 참고할 수 있는 정의나 원칙, 판단 기준 등을 담은 지침서로, 어떤 기술적 증거 발언과 알고리즘을 통한 것인지 분석해 정책적 판단의 근거가 될 것이란 설명이다.

이 외 지난해 7월 출범한 카카오 공동체 기술윤리 위원회와 AI 윤리 확립, 디지털 포용 및 접근성 제고 등을 담당하는 전담 조직 ‘인권과 기술윤리팀’ 발족 내용 등을 소개하며 지속적으로 AI 윤리규정 준수와 위험성 점검, 알고리즘 투명성 강화 등을 수행해 나가겠다고 밝혔다.


0 / 1000


많이 본 뉴스

[ROBOT WORLD] 근로자 안전 높여주는 굴삭기 원격 조종 솔루션

굴삭기를 원격으로 조종할 수 있는 솔루션이 일산 킨텍스에서 열린 ‘2023 로보월드(ROBOT WORLD)’에 등장했다. 굴삭기 원격조종 솔루션은 조종석에 레버 모듈과 페달 모듈, 메인 제어기를 설치한 뒤, 원격조정기를 통해 이뤄진다. 4개의 제품이 1개 세트화돼 전용 캐리어로 운반할 수도 있다.

글로벌 생산제조기술 전시회 ‘심토스 2024’, 내년 4월 1일 개최

국내 생산제조기술 전시회 ‘심토스 2024(SIMTOS 2024)’(이하 심토스) 개최를 일 년여 앞두고, 전시회 구성과 부대행사를 소개하는 기자간담회가 7일 공작기계회관에서 진행됐다. 심토스는 내년 4월 1일부터 5일까지 일산 킨텍스 전관에서 개최된다. 금속 절삭 및 금형기술관, 소재부품 및 제어

개도국 탄소 배출 많지만…"앞서 더 많이 배출한 선진국이 책임져야”

이회성 IPCC(Intergovernmental Panel on Climate Change, 기후변화에 관한 정부 간 협의체)의장이 3일 서울 대한상공회의소에서 열린 ‘2023 탄소중립과 에너지정책 국제세미나’ 기조연설을 통해 세계 탄소중립의 방향성을 제시했다. 그는 ▲개도국 탄소중립 지원 ▲선진국 소비의 탄소중립화 ▲인프

[ENVEX 2023]굴 껍질로 제설용 염화칼슘 제조

굴 껍질을 재활용해 만든 제설용 염화칼슘이 서울 코엑스에서 진행 중인 ‘제 44회 국제환경산업기술&그린에너지전(ENVEX 2023, 이하 전시회)'에 등장했다. 제설용 염화칼슘은 주로 중국에서 원재료를 수입해 생산했다. (주)쉘피아 관계자는 “굴 패각을 산에 녹이고, 염화칼슘을 분리해 분말 형태로

기술은 '가치중립적’… 생성형 AI 악용 줄이려면?

‘챗GPT’와 같은 대화형 인공지능(AI) 및 생성형 AI 기술이 사람들에게 익숙하게 자리 잡아가고 있지만 그 이면의 사회적 문제 역시 불거지고 있다. 텍스트와 이미지, 동영상 등을 생성해 내는 생성형 AI는 활용과 규제에 대한 논의보다 앞서 대중에 공개되며 기능의 악용, 저작권 문제, 무차별






산업전시회 일정


미리가보는 전시회