윙배너

기술은 '가치중립적’… 생성형 AI 악용 줄이려면?

'ChatGPT와 생성형AI의 윤리적 이슈와 해결방안' 주제로 국회 세미나 개최

‘챗GPT’와 같은 대화형 인공지능(AI) 및 생성형 AI 기술이 사람들에게 익숙하게 자리 잡아가고 있지만 그 이면의 사회적 문제 역시 불거지고 있다. 텍스트와 이미지, 동영상 등을 생성해 내는 생성형 AI는 활용과 규제에 대한 논의보다 앞서 대중에 공개되며 기능의 악용, 저작권 문제, 무차별적인 데이터 수집 등으로 우려를 낳고 있다.

이처럼 AI가 야기할 수 있는 사회적 문제들에 대해 진단하고 해결 방안을 논의하기 위한 세미나가 19일 국회의원회관에서 열렸다.

‘ChatGPT와 생성형AI의 윤리적 이슈와 해결 방안’을 주제로 열린 이번 세미나는 송석준 의원실, (사)국제인공지능윤리협회, THE AI가 공동 주최했다.

기술은 '가치중립적’… 생성형 AI 악용 줄이려면? - 산업종합저널 동향
19일 오전 서울 여의도 국회의원회관에서 열린 'ChatGPT와 생성형AI의 윤리적 이슈와 해결방안' 세미나에서 송석준 국민의힘 의원(오른쪽 다섯 번째), 박성중 국민의힘 의원(오른쪽 일곱 번째), 전창배 국제인공지능&윤리협회 이사장(오른쪽 여섯 번째) 등 주요 인사들이 기념촬영을 하고 있다.

기술은 '가치중립적’… 생성형 AI 악용 줄이려면? - 산업종합저널 동향

이지항 상명대 AI 인증센터장은 ‘딥러닝 창시자’ 제프리 힌튼 캐나다 토론토대 교수의 말을 빌려 “역사적으로 봤을 때 기술이 어떤 가치를 가지고 싶었던 적이 있는가. 가치 중립적인 기술을 사람들이 의도를 갖고 썼기 때문에 전혀 다른 결과가 나온 것”이라며 딥페이크, 언어모델이 음란물 제작, 정치적 악용, 악성코드 생성 등에 쓰인 사례를 소개했다.

인공지능 학습 데이터에 문화적, 사회적 배경이 충분히 반영되지 못한 편향성도 지적됐다. 한정된 곳에서 생성된 데이터로 학습한 인공지능 모델의 활용은 너무나 많은 곳에서 이뤄진다는 것이다.

생성 영상의 부자연스러운 부분들을 검출해 내고, 영상의 심박 신호 추출 및 그 여부를 기준으로 검출 하는 등 악용방지를 위한 기술들도 개발되고 있다. 이지항 센터장도 인공지능에 규범적 의사결정 능력, 다양한 사회적 상황 학습 능력을 부여하는 방식 등을 고민하며 연구 중이라고 밝혔다.

이어 “우리가 망치에 어떤 인격을 부여하지 않는 것처럼 인공지능은 ‘도구’적인 생성AI로서 정보의 마중물 역할을 하는 것이라 생각해야 한다”며 AI에 대한 시각을 전환해야 한다고 말했다.

황승택 카카오 인권과기술윤리팀 부장은 AI 시대 기업의 윤리와 저작권 문제에 대응하기 위해
카카오가 수립한 윤리헌장 8개 원칙을 소개했다. ▲카카오 알고리즘의 기본 원칙 ▲차별에 대한 경계 ▲학습 데이터 운영 ▲알고리즘의 독립성 ▲알고리즘에 대한 설명 ▲기술의 포용성 ▲아동과 청소년에 대한 보호 ▲프라이버시 보호 항목 등이 담겼다.

또한 학계 및 관련기관 전문가와 함께 증오발언 대응을 위해 개발 중인 ‘코딩북(coding book)’에 대해서도 언급했다. 코딩북이란 수집한 데이터를 분석 가능한 형태로 변환 시 참고할 수 있는 정의나 원칙, 판단 기준 등을 담은 지침서로, 어떤 기술적 증거 발언과 알고리즘을 통한 것인지 분석해 정책적 판단의 근거가 될 것이란 설명이다.

이 외 지난해 7월 출범한 카카오 공동체 기술윤리 위원회와 AI 윤리 확립, 디지털 포용 및 접근성 제고 등을 담당하는 전담 조직 ‘인권과 기술윤리팀’ 발족 내용 등을 소개하며 지속적으로 AI 윤리규정 준수와 위험성 점검, 알고리즘 투명성 강화 등을 수행해 나가겠다고 밝혔다.


0 / 1000


많이 본 뉴스

[ROBOT WORLD] 근로자 안전 높여주는 굴삭기 원격 조종 솔루션

굴삭기를 원격으로 조종할 수 있는 솔루션이 일산 킨텍스에서 열린 ‘2023 로보월드(ROBOT WORLD)’에 등장했다. 굴삭기 원격조종 솔루션은 조종석에 레버 모듈과 페달 모듈, 메인 제어기를 설치한 뒤, 원격조정기를 통해 이뤄진다. 4개의 제품이 1개 세트화돼 전용 캐리어로 운반할 수도 있다.

“화재차량 순식간에 침수시켜 진압”… 전기차 자동소화시스템

지난 13일부터 15일까지 사흘간 일산 킨텍스에서 개최된 ‘2023 대한민국 안전산업박람회(K-SAFETY EXPO)’에 SG생활안전의 EV자동소화시스템이 전시됐다. 전기차 충전 시 발생하는 리튬이온배터리 화재에 대응, 초기 진압을 위한 솔루션이다. 내열성 방염포로 수조를 형성해 배터리를 침수시키는 방

‘보였다 안보였다’, 투명도 조절 필름 등장

필름만 부착하면 유리의 투명도를 자유롭게 조절할 수 있다. ‘2023 코리아빌드위크(2023 KOREA BUILD WEEK, 이하 전시회)’에 투명도 조절 필름이 등장했다. 김원일 디폰 부장은 “PET필름과 전도성을 지닌 ITO필름 사이에 액정을 끼워 넣은 구조”라면서, “평상시엔 불투명한 상태지만, 전기가

로봇 산업의 미래먹거리, ‘지능형 로봇’ 주목

대규모 언어모델을 기반으로 학습한 AI 대화형 챗봇의 등장과 함께 스마트팩토리, 지능형 로봇, 정밀기계 등에 생성형 AI 기술을 적용하는 추세다. 인구감소에 따른 노동력 부족, 육체노동의 한계 등을 해결하기 위한 지능형 로봇의 필요성 증대와 함께 정교한 제어를 위한 AI 기술 도입이 필요

[산업IN]부평역 지하상가에서 로봇 6종 16대 만날 수 있어

인천광역시는 지난해부터 산업통상자원부가 지원하는 ‘인공지능(AI)·5G기반 대규모 로봇 융합모델 실증사업’ 을 실시하고 있다. 해당 사업은 국민 편의증진 및 서비스로봇 보급확산을 위해 국민밀접시설을 대상으로 로봇 융합모델을 실증하는 사업이다. 인천시는 부평역과 부평지하상가를 대상으로






산업전시회 일정


미리가보는 전시회