윙배너
윙배너

[산업+Culture] 편견 없이 학습하는 인공지능의 함정 ‘알고리즘의 편견’

알고리즘으로 사고하는 인공지능, 편견을 학습하고 불평등을 실행하다

2016년 대중에게 처음 모습을 드러낸 마이크로소프트(MS)의 인공지능(AI) 테이(Tay)는 사람들과 대화한 지 16시간 만에 사용 중지를 당했다. 자극적인 내용의 정치적 발언은 물론, 인종차별 등 ‘편견’으로 가득한 발언들을 내뱉었기 때문이다.

[편견(Bias)] 어떤 사물이나 현상 등에 대해 한쪽으로 치우친 의견이나 견해를 가지는 태도.


[산업+Culture] 편견 없이 학습하는 인공지능의 함정 ‘알고리즘의 편견’ - 산업종합저널 동향
사진 출처=영화 '알고리즘의 편견' 홈페이지
인간이 갖는 부정적 또는 긍정적인 고정 관념 등과 같은 생각이 바로 편견이다. 이러한 편견은 성차별, 인종차별, 지역차별 등 각종 사회적 문제를 야기하는 요인으로 작용해왔다.

그렇다면 편견은 인간만이 가지고 있는 것일까?

넷플릭스 다큐 영화 ‘알고리즘의 편견(CODED BIAS)’(샬리니 칸타야 감독, 2020)에서 MIT 미디어랩의 연구원 조이 부올람위니는 안면 인식 프로그램에서 큰 충격을 받는다.

흑인 여성인 자신의 얼굴은 인식하지 못한 인공지능 프로그램이, 하얀 가면을 쓰자 얼굴이라고 인식했기 때문이다. 이후 조이는 이 인공지능을 테스트했고, 그 결과 피부색이 밝고, 남성일수록 인식 정확도가 높아지는 것을 확인했다. 다른 기업들의 알고리즘 역시 마찬가지였다.

“AI는 데이터에 기반하고 데이터는 우리의 역사를 반영해요. 과거가 우리의 알고리즘 안에서 머무르고 있는 거죠. 이 데이터는 지금까지 존재해온 불평등을 보여줍니다” -부올람위니

기계는 세상을 있는 그대로 똑같이 모사했을 뿐 윤리적인 결정을 내리지는 않았다. 단지 수학적인 결정만 내렸다. 그러나 명령한대로만 움직이던 기계가 점차 ‘지능화’라는 이름으로 나아가고 있다. 그 중심에 알고리즘과 인공지능(AI)이 있다.

[산업+Culture] 편견 없이 학습하는 인공지능의 함정 ‘알고리즘의 편견’ - 산업종합저널 동향
사진 출처=영화 '알고리즘의 편견' 홈페이지

인공지능, 알고리즘 자체로는 편견이 없는 깨끗한 상태일지 모르지만, 학습을 위한 자료로 사용하는 데이터로 인해 인공지능은 쉽게 편견에 오염된다. 인터넷의 각종 악플과 과거의 차별적인 채용방식으로 뽑힌 인력자료 등 인간의 편견이 가득한 인지 활동들의 잔여물도 데이터라는 이름으로 떠돌아다니기 때문이다.

편향적인 데이터에 노출된 인공지능은 편견을 갖게 된다. 하나의 편견에서 시작된 알고리즘이 더 강한 편견으로 이어지며 극으로 치달은 편견을 가진 인공지능을 만들어내는 것이다. 그리고 인공지능은 자신을 이용하는 사람들을 차별한다. 마치, 인간처럼.

조이 부올람위니를 비롯해 이 영화에 나오는 주요 인물들은 빅데이터와 인공지능에 대한 신뢰가 맹목적으로 이뤄지는 것에 대한 경계심을 가져야 한다고 말한다.

시민권 시대에 이뤄졌던 진보가 ‘기계중립’이라는 구실 아래 퇴보할 수 있다는 것이다. 현재 우리가 가진 알고리즘이 누가 고용될 지를 판단하는 데 사용되지만, 이 경위에 대해 인간이 확인하지 않으면 그 알고리즘은 수많은 사람이 자신의 목숨을 걸고 투쟁해 저지한 성, 인종, 장애 등에 대한 편견을 오히려 더 빠르게 전파할 수 있다. 부당하게 무시 당해 온 사람들을 더 무시 당하게 만드는 것이다.

항상 시키는 대로, 프로그래밍이 된 대로 하는 것은 효율적이다. 그러나 이 과정이 항상 인간적이지는 않다. 모든 것을 자동화하면 굉장히 비인간적인 일로 이어질 수 있다는 것을 알아야 한다고 이들은 경고한다.

[산업+Culture] 편견 없이 학습하는 인공지능의 함정 ‘알고리즘의 편견’ - 산업종합저널 동향
사진 출처=영화 '알고리즘의 편견' 홈페이지

자동화 시대에 감독 역할을 하는 알고리즘이 가장 큰 시민권 문제 중 하나라고 인식한 이들은 조이 부올람위니를 중심으로 ‘알고리즘 정의 연맹’을 만들었다.

이 연맹은 인공지능의 사회적 편견에 관해 배울 수 있는 공간을 사람들에게 만들어주고, 빅브라더 기업들에 인공지능이 사회를 위하는 쪽으로 움직이고 있다는 증거를 보이라고 말하며, 인공지능을 인간이 통제할 수 있도록 필요한 법 제정을 위해 노력 중이다.

이들의 움직임으로 2025년 6월 25일 미국 국회의원들은 안면 인식을 연방 차원에서 사용하는 것을 금지하는 법안을 도입했다. 그러나 알고리즘에 대한 미국의 연방 규제는 여전히 없다.

알고리즘은 인공지능을 탄생시켰고, 새로운 시대를 열고 있다. 그러나, 새로운 시대가 무조건 더 좋은 방향으로만 발전하는 것은 아니다. 기술적 발전이 가져다주는 편리가 인간 모두의 존엄성을 해칠 수 없도록, 기계에 대한 맹목적 신뢰를 경계하고, 비판적인 시각으로 꾸준한 견제와 감시가 필요한 시점이다.


0 / 1000


많이 본 뉴스

[산업+Culture] ‘도라에몽’이 우리 곁에 나타날 수 있을까?

일본의 국민 캐릭터 ‘도라에몽’은 노진구(일본명 노비 노비타)의 친구이자 조언자다. 타임머신을 타고 온 도라에몽은 각종 미래 도구들로 노진구가 겪는 어려움을 해결해 준다. 다만, 단순히 도구를 이용해 문제를 해소하는 것이 아니라 “남들은 다 하는데 너만 못하는 건 절대 없어”와 같이

[산업+Culture] 산업의 한축 외국인 근로자…불법체류, 되돌아봐야

공장과 막노동판을 기웃거리며 살아온 백수 방태식(김인권). 친구 용철(김정태)의 조언으로 자신을 중앙아시아 부탄 출신의 노동자 ‘방가’로 위장한 뒤, 의자 생산 공장에 취업한다. 영화 ‘방가? 방가!’는 외국인 노동자로 위장 취업한 방태식과 같은 공장에 다니는 불법체류 노동자들과의

[산업+Culture]로봇 시대, 당신의 ‘일’은 안전한가

한때 신기하고 생소하던 '로봇'은 우리 생활 곳곳에서 공존하고 있다. 산업형 로봇이 전투용·의료용 등으로 확대되고, 지능형·감정형 로봇이 사람들의 일터와 가정 속으로 들어왔다. 심지어 발전을 거듭하는 인공지능 기술이 더해져 사람들에게 '상호작용 한다'는 감각까지 심어준다. 4차 산업혁명

[산업+Culture]영화 속 제조업은 왜 꿈도 희망도 없나

제조업은 경제의 뼈대를 구성하는 중요 산업이다. 한국의 급격한 경제 성장은 제조업 인적자원에 전적으로 의존했다. 산업화 초기 경공업 육성 전략에서 중화학공업 육성으로, 다시 시장 중심의 혁신 제조업으로 변화하는 과정에서 풍부한 인적 자원이 핵심 역할을 했다. 최근 한국 제조업과 인

[산업+Culture] ‘순살아파트’ 파장↑, 당신의 보금자리는 안전하십니까

올 8월 개봉한 영화 ‘콘크리트 유토피아’는 대지진으로 인해 모든 콘크리트가 무너지고 하루침에 폐허가 된 도시를 무대로 활용한다. 서울에 건축된 신축 아파트를 비롯한 모든 건물들은 지진으로 무너지고, 유일하게 남은 황궁 아파트로 외부 생존자들이 모여들면서 인물들의 생존기를 담은 본격






산업전시회 일정


미리가보는 전시회