윙배너
윙배너
윙배너

[산업+Culture] 편견 없이 학습하는 인공지능의 함정 ‘알고리즘의 편견’

알고리즘으로 사고하는 인공지능, 편견을 학습하고 불평등을 실행하다

2016년 대중에게 처음 모습을 드러낸 마이크로소프트(MS)의 인공지능(AI) 테이(Tay)는 사람들과 대화한 지 16시간 만에 사용 중지를 당했다. 자극적인 내용의 정치적 발언은 물론, 인종차별 등 ‘편견’으로 가득한 발언들을 내뱉었기 때문이다.

[편견(Bias)] 어떤 사물이나 현상 등에 대해 한쪽으로 치우친 의견이나 견해를 가지는 태도.


[산업+Culture] 편견 없이 학습하는 인공지능의 함정 ‘알고리즘의 편견’ - 산업종합저널 동향
사진 출처=영화 '알고리즘의 편견' 홈페이지
인간이 갖는 부정적 또는 긍정적인 고정 관념 등과 같은 생각이 바로 편견이다. 이러한 편견은 성차별, 인종차별, 지역차별 등 각종 사회적 문제를 야기하는 요인으로 작용해왔다.

그렇다면 편견은 인간만이 가지고 있는 것일까?

넷플릭스 다큐 영화 ‘알고리즘의 편견(CODED BIAS)’(샬리니 칸타야 감독, 2020)에서 MIT 미디어랩의 연구원 조이 부올람위니는 안면 인식 프로그램에서 큰 충격을 받는다.

흑인 여성인 자신의 얼굴은 인식하지 못한 인공지능 프로그램이, 하얀 가면을 쓰자 얼굴이라고 인식했기 때문이다. 이후 조이는 이 인공지능을 테스트했고, 그 결과 피부색이 밝고, 남성일수록 인식 정확도가 높아지는 것을 확인했다. 다른 기업들의 알고리즘 역시 마찬가지였다.

“AI는 데이터에 기반하고 데이터는 우리의 역사를 반영해요. 과거가 우리의 알고리즘 안에서 머무르고 있는 거죠. 이 데이터는 지금까지 존재해온 불평등을 보여줍니다” -부올람위니

기계는 세상을 있는 그대로 똑같이 모사했을 뿐 윤리적인 결정을 내리지는 않았다. 단지 수학적인 결정만 내렸다. 그러나 명령한대로만 움직이던 기계가 점차 ‘지능화’라는 이름으로 나아가고 있다. 그 중심에 알고리즘과 인공지능(AI)이 있다.

[산업+Culture] 편견 없이 학습하는 인공지능의 함정 ‘알고리즘의 편견’ - 산업종합저널 동향
사진 출처=영화 '알고리즘의 편견' 홈페이지

인공지능, 알고리즘 자체로는 편견이 없는 깨끗한 상태일지 모르지만, 학습을 위한 자료로 사용하는 데이터로 인해 인공지능은 쉽게 편견에 오염된다. 인터넷의 각종 악플과 과거의 차별적인 채용방식으로 뽑힌 인력자료 등 인간의 편견이 가득한 인지 활동들의 잔여물도 데이터라는 이름으로 떠돌아다니기 때문이다.

편향적인 데이터에 노출된 인공지능은 편견을 갖게 된다. 하나의 편견에서 시작된 알고리즘이 더 강한 편견으로 이어지며 극으로 치달은 편견을 가진 인공지능을 만들어내는 것이다. 그리고 인공지능은 자신을 이용하는 사람들을 차별한다. 마치, 인간처럼.

조이 부올람위니를 비롯해 이 영화에 나오는 주요 인물들은 빅데이터와 인공지능에 대한 신뢰가 맹목적으로 이뤄지는 것에 대한 경계심을 가져야 한다고 말한다.

시민권 시대에 이뤄졌던 진보가 ‘기계중립’이라는 구실 아래 퇴보할 수 있다는 것이다. 현재 우리가 가진 알고리즘이 누가 고용될 지를 판단하는 데 사용되지만, 이 경위에 대해 인간이 확인하지 않으면 그 알고리즘은 수많은 사람이 자신의 목숨을 걸고 투쟁해 저지한 성, 인종, 장애 등에 대한 편견을 오히려 더 빠르게 전파할 수 있다. 부당하게 무시 당해 온 사람들을 더 무시 당하게 만드는 것이다.

항상 시키는 대로, 프로그래밍이 된 대로 하는 것은 효율적이다. 그러나 이 과정이 항상 인간적이지는 않다. 모든 것을 자동화하면 굉장히 비인간적인 일로 이어질 수 있다는 것을 알아야 한다고 이들은 경고한다.

[산업+Culture] 편견 없이 학습하는 인공지능의 함정 ‘알고리즘의 편견’ - 산업종합저널 동향
사진 출처=영화 '알고리즘의 편견' 홈페이지

자동화 시대에 감독 역할을 하는 알고리즘이 가장 큰 시민권 문제 중 하나라고 인식한 이들은 조이 부올람위니를 중심으로 ‘알고리즘 정의 연맹’을 만들었다.

이 연맹은 인공지능의 사회적 편견에 관해 배울 수 있는 공간을 사람들에게 만들어주고, 빅브라더 기업들에 인공지능이 사회를 위하는 쪽으로 움직이고 있다는 증거를 보이라고 말하며, 인공지능을 인간이 통제할 수 있도록 필요한 법 제정을 위해 노력 중이다.

이들의 움직임으로 2025년 6월 25일 미국 국회의원들은 안면 인식을 연방 차원에서 사용하는 것을 금지하는 법안을 도입했다. 그러나 알고리즘에 대한 미국의 연방 규제는 여전히 없다.

알고리즘은 인공지능을 탄생시켰고, 새로운 시대를 열고 있다. 그러나, 새로운 시대가 무조건 더 좋은 방향으로만 발전하는 것은 아니다. 기술적 발전이 가져다주는 편리가 인간 모두의 존엄성을 해칠 수 없도록, 기계에 대한 맹목적 신뢰를 경계하고, 비판적인 시각으로 꾸준한 견제와 감시가 필요한 시점이다.


0 / 1000


많이 본 뉴스

[산업+Culture] 세종대왕 그리고 장영실, 조선의 과학기술을 빛내다 - ‘천문’

* 주의! 글의 특성상 스포가 있습니다! ‘세종은 자격루·간의대·흠경각·앙부일구 등을 제작했다.…많은 기술자들이 있었으나 임금의 뜻을 맞추는 이가 없었는데, 오직 장영실이 세종의 지혜를 받들어 기묘한 솜씨를 다해 부합되지 않음이 없었으므로 세종이 매우 소중히 여겼다’ -조선 학자 서

[산업+Culture] ‘마이너리티 리포트’ 속 ‘프리 크라임’의 산업 버전은? ‘예지보전’

주의! 글의 특성상 스포가 있습니다. J : “여기서 당신이 찾는 게 뭐요?” W : “결함” J : “살인이 사라졌소. 이 시스템은...” W : “완벽하다? 네. 결함은 인간에게 있죠. 언제나” 기계 시대를 연 1차 산업혁명

[산업+Culture] ‘매트릭스’, 현실과 가상의 경계를 무너뜨린 메타버스의 디스토피아

주의! 글의 특성상 스포가 있습니다. 최근 사회 및 산업계의 핫이슈인 ‘메타버스(Metarverse)’는 1992년 미국 SF작가 닐 스티븐슨의 소설 ‘스노 크래시(Snow Crash)’에서 처음 등장한 개념으로 꽤 오래전부터 존재했다. 개념의 방대함으로 인해 잠잠했던 메타버스는 5G 상용화와 가상현실(VR

[산업+Culture] 바로 보이지 않지만 없어서는 안 되는 ‘파이프라인’

주의! 글의 특성상 스포가 있습니다. 겉으로 보이지 않지만, 땅속에는 마치 생물의 혈관처럼 여러 파이프라인(Pipeline)이 존재한다. 그중 원유가 흐르는 파이프라인을 송유관(送油管)이라 하고, 여기에 구멍을 뚫어 석유를 몰래 빼내 팔아치우는 범죄자들을 ‘도유(盜油)꾼’이라 부른다. 돈이나

[산업+Culture] 시급한 제조업 인식 개선, ‘머드맥스(Mudmax)’ 같은 콘텐츠가 필요하다

“두다다타타탕타당두두두두두” 흰머리 송송한 아저씨가 우직한 팔로 힘껏 쇠막대기 핸들을 돌리자, 우렁찬 엔진 소리가 울려퍼지며 눈과 귀를 사로잡는다. 심장을 울리는 듯한 경운기의 고동 소리 위에 삼삼오오 올라탄 서산 어촌 마을 주민들이 세계 5대 갯벌 중 하나인 가로림만 오지리 갯벌을






산업전시회 일정


미리가보는 전시회