“ML 공정성 감사 시 다학제적인 협력 필요”
제6회 AI Security Day 세미나…AI 윤리·신뢰성 확보 모색
){kind=link}
){kind=link}
){kind=link}
박새롬 성신여자대학교수는 제6회 AI Security Day 세미나에서 'ML 알고리즘 공정성 평가 관련 보안 이슈와 해결 방안'을 주제로 이 같이 피력했다.
이번 세미나는 8일 페어몬트 앰배서더 서울 그랜드볼룸과 온라인에서 과학기술정보통신부 주최, 한국인터넷진흥원 주관, 동반성장위원회와 한국정보보학회 후원으로 개최했다.
박 교수는 AI 공정성에 대해 생각할 때 데이터 수집과 학습단계뿐만 아니라 AI 개발의 전체적인 과정에서 다양한 이슈들을 고려할 필요가 있다고 했다.
다만, 공정한 AI를 만들어도 공정성에 대한 신뢰도의 평가 부문에서는 국가별, 지역별, 학계 등에서도 다양한 의견이 제시되고 있어서 모든 의견에 적합한 공정한 AI 모델을 만드는 것은 현실적으로 어려운 상황이라고 분석했다.
이에 박 교수는 공정한 AI 발전 방향에 대해 ML 파이프라인에서 도메인마다 다른 공정성 요구조건들을 반영할 수 있는 프레임워크를 제안했다.
또한 데이터 사이언티스 이외에 정책 입안자(Policymaker)도 공정성 감사에 참여할 필요가 있다며 다학제적인 협력의 필요성을 강조했다.
기사 정정 / 반론
저작권자(c)산업종합저널. 무단전재-재배포금지
관련뉴스
많이 본 뉴스
인터엑스, AI 기반 자율제조 시연… “현장 운영 방식 바꾼다”
인터엑스(INTERX)가 ‘SIMTOS 2026’에서 인공지능(AI)을 활용한 자율제조 기술을 공개하고 라이브 시연에 나섰다. 회사는 공작기계 발전 단계를 수동·자동화·정보화를 거쳐 ‘자율화 단계(4세대)’로 보고, 이를 구현한 ‘완전 자율 머신(Fully Autonomous Machine)’을 선보
공정위, 안전 비용 전가한 포스코이앤씨 등 4개사 검찰 고발 가닥
26일 공정거래위원회(공정위) 사무처가 하도급 업체에 산업안전 비용과 책임을 떠넘긴 포스코이앤씨, 케이알산업, 다산건설엔지니어링, 엔씨건설 등 4개 건설사를 검찰에 고발하기로 가닥을 잡았다. 유성욱 공정위 조사관리관은 브리핑을 통해 원사업자가 안전 비용을 전가하는 행위는 하도급 업
ASM, ‘세미콘 코리아 2026’ 참가… 미래 반도체 인재 잡는다
글로벌 반도체 장비기업 ASM이 국내 최대 반도체 전시회에서 인재 확보를 위한 적극적인 소통에 나선다. ASM은 11일부터 서울 코엑스에서 열리는 ‘세미콘 코리아 2026’에 참가해 채용 설명회와 현직 엔지니어 멘토링 등 다양한 인재 양성 프로그램을 운영한다고 10일 밝혔다. 부스 2층 통
AI로 공장 ‘판단 구조’ 바꾼다…‘2026 산업AX Korea’ 개최
제조 현장의 인공지능(AI)이 단순 자동화를 넘어 공장의 판단 구조를 바꾸는 단계로 들어서고 있다. 설비가 정해진 명령에 따라 움직이는 수준을 지나 생산계획과 품질관리, 물류 운영, 설비 유지보수까지 AI가 데이터에 근거해 판단을 돕는 흐름이 빨라지는 모습이다. 이 같은 산업 현장의 변화를
"숨겨진 땀방울이 통계로"… 전시산업, 매출 17조 '진짜 몸집' 찾았다
화려한 무대 뒤, 조명을 매달고 짐을 나르는 이들의 노동은 그동안 '숫자' 밖의 영역이었다. 전시장 운영자와 주최자 등 일부만을 산업의 주체로 기록해온 낡은 셈법 탓이다. 한국전시산업진흥회(이하 진흥회)가 이 보이지 않던 가치를 공식 통계로 소환하며 전시산업의 '진짜 몸집'을 드러냈