윙배너
윙배너

스마트 모빌리티, AI 신뢰성 향상 강조돼

적대적 예제, 데이터 포이즌 등 다양한 공격에 협력 대응 필요

스마트 모빌리티, AI 신뢰성 향상 강조돼 - 산업종합저널 동향
고려대학교 이상근 교수

차량의 하드웨어들을 소프트웨어가 제어하는 ‘스마트 모빌리티’가 대중화되면서, 차량 제어에 쓰이는 AI(인공지능)의 신뢰성 향상이 강조되고 있다.

고려대학교 인공지능학과 이상근 교수는 13일 삼성동 코엑스에서 열린 ‘제3회 HMG 개발자 컨퍼러스’에 연사로 나섰다.

‘스마트 모빌리티를 위한 AI 신뢰성 향상의 필요성’이라는 주제로 강연을 진행한 그는 “스마트 모빌리티 AI 모델에는 최적화/소형화와 신뢰성 향상이라는 도전과제가 있다”라고 언급했다.

이어 그는 AI의 취약성을 이용한 공격 유형을 소개했다. 먼저, 학습 완료 AI를 대상으로 ‘적대예제에 기반한 회피공격’이 이뤄지고 있다. 입력을 변조시켜 AI 모델의 오분류를 유도하는 원리다. 이를 물리공간에 적용해 도로의 속도 표지판을 오인식시킬 수 있다. 표지판에 반사되는 광원을 이용해 잘못된 정보를 차량에 인식시킬 수도 있고, 특정한 차량이 없다고 속일 수도 있다.

이 교수는 2016년 마이크로소프트의 연속학습AI를 적용한 챗봇이 공개 후 욕설, 혐오 발언 등으로 16시간 만에 서비스를 종료한 사례를 들어 데이터 포이즌(Data Poisoning)을 설명했다. 연속학습은 차량에도 개인화, 돌발 상황 대응 등에 사용될 수 있는데, 공격자가 해당 부분에 침입한다면 차량에 굉장한 위협이 될 수 있다는 말이었다.

이어, 미국이 국방과 관련해 심각하게 받아들이고 있는 ‘차량 백도어 공격’, 기술·기능 탈취를 위한 ‘모델 추출 공격’, 사용자의 민감한 개인정보 추출이 가능한 ‘학습데이터 추출 공격’을 설명했다.

이러한 공격들에 대항할 수 있는 방어 기법을 해설한 이상근 교수는 “차량 컴퓨터 시스템의 계산 용량의 한계와 에너지 소모 최소화를 위해 AI 경량화·소형화가 필요하다”라고 전했다.

그는 “여러 경량화 중 ‘학습 중 가지치기’와 ‘양자화’ 기술을 현대차와 협력 연구 중이다”라며 “그러나 신뢰성에 대한 연구가 많이 부족한 상황이다”라고 말했다.

이 교수는 “외부 공격과 노이즈 유입으로 인한 사고 방지·성능 보장을 위해 ‘AI 안전성’이 중요하다”라며 “AI 모델의 복제를 방지하고 추적해 관리할 수 있는 ‘AI 거버넌스’도 필요하다”라고 제언했다.

마지막으로, “스마트 모빌리티 AI 신뢰성 향상 및 공격 대응을 위해 적극적으로 협력해 연구하고 대응해야 한다고 생각한다”라고 힘주어 밝혔다.


0 / 1000


많이 본 뉴스

[ROBOT WORLD] 전기차 주차하면 로봇이 충전기 연결

전기차의 보급률이 확산되며, 충전 인프라에 대한 관심도 높아지고 있다. 이에 맞춰 여러 기업·기관에서 다양한 충전 솔루션을 내놓고 있다. 한국기계연구원(KIMM)은 킨텍스에서 11일부터 14일까지 열리는 ‘2023 로보월드(ROBOT WORLD)’에 협동로봇을 기반으로 하는 전기차 무인 충전 시스템을 출

[안전보건전시회]전기차 화재, 자동 수조 해결책 될까

전기차에 대한 수요만큼, 화재 시의 대처방법을 촉구하는 목소리도 커지고 있다. ‘2023 국제안전보건전시회(Korea International Safety&Health Show 2023, 이하 안전보건전시회)’에서 이런 우려에 맞춘 전기차 화재 솔루션이 등장했다. ‘EV자동소화시스템’ 솔루션은 전기차 충전소에 네모난 틀 형태

[국토교통기술대전] “자율주행 Lv4는 운전자 유무가 중요한 것 아냐”

‘2023 국토교통 기술대전(이하 기술대전)’에서 교통소외지역과 교통약자를 위한 자율주행 Lv4 기반 이동지원 솔루션이 참관객들에게 선보였다. 해당 솔루션은 국토교통부의 과제로 한국전자통신연구원(ETRI)이 합작해 개발했다. 부스에 전시된 자율주행차량에는 센서 12개(카메라 8개, 라이다 3개

건축가가 디자인한 자율주행 전기차...“조각같이 생겼네”

문화역 서울 284에서 진행 중인 ‘헤더윅 스튜디오 : 감성을 빚다’ 전시에서 자율주행 전기차의 컨셉카가 참관객의 발길을 멈춰 세웠다. 해당 차량은 영국의 헤더윅 스튜디오(Heatherwick Studio)가 중국의 IM모터스(IM Motors)를 위해 설계한 것으로 자율주행과 운전자 제어, 두 가지 모드를 갖췄다

스마트 모빌리티, AI 신뢰성 향상 강조돼

차량의 하드웨어들을 소프트웨어가 제어하는 ‘스마트 모빌리티’가 대중화되면서, 차량 제어에 쓰이는 AI(인공지능)의 신뢰성 향상이 강조되고 있다. 고려대학교 인공지능학과 이상근 교수는 13일 삼성동 코엑스에서 열린 ‘제3회 HMG 개발자 컨퍼러스’에 연사로 나섰다. ‘스마트 모빌리티






산업전시회 일정


미리가보는 전시회