“추론 기능 가진 AI, 보안 위협 주의해야”

삼성동 코엑스 그랜드볼룸에서 열린 ‘제12회 개인정보보호페어 & CPO 워크숍(이하 PIS FAIR 2023)’에서 생성형 인공지능의 보안 위협과 취약점 등을 소개하고 대응 방안을 공유했다.

연세학교 정보대학원 권태경 교수는 ‘ChatGPT 등 생성형 AI 서비스의 개인정보 관련 쟁점과 보호방안’이라는 주제로 기조연설을 진행했다.

생성형 인공지능의 주요 보안 위협은 ▲생성형 AI 악용 및 악성 생성형 AI ▲데이터 유출 ▲확장 프로그램 및 플러그인 취약점 ▲API 취약점 4가지다.

해커가 악성코드 작성에 AI를 활용해 코드의 취약점 등을 분석하거나, 정교한 피싱 이메일 작성에 악용하기도 한다. 혹은 악성 생성형 AI를 만들어 사용자가 기밀정보를 입력하게 속이는 방식도 있다.

데이터 수집단계에서의 유출 문제는 이미 여러 분야에서 일어난 대표적인 사례인데, 생성형 AI에서 이뤄지는 기밀정보 유출은 확인하고 제어하기 어렵다는 한계가 있다. 이러한 문제 때문에 이탈리아에서는 일시적으로 사용을 금지하기도 했다.

생성형 인공지능을 활용하는 확장 프로그램과 플러그인의 취약점으로는 악성 서비스, 제공업체의 부적절한 보안조치, 적용범위 확장으로 인한 추가적인 위협 등이 있다. API에서의 데이터 노출과 API키 유출 가능성도 낮지 않다.

권태경 교수는 생성형 AI로 인한 보안 위협의 주의사항 및 대응 방안으로, ▲공식 사이트 사용 등을 통한 올바른 서비스 접근 ▲개인 정보 및 민감 정보 입력 자제 ▲신뢰성이 확인된 확장 프로그램 및 플러그인 사용, 주기적 업데이트 ▲안전한 API 키 보관 및 갱신 ▲법적 요구사항 준수 등을 제안했다.

한편, PIS FAIR 2023은 8일부터 9일까지 양일간 ‘PIS ; Trust 개인정보 신뢰사회’를 주제로 열렸다.