인공지능(AI) 챗봇이 지식 탐색의 새로운 패러다임으로 자리매김하며 실시간 정보 습득의 지평을 넓히고 있다. 그러나 이 혁신적 기술이 제공하는 응답에 대한 맹목적 신뢰는 경계해야 할 시점이 도래했다. 최근 국제적으로 주목받은 오류 사례와 권위 있는 연구 결과는 디지털 정보 시대의 '사실 검증' 중요성을 뚜렷이 드러낸다.

AI 챗봇, 접근성의 혁명과 진위 판별의 과제
국내 모바일 기기 사용자의 약 50%가 AI 챗봇을 활용하고 있다는 통계가 발표됐다. ChatGPT, Perplexity, Grok 등 다양한 인공지능 기반 대화형 시스템이 정보 검색은 물론 교육, 콘텐츠 제작 등 광범위한 영역에서 활용되고 있다. 그러나 이러한 첨단 시스템이 생성하는 콘텐츠가 항상 정확성을 담보하는 것은 아니다.

2024년 미국에서는 일론 머스크의 AI 챗봇 '그록(Grok)'이 사용자 질의와 무관하게 남아프리카공화국의 백인 역차별 문제를 반복 언급해 논란이 일었다. Deutsche Welle 등 글로벌 언론은 이 사건을 AI 시스템의 구조적 취약성과 대중 담론에 미칠 수 있는 위험성의 단면으로 분석했다. xAI는 사태의 원인을 내부 인력의 승인되지 않은 시스템 프롬프트 변경으로 설명했다. 이 내용은 CNBC, The Verge 등 주요 언론과 공식 소셜 미디어 채널을 통해 확인됐다.

AI 생성 콘텐츠의 '환각 현상'과 부정확성, 그 메커니즘
AI 챗봇은 방대한 디지털 데이터 생태계를 기반으로 학습해 응답을 생성한다. 그러나 이 과정에서 사실 여부가 검증되지 않은 정보까지 포함되면서, 시스템적으로 오류와 왜곡이 발생할 가능성이 내재한다. 영국 BBC는 2024년 ChatGPT, Copilot, Gemini, Perplexity 등 4종의 AI 챗봇을 대상으로 100건의 기사 요약 및 질의응답 테스트를 진행한 결과, 51%에서 오류·왜곡·허위 정보가 포함됐다고 보도했다. 19%는 사실 관계가 틀렸고, 13%는 인용된 내용이 실제 기사에 존재하지 않거나 내용이 불일치한 것으로 드러났다.

Columbia Journalism Review 또한 같은 해 발표한 연구에서, 주요 AI 시스템들이 출처를 명확히 제시하지 못한 비율이 60%에 달한다고 분석하며 신뢰도에 대한 경고를 덧붙였다.

실시간 정보 처리 시스템, 편향성과 오류의 증폭 가능성
최신 AI 챗봇들은 소셜미디어, 뉴스, 블로그 등 다양한 소스에서 실시간으로 데이터를 수집해 응답을 생성하는 기능을 탑재하고 있다. 그러나 The Verge 등 테크 전문 매체는 인터넷 공간에 범람하는 비확인 정보와 주관적 시각이 AI 응답에 반영될 위험성을 경고한다. 실제로 구글 AI 검색은 "피자에 접착제를 발라 섭취하라"는 위험한 인터넷 유머를 그대로 반영해 물의를 빚은 바 있다.

Deutsche Welle는 AI 챗봇이 부정확한 정보를 무비판적으로 흡수해 다시 인터넷에 재인용되면서, 허위 정보가 순환적으로 확산되는 현상—이른바 '정보 증폭 오류'—가 발생할 수 있다고 경고했다.

전문가, "AI 생성 콘텐츠는 참고자료… 다중 검증이 필수적"
AI 윤리 및 미디어 전문가들은 AI 챗봇의 응답을 최종 판단이 아닌 참고자료로만 활용하고, 반드시 신뢰 가능한 출처를 통한 교차 검증이 필요하다고 강조한다. Deutsche Welle와의 인터뷰에서 옥스퍼드 인터넷 연구소 펠릭스 사이먼 선임연구원은 "AI 챗봇은 본질적으로 신뢰할 수 있는 사실 검증 메커니즘이 아니며, 다양한 출처를 통한 철저한 교차 검증이 필수적"이라고 밝혔다.

AI 기반 정보 시대, 비판적 리터러시가 핵심 역량으로
AI 챗봇이 제공하는 편의성과 즉시성은 디지털 전환 시대의 중요한 도구다. 그러나 오류와 편향, 조작 가능성의 이면도 함께 존재한다. 기존의 검색 결과처럼, AI가 제공하는 정보 역시 검증 가능한 신뢰 출처와 비교하며 사실 여부를 판단하는 '비판적 디지털 리터러시'가 필수적이다.

BBC, Deutsche Welle, Columbia Journalism Review 등 글로벌 언론과 연구기관들은 AI 시대일수록 사실 검증과 비판적 사고가 사용자 개개인의 핵심 역량으로 자리잡아야 한다는 점을 거듭 강조하고 있다.