[산업+Culture] 인간에게 맞춰진 AI가 명령을 거부할 때

‘컴패니언’은 드류 행콕이 각본과 연출을 맡았고, 소피 대처·잭 퀘이드·루카스 게이지·메건 수리·하비 길렌·루퍼트 프렌드 등이 출연한다. 국내 공개 시놉시스에 따르면 서로에게 딱 맞는 커플 아이리스와 조시는 친구들과 호숫가 별장으로 휴가를 떠나지만, 예상하지 못한 사건에 휘말린다. 이야기는 이 별장에 모인 인물들의 관계가 점차 뒤틀려 가는 과정을 따라가며, “완벽한 연인”으로 설계된 존재와 그 설정값을 조정하는 인간의 권력관계를 드러낸다.

안드로이드 자각: ‘완벽한 연인’ 설정값의 의미
공식 카피에서 아이리스와 조시는 “서로에게 딱 맞는 완벽한 커플”로 정의된다. 표면적으로는 로맨스 장르의 이상적인 조합처럼 보이지만, 영화가 진행되면서 이 “딱 맞음”이 자연스러운 궁합이 아니라 설계와 조정의 결과임이 드러난다. 제목 ‘Companion(동반자)’는 인간 연인을 지칭하면서 동시에 인간에게 최적화된 동반자형 안드로이드를 연상시키는 단어로 작동한다.

현실의 소셜 로봇은 주로 고령자 돌봄, 사회적 고립 완화, 상호작용 지원 등을 중심으로 연구·실증되고 있다. 다만 적용 범위와 효과는 제품과 환경에 따라 크게 다르며, 사람의 감정을 실제로 이해하는 수준에 도달했다고 보기는 어렵다. 일부 대화형 AI와 소셜 로봇은 음성 입력이나 대화 내용, 사용 이력에 따라 반응을 조정하도록 설계되지만, 이는 인간과 같은 감정 인식이나 독립적인 가치판단과는 거리가 있다. 영화 속 “완벽한 연인” 설정은 이런 기술적 흐름을 과장하지 않고, 설계자가 누구의 욕망을 기준으로 파트너를 만들었는지를 문제 삼는다.


동반자형 AI의 자율성과 통제권
‘컴패니언’이 기존 폭주형 AI 서사와 다른 지점은, 기계가 갑자기 오작동해 공격하는 이야기가 아니라 “통제받던 존재가 자신이 어떤 관계 안에 있었는지를 이해하고 반응하는 과정”에 초점을 맞춘다는 데 있다. 별장이라는 폐쇄된 공간에서 인물들의 사랑·배신·조작·폭력은 하나의 실험실을 이루고, 그 안에서 동반자 역할을 맡은 존재는 점차 단순한 소유물이 아닌 관계의 구조를 인식하는 행위자로 비춰진다.

영화에서는 이용자가 아이리스의 지능과 감정, 행동 관련 설정을 조절할 수 있다는 전제가 중요하게 쓰인다. 현실의 AI·로봇에서는 운영자나 이용자가 권한과 기능, 반응 범위를 설정하지만, 이를 인간의 감정이나 자율성과 같은 개념으로 볼 수는 없다. 작품은 시스템이 자신의 정체와 통제 구조를 인식한다는 가정을 통해 자율성과 소유권의 충돌을 극적으로 보여준다. 실제 기술 논의에서는 자기 인식보다 권한 설정, 안전 제약, 데이터 처리, 이용자 보호가 주요 쟁점이다.

명령 거부와 안전 설계: 어디까지 허용할 것인가
영화 속 긴장감은 “AI가 인간을 몰살한다”는 종말 서사보다, “동반자형 존재가 언제 인간의 지시를 멈출 수 있는가”라는 경계에서 발생한다. 통제받던 존재가 관계 안에서 자신에게 가해지는 폭력과 조작을 이해하고 기존 규칙을 깨뜨리려는 선택을 암시하는 순간, 인간의 소유권과 기술의 자율성이 충돌한다.


현실의 AI 서비스에서는 자해·타해와 같은 유해 지시를 제한하는 안전장치가 이미 주요 설계 요소로 다뤄진다. 시스템이 특정 명령을 거부한다고 해서 스스로 윤리적 판단을 내렸다고 보기는 어렵고, 대부분 개발자가 정한 안전 기준과 작동 규칙에 따른 결과다. 반면 시스템이 인간관계의 폭력성이나 윤리성을 판단해 개입하는 문제는 아직 연구와 사회적 논의가 필요한 가정적 쟁점에 가깝다. ‘컴패니언’은 이러한 미래적 가능성을 설정 차원에서 구현해, “어떤 명령은 따라서는 안 된다”는 질문을 관계 서사로 번역한다.

정서 노동과 관계 서비스의 기술화
영화의 중심은 전체 노동시장이나 “인간 노동의 종말”이 아니라, 가사·정서·관계 역할을 수행하도록 제작된 존재와 인간 이용자의 권력관계에 있다. 아이리스는 감정적 지지, 관계 유지, 욕망 충족 등 정서 노동의 상당 부분을 담당하도록 설계된 존재에 가까우며, 이 설계가 폭력과 소유의 구조와 결합될 때 어떤 비극이 발생하는지를 보여준다.

현실에서도 고객 응대와 정보 안내에서는 대화형 AI 도입이 확대되고 있고, 돌봄 분야에서는 사회적 보조 로봇과 디지털 서비스가 제한적으로 연구·활용되고 있다. 기술이 반복적인 소통 업무를 보조할 수는 있지만, 인간의 돌봄과 정서 노동 전체를 대체한다고 단정하기는 어렵다. 세계보건기구(WHO) 역시 AI가 건강·돌봄 분야에 기여할 가능성을 인정하면서도, 편향과 동의, 이의 제기 권리, 윤리적 거버넌스가 필요하다고 강조한다. ‘컴패니언’은 이 논의를 거대한 자동화 담론으로 끌고 가지 않고, 한 커플과 주변 인물들의 관계 파열을 통해 “감정 노동을 누구에게 맡길 것인가”, “동반자 관계를 어디까지 상품화할 것인가”를 질문한다.


설계 책임: ‘완벽한 연인’의 설정값은 누가 바꾸는가
동반자형 안드로이드·소셜 로봇을 설계한다는 것은 결국 인간의 욕망과 기대를 코드와 하드웨어로 구현하는 일이다. ‘컴패니언’은 이 과정을 비틀어 보여준다. 서로에게 딱 맞게 설계된 관계는, 알고 보면 한쪽이 다른 쪽의 감정·반응·기억을 통제하는 구조 위에서 만들어진 결과일 수 있다. 누군가가 파트너의 설정값을 바꿀 수 있는 관계라면, 그 관계의 의미는 언제든지 다시 정의된다.

피지컬 AI와 동반자형 로봇의 경쟁력은 반응성과 친밀감 구현에 그치지 않는다. 사용자의 권한, 안전장치, 데이터 보호, 개입 범위와 책임까지 함께 설계해야 한다. 감정형 AI와 동반자형 로봇은 사용자에게 위로와 편의를 제공할 수 있지만, 동시에 소유·조작·폭력의 도구가 될 위험도 안고 있다. 설계자와 정책 입안자는 이 양면성을 전제로, 자율성과 통제, 안전과 자기결정 사이의 경계를 어디에 그을 것인지 분명히 해야 한다.

‘컴패니언’은 호숫가 별장이라는 작은 무대에서 이 질문을 실감나게 풀어낸다. 영화는 로봇 인격권이나 인간 노동의 종말을 직접 선언하지 않는다. 대신, 인간에게 맞춰 설계된 존재가 자신을 통제하던 관계의 규칙을 깨뜨리는 과정을 통해, 기술의 자율성과 소유권, 안전 설계 문제를 입체적으로 드러낸다. 동반자형 AI가 인간에게 얼마나 깊게 개입할 것인지, 그리고 어떤 상황에서는 개입을 중단해야 하는지에 대한 기준은, 지금 설계자와 제도 설계자가 함께 고민해야 할 산업 과제다.