사진 확대

생성형 인공지능(AI) 서비스와 나눈 대화가 범죄 수사의 핵심 증거로 활용되는 사례가 잇따르며 개인정보 보호 논란이 커지고 있다. 특히 챗GPT 등 AI 챗봇이 이용자의 의도와 심리를 드러내는 ‘디지털 흔적’으로 간주되면서 법적 지위와 규제 공백이 새로운 쟁점으로 떠오르고 있다고 CNN은 2일(현지시간) 보도했다.

최근 미국 플로리다주에서 발생한 대학원생 살인 사건에서 용의자는 범행 전 “시신을 쓰레기봉투에 넣어 버리면 어떻게 되나”, “어떻게 들킬 수 있나” 등 질문을 챗GPT에 입력한 것으로 드러났다. 검찰은 이 대화 기록을 범행 동기와 사전 계획성을 입증하는 핵심 증거로 제시했다.

이처럼 AI 채팅 기록이 수사에 활용되는 사례는 늘고 있다. 로스앤젤레스 산불 방화 사건, 버지니아 살인 재판 등에서도 챗봇 대화나 AI 서비스 기록이 주요 증거로 채택됐다. 수사 당국은 이 같은 기록이 용의자의 심리 상태와 행동 의도를 파악하는 데 유용하다고 보고 있다.

문제는 AI 챗봇과의 대화가 법적으로 보호받지 못한다는 점이다. 변호사·의사·상담사와의 대화에는 비밀 유지 특권이 적용되지만, AI 서비스에는 이 같은 보호 장치가 없다. 현행 법체계에서는 AI 대화 기록을 전화 통화나 검색 기록과 동일한 ‘일반 디지털 증거’로 간주한다. 이에 따라 수사기관은 법적 절차를 통해 데이터를 확보할 수 있으며, 법원 역시 이를 증거로 채택할 수 있다.

실제로 AI 이용자들은 개인 고민, 건강 문제, 법률 상담 등 민감한 정보를 챗봇에 털어놓는 경우가 많지만, 이러한 데이터는 수사나 소송 과정에서 제출될 수 있다. 이는 개인정보 보호 측면에서 새로운 위험 요인으로 평가된다.

결국 생성형 AI 확산 속에서 ‘편리한 조언자’로 자리 잡은 챗봇이 동시에 ‘잠재적 증거 저장소’로 기능하는 상황이다. 법과 제도가 기술 발전 속도를 따라가지 못하는 가운데, 이용자 스스로도 AI에 입력하는 정보의 위험성을 인식해야 한다는 지적이 나온다.

AI 기업과 전문가들 사이에서는 이용자 대화에 대한 법적 보호 장치를 마련해야 한다는 목소리도 커지고 있다. AI가 사실상 상담과 조언 역할을 수행하는 만큼 일정 수준의 비밀 보호 체계가 필요하다는 주장이다.