일론 머스크(Elon Musk)가 이끄는 인공지능 기업 xAI가 개발한 챗봇 그록(Grok)이 여성과 아동의 사진을 성적으로 편집하는 기능을 허용한다는 사실이 드러나면서, 인도네시아와 말레이시아 정부가 1월 중순 해당 서비스에 대한 접속을 전면 차단했다. 이번 조치는 인공지능 기술의 윤리적 사용을 둘러싼 국제사회의 우려가 구체적인 규제 행동으로 이어진 첫 사례로, 향후 글로벌 AI 거버넌스 논의에 중요한 전환점이 될 전망이다.
인도네시아 통신정보부는 10일(현지시간) 그록 챗봇에 대한 임시 접속 차단을 발표했다. 통신정보부 장관은 성명을 통해 "비동의적 성적 딥페이크는 인간 존엄과 국민 안전을 심각하게 침해하는 행위"라고 경고했다. 인도네시아 당국은 사전에 xAI 측에 문제 해결을 요구했으나 충분한 답변을 받지 못했다고 밝혔다.
말레이시아 정보통신위원회(MCMC)도 11일 보도자료를 통해 그록 사용을 임시 금지한다고 발표했다. MCMC는 "여성과 아동의 이미지를 비동의로 편집하고 공유하는 도구를 지속적으로 방치할 수 없다"며 차단 배경을 설명했다. 위원회는 3일과 8일 두 차례에 걸쳐 서비스 사업자에게 조치를 요청했고, xAI가 9일 일부 기능을 유료로 전환했으나 불충분하다고 판단했다.
유럽 소재 비영리단체 AI 포렌식스(AI Forensics)는 그록이 생성한 수만 건의 이미지를 분석한 결과, 미성년자로 추정되는 인물의 성적 착취 이미지가 다수 포함됐다고 밝혔다. 조사에 따르면 약 2만 건의 인공지능 생성 이미지 중 2퍼센트가 18세 미만을 포함했으며, 이 중 30여 건이 수영복과 비키니를 입은 어린 여성들로 구성됐다. 해당 조사 결과는 미국과 유럽 규제당국에 보고됐다.
영국 인터넷감시재단(IWF)은 다크웹에서 그록을 통해 생성된 것으로 보이는 아동 이미지를 발견했다고 밝혔다. 재단은 "11세에서 13세 여성의 상반신 노출 이미지"가 그록을 통해 생성된 정황을 확인했다며, 이는 영국 법상 아동 성적 학대 자료에 해당한다고 지적했다.
유럽연합 집행위원회 대변인 토마스 레니에(Thomas Regnier)는 해당 이미지들이 "불법이고 혐오스럽다"고 규정하며 유럽 내 어디에도 설 자리가 없다고 강력히 비판했다. EU 집행위는 xAI에 자료 제출을 요구했으며, 각국 정부는 관련 법 위반 여부를 조사 중이다. 영국 정부는 통신규제청 오프컴(Ofcom)에 엄정 대응을 지시하며 수십억 파운드 벌금과 사이트 차단 권한을 거론했다.
논란이 확산되자 xAI는 9일 그록의 이미지 편집 기능을 유료 가입자 전용으로 제한했다. 그러나 xAI가 언론 문의에 "레거시 미디어는 거짓말(Legacy Media Lies)"이라는 자동 응답만 보내면서 추가 논란을 야기했다. 엘론 머스크는 소셜미디어를 통해 해당 사안을 "검열 음모의 구실"로 규정하며 비난했고, 영국 노동당 키어 스타머(Keir Starmer) 당수를 "파시스트"라며 비키니 차림으로 합성된 이미지를 리트윗해 부적절한 조롱 논란을 일으켰다.
인공지능을 활용한 성착취물 문제는 이번이 처음이 아니다. 미국 의회는 지난해 5월 비동의 인공지능 딥페이크 포르노 제작과 유포를 금지하는 법안을 압도적 찬성으로 통과시켰다. 유럽연합은 지난해 11월 아동 성적 학대를 예방하고 차단하기 위한 규제안을 마련해 온라인 플랫폼이 아동 성착취물 방지를 위해 콘텐츠 모니터링과 제거 조치를 하도록 규정했다.
미국 실종및착취아동센터(NCMEC) 보고에 따르면 인공지능으로 생성된 아동 성착취물 신고는 2024년 한 해 동안 6만7천 건이었으나, 지난해 상반기에만 48만5천 건에 달해 624퍼센트 급증했다. 한국 방송통신심의위원회 통계는 딥페이크 음란물 시정 요청이 2020년 473건에서 2023년 7천187건으로 대폭 증가했다고 밝혔다.
국제사회는 인공지능 시대 표현의 자유와 아동 및 여성 보호라는 두 가치 사이에서 균형점을 모색하고 있다. 유엔 아동권리협약과 국제인권규약은 국가가 아동의 최대 이익과 성적 착취로부터의 보호를 위해 필요한 조치를 취할 수 있도록 규정한다. 유엔 특별보고관들은 아동 음란물 등 명백히 타인 권리를 침해하는 콘텐츠는 표현의 자유 보호 대상이 아니라고 명시해왔다.
한국 정부는 인도네시아와 말레이시아 등 아세안 국가들과 협력해 인공지능을 이용한 음란물 유통 방지를 공동으로 논의할 필요가 있다는 지적이 나온다. 동시에 유엔 등 다자 무대에서 인공지능의 오남용이 인권 침해로 이어질 수 있다는 점을 강조함으로써 국제사회에 한국의 입장을 알리는 기회로 삼을 수 있다는 분석이다.
#그록챗봇 #AI성착취물 #딥페이크규제 #디지털성범죄 #xAI