한나 아렌트는 아이히만과 같은 평범한 사람들이 반인륜적인 악행을 당연하고 평범하다고 여기며 행할 수 있다는 점에서 ‘악의 평범성’을 얘기했다. 2019년 ‘N번방 사건’은 일부의 가해자가 일부의 피해자를 성적으로 착취하고 텔레그램의 익명성과 암호화 기술을 이용해 그것을 퍼트리는 방식이었다면, 2024년 딥페이크 성범죄는 AI기술과 텔레그램이 만나 누구든 쉽게 가해자가 되고 누구든 피해자가 되는 평범성과 전파성을 가지게 됐다. 이 중대한 범죄에 대해 개인이 깊이 사유하지 않고 국가가 방치한다면 딥페이크 성범죄는 끊임없이 퍼져나가 사회 전체가 거대한 아우슈비츠의 가스실이 될 것이다.
딥페이크는 인공지능(AI)을 활용해 사람의 얼굴과 목소리를 기존의 사진이나 영상에 합성하는 기술을 말한다. AI 기술의 발전으로 인해 딥페이크 기술은 다양한 분야에서 활용될 수 있지만, 악용될 경우 피해는 심각하다. 딥페이크 기술은 특히 성범죄에 자주 악용되는데, 가해자들은 SNS에 게시된 여성의 얼굴을 음란물에 합성하고 이를 유포한다. 자신도 모르는 사이 불특정 다수가 피해자가 되는 것이다.
이러한 딥페이크 성범죄는 전 세계로 퍼지고 있으며, 특히 우리나라는 딥페이크 성범죄가 심각한 국가다. 전 세계적으로 유포된 딥페이크 음란물 중 약 53%가 한국인 피해자를 대상으로 하고 있다는 통계가 있다. 피해자들은 연예인, 유명인뿐만 아니라 평범한 여성들을 포함하며, 미성년자 얼굴을 합성한 영상까지 유포되는 상황이다. 한국이 딥페이크 성범죄의 온상이라는 악명을 떨치지 않기 위해서라도 국가의 적극적인 대응이 필요하다.
지금처럼 딥페이크 기술이 성범죄로 악용될 경우, 피해자와 가해자는 너무나도 광범위하게 퍼져나간다. 범죄 목적으로 사용된 딥페이크 기술은 개인의 사생활을 침해하고 명예를 훼손하며 사회 전체가 서로를 신뢰하지 못하게 만든다. 물론, 이러한 범죄가 애초부터 생기지 않으려면 성인지에 대한 교육과 바람직한 사회화가 필수적이지만 이미 널리 퍼져버린 새로운 형태의 범죄에 대해 정부는 강력한 규제로 딥페이크 기술의 악용을 차단해야한다.
현재 한국에서는 불법 딥페이크 영상을 제작하거나 판매할 경우 성폭력 범죄의 처벌 등에 관한 특례법에 따라 7년 이하의 징역형이, 아동·청소년 성착취물을 판매할 경우 아동·청소년의 성보호에 관한 법률에 따라 징역 5년 이상의 처벌을 받게 된다. 그러나 이러한 법적 처벌 조항만으로는 안심할 수 없다. 보다 적극적인 딥페이크 성범죄 방지와 기술적 대응이 필요하다.
딥페이크 악용을 차단하기 위해서는 AI 기반 딥페이크 탐지 알고리즘[포렌식 영상 분석(Forensic video analysis) 기술 등]이 범죄 영상을 찾아내고 차단하는 데 중요한 역할을 한다. 예를 들어, 영상에서 발생하는 픽셀 움직임이나 눈 깜박임, 얼굴의 떨림 등을 분석해 딥페이크 영상 여부를 판별할 수 있다. 이러한 영상이 범죄에 사용되었을 경우, 신속하게 해당 영상과 웹페이지, 메시지 방을 차단하는 조치가 필요하다. 또한 워터마킹(Watermarking) 기술을 통해 콘텐츠의 진위를 확인하고, 블록체인 기반 인증 시스템을 통해 딥페이크 기술이 범죄에 사용되었는지 적극적으로 점검할 필요가 있다.
대부분의 딥페이크 성범죄 영상은 텔레그램 등과 같은 메신저 플랫폼을 통해 유포되고 있다. 텔레그램은 사용자 익명성을 보장하고 종단간 암호화(end-to-end encryption)로 대화 내용을 보호하므로, 범죄자들이 이를 악용해 불법 콘텐츠를 유포할 경우 추적이 어렵다. 따라서 이러한 플랫폼에서 이루어지는 불법 행위를 방지하기 위해, 플랫폼의 자유를 과도하게 침해하지 않는 범위에서 통제 방안을 마련해야 한다.
유럽연합(EU)은 디지털 서비스법(DSA, Digital Serivice Act)을 통해 디지털 플랫폼이 사회적 안전을 위협하는 콘텐츠를 유통하지 못하도록 규제하며, 이를 위반할 경우 기업에 최대 6%의 과징금을 부과한다. 프랑스 또한 정보조작대처법(Les propositions de loi contre la manipulation de l’information)을 통해 해외 서비스가 허위 정보를 유포할 경우 그 서비스를 중단시키고 형사 처벌까지 가능하도록 하고 있다. 우리나라 역시 이와 같은 해외 사례를 참고하여 딥페이크와 같은 디지털 범죄에 적극적으로 대응해야 한다.
앨버트 아인슈타인은 "기술은 우리에게 무엇을 할 수 있는지를 말해줄 뿐, 무엇을 해야 하는지는 말해주지 않는다"고 말했다. 기술은 본질적으로 중립적이지만, 그것이 어떻게 사용되느냐에 따라 인류에게 희망을 줄 수도, 파멸을 가져올 수도 있다. AI와 딥페이크 기술이 인류에게 파멸을 안기지 않도록, 우리는 그 기술의 악용을 통제하고 규제해야 한다. 더 나아가 적절한 성교육과 바람직한 사회문화를 정착시킴으로서 범죄를 예방해야 할 것이다.
안희철 법무법인 디라이트 파트너 변호사
이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 이 최종 확인·수정했습니다.