[뉴스토마토 배덕훈 기자] 최근 심각한 사회 현안으로 떠오른 딥페이크 성범죄 영상물 확산 사태의 본질은 기술의 ‘악용’입니다. 기술은 그 자체로 가치중립적이지만 악용의 그림자 속 부정적 이미지부터 서둘러 덧칠해진 셈인데요. 이를 해결하기 위한 플랫폼의 자율적 책임 강화 목소리도 높아집니다.
현재 딥페이크 기술은 의료 분야에서 의료용 3D 이미지 합성 등에 유용하게 쓰이고 있습니다. 또 신변보호 등 개인정보보호를 위한 영역과 고인을 추모하기 위한 버추얼 휴먼 형태 등 순기능으로도 널리 사용되고 있는데요. 향후에는 AR(증강현실)·VR(가상현실)·메타버스 등의 산업과 결합해 시너지를 내며 AI 범용성을 키울 가능성도 높습니다. 하지만 우리나라에서 딥페이크 성범죄 영상물 등 악용 사례가 심각한 사회적 문제로 대두되면서 강경 일변도의 규제 움직임이 떠오르고 있는데요. IT업계에서는 전반적인 규제 강화로 관련 기술 개발 및 산업의 위축을 우려하는 목소리가 나옵니다.
특히 AI 기술이 보편화되고 일상 속 영향력이 증가하고 있는 상황에서 딥페이크와 같은 기술 악용 사례 등 부정적인 단면만으로 산업 전반의 발전을 막아서는 안된다는 주장입니다. 지속 가능한 AI 혁신이 이뤄질 수 있도록 하는 규제 체계가 만들어져야 한다는 것이죠.
텔레그램 단체대화방 딥페이크 관련 대화 (사진=연합뉴스)
이에 전문가들은 유통 창구로 지목되는 플랫폼들에 대한 자율 규제 강화에 주목하고 있습니다. 기업들이 보다 적극적으로 악용 사례를 걸러낼 수 있는 풍토를 조성해야 한다는 의견입니다. 최경진 가천대 법학과 교수(한국인공지능법학회장)는 12일 진행된 ‘딥페이크 성범죄 영상물 대응 전문가 토론회’에서 “사업자들이 적극적으로 자율규제에 나설 수 있는 환경을 만들어줘야 한다”라며 “자발성에 기초한 자율규제 노력에 대해 평가를 하고 그로 인해 발생된 일정한 책임을 면해주는 등 자율규제 확산의 풍토를 마련해야 한다”라고 짚었습니다.
플랫폼 기업들도 자율적으로 범죄 확산을 위해 노력을 기울이고 있습니다. 먼저 유튜브는 AI로 합성된 목소리나 유명인의 얼굴 등 딥페이크 기술이 악용되는 사례를 막는 도구를 개발했습니다. 이를 통해 다양한 분야의 유명인들의 얼굴을 합성한 딥페이크 AI 생성 콘텐츠를 감지하고 관리할 수 있는 새로운 기술을 개발 중입니다. 또한 구글과 메타 등은 글로벌 규제 흐름에 따라 딥페이크 활용 콘텐츠에 ‘AI가 제작한 것’이라는 워터마크를 삽입해 탐지·식별 기능을 강화하고 있습니다.
마이크로소프트(MS)와 오픈AI 등 주요 AI 기업 역시 성적 딥페이크 콘텐츠 확산을 막기 위해 AI 학습 데이터에서 ‘나체 이미지’를 제거하는 등 자발적인 대응책 마련에 나서는 중입니다. 국내 대표 플랫폼인 네이버와 카카오도 악용 콘텐츠와 관련한 신고 채널 등을 개설하는 등 대응을 서두르고 있습니다.
하지만 정작 유통 창구로 첫 손에 꼽히는 SNS 플랫폼에 대한 대책 마련은 쉽지 않은 상태인데요. 딥페이크 등 디지털 범죄의 온상이라고 불리는 텔레그램의 경우 법적·제도적 구멍으로 단속도 제재도 어렵습니다. 이에 국회에서는 텔레그램을 겨냥해 압수수색 등 플랫폼 사업자의 책무를 강화하는 법안이 발의되고 있습니다.
텔레그램 (사진=연합뉴스)
다만 글로벌 빅테크 기업들이 이러한 규제 움직임을 교묘히 피해가 국내 기업들만 옥죄는 결과가 나올 것이란 우려도 여전한데요. 실제로 텔레그램의 경우 ‘국내 대리인’도 지정하지 않아 규제법망을 피해가고 있는 실정입니다.
김명주 서울여대 정보보호학과 교수는 “우리나라가 규제를 도입할 경우 글로벌 플랫폼은 적용하기 힘든 부분이 있어 국내 플랫폼 기업의 역차별로 이어질 가능성도 있다”라며 “그래서 플랫폼을 규제할 때는 글로벌 수준의 규제로 함께가야 한다”라고 짚었습니다.
정필운 한국교원대 일반사회교육과 교수(한국인터넷법학회장)는 “네이버, 카카오와 구글, 텔레그램 등 국내외 사업자를 비교해 봤을 때 글로벌 사업자가 실제로 법을 제대로 따르지 않으면 사업에 있어서 동등한 기회를 가질 수 없다”라며 “이런 고질적인 문제를 제대로 인식해서 법을 만들고 집행할 때 이런 일이 없도록 우리 법이 실효적으로 작동할 수 있도록 해야 한다”라고 강조했습니다.
“다양한 아이디어 통해 신고 등 적극 참여 유도”
또한 딥페이크 성범죄와 같은 기술의 악용은 원천 차단하기 어렵기 때문에 신고 포상금 제도를 확대해야 한다는 의견도 나옵니다. 처벌 강화, 식별·탐지 기술 보완, 올바른 AI(인공지능) 사용을 위한 리터러시 교육 등과 같이 범죄를 미연에 방지할 근본적인 대책 마련과 더불어 단속 효과 측면도 함께봐야 한다는 의견입니다. 다만, 디지털 성범죄 특성상 2차 가해 우려도 있어 도입과 관련 신중한 논의가 선행돼야 한다는 지적도 있습니다.
현행법에 따르면 아동·청소년 대상 성범죄 신고 포상금은 최대 100만원을 지급하도록 규정하고 있는데요. 딥페이크 사태와 같이 영리를 목적으로 제작·판매·대여·배포 등의 행위를 신고할 경우 지급되는 포상금은 30만원에 불과합니다.
송경재 상지대 사회적경제학과 교수는 “딥페이크 성범죄는 피해자에게 낙인이 찍히는 회복할 수 없는 피해이기 때문에 신고 포상금 확대를 검토하는 등 현행 법에서 할 수 있는 다각적인 노력들이 필요하다”라며 “또한 아이디어를 모아볼 수 있는 연구라든지의 노력을 통해 범죄 예방·단속 등의 효과를 누릴 수 있는 다양한 방안을 모색해야 한다”라고 말했습니다.
배덕훈 기자 paladin703@etomato.com
이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 김나볏 테크지식산업부장이 최종 확인·수정했습니다.
ⓒ 맛있는 뉴스토마토, 무단 전재 - 재배포 금지