[IB토마토](딥페이크 방지전쟁)④AI 기본법 제정…플랫폼 기업과 협력 절실

AI 기본법 연내 제정·딥페이크 성범죄 방지법 통과방송통신위원회 텔레그램과 협동해 음란물 제거 착수

이 기사는 2024년 10월 4일 16:46  IB토마토 유료 페이지에 노출된 기사입니다.

최근 '딥페이크 성범죄'가 확산되면서 심각한 사회문제로 대두되고 있다. 정부는 딥페이크 확산을 근절하기 위한 다양한 정책을 시행하고 있으며, 인공지능(AI) 및 보안 기술을 보유한 기업들의 공조 필요성도 커지고 있다. 이와 관련해 보안 전문 기업들이 딥페이크 관련 주식으로 주목받고 있지만, 실제로 딥페이크 식별 및 방지 기술을 보유하거나 개발 중인 기업은 샌즈랩, 라온시큐어(042510), 플랜티넷(075130), 크라우드웍스 정도로 추려진다. 다만 이들 기업은 최근에 딥페이크 관련 서비스를 출시했거나 곧 출시할 예정으로, 실적에 반영되기까지는 시간이 걸릴 것으로 보인다. <IB토마토>는 최근 관련 시장 현황과 딥페이크 방지 기술 기업들이 앞으로 해결해야 할 과제들을 짚어본다.(편집자주)

 

[IB토마토 이조은 기자] 최근 국회에서 딥페이크 성범죄 방지법을 통과시켰지만, 대부분 가해자가 10대 학생인 것으로 나타나 향후 사회적 논의와 보완이 지속적으로 필요한 것으로 보인다. 무엇보다 딥페이크 범죄가 퍼지기 쉬운 IT·플랫폼 기업의 협력이 필수적인 상황에서 방송통신위원회는 텔레그램과 협업을 통해 딥페이크 음란물을 삭제 조치하기로 하기로 했다. 아울러 정부는 연내 인공지능(AI) 기본법을 제정하고, 오는 11월 AI 안전연구소를 설립키로 해 AI 기업들과 협력 가능성이 높아질 전망이다. 

 

26일 국회 본회의에서 '딥페이크 성폭력 방지법'(성폭력범죄처벌특례법)이 통과되고 있다.  (사진=연합뉴스)

 

AI 기본법 제정 코앞·딥페이크 처벌법 시행됐지만 실효성은?

 

4일 업계에 따르면 정부와 국회는 최근 딥페이크 범죄에 강력한 처벌과 대비책으로 응하겠다는 입장이다. 국회는 지난달 26일 본회의를 통해 아동과 청소년을 대상으로 한 딥페이크 성범죄 처벌을 강화하는 ‘딥페이크 성범죄 방지법’(성폭력범죄의 처벌 등에 관한 특례법 개정안)을 통과시켰다. 이 법에 따르면 딥페이크를 이용한 성 착취물을 소지하거나 시청만 해도 3년 이하 징역과 3000만원 이하 벌금에 처하는 딥페이크 방지법이 통과됐다.

 

다만, 법안의 실효성에 대해선 아직 논의가 요구된다. 국회 교육위원회 소속 강경숙 조국혁신당 의원이 전국 17개 시·도교육청으로부터 제출받은 자료에 따르면 실제 처벌 강도는 약한 편이다. 지난 3년간(2022년부터 2024년 8월) 딥페이크 성범죄 혐의로 학폭위 처분을 받은 학생은 334명인데 이중 6호 이상 중징계를 받은 인원은 41%인 136명에 불과했다. 남은 198명은 경징계에 해당하는 1~5호 처분을 받거나 처분을 받지 않는 사례도 있었다.

 

상당수 가해자가 10대 학생인 만큼 처벌만이 아니라 미디어 리터러시 교육에 대한 필요성도 제기된다. 경찰청에 따르면 올해 1월1일부터 지난달 25일까지 집페이크 성범죄에 연루된 피의자는 총 387명인데 피의자 01명 중 8명은 10대, 2명은 촉법소년인 것으로 나타났다.

 

임종인 고려대학교 정보보호대학원 교수는 <IB토마토>와 통화에서 “학생이 딥페이크 성범죄 가해자라면 학교폭력의 일종이라고 할 수 있을텐데 AI윤리에 대한 사회적 논의와 교육이 필요하다”라며 “AI 기본법 같은 경우는 연내로 제정된다고 하는데 미국도 캘리포니아 주에서 이제 막 딥페이크 관련법이 통과됐다. 산업 진흥과 배치되지 않게 국내 비즈니스 환경에 맞는 AI법이 제정되도록 깊은 논의가 필요할 것이다. 무엇보다 텔레그램 같은 플랫폼의 협조가 필요하다”라고 말했다.

 

류희림 방송통신심의위원회 위원장이 30일 텔레그램 측과 협의한 결과를 발표하고 있다. (사진=연합뉴스)

 

AI·딥페이크 기술에 대한 기업과 공조 필요성 대두

 

딥페이크 범죄는 사회관계망서비스(SNS)를 통해 빠르게 확산되는 만큼 관련 국내외 IT·플랫폼 기업의 협력이 필수적이다. 이에 방송통신심의위원회는 최근 딥페이크 범죄의 온상으로 꼽히는 텔레그램에 협조 명령을 내렸다. 아울러 정부는 국가인공지능위원회를 설립하고 연내로 AI 기본법을 제정하는 등 딥페이크 범죄를 막기 위한 대책에 전방위적으로 나설 전망이다.

 

지난달 30일 류희림 방송통신심의위원장은 앞으로 딥페이크 등 기술을 악용한 불법정보에 무관용 원칙을 적용키로 했다. 이에 텔레그램은 한국 경찰청과 방통위와 전방위적으로 협의해 딥페이크 영상물 등 디지털성범죄 외에도 음란·성매매, 마약, 도박 등 텔레그램 내에 유통되는 불법정보에 다각도로 대응키로 했다.

 

방심위 요청에 따라 텔레그램 내 불법정보를 신속 삭제·차단하고, 텔레그램 내 전담 직원을 배치, 실무자 협의를 정례화하기로 했다. 실제로 방심위는 지난달 3일부터 25일까지 총 148건 디지털 성범죄 정보 삭제를 요구했고 텔레그램은 이를 100% 이행했다. 

 

이외에도 구글, 유튜브, 엑스(X, 옛 트위터) 등 해외 기업에 대해서는 국제협력을 이어갈 전망이다. 지속적인 협의를 통해 불법· 유해 정보에 대해서는 국내외 사이트에서 상시적인 모니터링을 통해 단속하고 심의할 방침이다. 

 

아울러 정부는 최근 국가인공지능위원회를 출범하고 4대 플래그립 프로젝트를 수립하기로 했다. 우선 2조원을 투입해 국가AI컴퓨팅 센터를 구축하고, AI반도체 조기 상용화를 지원한다. 올해부터 2027년까지 향후 4년간 65조원에 달하는 민간투자도 유치해 대규모 펀드 조성하는 등 정책금융 지원을 확대하고 관련 세제 지원도 검토할 예정이다. 

 

무엇보다 인공지능(AI) 기본법을 연내로 제정하고 오는 11월 인공지능(AI) 안전연구소를 설립키로 했다. AI 기본법에는 AI 발전을 지원하는 제도 외에도 가짜뉴스와 딥페이크 등 AI를 악용한 콘텐츠 확산을 방지하기 위한 내용도 담길 것으로 전망된다. 2030년까지 산업과 공공부문에 각각 70%, 95%까지 AI 도입률을 높일 예정인 가운데 샌즈랩, 라온시큐어, 플랜티넷, 크라우드웍스 등 딥페이크 방지 기술을 가지거나 개발 중인 AI 기업들은 정부와 협업 가능성이 높아질 전망이다. 

 

방송통신위원회관계자는 <IB토마토>와 통화에서 "텔레그램 국내 대리인이 지정된 것은 아니지만, 실무자를 배치해 협의를 지속하기로 했다. 경찰청이나 수사 기관과도 협동해 (필요시) 유포자에 대한 참고 자료를 제출할 것"이라며 "국제 협조 대상 사업자에 구글, 트위터, 페이스북 등을 추가해 해외 서버에 있는 정보도 직접적으로 조치를 할 수 있도록 하고 있다"라고 말했다.

 

이조은 기자 [e-mail]