[뉴스토마토 신상민 기자] AI(인공지능) 기술이 빠르게 발전하면서 부작용도 덩달아 늘고 있습니다. 최근 국내에서도 AI 기술을 이용한 디지털 성범죄가 발생하면서 사회를 충격에 빠트렸습니다. 특히 생성형 AI 기술이 문제가 되고 있는데요. 디지털 성범죄를 저지른 이들 가운데 10명 중 7명이 10대일 정도로 현재 AI 기술 활용에 별다른 제약이 없는 상태입니다. AI 기술에 대한 규제 필요성이 커지고 있지만 국내 입법 움직임은 겨우 이제 막 걸음마를 뗀 상태입니다.
딥브레인AI '딥페이크 탐지 솔루션'. (이미지=딥브레인AI)
28일 경찰청에 따르면 허위영상물 등 범죄 관련 발생 건수는 2021년 156건에서 2022년 160건, 2023년 180건, 2024년(7월) 297건으로 매년 빠르게 증가하고 있습니다. 이에 경찰청은 딥페이크 성범죄를 근절하고자 28일부터 7개월간(2024년 8월28일~2025년 3월31일) 특별 집중단속을 실시한다고 밝혔습니다.
딥페이크(Deepfake)는 딥러닝(deep learning)과 가짜를 의미하는 페이크(fake)의 합성어로 기존 사진·영상을 다른 사진·영상에 겹쳐 만들어 내는 AI를 기반으로 한 이미지 합성 기술입니다. 과거엔 합성을 하려면 고도의 기술이 필요했지만 AI 기술 발전으로 누구나 인터넷 검색만으로 딥페이크봇 등에 접속해 제작이 가능해졌습니다. 유튜브만 검색해도 생성형 AI 기술 관련 영상을 통해 정보를 얻을 수 있습니다.
이런 상황이다보니 청소년도 손쉽게 딥페이크 합성물을 제작할 수 있습니다. 경찰에 따르면 올해 1월부터 7개월간 서울에서만 딥페이크 합성물을 제작·배포한 청소년 10명을 검거했습니다. 또한 허위영상물 성범죄 가해자 중 75.8%가 10대입니다.
윤석열 대통령이 서울 영등포구 페어몬트 앰배서더 서울에서 열린 2024 국제 사이버범죄대응 심포지엄 개회식에 참석한 뒤 딥페이크 탐지 소프트웨어 시연을 보고 있다. (사진=대통령실)
미국도 대선을 앞두고 AI가 만든 가짜 뉴스로 혼란스러운 상황입니다. 트럼프 전 대통령은 19일(현지시간) SNS에 테일러 스위프트와 팬들이 자신을 지지하는 사진 4장을 올렸습니다. 하지만 해당 사진은 AI가 만든 가짜 사진으로 밝혀졌습니다. 중국에서는 중국의 체제·사회를 칭찬하는 외국 여성의 영상이 논란이 되기도 했습니다. 무단으로 사용된 이 영상은 원본 영상 내용과 무관하게 딥페이크 기술을 통해 목소리와 입 모양을 변조한 것으로 알려졌습니다.
그나마 미국과 EU 등에서는 AI 관련 법안이 빠르게 제정되고 있습니다. 하지만 국내 AI 관련 법안은 이제 막 걸음마를 시작한 상태입니다. 국회 과학기술정보방송통신위원회는 26일 '인공지능산업 육성 및 신뢰 확보에 관한 법률안' 등 AI 관련 법안 5건을 법안심사 소위원회에 회부해 정책 논의 첫 발을 뗐습니다. AI 관련 법안은 산업 육성 진흥 규정과 윤리 및 신뢰성 확보를 위한 규제와 규정을 포함하고 있습니다.
오병일 진보네트워크 대표는 "AI 기본법은 그 자체로 필요한데 AI가 어떤 위험성을 가지고 있고 이를 통제할 것인지, 그리고 문제 발생시 책임 소재를 어떻게 따질 것인지, 고위험 AI를 제공하는 사업자에게 어떤 의무를 부과해야 하는지가 중요하다"며 "국회에 발의된 AI법은 규제 규정이 없어 규제 필요성에 못 미치고 산업 육성을 목표로 하고 있다"고 지적했습니다.
또한 "AI 위험성을 규제할 수 있는 별도의 법이 필요한데 지금 딥페이크 성폭력물 같은 경우 이미 법이 없는 게 아니기 때문에 그 법을 보완하고 또 실효성 있게 사회에 적용되도록 하는 노력이 필요하다"고 말했습니다.
텔레그램 딥페이크 성범죄 피해 사실이 X(옛 트위터)를 통해 전국적으로 확산하고 있다.(사진= 'X(옛 트위터)' 캡처)
신상민 기자 lmez0810@etomato.com
이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 김나볏 테크지식산업부장이 최종 확인·수정했습니다.
ⓒ 맛있는 뉴스토마토, 무단 전재 - 재배포 금지