(토마토칼럼)'딥페이크'는 절대악이 아니다

최근 우리나라뿐 아니라 전 세계에서 AI(인공지능)가 화두가 되면서 새롭게 떠오르는 이슈가 있습니다. 바로 ‘딥페이크(Deepfake)’입니다.

 

‘딥페이크’는 인공지능 심층 학습을 뜻하는 ‘딥 러닝(Deep learning)’과 가짜를 뜻하는 ‘페이크(Fake)’의 합성어로 인공지능 기술을 활용해 기존 인물의 얼굴이나 특정 부위를 합성한 영상 편집물을 뜻합니다. 하지만 ‘딥페이크’ 하면 일단 부정적인 이미지만 먼저 떠오르기 마련입니다. 가짜뉴스, 디지털 성범죄 등 수많은 ‘악용’ 사례로 인해 기술 취지와 이미지가 오염된 지 오래기 때문입니다.

 

방송통신심의위원회에 따르면 국내에서 딥페이크 성적 허위 영상물에 차단·삭제 시정을 요구한 사례는 2020년 473건에서 2023년(11월까지) 5996건으로 12배 이상 늘었습니다. 특히 총선을 앞두고 딥페이크를 악용한 가짜뉴스도 큰 문제로 떠오른 상태입니다. 확증편향과 맞물려 유통되는 딥페이크 허위조작 정보는 민주주의의 심각한 위협으로 귀결됩니다.

 

이에 따른 국가 차원의 규제 정책이 절실한 상태인데요. 그에 못지않게 이용자들의 윤리의식 함양도 중요합니다.

 

사실, 엄밀히 따져보면 ‘딥페이크’는 100% 나쁜 기술이 아닙니다. 전문가들도 이를 짚고 있는데요. 기술 자체를 오남용해 사실과 참을 호도할 수 있는 점이 문제인 것이지 기술 자체가 문제라는 인식을 가지면 안된다는 겁니다. 가령, 칼은 요리사에겐 훌륭한 조리도구지만, 강도에게는 가장 손쉽게 사용할 수 있는 범죄도구가 되는 것같은 이치입니다. 쉽게 말해 딥페이크는 ‘수단’일 뿐 ‘절대악’으로 규정해선 안된다는 얘기입니다.

 

실제로 딥페이크를 활용한 ‘착한’ 사례는 부각이 되지 않았을 뿐이지 곳곳에서 찾아볼 수 있습니다. 의료 분야에서 딥페이크 기술은 의료용 3D 이미지 합성 등에 활용되며 높은 가능성을 보이고 있습니다. 신변보호 등 개인정보보호 영역과 고인을 추모하는 신기술 속 버추얼 휴먼 형태로도 쓰입니다. 과거 가수 김광석과 그룹 ‘거북이’ 멤버 터틀맨, 그리고 안중근, 유관순 등 역사 위인들이 딥페이크 기술로 복원돼 화제를 모으기도 했습니다.

 

결국 기술과 같은 ‘수단’을 사용하는 사용자의 목적이 중요하다는 뜻인데요. 딥페이크의 악용을 엄단하는 확실한 제도적 규제 장치도 마련돼야 하고, 오남용을 막기 위한 사업자들의 조치도 필수입니다. 여기에 이용자들을 대상으로 경각심과 윤리 역량이 동시에 강화돼야 할 것으로 보입니다.

 

우리는 과거 ‘게임’을 마약과 같은 ‘악’으로 규정한 잘못된 사례를 똑똑히 지켜본 적이 있습니다. 그렇게 씌워진 프레임은 아직도 완전히 씻겨지지 않았는데요. 급성장하던 게임 산업은 이 같은 정책으로 휘청였고 산업 주도권마저 중국에 빼앗기는 결과를 낳았습니다. 딥페이크도 마찬가지입니다. 기술은 정쟁에 휘둘려서는 안됩니다. 딥페이크는 절대악이 아닙니다.

 

배덕훈 IT팀장