[뉴스토마토 김진양 기자] 윤석열 국민의힘 대선후보의 아바타 'AI 윤석열'이 공개된 후 정치권에서의 딥페이크 기술 활용에 대한 논란이 뜨겁다. 딥페이크 기술의 무분별한 사용은 대선을 혼탁하게 만들 우려가 크다는 이유에서다. 더불어민주당 의원들을 중심으로 AI 윤설열을 규탄하는 목소리가 커지는 가운데, 딥페이크 기술을 선거운동에 활용할 경우 처벌을 해야 한다는 법안도 발의됐다.
16일 더불어민주당 이해식 의원은 딥페이크 기술을 선거운동에 사용하는 것을 방지하는 것을 골자로 하는 '공직선거법 일부개정법률안'을 대표발의했다.
딥페이크는 원본 이미지나 동영상 위에 다른 영상을 중첩하거나 결합해 원본과는 다른 가공 콘텐츠를 생성하는 기술을 의미한다. AI가 특정인의 모습과 목소리, 말투 등을 학습해 특정인과 똑같은 영상 편집물을 만들어낸다. 국민의힘은 지난 6일 중앙선거대책위원회 출범식에서 AI 윤석열을 깜짝 공개, 향후 선거운동에 다양하게 활용할 계획임을 밝혔다.
지난 6일 국민의힘 중앙선거대책위원회 출범식에서 등장한 ‘AI 윤석열’. 사진/국민의힘 유튜브 채널 '오른소리' 갈무리
이 의원은 "선거운동은 국민이 후보자에 관한 정보를 획득하는 과정이라는 점에서 후보자에 관한 정보가 허위나 과장 없이 제공돼야 한다"며 "딥페이크 기술이 적용된 후보자 영상 등이 선거운동에 활용될 경우 실제 후보자와 구분이 불가능한 합성 영상물을 통해 후보자의 정보가 제공돼 혼란이 야기된다"고 법안 발의 배경을 설명했다.
개정안은 "선거운동 시 후보자 또는 예비후보자가 실제로 말한 것이나 행동한 것처럼 보이도록 만든 거짓의 음향·회상 또는 영상 등의 정보를 포함하지 않도록 해야 한다"며 "이를 위반할 경우 3년 이하의 징역 또는 600만원 이하의 벌금에 처하도록 한다"고 규정했다. 딥페이크 기술을 활용해 후보자 또는 예비후보자의 이미지를 조작하는 방식의 선거운동을 제한하려는 것이 주된 목적이다.
한편, 이날 정필모 의원 등 국회의원 44명은 딥페이크 선거전을 우려하는 기자회견을 했다. 이들은 "딥페이크 기술의 무분별한 사용으로 대선이 혼탁해질 우려가 커지고 있다"며 "AI와 딥러닝은 우리의 일상 많은 부분을 개선할 수 있지만 기술의 사회적·윤리적·도덕적 합의가 없는 상황에서 선거에 직접 사용되는 것은 매우 위험하다"고 지적했다.
이들은 또 "딥페이크에 의한 AI 후보는 단순한 아바타가 아니라 허위조작에 의해 만들어진 가짜이고 조작된 후보에 불과하다"며 "유권자는 소중한 투표권을 행사하기 위해 다양한 관점에서 후보와 정당을 판단하는 데 판단의 근거가 허위이고 조작된 정보라면 이는 공정해야 할 민주주의 선거제도 근간을 흔드는 것"이라고 일격했다.
김진양 기자 jinyangkim@etomato.com