(사이버 폭력 이제 그만)②인터넷 포털 악플 전쟁, AI에 달렸다

네이버·카카오, AI 활용한 '욕설 자동 치환' 기능 도입인스타그램, '댓글 취소' 등 AI 기술 도입…유튜브 AI, 악플 99% 삭제

[뉴스토마토 김동현 기자] 네이버·카카오, 구글·페이스북 등 국내외 인터넷 기업들은 인공지능(AI) 기술로 악성댓글(악플)과 전쟁을 벌이고 있다. 악플을 걸러내는 인공지능이 정밀해질수록 인터넷 포털이 청정화되는 기대를 낳는다.

 

 

네이버와 카카오는 이용자들이 뉴스 하단에 작성하는 댓글 가운데 욕설이 있으면 이를 자동으로 치환하는 기술을 적용하고 있다. 사용자가 댓글에 욕설을 쓰고 등록 버튼을 누르면 욕설 부분은 'OOO', '♩♪♬' 등으로 바뀌어 등록된다. 욕설이나 비속어가 다른 이용자에게 표출되는 것을 사전에 막기 위한 조치다. 이 기능을 네이버는 2012년, 카카오(다음)는 2017년에 각각 도입했다.

 

특히 네이버의 경우 지난 4월 스포츠 뉴스에 달리는 욕설 댓글을 완전히 숨기는 AI '클린봇'을 도입했다. 욕설 댓글 대신 '클린봇이 이용자 보호를 위해 숨긴 댓글입니다'라는 문구가 나온다. 네이버는 클린봇을 웹툰, 쥬니버 등으로 확대 적용했다. 네이버 관계자는 "네이버는 기술적 대응을 기본으로 악플을 '숨김' 처리하고 있다"며 "클린봇 기능도 적용 범위를 넓힐 예정"이라고 말했다. 이와 함께 지난해부터 언론사에 뉴스 댓글 정책을 선택해 운영하도록 하고 있다. 언론사는 △댓글 제공 여부 △본문하단 댓글 노출 여부 △댓글 정렬 방식 등 댓글 정책을 정할 수 있다.

 

네이버가 스포츠뉴스, 웹툰 등에 적용한 AI 욕설 기능 '클린봇'. 사진/네이버

 

글로벌 기업들 역시 AI 기술을 활용한 사전 차단 기술을 확보하고 있다. 최근 유명 연예인의 소통 창구로 떠오른 인스타그램은 지난 7월에 '댓글 취소', '제한하기' 기능을 도입했다. 인스타그램 이용자를 원하지 않는 소통으로부터 보호하기 위한 조치다. 댓글 취소 기능은 댓글을 쓰고 게시 버튼을 누르면 '현재 댓글이 기존에 신고된 댓글과 유사한 것으로 감지됩니다'라는 메시지가 나온다. 댓글이 등록되기 전에 알려줌으로써 공격적인 댓글을 완화하기 위한 조치다. 또 제한하기가 적용된 계정의 댓글은 작성자 본인에게만 보인다. 자신의 계정이 제한하기가 적용됐는지에 대해 본인은 알 수 없다.

 

구글이 운영 중인 동영상 서비스 유튜브는 AI를 활용해 커뮤니티 가이드라인을 위반한 댓글을 삭제 중이다. 지난 2분기에 삭제된 5억3776만건의 댓글 가운데 99.3%가 유튜브의 자동신고시스템으로 적발됐다. 이와 함께 크리에이터 스스로 댓글 정책을 정할 수도 있다. 특정 단어가 포함된 댓글이 표시되지 않도록 설정하거나 댓글 보류 등 기능이 있다. 유튜브는 "유튜브에서 댓글을 게시할 때도 영상과 똑같이 커뮤니티 가이드를 준수해야 한다"며 "유튜브는 크리에이터들이 스스로 댓글 사용을 조정하고, 댓글을 검토할 수 있는 도구를 제공하고 있다"고 밝혔다.

 

인스타그램 '댓글 취소' 기능. 사진/인스타그램

 

김동현 기자 [e-mail]

이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 김기성 편집국장이 최종 확인·수정했습니다.