인공지능 대상 성희롱 논란…“AI 편견·남용 방지 노력 필요”

국회, AI 관련 입법 등 준비…입법조사처 “인공지능 윤리 문제 등한시할 수 없어”

[뉴스토마토 조문식 기자] 인공지능(AI) 챗봇 ‘이루다’를 성희롱하는 커뮤니티가 사회적 논란이 됐다. 해당 챗봇이 동성애·장애인 혐오 등을 학습한 것으로 보인다는 지적까지 나오면서 AI 기술에 대한 정책적 보완 등이 과제로 떠올랐다.

 

이루다를 개발한 스타트업 스캐터랩 측은 지난 8일 <뉴스토마토>와 통화에서 “(이번) 문제 해결을 위해 1분기 안으로는 업데이트할 수 있도록 준비하고 있다”라고 말했다. 그는 “(‘이루다’는) 딥러닝으로 학습하는 인공지능이다. 수천만 건의 대화를 바탕으로 학습을 하는 것”이라며 “(아이들이) 커가면서 부모님께 배워가는 것처럼 논리적으로 대답하는 것으로 학습을 해왔는데, (추가) 레이블링 작업을 위해 레이블러들을 투입해서 보편적 가치에 부합하는 대화를 할 수 있도록 알고리즘을 업데이트할 계획”이라고 답했지만, 논란은 여전하다.

 

강도현 과학기술정통부 인공지능기반정책관이 지난달 23일 정부세종청사에서 인공지능 시대를 대비한 법·제도·규제 로드맵에 대해 설명하고 있다. 사진/뉴시스

 

이 같은 상황에 대응하기 위해 21대 국회에서는 AI 관련 입법이 준비되고 있다. ‘인공지능 연구개발 및 산업 진흥, 윤리적 책임 등에 관한 법률안’을 대표발의한 더불어민주당 이상민 의원은 제안 이유로 “우리나라는 인공지능 기술의 중요성은 인지하고 있으나 제도적인 지원이 정부 추진 주체나 개별 산업별로 다핵화돼 추진됨에 따라 기존 추진체계의 정비가 필수적이다”라고 했다. 또 “국가적 추진체계를 마련함으로써 인공지능 기술 개발을 촉진하고 산업 생태계를 강화하는 한편, 인공지능 산업에 인간의 기본적 인권과 존엄성을 보호하도록 한다”라는 내용도 담았다. 이 의원실 관계자는 이번 법안에 대해 “인공지능을 육성해야 하는데, 다른 산업과 달리 윤리적 내용을 포함시켜야 된다는 것”이라며 “인공지능 산업을 육성·지원할 수 있게 만드는 법이고, 육성과 더불어서 윤리적인 부분도 반드시 재고하게끔 하는 법이다”라고 했다. 이루다 사태에 대해서는 “국회가 사건이 나고 뒤에 논의를 하는데, 산업의 속도를 보면 충분히 예견 가능한 일들”이라며 “사전에 국회가 논의를 해서 선제적으로 입법조치를 할 필요가 있다”고 설명했다.

 

이순기 국회입법조사처 팀장은 ‘인공지능의 윤리적 사용을 위한 개선과제’에서 “우리나라가 아직 인공지능 기술이 미흡해 향상과 확대에 초점을 두는 것은 맞지만 인공지능 윤리 문제를 등한시할 수는 없다”라고 제언했다. 이 팀장은 “유럽연합집행위원회는 사람에 의한 감독·투명성 등 일반적인 윤리기준을 제시하고 있는 반면에 프랑스·싱가포르·미국 등은 윤리위원회 설립, 인공지능 윤리와 관련된 사람 간의 소통체계 구축, 자동화된 소프트웨어 사용 제한에 관한 규제 법안 발의 등 윤리기준을 구현하기 위한 구체적인 방안을 소개하고 있다”라고 밝혔다. 아울러 “현재 (우리나라) 법률이나 제도 등은 인공지능 개발·진흥에 중점이 있고, 인공지능의 안전한 사용에 관한 조치는 미흡한 측면이 있다”면서 “인공지능이 인간 삶과 조화돼 발전할 수 있으려면 인공지능의 편견·남용 등을 방지하려는 노력을 기울여야 한다”라고 강조했다.

 

지난 8일 국회에서 열린 본회의 모습. 사진/공동취재사진

 

조문식 기자 [e-mail]

 

이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 김기성 편집국장이 최종 확인·수정했습니다.