[뉴스토마토 이지은 기자] 챗GPT로 본격화된 생성형 인공지능(AI) 시대에 신뢰성과 안정성 확보를 위해 정부가 기반 마련에 나섭니다. AI 생성물에 워터마크를 도입을 권고하는 등 AI 윤리 기틀을 만든다는 겁니다.
과학기술정보통신부는 25일 개인정보보호위원회, AI 분야 민간 최고위 관계자들과 함께 제4차 인공지능 최고위 전략대화를 개최, AI 위험성 우려에 대응한 안전한 AI 확산 방안을 논의했습니다.
25일 오전 서울 강서구 LG사이언스파크에서 제4차 인공지능 최고위 전략대화가 진행됐다. (사진=과기정통부)
국가 AI 윤리기준의 구체적 실천수단으로 생성형 AI 기반 서비스 등 분야별·가이드라인을 마련하고 민간 자율 신뢰성 검·인증을 11월부터 추진할 계획입니다. 특히 AI 사업 중 고위험 영역 서비스 개발·실증 사업을 수행하는 기업을 일부 선정해 12월부터 시범 인증을 추진할 예정입니다.
챗GPT와 같은 초거대 AI의 확산으로 AI가 가져다 줄 혜택에 대한 기대와 함께 안전에 대한 위험성 우려가 확대되는 상황에서 AI가 생성한 결과물에 대한 워터마크 도입의 제도화를 검토합니다.
AI 자체가 내포하는 편향성, 불투명성 등 기술적 한계와 AI 오작동 등에 따른 AI의 잠재 위험요인에 대응하기 위해 기존 AI의 한계를 극복하고 초거대 인공지능의 신뢰성을 확보하기 위한 기술개발을 내년부터 신규로 추진할 예정입니다. 과기정통부는 차세대 생성형 AI기술 개발을 위해 2027년까지 220억원을 투입합니다.
(자료=과기정통부)
이종호 장관은 "민간 자율 AI 신뢰성 검·인증 지원을 비롯한 AI 윤리 생태계 기반 조성과, 적합한 규제 체계를 정립해가는 데 힘쓰겠다"며 "관계부처와 함께 AI 윤리·신뢰성을 확보할 수 있는 정책방안을 보완해 새로운 디지털 질서의 모범이 되기 위해 최선을 다하겠다"고 말했습니다.
이지은 기자 jieunee@etomato.com