[뉴스토마토 오세은 기자] 국가 차원의 인공지능(AI) 안전 연구와 글로벌 협력을 도맡을 AI안전연구소가 내달 출범합니다.
과학기술정보통신부는 18일 서울 종로구 국가과학기술자문회의 청사에서 개최한 제17차 정보통신전략위원회에서 AI안전연구소 설립·운영계획안을 의결했습니다.
연구소의 주요기능은 관리 대상 AI를 찾아 안전평가·연구를 진행하는 것입니다. 장기적으로는 세계적 AI안전 연구를 선도하는 기관으로 발전시킨다는 목표입니다. 연구소는 안전정책·평가·기술분야 등 3개 연구실로 운영되며, 사무실은 판교 글로벌 R&D센터에 4층에 들어섭니다.
AI연구소 설립은 지난 5월 개최된 ‘AI서울정상회의’에서 논의된 핵심 의제 중 하나였습니다.
연구소는 '아태지역을 대표하는 글로벌 AI 안전 거점연구소' 구현을 비전으로 △AI 안전에 대한 과학적 이해 증진 △AI 안전 정책 고도화 및 안전제도 확립 △국내 AI 기업의 안전 확보 지원 등 3대 핵심 목표를 설정했습니다.
안전평가 지표·방법은 기업·대학·연구기관과 개발하고 평가도구와 데이터셋도 구축할 계획입니다. 나아가 주요국의 AI 규범을 분석해 국내 안전정책을 수립하도록 지원하고 기업·기관을 위한 국제인증 컨설팅과 국내외 협력도 맡습니다.
이 밖에 통제력 잃은 AI에 대응하는 '정렬(Alignment)기술'과 AI의 사회적 차별·편향을 완화하는 기술도 연구소가 연구개발(R&D)을 수행할 예정입니다.
연구소는 한국전자통신연구원(ETRI) 아래 30여명 규모로 설치될 예정입니다. 첫 주요일정은 다음달 20일 미국 샌프란시스코에서 개막하는 '국제 AI안전연구소 네트워크' 행사에 참가하는 것입니다.
과학기술정보통신부는 제17차 정보통신전략위원회에서 다음달 AI안전연구소를 ETRI 내 조직으로 우선 설립한다고 발표했다. (이미지=과기정통부)
오세은 기자 ose@etomato.com
이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 김나볏 테크지식산업부장이 최종 확인·수정했습니다.
ⓒ 맛있는 뉴스토마토, 무단 전재 - 재배포 금지