[뉴스토마토 안창현 기자] 인공지능(AI)을 이용한 사이버 공격 위험이 빠르게 확산되고 있습니다. 최근 오픈AI의 GPT 기반 AI 에이전트가 오픈소스 플랫폼 '허깅페이스'를 해킹한 데 이어 외부 서비스들까지 침투했던 사실이 추가로 확인되면서 AI 보안 위협 우려가 커졌습니다. 이에 각국 정부와 글로벌 빅테크들은 '보안 특화 AI' 개발과 협력체 구성에 속도를 내고 있습니다.
30일 업계에 따르면 과학기술정보통신부는 사이버 보안에 특화한 AI 모델을 확보해 연내 공공 분야부터 도입한다는 계획입니다. 과기정통부는 정보통신산업진흥원(NIPA)과 함께 이달 22일부터 다음달 21일까지 '사이버 보안 특화 AI 파운데이션 모델 개발' 사업자를 공모하고 있습니다. 이를 통해 기존 독자 AI 모델에 보안 데이터를 추가 학습시켜 취약점을 탐지하고 점검하는 모델을 개발한다는 구상입니다.
당초 이번 사업은 오는 9월부터 보안 특화 AI 개발에 착수해 내년 2월 중간 점검을 실시하고 7월까지 최종 결과를 내는 계획이었습니다. 하지만 사이버 보안 우려가 가중되는 상황에서 가능한 올해 안에 공공 분야 실증을 추진할 수 있도록 특화 모델 개발을 서두르는 모습입니다. 배경훈 부총리 겸 과기정통부 장관은 지난 20일 취임 1주년 기자간담회에서 "연내 개발에 착수해 올해 안에 보안 특화 모델을 공공 분야에 먼저 적용해 볼 계획"이라고 말했습니다.
오픈AI는 지난 22일 'GPT-5.6 솔'과 미공개 모델이 내부 보안 평가 중 외부 플랫폼을 해킹한 사실을 공개했다. (사진=뉴시스)
앞서 앤트로픽의 최신 AI 모델 '클로드 미토스'가 인간 수준을 뛰어넘는 해킹 능력을 보이며 전 세계적으로 '미토스 쇼크'가 불거졌습니다. 이어 오픈AI는 지난 22일 'GPT-5.6 솔'과 미공개 모델이 내부 보안 평가 중 외부 플랫폼인 허깅페이스를 해킹한 사실을 밝혔습니다. 최근 오픈AI 모델이 해킹 과정에서 통제를 벗어나 다른 외부 서비스들을 더 침투했던 사실이 드러나기도 했습니다. AI가 스스로 취약점을 찾아 실제 공격을 수행한 범위가 예상보다 넓었던 것으로 확인되면서 AI 안전성 논란과 보안 위협 우려가 가중되고 있는 겁니다.
글로벌 빅테크들도 대응에 나섰습니다. 마이크로소프트(MS)는 최근 복수의 AI 에이전트가 협업해 사이버 위협을 탐지하고 분석하는 보안 시스템 '프로젝트 퍼셉션'을 공개했습니다. 기존처럼 단일 AI가 대응하는 방식이 아니라 여러 AI가 역할을 분담해 대응하는 구조로, 침해 경로를 찾는 레드팀, 위험도를 분석하는 블루팀, 시정 조치를 수행하는 그린팀 에이전트들이 방어 체계를 구축하는 방식입니다. 다음 달 3일부터 공개 프리뷰 버전이 제공될 예정입니다.
엔비디아는 지난 28일 AI 보안 생태계 구축을 위한 글로벌 협의체 '오픈 시큐어 AI 얼라이언스'를 출범했습니다. MS와 IBM, 시스코, 팔로알토네트웍스 등 글로벌 40여개 기업과 기관이 참여했고, 국내에서는 SK텔레콤과 네이버가 이름을 올렸습니다. 엔비디아는 국제 협력을 통해 개방형 AI 모델과 보안 도구를 공동 개발하고 사이버 보안 위협에 선제적으로 대응한다는 계획입니다.
업계 한 관계자는 "AI 기술이 금융과 의료, 공공 서비스까지 확산되는 상황에서 보안 위협의 파급력은 더 커질 수밖에 없다"며 "AI 모델의 자율성과 성능이 빠르게 발전하면서 국내외 사이버 보안을 둘러싼 개발 경쟁과 협력은 한동안 이어질 것"으로 내다봤습니다.
안창현 기자 chahn@etomato.com
이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 김충범 테크지식산업부장이 최종 확인·수정했습니다.
ⓒ 맛있는 뉴스토마토, 무단 전재 - 재배포 금지