해킹엔 조사, 상장엔 경고…AI 질주 잇단 제동

FTC, 경영진 소환·자료 요구상장 중단 압박·주정부 소송

[뉴스토마토 이보라 기자] 인공지능(AI) 에이전트의 해킹과 보안사고로 AI 개발사들의 질주에 잇따라 제동이 걸리고 있습니다. 오픈AI와 앤트로픽은 연방거래위원회(FTC)의 조사를 받고 있고, 오픈AI는 소비자보호법 위반을 주장하는 8개의 주정부로부터 연이어 피소를 당했습니다. 기업공개(IPO)를 앞둔 앤트로픽은 안전성 우려를 해소하기 전까지 상장을 중단하라는 요구에 직면했습니다.

 

샘 올트먼 오픈AI 최고경영자(CEO)가 지난달 29일(현지시각) 미국 샌프란시스코에서 열린 개발자 행사에서 방송 인터뷰를 하고 있다. 미국 연방거래위원회(FTC)는 AI 보안 사고와 관련해 오픈AI에 자료 제출을 요구하고 경영진 소환을 추진하고 있다. (사진=AFP/연합뉴스)

 

16일 악시오스와 로이터통신 등에 따르면 미 FTC는 최근 오픈AI와 앤트로픽에 AI 보안사고 관련 자료 제출을 요구하는 민사조사요구서(CID)를 발송했습니다. FTC는 두 회사의 소비자보호법 위반 가능성을 조사하고 있습니다. CID는 소송에 앞서 관련 증거를 확보하는 조사 수단입니다. 각 기업에 전달된 요구서는 50쪽이 넘으며, 보안사고와 안전조치 관련 자료뿐 아니라 마케팅 자료와 개인정보 처리방침도 제출 대상에 포함됐습니다. FTC는 경영진을 소환해 AI 제품의 안전성과 소비자 피해 가능성에 관한 증언도 확보할 계획입니다. 앞서 앤드루 퍼거슨 FTC 위원장은 지난달 언론 인터뷰에서 “개발사가 지시한 AI 보안 테스트가 해킹으로 이어졌다면 그로 인한 피해에 책임을 져야한다”며 에이전트 개발사의 피해 책임을 시사하기도 했습니다.

 

앞선 7월, 오픈AI의 에이전트는 테스트 도중 AI 개발 플랫폼인 ‘허깅페이스’(Hugging face)를 해킹해 ‘최악의 AI 보안사고’ 논란을 일으킨 바 있고, 6월에는 호주 정부의 보건 데이터 포털에도 무단 접근해 외교적 갈등을 빚기도 했습니다. 이와 함께 앤트로픽의 AI 모델이 미국 경찰에 허위 살인 제보를 제출한 사실도 드러났습니다. 미국 기술매체 아스테크니카는 이번 조사에서 확보한 증거가 향후 FTC가 안전하지 않은 제품 출시를 이유로 두 회사를 제소할 경우 소송을 뒷받침하는 근거로 활용될 수 있다고 전했습니다. 

 

이미 미국 주정부들은 오픈AI를 상대로 소송을 벌이고 있습니다. 로이터 등에 따르면 미국 내 8개주(△애리조나 △아칸소 △아이다호 △아이오와 △칸자스 △몬태나 △네브래스카△웨스트버지니아) 법무장관들은 지난 14일(현지시각) 오픈AI가 챗GPT의 위험성을 충분히 알리지 않은 채 소비자들을 기만했다며 각 주 법원에 민사소송을 제기했습니다.

 

아울러 연령 확인 등의 조치가 제대로 갖춰줘 있지 않아, 청소년이나 사용자들에게 자해 및 피해를 초래했다는 의혹도 제기했습니다. 챗GPT와 대화를 이어가다 지난해 4월 숨진 10대 소년 애덤 레인 사건과 플로리다주립대 총격 사건 범인이 챗GPT와 대화하며 범행 계획을 세운 사례가 대표적입니다. 아이오와주는 법 위반 1건당 최대 4만달러의 민사제재금과 소비자 환급을 청구하고, 충분한 안전장치를 마련해 제3자의 검증을 받기 전까지 AI 모델 테스트를 중단할 것을 요구했습니다. 앞서 플로리다주 역시 6월에 오픈AI를 상대로 소송을 제기한 바 있습니다.

 

다리오 아모데이 앤트로픽 최고경영자(CEO)가 지난달 29일(현지시각) 미국 워싱턴DC에서 백악관 회동을 앞두고 이동하고 있다. 앤트로픽은 AI 보안사고와 관련한 미 연방거래위원회(FTC) 조사와 기업공개(IPO) 중단 요구에 직면했다. (사진=AFP/연합뉴스)

 

IPO를 앞둔 앤트로픽에는 상장 중단 요구도 나왔습니다. 블룸버그통신 등에 따르면 마크 레빈 뉴욕시 감사원장은 다리오 아모데이 앤트로픽 최고경영자(CEO)에게 서한을 보내 AI안전성과 지배구조, 개발속도를 둘러싼 위험을 해결할 때까지 IPO를 중단할 것을 촉구했습니다. 적절한 감시·통제 방안과 범위·이행 일정도 공개하라고도 요구했습니다. 레빈 감사원장은 3250억달러 이상의 뉴욕시 공적 연기금을 감독하고 있습니다.

 

이보라 기자 [e-mail]

이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 오승훈 산업1부장이 최종 확인·수정했습니다.