[뉴스토마토 전연주 기자] 인공지능(AI)이 이용자를 대신해 판단하고 행동하는 '에이전틱 AI'로 진화하면서 개인정보 보호의 방식도 달라지고 있습니다. 사후 제재를 넘어 개발 단계부터 보호 장치를 설계하고, 편향과 정보 공유의 맥락, 국가 간 규제 공조까지 함께 살펴야 한다는 논의가 이어졌습니다.
개인정보보호위원회는(개보위) 29일 서울 양재 엘타워에서 '개인정보보호가 이끄는 혁신, 협력으로 높이는 대응 역량'을 주제로 '글로벌 AI 프라이버시 포럼(Global AI Privacy Forum) 2026'을 열었습니다. 캐나다, 스페인, 유럽, 일본, 홍콩 등의 개인정보 감독기구와 메타·마이크로소프트·소니 등 글로벌 기업과 학계 관계자들이 참석했습니다.
송경희 개인정보보호위원회 위원장이 29일 서울 서초구 엘타워에서 개최한 '글로벌 AI 프라이버시 포럼 2026'에서 기념촬영을 하고 있다. (사진=개보위)
송경희 개보위원장은 AI 시대 핵심 과제로 △개인정보 보호와 혁신의 균형 △포용적 역량 강화 △아동·청소년 보호를 제시했습니다. 송 위원장은 "개인정보 보호는 혁신의 장벽이 아니라 책임 있는 혁신을 위한 신뢰의 기반"이라며 "아동·청소년이 안전한 디지털 환경에서 AI와 함께 성장할 수 있도록 정책을 설계해야 한다"고 강조했습니다.
AI 편향과 맥락적 프라이버시도 화두로 올랐습니다. 앨리스 (Alice Xiang) 소니그룹 글로벌 AI 거버넌스 총괄은 "알고리즘 편향의 근본적인 문제 상당수가 학습 데이터 선택에서 비롯된다"고 설명했습니다. 김현우 KAIST 조교수는 에이전틱 AI 시대에는 정보 자체의 민감도보다 '맥락'을 판단하는 능력이 중요하다고 짚었습니다. 그는 "데이터 비식별화나 차등 개인정보보호만으로는 문제를 해결할 수 없다"며 "'이 정보를 공유하는 것이 적절한가'를 판단하는 사회적 추론이 필요하다"고 말했습니다.
사후 제재 넘어 예방으로…각국 대응도 변화
각국 감독 당국과 글로벌 기업도 AI 개발 초기부터 개인정보 위험을 줄이는 방향으로 대응 방식을 바꾸고 있습니다. 한국은 사전적정성 검토와 규제 샌드박스, 가이드라인 등을 활용하고 있는데요. 송 위원장은 "가장 효과적인 보호는 피해가 발생하기 전에 구축되는 보호"라며 "AI의 기획·개발·테스트·배포 전 과정에서 위험을 줄여야 한다"고 강조했습니다.
미국 기업들은 개인정보 보호 원칙을 제품 설계와 기술 인프라에 반영하는 사례를 소개했습니다. 캐리 벤(Cari Benn) 마이크로소프트 최고개인정보보호책임자(CPO)는 "제품 개발·배포 과정에서 책임 있는 AI, 개인정보 보호, 보안, 안전 검토를 진행한다"며 데이터보호 영향평가로 개인정보 처리와 보호 조치를 점검한다고 밝혔습니다.
필리프 뒤프렌(Philippe Dufresne) 캐나다 개인정보보호위원은 "개인정보 보호와 혁신은 제로섬 게임이 아니다"라며 "시민들은 둘 중 하나를 선택하도록 강요받아서는 안 된다"고 말했습니다.
스페인은 감독당국이 직접 AI를 도입하며 규제 경험을 쌓고 있습니다. 루이스 데 살바도르 카라스코(Luis de Salvador Carrasco) 스페인 개인정보보호청(AEPD) 국장은 자체 AI 시스템을 개발하고 있다며 "개인정보 보호가 AI 활용의 위협이 아니라 권리와 처리의 품질을 보장한다는 것을 보여주기 위한 것"이라고 설명했습니다.
국가 간 공조 확대…아동·청소년 보호도 과제
국제공조와 아동·청소년 보호 필요성도 강조됐습니다. 송 위원장은 "AI의 혜택을 누리는 데 있어서도, 그 위험으로부터 보호받는 데 있어서도 어느 국가도 뒤처져서는 안 된다"고 말했습니다. AI 서비스가 국경을 넘어 확산하는 만큼 각국의 규제 경험과 기술 전문성을 공유해야 한다는 취지입니다.
미래 세대 보호도 주요 의제로 다뤄졌습니다. 생성형 AI를 사용하는 아동·청소년이 채팅 과정에서 개인정보와 사적인 내용을 자연스럽게 입력할 수 있는 만큼, 서비스 설계 단계부터 안전과 프라이버시를 함께 고려해야 한다는 의견이 나왔습니다.
전연주 기자 kiteju1011@etomato.com
이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 김기성 편집국장이 최종 확인·수정했습니다.
ⓒ 맛있는 뉴스토마토, 무단 전재 - 재배포 금지