개인정보위, 에이전틱 AI 주제로 브라운백 회의 개최

- 최신 에이전틱 AI 기술 특징 및 활용 사례와 함께 개인정보 처리 환경 변화에 따라 미래에 예상되는 프라이버시 이슈 논의

  최근 '오픈클로(OpenClaw)', '몰트북(Moltbook)' 등 에이전틱 AI 기반 서비스들이 시장에 잇따라 출시되며 큰 사회적 관심을 받고 있다. 이러한 기술은 작동 구조가 복잡하고 방대한 개인정보 처리에 기반하기에, 관련 기술에 대한 체계적 이해와 리스크 관리의 중요성이 높아지고 있다.

  이러한 가운데 개인정보보호위원회(위원장 송경희, 이하 '개인정보위')는 3월 12일(목) 정부서울청사에서 '에이전틱 AI' 기술을 주제로 브라운백 회의*를 개최하였다. 이번 회의는 최신 기술인 에이전틱 AI의 기술적 특징을 이해하고, 이로 인해 발생할 수 있는 프라이버시 이슈를 선제 발굴하여 향후 정책 수립의 기초를 마련하기 위해 진행되었다. 

    * 점심시간을 활용한 조직 내 지식 공유 및 소통 프로그램

  에이전틱 AI는 목표 설정부터 실행까지 자율적으로 작업을 수행하는 기술로, 서비스 과정에서 빈번한 개인정보 처리와 외부 시스템 연동이 이루어질 수 있다. 이러한 특성으로 인해 기존 AI 환경과는 다른 차원의 복합적인 프라이버시 리스크*가 발생할 가능성이 제기되고 있다.

    *①권한 확대(여러 서비스 연동 과정에서 에이전트의 권한이 의도치 않게 확대), ②프롬프트 인젝션(악의적 조작 입력 등을 통해 민감정보가 외부로 전달될 위험), ③민감정보 축적(에이전트의 메모리에 민감정보가 지속 축적될 위험) 등

  개인정보위는 이러한 기술 변화에 선제적으로 대응하기 위해 최신 기술 동향에 대한 이해를 높이고 전문 역량을 강화하고자 이번 회의를 마련하였다. 이를 통해 에이전틱 AI 환경에서 개인정보 안심설계(PbD) 등 사전예방적 정책 추진 기반을 강화해 나갈 계획이다.

  이날 회의에서는 전종홍 한국전자통신연구원(ETRI) 책임연구원이 발제자로 참석하여 에이전틱 AI 기술의 구조와 작동 방식, 프라이버시 측면에서의 주요 위험 요소에 대해 설명했다. 이어 몰트북, 오픈클로 등 에이전틱 AI 서비스 시연을 진행하였으며, 참석자들 간 다양한 질의·응답과 토의가 이어졌다.

  개인정보위는 이날 회의에서 제기된 주요 이슈와 정책 의제를 정리하여 ｢AI 프라이버시 민·관 정책협의회｣ 분과 회의에서 추가 논의하고, 이를 바탕으로 AI 에이전트 특화 개인정보 처리 안내서 마련 및 AI 프라이버시 리스크 관리 모델 고도화 작업에 반영해 나갈 계획이다.

* 기타 자세한 내용은 첨부파일을 확인해주시기 바랍니다.

- 담당자 : 인공지능프라이버시팀 전이루(02-2100-3078)