"행동하는 인공지능 시대, 이용자 보호 방안은?"

- 인공지능서비스 이용자 보호 컨퍼런스 개최…"정부·서비스 제공자 함께 나서야" -

방송·미디어·통신 환경에 인공지능 영향이 커지면서 새로운 이용자 보호 이슈가 발생, 이에 대한 국내 제도 개선과 정책 대응 방안 등을 모색하는 자리가 마련됐다.

방송미디어통신위원회(위원장 김종철)는 12일 서울에서 인공지능서비스 생태계의 주축인 이용자와 서비스 제공자, 규제 당국이 각자 역할과 책임을 통해 건전한 인공지능 이용 환경을 조성에 기여하기 위한 방안을 논의하는 '2026 인공지능서비스 이용자 보호 컨퍼런스'를 개최했다.

이번 컨퍼런스는 정보를 생성·제공하던 인공지능이 스스로 판단하고 행동하는 인공지능으로 진화하는 가운데 이용자 보호를 위해 정부, 기술, 산업, 이용자가 함께 그려야 할 방안을 선제적으로 모색하기 위해 마련됐다.

특히 생성형 인공지능 기술의 한 분야로, 사람이 설정한 목표를 달성하기 위해 외부 개입 없이 독립적으로 전략을 짜고 수행하는 인공지능 시스템인 '인공지능 에이전트(AI Agent)' 시대에 따른 이용자 보호 청사진을 논의했다.

'인공지능 에이전트' 서비스 확산에 따라 발생할 수 있는 위험에서 이용자를 보호하기 위한 사업자 책무와 정부 역할 등에 대한 의견 수렴 및 대국민 공감대 형성을 위한 자리로, 이날 컨퍼런스는 방미통위 유튜브 채널(www.youtube.com/@withKMCC)을 통해서도 생중계됐다.

'행동하는 인공지능 에이전트 시대, 이용자 보호 청사진을 그리다'를 주제로 열린 이번 행사는 기조발제와 발제, 집단토론 등의 순으로 진행됐다.

기조발제를 맡은 국가인공지능전략위원회 박태웅 공공에이엑스(AX)분과장은 기술 변화에 따른 이용자 보호 체계 변천사와 인공지능 에이전트 시대에 새롭게 제기되는 이용자 위험과 쟁점에 대해 발표했다.

고려대 인공지능보안연구소장 이상근 교수는 '안전한 행동 설계: 인공지능 에이전트의 위험 요소와 안전기술 동향'이라는 주제의 발제를 통해 에이전트 기술의 위험 요소와 안정성 확보를 위한 최신 기술 동향을 공유했다.

이어 정보통신정책연구원 조성은 박사가 '행동에 책임을 더하다: 인공지능 에이전트 서비스 이용자 보호의 출발점과 정책 과제'를 주제로 이용자 권익 보호를 위한 사업자 책무 및 향후 과제에 대해 논의했다.

발제 이후에는 연세대 법학전문대학원 오병철 교수를 좌장으로 '인공지능 에이전트 시대의 이용자 보호, 함께 그리는 청사진: 다자간 협력 방안 모색'에 대한 전문가 토론이 이어졌다.

토론자들은 인공지능 에이전트 서비스 확산에 따라 발생할 수 있는 이용자 위험과 방미통위의 역할, 정부·기술·산업·이용자 협력을 통한 이용자 보호 거버넌스 구축 방안에 대해 다양한 의견을 제시했다.

김종철 방미통위원장는 "이용자가 보호되어야 산업도 진흥할 수 있음에 따라 인공지능 에이전트 서비스 진흥과 이용자 보호가 동반 성장의 관계로 나아갈 수 있도록 오늘 논의된 의견을 정책에 적극 반영하겠다"면서 "이용자가 안전하고 신뢰할 수 있는 환경에서 인공지능서비스를 이용할 수 있도록 최선을 다할 것"이라고 말했다.

참고 1. '2026 인공지능서비스 이용자보호 컨퍼런스' 계획 및 포스터
참고 2. '2026 인공지능서비스 이용자보호 컨퍼런스' 포스터