경기도의회 유호준 의원(더불어민주당, 남양주 다산1동)은 11월 9일(월) 진행된 제395회 정례회 미래과학협력위원회 첫 행정사무감사에서 AI국을 대상으로 경기도가 추진하는 행정 AX(AI 전환) 과정의 차별·혐오 인식 기반 자료 필터링 대책 마련과 도정 홍보물 모니터링 체계 구축, 공공기관 개인정보 관리 체계 고도화를 주문했다.

본격적인 질의에 앞서 유호준 의원은 “저에게는 다섯 번째 행정사무감사이자 미래과학협력위원회에서는 맞이하는 첫 번째 행정사무감사”라며, “지난 본회의 도정질문에서도 밝혔듯 성별, 종교, 장애, 나이, 사회적 신분, 출신 지역·국가·민족, 용모 등 신체 조건, 임신·출산, 가족 형태, 인종, 피부색, 사상·정치적 의견, 범죄경력, 성적지향, 학력, 병력 등 어떠한 차이와도 상관없이 존엄한 경기도민의 삶을 위해 도정이 제 역할을 다하고 있는지 점검하겠다”고 감사에 임하는 각오를 밝혔다.

이날 유 의원은 우선 지난 9월 3일 경기여성가족재단이 연 ‘젠더 관점에서 본 경기도 AI 정책’ 주제의 젠더 폴리시 세미나(Gender Policy Seminar)를 거론하며, 행정 AX 전환 이면에 자리한 데이터 편향성과 차별 재생산 우려를 짚었다. 유 의원은 “행정 AX 전환은 도민에게 편리한 행정서비스를 제공할 기회가 될 수 있지만, AI가 학습하거나 답변을 생성할 때 활용하는 인터넷상의 정보에는 특정 집단에 대한 차별이나 혐오적 인식이 담겨 있을 수 있다”며 “이를 충분한 검토 없이 활용할 경우 기존의 사회적 편견이 행정서비스에 그대로 투영되거나 확대될 우려가 크다”고 지적했다.

이에 경기도 관계자가 “행정 AX 전환과정에서 국정원 가드레일 지침에 따라서 필터링을 하고 있다”고 답하자, 유 의원은 “국정원에만 의존할 것이 아니라, 행정 AX 전환 과정에서 혐오·차별적 인식이 포함된 자료가 AI 학습 및 답변 생성 단계에서 철저히 배제될 수 있도록 경기도만의 명확한 윤리 기준과 꼼꼼한 필터링 체계를 갖춰야 한다”고 강조했다.

아울러 이러한 AI 필터링 기술이 도정 전반의 인권 및 성평등 감수성을 높이는 계기로 이어져야 한다고 제언했다. 유 의원은 지난해 세계여성의날 당시 경기도가 여성정책 사업을 알리면서 ‘남편이 웃는 여성정책’, ‘아빠가 웃는 여성정책’, ‘남친이 웃는 여성정책’ 등의 문구와 함께 임신·출산 정책을 소개했다가 도민 반발로 홍보물을 삭제하고 사과했던 사례를 언급하며 “당시 홍보물 제작 과정에 성평등 관점의 심의 프로토콜을 만들겠다고 했는데, 이런 프로토콜 마련에 다양한 차별·혐오를 배제하고 평등 관점의 준비가 필요할 것 같다”고 밝혔다.

이와 함께 유 의원은 외부 데이터 필터링 못지않게 AX 행정의 핵심 과제인 ‘도민 개인정보 및 공공데이터 보안 관리 체계’의 전반적인 개선도 촉구했다. 현재 경기도 내 41개 시스템에서 대규모 도민 정보가 다뤄지고 있으며, 약 345만건을 보유한 경기도 평생학습포털을 비롯해 각 기관별로 수만 건 이상의 민감 개인정보가 관리되고 있는 실정이다.

유 의원은 “수백만 건에 달하는 도민의 개인정보가 축적되어 있음에도, 일선 공공기관에서는 한 달에 한 번 화면을 캡처해 보고서를 올리는 식의 형식적인 보안 점검에 그치는 경우가 많다”며 “개인정보 유출에 대한 불안과 책임을 일선 실무자 개인의 몫으로만 돌릴 것이 아니라, AI국이 전문성을 발휘해 경기도 및 산하 공공기관의 개인정보 관리 체계를 한층 고도화하고 보안 점검 프로그램의 질을 대폭 향상시킬 수 있는 전문 지원 프로그램을 마련해야 한다”고 당부했다.

끝으로 유호준 의원은 “신설된 AI국이 타 실·국으로부터 전문성과 존재 가치를 인정받기 위해서는 소관 업무에만 머물지 않고, 타 부서의 AI 관련 조례 제·개정이나 사업 추진 시에도 적극적으로 사전 검토와 의견 조회를 거치는 총괄 거버넌스를 확립해야 한다”며 “차별과 혐오 없는 안전한 AI 행정 구현과 철저한 개인정보 보호를 위해 AI국이 주도적인 역할을 해달라”고 주문했다.

양승현 리포터