공공 영역의 인공지능(AI) 정책을 점검할 때 단순한 전체 평균 정확도에 매몰되기보다, 특정 사회적 계층이나 집단에 오류가 편중되는지 여부를 핵심 지표로 삼아야 한다는 주장이 제기됐다.

경기도의회 여성가족평생교육위원회 이채명 의원(더불어민주당, 안양6)은 지난 3일 경기도여성비전센터 강당에서 열린 ‘2026년 양성평등주간 기념 제8차 경기GPS(Gender Policy Seminar)’에 토론자로 참석해 “AI가 누구의 데이터를 학습하고 누구를 판단하는지를 묻는 것이 성인지 AI 정책의 출발점”이라며 이같이 밝혔다.

이날 이 의원은 “AI는 현실에서 생산된 데이터를 학습하는 만큼 기존 사회의 성별 격차와 불평등, 편향이 데이터와 알고리즘에 반영될 수 있다”고 진단했다.

이에 따라 도의회의 AI 사업 및 예산 심사 잣대 역시 근본적으로 전환되어야 한다고 짚었다. 기존의 총사업비, 개발·구축 기간, 단순 이용자 수 위주의 정량 평가를 넘어, 학습 데이터의 대표성과 함께 성별·연령·장애·지역·소득 등 다양한 교차집단별 오차 및 오류 발생률까지 정밀하게 검증해야 한다는 것이다. 이 의원은 “전체 평균 정확도만 봐서는 부족하다”라며 “중요한 것은 AI가 누구에게 더 많이 틀리는지를 확인하는 것”이라고 목소리를 높였다.

아울러 이를 뒷받침할 행정적 토대 마련의 시급성도 역설했다. 이 의원은 “자료가 없다는 답변에 그칠 것이 아니라 관련 데이터를 구축하고 관리할 수 있도록 예산과 행정 체계를 마련해야 한다”며 공공 차원의 책임 있는 데이터 인프라 조성을 촉구했다.

특히 공공조달 입찰 단계부터 성인지적 평가 기준을 의무화해야 한다는 구체적 실행 방안을 제안했다. 사업 제안요청서(RFP), 사업자 심사, 계약 조항 등에 성별 분리 데이터 구축 여부, 집단별 오류 발생 비율, 알고리즘 편향 점검 결과, 그리고 편향이 발견됐을 때의 즉각적인 수정 절차와 책임 주체 지정 등을 명문화해야 한다는 취지다.

복지, 돌봄, 채용, 교육, 의료, 안전 등 도민의 권익과 직결된 핵심 공공 영역의 AI 도입에 대해서는 사후 정기 감사 체계 구축과 인간 중심의 통제를 거듭 강조했다. 아동돌봄 분야의 AI 도입과 관련해서는 “아동의 이동과 안전, 위기 상황 파악을 지원할 수 있지만 위치정보와 개인정보, 감시 문제도 함께 검토해야 한다”고 환기한 뒤, “아동ㆍ복지ㆍ안전 분야에서 AI가 최종 판단자가 돼서는 안 된다. AI 분석을 활용하더라도 최종 판단과 책임은 사람이 맡아야 한다”고 선을 그었다.

이와 함께 AI 정책의 기획 및 평가 전 과정에 걸쳐 성평등, 인권, 장애, 아동, 돌봄 등 다방면의 현장 전문가와 정책 실수요자가 의무적으로 참여하는 민관 협력 거버넌스 구성을 제안했다.

이 의원은 경기도 AI 정책의 신뢰성을 담보할 핵심 검증 기준으로 ▲누구의 데이터를 학습했는가 ▲누구에게 더 많이 틀리는가 ▲잘못된 판단으로 피해가 발생했을 때 누가 책임지고 바로잡는가 등 세 가지 질문을 제시했다. 그러면서 “이 질문에 제대로 답하지 못하는 AI는 기술적으로 뛰어나더라도 공공 영역에서 신뢰를 얻기 어렵다”며 “도의회도 알고리즘이 도민에게 미치는 영향과 데이터의 공정성을 지속해서 점검해야 한다”고 역설했다.

한편 경기도여성가족재단이 주최한 이번 세미나는 ‘성인지 관점에서 본 경기도 AI 정책: 이슈와 방향’을 대주제로 개최됐으며, 참석자들은 AI 정책의 성인지적 분석 과제와 아동돌봄 등 공공 서비스 영역에서의 AI 활용 한계 및 개선책을 심도 있게 토론했다.

양승현 리포터