소방재난본부 “AI 판단 정확도 약 77%”… 김 의원, 오류 관리체계 집중 점검
“AI 고도화될수록 상황실 근무자의 경험·전문성 중요”

서울시의회 김준성 의원(노원6, 더불어민주당)은 지난 2일 열린 제339회 임시회 도시안전건설위원회 소방재난본부 업무보고에서 인공지능(AI)을 활용한 119 신고접수 시스템의 정확성과 오류 대응체계를 집중 점검했다.

서울시 소방재난본부는 인공지능(AI)을 활용해 119 신고 내용을 실시간 분석하고 재난 유형을 분류하며 최적의 소방력을 배치하는 등 긴급 신고접수 체계의 고도화에 박차를 가하고 있다. 아울러 대원들의 신고접수 모니터링 범위를 기존 1대1 체계에서 최대 1대3까지 넓혀 효율성을 높일 방침이다. 소방재난본부에 따르면 해당 사업은 지난 2023년 인프라 구축을 시작으로 현재는 시스템 고도화 및 안정화 단계에 접어들었으며, 최근 서울시의회 질의에서 본부장은 현재 AI의 재난 상황 판단 정확도가 약 77% 수준에 도달했다고 밝혔다.

이에 김 의원은 “시민의 생명과 직결되는 119 신고에서 20%가 넘는 오류 가능성을 어떻게 관리할 것인지가 중요하다”며 “AI 활용을 확대하기에 앞서 정확성과 안정성이 충분히 검증됐는지 확인해야 한다”고 짚었다.

김 의원은 인공지능(AI) 판단의 최종 검증과 보완을 담당하는 상황실 근무자의 전문성과 경험을 핵심 과제로 꼽았다. 아울러 근무자의 인력 구성, 평균 재직 기간, 전문 인력 현황을 면밀히 파악할 수 있는 관련 자료의 제출을 요구했다.

김 의원은 “AI가 고도화될수록 이를 검증하는 사람의 경험과 전문성은 더욱 중요해진다”며 “재난·안전 조직은 개인의 경험이나 주관적 판단이 아니라 명확한 기준과 시스템으로 움직여야 한다”고 강조했다.

이에 AI 오류 판단 기준과 대응 매뉴얼, 담당자 교육 현황, 판단 수정 및 출동 소방력 변경 기록 등을 확인하고, 반복되는 오류가 시스템 개선에 어떻게 반영되고 있는지도 자료로 제출하도록 했다. 특히 신고접수 모니터링을 최대 1대3까지 확대하려는 만큼 정확성과 안정성을 판단한 근거와 실제 상황을 가정한 검증 결과를 면밀히 확인해야 한다고 주문했다.

끝으로 김 의원은 “AI 기술을 활용한 119 신고접수 고도화는 시민의 생명과 안전에 직결되는 사안”이라며 “충분한 검증과 명확한 오류 대응체계를 갖춘 뒤 시스템을 확대해 나가야 한다”고 당부했다.

류정임 리포터