서울시는 시민들이 인공지능(AI) 행정을 안심하고 신뢰할 수 있도록 ‘서울시 인공지능 활용 윤리 지침’을 만들었다고 4일 밝혔다. 이번 달부터 공공행정 전 분야에 적용되는 지침은 공공성, 공정성, 투명성, 책임성, 안전성 등 5가지 원칙을 ‘서울형 AI 윤리 기준’으로 정하고 있다.

공공성은 AI가 시민 전체의 삶의 질을 높이는 공공의 수단으로 활용되어야 한다는 뜻이다. 공정성은 AI 기반 행정서비스가 특정 계층에 불리하게 작용하지 않아야 한다는 원칙이다. 투명성은 AI 활용 과정과 결과를 이해할 수 있도록 가능한 정보를 제공한다는 내용이다. 책임성에 따라 AI 활용 전 과정에서 인간의 감독과 책임이 전제되어야 한다. 안전성은 개인정보 보호와 시스템 보안을 강화한다는 원칙이다.

이번 지침은 지난해 9월 ‘서울시 인공지능 윤리 기반 조성에 관한 조례’가 제정된 데 따라 서울AI재단 등과 협력해 마련됐다. ‘인공지능기본법’과 행정안전부의 공공부문 인공지능 윤리 원칙을 반영했다. 강옥현 서울시 디지털도시국장은 “윤리와 신뢰를 기반으로 한 AI 행정으로 서울이 인공지능을 선도하는 도시로 나아갈 수 있도록 하겠다”고 말했다.

김주연 기자