DGIST 김영식 교수 연구팀 개발
글 변화 추적해 오탐률 2%대 낮춰

인공지능(AI)에 의해 조작된 글을 명확히 판별해내는 포렌식 기술을 국내 연구진이 개발했다. 가짜뉴스로 인한 사회적 혼란 방지와 디지털 저작권 보호에 활용될 것으로 보인다.

대구경북과학기술원(DGIST)은 전기전자컴퓨터공학과·인공지능전공 김영식 교수 연구팀이 오탐률을 2%대로 낮춘 혁신적 텍스트 워터마킹 기술 ‘브루’(BREW·Block-wise Reliable Embedding for Watermarking)를 개발했다고 2일 밝혔다.

브루는 AI가 작성한 글에 눈에 보이지 않는 고유의 디지털 워터마크를 심어두고 텍스트가 훼손되거나 조작되면 문장의 변화를 추적하는 방식으로 작동한다. 따라서 AI로 단어를 교체하거나 문장 구조를 비틀어 암호를 지우려 해도, ‘윈도우 시프팅(Window-Shifting)’ 기법을 통해 정렬을 복구하고 워터마크를 추적할 수 있다.

기존 기술은 사람이 작성한 글도 AI 생성 글로 잘못 판단하는 등 오탐률이 높아 실제 적용에 한계가 있었다. 하지만 브루의 실험 결과 AI가 생성한 글의 10%를 동의어로 바꾸는 훼손 환경에서도 96.5%의 높은 탐지율을 나타냈다.

연구 성과는 AI 분야 최고 권위 학회인 ‘국제머신러닝학회(ICML) 2026’에 채택됐다. 이에 따라 연구팀은 오는 6일 서울 코엑스에서 열리는 ‘ICML 2026’에서 결과를 발표할 예정이다.

김 교수는 “기존 기술의 치명적 결함을 극복하고, 악의적인 텍스트 훼손 시도까지 완벽히 방어해 내는 강력한 기술”이라며 “향후 가짜뉴스로 인한 사회적 혼란을 막고 글로벌 AI 포렌식 분야에서 핵심적인 역할을 할 것”이라고 밝혔다.

대구 민경석 기자