KAIST 제공한국과학기술원(KAIST)은 문화기술대학원 이원재 교수, 전산학부 차미영 교수, 오혜연 교수 공동연구팀이 막스플랑크 연구소 토르스텐 홀츠 교수와 국제 공동연구를 통해 온라인 뉴스 댓글에서 외국 연계 영향력 활동으로 의심되는 패턴을 자동으로 탐지하고, 판단 근거까지 제시하는 '설명 가능한 AI 기술'을 개발했다고 12일 밝혔다.
특정 세력이 댓글이나 게시물을 조직적으로 확산해 사람들의 인식이나 여론에 영향을 미치려는 활동을 '온라인 영향력 공작'이라 한다. 기존 AI 탐지 기술은 특정 계정을 의심 계정으로 분류하더라도 '왜 이 계정을 의심하는가'에 대한 구체적인 근거를 제시하기 어려웠다.
연구팀은 국가안보전략연구원이 앞서 식별한 외국 연계 계정 70개를 출발점으로 삼았다. 이 계정들과 연관되거나 같은 기사에 반복적으로 댓글을 작성한 계정들을 추적해 2006년부터 2025년까지 20년간 네이버 뉴스에 작성된 약 1억 1000만 건의 댓글을 분석했다.
연구팀이 개발한 AI는 댓글을 단계적으로 분석한다. 작성자가 외국과 연계됐다고 의심할 만한 표현이나 맥락이 있는지를 살피고, 도덕적 비난이나 맹목적 찬양처럼 사회적 양극화를 키울 수 있는 감정이 나타나는지를 분석한다. 마지막으로 이런 감정이 어느 국가나 대상을 향하는지 파악한다.
특히 AI가 판단을 내리는 데 근거가 된 댓글 속 표현을 함께 제시해 사람이 이유를 확인할 수 있도록 했다. 여기에 계정의 활동 빈도와 활동 기간, 다른 의심 계정과의 활동 연관성 등 다양한 행동 패턴을 함께 분석했다.
연구팀은 이를 통해 네이버 뉴스 이용자 약 400만 명 가운데 외국 연계 영향력 활동이 의심되는 계정 2만 3998개를 식별했다. 분석 과정에서는 이들 의심 계정의 활동에서 주목할 만한 특징도 발견됐다. 특정 정치 진영을 일방적으로 지지하기보다는 한국 사회 내부의 갈등과 대립을 증폭시키는 방향의 메시지가 두드러진 것이다.
실제 대중의 호응을 많이 얻은 상위 10개 표적 가운데 7개가 국내 유명 정치인으로 나타났다. 특정 정당이나 이념에 집중되지 않고 진보와 보수 양 진영의 전·현직 대통령과 대선 후보, 정당 등이 폭넓게 대상이 됐다.
연구팀은 외국 연계 영향력 활동을 단순히 '어느 정치 세력을 지지하는가'의 관점만으로 바라봐서는 안 된다고 조언했다. 특정 진영을 직접 지원하기보다 기존의 정치적 갈등을 자극해 사회적 불신과 양극화를 확대하는 방식으로 영향력을 행사할 가능성도 살펴야 한다고 설명했다.
이원재 교수는 "20년간의 데이터를 분석한 결과, 의심 계정들은 외국을 직접 찬양하기보다 한국과 국내 정치인을 비난하며 갈등을 키우는 패턴을 보였다"며 "선거 등 사회적 갈등이 높아지는 시기에 우선 검토해야 할 메시지를 가려내는 기준이 될 것"이라고 말했다.
영문기사 보기 (View English Article)