미 국방성 청사(펜타곤)에서 검은 연기가 피어오르는 사진이 급속도로 온라인에 퍼졌다. 알고 보니 이 사진은 생성 인공지능(AI)이 만든 것으로 추정되는 가짜 이미지였다. 그러나 몇 시간 만에 이 사진은 트위터 등 온라인 세상을 휩쓸었고, 급기야 금융시장에까지 영향을 미쳤다.

올 상반기 인터넷 포털사이트 뉴스에 올라온 기사로 AI가 만든 가짜 이미지가 얼마나 많은 혼란을 야기할 수 있는지 단적으로 보여준 사건이었다.

또한 유튜브 쇼츠(shorts)에서는 외국의 유명 축구선수의 인터뷰 영상을 AI로 편집해 우리나라 선수를 언급하는 것처럼 조작한 영상을 쉽게 접할 수 있다. 이들 영상의 공통점은 일본이나 중국 기자들이 무례한 질문을 한 것처럼 조작해 사실상 특정 국가의 혐오 정서를 불러일으키고 있다는 점이다. 챗GPT 등 생성형 AI가 보편화 됨에 따라 AI를 이용하여 누구든지 허위사실과 이미지를 쉽고, 정교하게 가공.배포할 수 있다.

만약, 이러한 가짜뉴스가 선거가 임박한 시기에 무작위적으로 배포된다면 선거의 결과를 왜곡할 수 있다는 점은 자명하다. 이로 인한 부작용으로 이념 간 양극화가 심해지고, 상대방에 대한 혐오로 국민 분열을 야기할 수 있다.

특히 유튜브 등의 경우 채널접근 경로 특성상 가짜뉴스를 접하게 되는 유권자들의 성향이 비슷할 수 있다. 유권자로서는 본인이 좋아하는 동영상만을 접하면서 점점 확증편향이 생기게 마련이다. 나도 모르는 사이에 AI를 활용한 SNS에 종속되어 주체적인 판단 능력이 상실되는 부작용이 발생하는 것이다.

이러한 문제점을 해결하기 위하여 내년에 실시하는 제22대 국회의원선거에서 AI발 가짜뉴스에 대처하는 방안을 생각해보면, 우선 AI 가짜뉴스의 유통 경로인 플랫폼의 책임을 강화하여 가짜뉴스를 차단하고, 진실한 정보를 전달하기 위한 시스템을 구축할 필요가 있다.

또한 플랫폼을 이용하여 각종 정보를 받아들이는 유권자들의 인식 개선이 필요하다. 새롭고 자극적인 뉴스인 경우에는 출처와 근거를 의심하고 확인하는 습관과 진실 여부를 중복 체크하는 노력이 필요하다. 유튜브 채널경로 특성을 고려하여 나와 다른 의견도 능동적으로 받아들여 주체적인 판단을 할 수 있는 능력도 키울 필요가 있다.

이와 함께, AI 가짜뉴스에 대처하는 각 기관의 법과 제도적 대책이 필요하다. 특정 후보자의 당선 또는 낙선을 목적으로 허위사실을 유포한 경우 최초 유포자뿐 아니라 이를 전달한 사람도 공직선거법 제250조(허위사실공표죄)에 따라 처벌될 수 있는데, 관련 법률의 홍보 및 인터넷에 게시된 AI 가짜뉴스의 신속한 삭제조치 등 각 기관 간 유기적인 협업체계 구축도 필요하다.

내년 제22대 국회의원선거를 앞두고 법·제도, 플랫폼의 예방시스템 등이 그 기능을 다 하지 못한다 하더라도, 유권자 스스로가 소셜미디어를 통해 전파되는 'AI 가짜뉴스'에 현혹되지 않고 가짜뉴스를 걸러내는 지식과 힘을 길러야 한다. 우리 유권자들이 AI 가짜뉴스를 기반으로 한 네거티브 선거전략에 맞서 정책과 공약을 보고 후보자를 선택하는 성숙한 시민이 된다면, AI 가짜뉴스는 설 자리를 잃게 될 것이다.

/박용환 강화군선거관리위원회 선거계장

---