선거철 ‘생성 AI’ 가짜 뉴스 주의보, 정부 제재 정당한가

나날이 발전하는 생성형 AI, 선거철 딥페이크·음성 변조 등 가짜 뉴스 위험
김만배-신학림 인터뷰 이후 가짜 뉴스 잡는 여당, 법률 개정 칼 뽑았다
모호한 '가짜 뉴스' 기준, 정부가 잘못 나서면 그대로 위헌이다?

내년 4월 우리나라 22대 국회의원 총선거, 11월 미국 대통령 선거 등 국내외 대규모 정치 이벤트를 앞두고 ‘가짜 뉴스(Fake news)’ 확산 위험이 커지고 있다. 특히 음성 위·변조, 딥페이크 등 생성형 인공지능(AI)을 악용한 사이버 범죄 발생이 크게 우려되는 상황이다. 과학기술정보통신부와 한국인터넷진흥원(KISA)은 이 같은 내용을 담은 ‘2024년 사이버 보안 위협 전망’을 발표했다. 차후 정부의 가짜 뉴스 단속에 힘이 실릴 것으로 전망되는 가운데, 일각에서는 과한 단속은 오히려 ‘위헌 행위’가 될 수 있다는 우려도 제기된다.

기술과 함께 발전하는 ‘선거철 허위 정보’

과기정통부와 KISA는 새해 사이버 보안 위협으로 △생성형 AI를 악용한 사이버 범죄 가능성 증가 △정치·사회적 이슈를 악용하는 사이버 위협 고조 △운영기술(OT)·산업제어시스템(ICS) 및 사물인터넷(IoT) 환경의 보안 위협 증가 △소프트웨어(SW) 공급망 공격 등을 꼽았다. 특히 2024년 대규모 선거철을 앞두고 생성형 AI가 사이버 보안에 커다란 위협으로 떠오른 상황이다.

생성형 AI를 활용하면 전문 지식이 없는 사람도 악성코드 제작, 사회공학적 공격, 허위 정보 유포 등 다양한 사이버 공격을 시도할 수 있다. 특히 생성형 AI와 대규모언어모델(LLM)을 활용한 범죄 방법 및 ‘타깃’이 다크웹 등 해킹 포럼에 소개될 경우, 누구나 쉽게 집단 사이버 범죄에 가담할 수 있다.

실제 생성형 AI 기반 사이버 범죄 도구는 여럿 발견된 바 있다. 비전문자 공격 대상을 쉽게 속일 수 있도록 정교하게 이메일 본문을 작성하거나, 악성 프로그램을 제작해 피싱 이메일 공격을 도와주는 식이다. 정치적 행사가 있을 때 이 같은 해킹범들의 ‘네트워크’는 갈등 조장의 창구가 될 수 있다. 딥페이크 및 음성 변조 기술을 활용해 가짜 뉴스를 생산하거나, 과거 유출된 내용으로 거짓 해킹을 주장하는 등 사회 혼란을 야기할 수 있다는 의미다.

여당, 尹 공격했던 ‘가짜 뉴스’ 잡기 혈안

선거철에 횡행하는 가짜 뉴스는 오랜 골칫거리다. 당장 지난해 치러진 20대 대통령 선거 당시만 봐도 선거일 직전 발표된 모 인터뷰가 ‘허위’라는 의혹이 일며 정치권이 발칵 뒤집힌 바 있다. 2022년 3월 6일, 뉴스타파는 화천대유 대주주 김만배와 신학림 전 전국언론노동조합(언론노조) 위원장의 2021년 9월 15일자 인터뷰를 공개했다. 해당 녹취록에는 김만배가 부산저축은행 수사 당시 조우형씨의 부탁으로 윤 대통령에게 박영수 전 특별검사를 연결해 줬으며, 윤석열 당시 검사가 일부러 상황을 무마했다는 내용이 담겨 있었다.

인터뷰 이후 김씨는 신 전 위원장에게 1억6,500만원에 달하는 거액을 송금했으며, 신 전 위원장은 대선 사흘 전 뉴스타파를 통해 해당 인터뷰를 보도했다. 당시 여당에서는 해당 인터뷰가 대선 여론 조작을 위한 ‘허위’라는 비판이 빗발쳤다. 김씨가 금전 청탁을 통해 허위 인터뷰를 실시·보도, 당시 윤석열 대통령 후보에 대한 여론을 뒤흔들었다는 것이다. 실제 해당 인터뷰는 윤 대통령에게 치명타를 안길 만한 내용이었다.

이후 윤석열 정부는 가짜 뉴스에 대한 경계심을 감추지 않고 있다. 야당이 지속적으로 가짜 뉴스를 활용해 선거 상황을 뒤집으려 한다는 주장에서다. 지난 9월에는 국회 과학기술정보방송통신위원회 소속 국민의힘 의원들이 국회 의원회관에서 ‘가짜뉴스 근절 입법청원 긴급 공청회’를 개최하기도 했다. 이들은 가짜 뉴스가 정치·경제·사회 분야에 심각한 피해를 끼치고 있다며 관련 입법을 조속히 처리하겠다고 밝혔다.

가짜의 기준이 뭔데? 섣부른 제재는 ‘위헌’

문제는 가짜 뉴스를 간단히 잡아낼 수 없다는 점이다. 가짜 뉴스 대응을 본격화한 유럽의 사례를 살펴보면 정부 차원 대책의 한계를 명확히 알 수 있다. 유럽은 2015년부터 시작된 극단적 인종 혐오, 2016년 영국의 브렉시트 국민투표 전후 SNS 대혼란 등을 경험하며 허위·조작 정보에 대한 대응 수위를 높이기 시작했다.

2018년 프랑스는 선거 전 3개월 동안 법원이 온라인 플랫폼에 허위 정보를 게시하지 못하도록 명령할 수 있는 ‘정보조작대처법’을 마련했다. 독일은 ‘네트워크 집행법’이라는 이름의 법안을 마련했다. 디지털 플랫폼이 위법적인 콘텐츠나 댓글을 신고할 수 있는 시스템을 만들 것, 신고가 들어오면 위법성을 판단한 뒤 24시간 안에 삭제할 것 등을 강제하는 내용이다. 스페인은 온라인상의 허위 정보 단속을 목적으로 하는 초법적 상설 기구 설립을 위해 2020년 장관령을 개정했다.

그러나 공권력에 의한 ‘가짜뉴스 단속’에는 그만한 위험이 따른다. 애초 가짜 뉴스에 대한 정의와 기준이 명확하지 않을뿐더러, 정부가 직접 가짜 뉴스를 단속하게 되면 ‘정부 비판 보도’를 규제하는 모습이 연출될 가능성이 높기 때문이다. 표현의 자유 침해 논란이 불가피한 셈이다. 실제 허위 사실을 무조건 표현의 자유 영역에서 배제할 순 없다는 헌법재판소 판례도 존재한다.

현재 국회에서는 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정법률안’ 2건이 심사 중이다. 해당 개정안들의 목적은 허위 조작 정보와 영상물 등에 대한 규제, 즉 ‘가짜 뉴스 타도’다. 하지만 특정 표현의 진위를 규제하는 행위는 그 자체가 ‘위헌’이 될 수도 있다. 생성형 AI를 중심으로 가짜 뉴스 생산 기술이 빠르게 발전하는 가운데, 정부가 준비한 ‘채찍’은 과연 정당성을 띨 수 있을까.