[엔트로피타임즈 손영남 기자] 유럽과 미국 등 주요 국가에서 선거를 앞두고 인공지능 기반 허위 콘텐츠가 확산되면서 정치 환경에 미치는 영향이 논쟁으로 이어지고 있다. 특히 실제 정치인의 음성과 영상을 정교하게 조작한 사례가 등장하면서, 기존과는 다른 차원의 정보 왜곡 문제가 제기되고 있다.

대표적으로 미국에서는 특정 후보가 유권자들에게 투표 참여를 자제하라는 내용의 자동 음성 메시지가 유포되는 사건이 발생했다. 해당 음성은 실제 정치인의 발언처럼 들리도록 합성된 것으로 확인됐으며, 이후 당국이 조사에 착수하면서 논란이 확대됐다.

유럽에서도 유사한 사례가 보고됐다. 선거를 앞둔 일부 국가에서는 정치인이 특정 발언을 하는 것처럼 보이는 영상이 온라인상에서 확산됐고, 이후 조작된 콘텐츠로 확인되면서 선거 캠페인에 영향을 미쳤다는 분석이 제기됐다.

이처럼 딥페이크 기술이 실제 정치 과정에 활용되는 사례가 등장하면서, 단순한 기술 이슈를 넘어 선거 신뢰도와 직결된 문제로 인식되고 있다.

◆ 딥페이크 기반 허위 정보 확산…유통 구조 변화

딥페이크 기술은 인공지능을 활용해 특정 인물의 얼굴이나 음성을 합성하는 방식으로 구현된다. 최근에는 관련 기술이 빠르게 발전하면서 일반 사용자도 비교적 쉽게 콘텐츠를 제작할 수 있는 환경이 형성되고 있다.

이러한 변화는 허위 정보 유통 방식에도 영향을 미친다. 기존에는 텍스트 중심의 정보가 주요 경로였다면, 현재는 영상과 음성을 활용한 콘텐츠가 높은 파급력을 가지며 빠르게 확산되는 특징을 보인다.

특히 소셜미디어 플랫폼을 통해 짧은 시간 내 대규모 확산이 가능하다는 점이 주요 변수로 작용한다. 알고리즘 기반 추천 시스템은 자극적인 콘텐츠를 빠르게 노출시키는 경향이 있으며, 이는 허위 정보의 확산 속도를 높이는 요인으로 지적된다.

문제는 이러한 콘텐츠가 사실 여부를 판단하기 어렵다는 점이다. 실제 인물과 구별하기 어려운 수준의 영상이 제작될 경우, 유권자가 이를 사실로 인식할 가능성이 존재한다. 이는 선거 과정에서 정보 왜곡으로 이어질 수 있으며, 특정 후보에 대한 이미지 형성에도 영향을 미칠 수 있다.

또한 딥페이크는 단순한 허위 정보 유포를 넘어, 특정 인물의 신뢰도를 훼손하거나 정치적 메시지를 왜곡하는 방식으로 활용될 가능성도 제기된다. 이는 기존의 허위 정보와 비교해 영향 범위와 지속성이 크다는 점에서 차별화된다.

◆ 규제와 플랫폼 대응 확대…표현의 자유와 균형 논쟁

이러한 사례가 확산되면서 각국 정부와 플랫폼 기업들은 대응을 강화하는 움직임을 보이고 있다. 일부 국가는 선거 기간 동안 딥페이크 콘텐츠에 대한 표시 의무를 도입하거나, 허위 정보 유포에 대한 처벌 규정을 강화하는 방안을 검토하고 있다.

플랫폼 기업들도 자체적인 대응 체계를 구축하고 있다. 인공지능 기반 탐지 기술을 활용해 조작된 콘텐츠를 식별하거나, 의심 콘텐츠에 경고 표시를 부착하는 방식이 대표적이다. 일부 플랫폼은 특정 유형의 정치 콘텐츠에 대한 노출을 제한하는 정책도 도입하고 있다.

다만 이러한 대응은 표현의 자유와의 충돌 가능성을 내포하고 있다. 규제 수준을 어디까지 설정할 것인지에 대한 기준이 명확하지 않은 상황에서, 과도한 제한이 정당한 표현을 위축시킬 수 있다는 우려가 제기된다. 반대로 규제가 부족할 경우 허위 정보 확산을 통제하기 어렵다는 지적도 동시에 존재한다.

기술적 대응 역시 한계를 가진다. 딥페이크 생성 기술과 탐지 기술이 동시에 발전하면서 완벽한 식별이 어려운 상황이 이어지고 있기 때문이다. 이에 따라 일부 전문가들은 기술적 대응뿐 아니라 미디어 리터러시 교육과 정보 검증 체계 강화가 병행돼야 한다고 분석한다.

국가 간 정책 차이도 중요한 변수다. 규제 강도가 높은 국가와 그렇지 않은 국가 간 정보 유통 환경이 달라질 수 있으며, 이는 글로벌 플랫폼 운영 방식에도 영향을 미칠 수 있다.

AI 기반 허위 콘텐츠는 이미 정치 환경에 영향을 미치는 요소로 작용하기 시작했다. 실제 사례가 등장하면서 논의는 기술 가능성에서 현실 문제로 이동하고 있으며, 이에 따른 제도적·사회적 대응 필요성이 함께 제기되는 상황이다.