인공지능 기술이 발전하면서 가짜뉴스의 형태도 급격히 진화하고 있어요. 예전에는 글자만 바꾸거나 맥락을 왜곡하는 수준이었다면, 이제는 AI가 실제처럼 보이는 영상, 음성, 이미지, 텍스트를 만들어내는 단계에 이르렀어요. 유명 정치인이 실제로 하지 않은 말을 하는 것처럼 보이는 영상이 유포되거나, AI가 생성한 날조 기사가 언론사 형태로 유통되는 사례들이 늘고 있어요.
AI 가짜뉴스는 단순히 ‘잘못된 정보’를 넘어서, 선거에 영향을 미치고 개인의 명예를 훼손하며 사회적 갈등을 조장하는 수단으로 악용되고 있어요. 어떤 유형의 AI 가짜뉴스가 실제로 존재하는지 구체적인 예시를 통해 알아보고, 어떻게 구별하고 대응할 수 있는지 살펴볼게요.
딥페이크 영상 — 실제 사례
정치인 딥페이크 사례
가장 주목받은 AI 가짜뉴스 유형 중 하나가 정치인 딥페이크예요. 2022년 러시아의 우크라이나 침공 초기, 젤렌스키 우크라이나 대통령이 “항복을 선언한다”고 발표하는 딥페이크 영상이 유포된 사례가 있어요. 실제 영상과 달리 목소리와 입 모양이 부자연스러웠고, 우크라이나 정부가 신속하게 허위임을 공식 발표하면서 큰 혼란 없이 수습됐어요. 이 사례는 전쟁 중에도 딥페이크가 심리전 도구로 활용될 수 있다는 것을 보여줬어요.
국내에서도 유명 정치인의 발언을 조작한 딥페이크 영상이 선거 기간 전후로 여러 차례 등장했어요. 실제 발언 영상에서 AI로 음성을 교체하거나, 다른 맥락의 발언을 편집해 허위 인상을 주는 방식이 많이 사용돼요.
연예인·유명인 딥페이크
- 국내외 유명 연예인의 얼굴을 이용한 허위 광고 영상이 SNS에 유포된 사례
- 존재하지 않는 인터뷰를 AI로 생성해 투자 사기에 활용한 사례
- 유명인의 목소리를 AI로 복제해 지인에게 금전을 요구하는 보이스피싱 사례
- 포르노 영상에 일반인·연예인 얼굴을 합성하는 딥페이크 성범죄
AI 생성 텍스트 가짜뉴스
자동 생성 허위 기사
GPT 계열의 대형 언어 모델이 발전하면서 언론사 기사 형식과 구분이 어려운 수준의 텍스트를 자동으로 생성하는 것이 가능해졌어요. 실제로 미국에서는 뉴스처럼 보이는 가짜 사이트들이 AI로 생성된 콘텐츠를 대량으로 배포하는 것이 발견됐어요. NewsGuard 같은 미디어 신뢰도 평가 기관들이 2023년에 이런 AI 생성 가짜뉴스 사이트를 수백 개 이상 확인했다고 발표한 바 있어요.
이런 사이트들의 특징은 실제 뉴스 사이트처럼 보이는 도메인 이름, 전문적으로 보이는 레이아웃, 그리고 AI로 생성된 대량의 기사들이에요. 수익은 주로 구글 애드센스 같은 광고로 창출하고, 허위 정보 확산을 통해 특정 정치적·경제적 목적을 달성하기도 해요.
소셜미디어 댓글과 여론 조작
AI를 이용한 가짜뉴스는 뉴스 기사 형태에만 국한되지 않아요. 소셜미디어에서 AI로 생성된 봇 계정들이 특정 의견을 대량으로 확산시키는 ‘여론 조작’도 심각한 문제예요.
- 선거 관련 허위 정보를 자동으로 생성하고 퍼뜨리는 봇 네트워크
- 기업 평판 공격이나 브랜드 이미지 훼손을 위한 부정 리뷰 자동 생성
- 특정 의약품·보건 관련 허위 정보를 의사처럼 보이는 계정으로 유포
- 주가 조작을 위해 기업 관련 허위 뉴스를 생성·배포하는 사례
AI 합성 이미지 가짜뉴스
사진 생성 AI 악용 사례
Midjourney, DALL-E, Stable Diffusion 같은 이미지 생성 AI가 급격히 발전하면서, 실제로 일어나지 않은 사건을 찍은 것처럼 보이는 사진을 만드는 게 쉬워졌어요. 2023년 3월 도널드 트럼프 전 미국 대통령의 체포 장면을 묘사한 AI 생성 이미지가 소셜미디어에 확산되면서 실제 뉴스로 오인된 사례가 있어요. 이미지 자체는 사실적으로 보였지만 손가락 개수, 배경 문자 등 세부 사항에서 부자연스러운 부분이 있었어요.
국내에서도 재난·사고 현장처럼 보이는 AI 생성 이미지가 카카오톡 단체 채팅방을 통해 유포되거나, 특정 인물의 비위 행위를 연상시키는 허위 이미지가 정치 공격에 활용되는 사례들이 있어요.
합성 이미지의 주요 유형
- 존재하지 않는 재난·사고 현장 이미지 — 공포·불안 조장 목적
- 유명인이 범죄·비위 행위를 하는 것처럼 보이는 합성 이미지
- 전쟁·폭동 등 분쟁 지역 이미지로 위장한 AI 생성 이미지
- 가짜 스크린샷 — 유명인의 SNS 발언처럼 보이도록 조작된 이미지
AI 음성 복제 가짜뉴스
보이스 클로닝 악용 사례
AI 음성 복제 기술(Voice Cloning)은 3~5초 분량의 음성 샘플만으로도 특정 인물의 목소리를 정교하게 재현할 수 있는 수준에 이르렀어요. 이를 악용한 사례가 여럿 보고되고 있어요. 미국에서는 2024년 민주당 대통령 예비선거를 앞두고 조 바이든 대통령의 목소리를 복제한 가짜 전화 메시지가 뉴햄프셔 주 유권자들에게 대량으로 발송된 사건이 있었어요. 메시지는 “경선 투표를 하지 말고 11월 본선을 위해 아껴두라”는 내용이었어요.
국내에서도 유명인의 목소리를 복제해 지인인 척 전화를 걸어 금전을 편취하는 보이스피싱 범죄가 등장하고 있어요. 목소리가 매우 자연스러워 피해자들이 알아채기 어렵다는 것이 심각한 문제예요.
AI 가짜뉴스 판별 방법
딥페이크 영상 판별 팁
AI로 생성된 영상은 기술이 발전할수록 정교해지고 있지만, 아직은 주의 깊게 보면 발견할 수 있는 특징들이 있어요. 얼굴 윤곽선과 헤어라인 주변의 흐릿함, 눈 깜박임 패턴의 부자연스러움, 귀걸이나 안경 같은 액세서리의 왜곡, 고개를 빠르게 돌릴 때 얼굴 모양의 변형 등을 주의 깊게 살펴봐요. 또한 영상 속 인물의 목소리와 입 모양이 완벽하게 일치하지 않는 경우도 딥페이크의 단서가 될 수 있어요.
텍스트·이미지 가짜뉴스 판별 체크리스트
- 출처 확인: 신뢰할 수 있는 언론사의 공식 사이트에서 동일 내용을 확인해요
- 역방향 이미지 검색: 구글 이미지 검색에서 원본 출처를 찾아봐요
- 세부 사항 확인: AI 이미지는 글자, 손가락, 배경 디테일에서 오류가 자주 생겨요
- 팩트체크 기관 확인: 뉴스 팩트체크, AFP 팩트체크 등에서 검증 여부를 확인해요
- 감정 유발 컨텐츠 주의: 강한 분노나 공포를 유발하는 내용일수록 가짜뉴스 가능성이 높아요
AI 가짜뉴스에 대응하는 사회적 노력
각국 정부와 플랫폼 기업들은 AI 가짜뉴스 문제에 대응하기 위한 규제와 기술 개발을 서두르고 있어요. 유럽연합의 AI 법(AI Act), 한국의 딥페이크 관련 정보통신망법 개정, 그리고 메타·유튜브·X(구 트위터) 등 플랫폼들의 AI 생성 콘텐츠 표시 정책이 대표적인 대응 사례예요. C2PA(Content Credentials) 표준처럼 디지털 콘텐츠에 출처와 수정 이력을 기록하는 기술도 발전하고 있어요.
하지만 기술적·제도적 대응만으로는 한계가 있어요. 결국 가장 중요한 방어선은 미디어 리터러시, 즉 정보를 비판적으로 소비하는 개인의 능력이에요. 뉴스를 볼 때 출처를 확인하고, 감정적으로 강하게 반응하게 만드는 콘텐츠일수록 한 번 더 의심하고 검증하는 습관이 AI 가짜뉴스 시대를 살아가는 가장 현실적인 대응법이에요.