"사랑합니다, 윤어게인" 태극기 집회서 고백한 미모의 20대 여성, 정체 충격적

정치 성향 메시지를 내세운 SNS 계정들 가운데 인공지능(AI)으로 조작된 사례가 잇따라 확인되면서 온라인 여론 조작 우려가 커지고 있다. 일부 계정은 여성 사진을 활용해 팔로워를 늘린 뒤 정치 콘텐츠를 확산한 것으로 전해졌다.

최근 극우 온라인 활동을 추적해 온 황희두 노무현재단 이사는 SNS를 통해 특정 정치 계정 운영 실태를 공개했다.

문제가 된 계정은 'OO조아'라는 이름으로 활동했다. 계정 소개에는 "자유대한민국을 사랑합니다. 윤어게인!" 등의 문구가 적혀 있었고, 20대 여성으로 보이는 사진들을 지속적으로 게시하며 주목을 받았다.

이 과정에서 이용자들은 사진과 게시물 전반에 부자연스러운 부분이 있다고 지적했다. 이후 의혹이 확산되자 운영자는 자신이 남성이라고 인정했다.

운영자는 사과문을 통해 "적절한 시점에 밝히지 못했다"며 "배신감을 느꼈을 분들께 사과한다"고 밝혔다.

현재 해당 계정은 삭제된 상태다.

황 이사는 AI 기반 이미지 확산 문제를 두고 우려를 나타냈다. 그는 "AI 기술이 인간의 눈으로 진짜와 가짜를 구분하기 어려운 수준까지 왔다"며 "단순한 기술 문제가 아니라 인간의 인지 과정을 공격하는 인지전의 전형적 사례"라고 말했다.

이어 "이 방식은 단순한 관심 유도가 아니라, 가짜 여론을 만들어내는 전형적 프로파간다"라며 사회적 신뢰 훼손 가능성을 언급했다.

또 "속는 사람이 꽤 많다. 개인 판단력 문제가 아니라 반복 노출과 알고리즘 증폭을 통해 설계된 인지 환경의 결과"라고 덧붙였다.

황 이사는 지난 2월에도 자신의 사진이 정치 성향 계정에 무단 사용됐다는 항공사 승무원의 피해 사례를 공개한 바 있다.

온라인상에서는 실제 인물과 구분하기 어려운 AI 이미지와 영상이 빠르게 확산하고 있다. 이에 따라 SNS 이용자들의 주의가 필요하다는 지적도 이어지고 있다.