"다수가 믿는다고 진실은 아니다…가짜뉴스보다 무서운 건 가짜에 무감각해진 사회"

김휘강 고려대학교 정보보호대학원 교수는 'AI스페라'를 창업하고 후학 양성에도 힘써온 사이버보안 전문가다. 사진 C영상미디어

"이거 진짜야? 가짜야?"

야구장 관중석의 한 여성을 포착한 이른바 '야구장 여신' 영상이 최근 누리소통망(SNS)을 뜨겁게 달궜다. 평범한 프로야구 중계 화면처럼 보이지만 자세히 들여다보면 현실에서는 있을 수 없는 오류가 눈에 띈다. 점수판에 이름을 올린 투수와 타자가 서로 다른 시대에 활동한 선수들이라는 점이다.

이후 SNS에는 'AI 야구 중계샷 제일 쉽게 만드는 법', '간단하게 야구장 여신 되는 법' 같은 영상이 잇따라 올라왔다.

문제는 상당수 이용자가 이를 실제 장면으로 받아들였다는 것이다. 불과 몇 년 전만 해도 어색한 입 모양이나 부자연스러운 움직임 등 '가짜 영상'을 구별하는 단서들이 있었다. 하지만 이제는 누군가의 얼굴과 목소리는 물론 움직임까지 정교하게 재현해낸다. 진짜와 가짜의 경계가 흐려지는 시대다.

인공지능(AI) 콘텐츠는 단순한 재미를 넘어 현실에도 영향을 미치고 있다. 지난 4월 대전 오월드를 탈출한 늑대 '늑구' 사건 당시에는 AI로 제작한 가짜 사진이 온라인에 퍼지며 수색 초반 혼선을 빚었다. 정부가 6월 3일 전국동시지방선거를 앞두고 가짜뉴스 대응에 범부처 역량을 총동원하겠다고 밝힌 배경에도 AI 기반 허위정보 확산에 대한 우려가 깔려 있다.

AI 기술이 빠르게 발전하는 만큼 이를 검증하고 대응할 사회적 시스템의 중요성도 커지고 있다.

국내 1호 '해커 출신 교수'로 꼽히는 김휘강 고려대학교 정보보호대학원 교수는 "가짜가 범람할수록 사람들은 진짜의 가치에 무감각해지고 참과 거짓보다 도파민 역치를 끌어올리는 데만 반응하는 사회가 될 것"이라며 "인간의 판단 능력이 무뎌지는 것을 막아야 한다"고 강조했다.

가짜뉴스가 어디까지 진화했는지, 우리는 무엇을 어떻게 경계해야 하는지 김휘강 교수의 이야기를 들어봤다. 그는 2017년 사이버보안 솔루션 제공 기업 'AI스페라'를 창업해 전 세계 유해 IP 분석과 피싱·해킹 대응 분야에서도 활동하고 있다.

2024년에는 사이버수사·디지털포렌식 분야 인재 양성에 기여한 공로를 인정받아 제17회 사이버치안대상 대통령표창을 받았다.

가짜뉴스 문제를 언급할 때 딥페이크와 AI가 함께 거론되곤 합니다. 같은 개념인가요.

딥페이크를 단순한 영상 조작 기술로 생각하는 경우가 많지만 사실 AI 기술의 한 범주입니다. 원래는 AI 생성 모델의 한 알고리즘 이름이었는데 지금은 일반 명사처럼 널리 쓰이고 있죠. 본래 딥페이크 기술은 부족한 데이터를 보완하기 위해 개발됐습니다.

예를 들어 정면 사진 한 장만 있어도 AI가 얼굴 구조와 특징을 학습해 측면 모습을 자연스럽게 생성하는 식입니다. 2차원 사진만으로 3차원 움직임을 구현하는 것도 같은 원리입니다. 화질이 낮은 이미지를 고해상도로 복원해 범죄자 식별을 돕는 등 긍정적인 활용 사례가 많았습니다.

2024년 광복절을 맞아 독립운동가를 AI로 복원한 영상은 큰 감동을 주기도 했고요. 하지만 최근에는 허위 영상이나 음란물 제작 등 부정적인 방향으로 악용되는 사례가 많아지고 있습니다.

딥페이크 범죄는 어느 수준까지 왔나요.

2025년 글로벌 이슈가 됐던 '미스터 딥페이크' 사이트가 대표적입니다. K-팝 스타 얼굴로 음란 영상을 제작·판매하던 악성 사이트였는데 폐쇄됐습니다. 이제 이런 범죄는 공인에만 국한되지 않습니다. 지인 사진을 악용하는 사례가 늘면서 졸업앨범 제작을 꺼리는 분위기도 생기고 있고요.

조작 콘텐츠는 사회적 판단까지 흔들 수 있습니다. 가령 정치인이 하지 않은 발언을 조작 영상으로 만들어 퍼뜨리면 유권자는 잘못된 정보에 노출될 수밖에 없습니다. 과거에는 영상이 조잡해 가짜라는 걸 쉽게 알아챌 수 있었지만 현재는 AI가 생성한 이미지 특유의 패턴도 눈에 띄지 않을 정도로 정교해졌습니다.

더 고도화된 범죄 양상도 나타나겠네요.