AI 허위정보, 해킹보다 무섭다 — WEF 글로벌 리스크 2년 연속 1위

AI 허위정보, 해킹보다 무섭다고요?

"딥페이크 화상회의에 속아 2,500만 달러를 송금했다."

이건 영화가 아닙니다. 2025년 영국 엔지니어링 기업 에이럽(Arup) 홍콩 지사에서 실제로 벌어진 사건이에요. CFO와 고위 임원들이 참석한 것처럼 조작된 화상회의 영상에 직원이 속아 약 330억 원을 사기범 계좌로 보낸 겁니다. 생성형 AI가 만들어낸 '진짜 같은 가짜'의 위력, 상상 이상이죠?

오늘은 세계경제포럼(WEF)이 2년 연속 글로벌 리스크 1위로 꼽은 'AI 허위정보'가 왜 해킹보다 더 무서운 위협으로 떠오르고 있는지, 그리고 우리가 어떻게 대비해야 하는지 함께 살펴보겠습니다.

WEF가 기후위기보다 더 위험하다고 본 것

세계경제포럼(WEF)의 '2025 글로벌 리스크 보고서'에 따르면, 전 세계 기업·정부·학계 전문가 약 1,500명은 향후 2년 내 가장 심각한 위협으로 '허위·조작정보'를 지목했습니다. 극단적 기상 이변, 사회 양극화, 사이버 공격, 심지어 국가 간 무력 충돌보다도 높은 순위예요. 2024년에 이어 2년 연속 1위입니다.

왜 이렇게까지 심각하게 보는 걸까요? 가트너의 데이브 애런 수석 애널리스트는 그 이유를 이렇게 설명합니다. "허위정보는 일종의 '메타 이슈(meta issue)'입니다." 즉, 다른 모든 위험을 증폭시키는 위험이라는 뜻이에요. 비유하자면, 해킹이 한 건물에 불을 지르는 것이라면, 허위정보는 도시 전체의 소방 시스템을 마비시키는 셈입니다.

기후 관련 가짜 뉴스가 정책을 왜곡하고, 선거 관련 딥페이크가 민주주의를 흔들고, 기업 관련 허위정보가 주가를 폭락시킵니다. 하나의 위험이 아니라, 모든 위험의 확성기인 거죠.

숫자로 보는 AI 허위정보의 파괴력

구체적인 수치를 보면 문제의 심각성이 더 와닿습니다.

디지털 허위정보로 인한 경제적 손실은 2019년 기준으로만 780억 달러(주가 하락, 평판 훼손, 건강 관련 허위정보 등 합산)에 달한 것으로 추산됩니다. 2028년까지 기업들의 허위정보 대응 비용만 300억 달러를 넘어설 전망이고요.

가트너에 따르면 딥페이크 AI 시장 자체도 2024년 5억 6,400만 달러에서 2030년 51억 달러 규모로 성장하며, 연평균 40% 이상의 성장률을 기록할 것으로 예상됩니다. 가짜를 만드는 기술이 그 자체로 거대 산업이 되고 있는 거죠.

구분	수치
허위정보 경제 손실(2019년)	780억 달러
기업 대응 비용 전망(2028년)	300억 달러 이상
딥페이크 시장 규모(2030년)	51억 달러
허위정보 경험 기업 비율	79%
대응 체계를 갖춘 기업 비율	38%

특히 마지막 두 줄이 충격적입니다. 최근 3년간 허위정보 이슈를 겪은 기업은 79%나 되는데, 제대로 된 대응 체계를 갖춘 곳은 38%에 불과합니다. 공격은 넘쳐나는데 방패는 없는 상황이에요.

그래서 어떻게 막아야 하나요?

가트너는 대응 전략으로 '트러스트옵스(TrustOps)'라는 체계를 제시합니다. 비유하자면 이렇습니다. 감기에 걸린 뒤 약을 먹는 것보다, 미리 백신을 맞아 면역력을 키우는 게 더 효과적이듯이, 허위정보도 '예방'이 핵심이라는 거죠. 트러스트옵스는 세 가지 축으로 구성됩니다.

① 디벙킹(Debunking) — 사후 반박

이미 퍼진 허위정보를 추적하고 반박하는 방식입니다. 물론 필요하지만 이것만으로는 역부족이에요. 가짜 뉴스가 퍼지는 속도를 팩트체크가 도저히 따라잡을 수 없거든요.

② 프리벙킹(Prebunking) — 사전 면역

허위정보에 노출되기 전에 조작 방식과 실제 사례를 미리 교육해 '면역력'을 높이는 선제적 대응입니다. 애런 수석 애널리스트가 세 가지 중 가장 효과적이라고 꼽은 방식이에요. SNS 실험에서 단 한 번의 프리벙킹 개입으로도 대응 능력이 10~20% 높아졌다는 연구 결과도 있습니다. 핀란드는 만 4세부터 학교에서 허위정보 교육을 실시하고, 대만은 중국발 딥페이크에 대응하기 위해 국가 차원에서 프리벙킹을 도입했습니다.

③ 그라운딩(Grounding) — 출처 검증

의사결정에 쓰이는 데이터의 출처와 신뢰성을 검증하는 절차입니다. AI가 학습하는 데이터까지 오염될 수 있는 시대에, 정보의 '뿌리'를 확인하는 작업이 필수가 됐습니다.

개인은 뭘 할 수 있을까?

국가와 기업만의 문제가 아닙니다. 우리 개인도 매일 AI가 생성한 콘텐츠에 노출되고 있으니까요. 전문가들이 공통적으로 강조하는 개인 차원의 대응은 의외로 간단합니다. "AI가 만든 정보를 무조건 믿지 않는 습관"이에요.

영상이나 이미지가 아무리 그럴듯해도, 공식 출처를 한 번 더 확인하고, 감정적으로 자극하는 콘텐츠일수록 의심부터 하는 거죠. 이게 바로 개인 차원의 '프리벙킹'입니다. 기술의 시대에 가장 강력한 무기는 결국 비판적 사고력이라는 게 역설적이면서도 핵심적인 메시지입니다.

오늘의 핵심 요약

• WEF는 2년 연속 허위·조작정보를 글로벌 리스크 1위로 선정했습니다 — 기후위기, 전쟁보다 위험하다는 판단입니다
• AI 허위정보는 다른 위험을 증폭시키는 '메타 이슈'로, 선거·경제·안보 모든 영역에 파급됩니다
• 기업 79%가 허위정보를 경험했지만, 대응 체계를 갖춘 곳은 38%에 불과합니다
• 가장 효과적인 대응은 사후 반박보다 사전 교육인 '프리벙킹(Prebunking)'입니다
• 개인의 최고 방어는 "AI가 만든 정보를 무조건 믿지 않는 습관"입니다