2015년 독일 하노버 국제정보통신박람회에서 기조연설에 나선 마윈 알리바바 전 회장이 관중들 앞에서 스마트폰을 꺼내 듭니다. 알리바바 쇼핑몰에 접속한 그는 기념우표를 장바구니에 넣고 미소를 짓자 1초 만에 결제가 승인됩니다. 중국 스타트업 메그비가 개발한 안면인식 기술이 처음 국제무대에 공개되는 순간이었습니다.
이후 알리바바는 자사 결제 애플리케이션인 알리페이에 이 기술을 도입하게 됩니다. 벌써 8년 전 이야기인데 우리나라가 2019년쯤 QR코드 결제를 본격화하는 동안 중국의 결제 시스템은 이미 QR코드에서 안면인식으로 이동하고 있었습니다.
이런 배경을 바탕으로 중국의 안면인식 기술은 지금은 중국 전역에 걸쳐 뿌리를 내리고 있어 공항을 이용하거나 지하철을 탈 때, 은행 송금을 할 때, 식당에서 결제할 때 각자의 얼굴이 피해 갈 수 없는 개인 인증 수단이 되었습니다. 그러다 보니 일상에서 신분증 대신 얼굴을 내미는 것이 중국인들에게는 낯설지 않은 모습으로 스마트폰과 SNS 이용 빈도가 높은 중국의 19~40세 2만 명을 대상으로 온라인 설문조사를 진행한 결과, 안면인식 기술을 가장 많이 사용한 분야로 67%가 지불 및 송금이라고 답해 이 부분 1위를 차지하기도 했습니다.
중국은 범정부 차원에서 이러한 AI 산업을 지원하고 있으며 정부 지원에 힘입어 기초, 기술, 응용 수준을 아우르는 AI 산업 사슬이 완성 단계에 이르렀다는 평가를 받고 있으며 전 세계 학술지에 실리는 AI 관련 논문의 인용 실적에서도 중국은 2020년에 이미 미국을 추월할 만큼 막강한 실력을 자랑하고 있습니다.
이 가운데서도 중국의 안면인식 기술은 독보적인 기술력을 자랑하는데요. 중국 당국이 이 기술을 통해 자국민을 강력하게 감시하는 데 사용한다는 것은 어제오늘 일이 아닙니다.
길거리나 빌딩 입구에 수백만 대의 카메라를 설치하고 강력한 얼굴인식 소프트웨어를 도입해 성별과 헤어스타일, 복장, 차량 정보 등을 실시간 감시하고 있으며 스마트폰을 개설할 때 등록한 얼굴과 지문 정보를 바탕으로 기지국에서 추적하는 이중 감시체제로 ‘부처님 손바닥 위의 손오공’처럼 실시간으로 전 국민을 바라보고 있습니다. 그런데 중국이 갖고 있는 이 최첨단 안면인식 기술을 악용한다면 어떤 결과를 초래할까요?
지난 2021년 10월 대만의 한 네티즌이 대만 총통 차이잉원의 얼굴을 일부 변형하거나 다른 이와 합성한 동영상을 만들어 유포, 대만 전역이 발칵 뒤집어진 사건이 있었으며 대만 국회는 이 기술을 악용할 것을 우려, 법률 개정 조치에 들어가기도 했습니다. 문제는 이렇게 안면인식 기술을 활용해 다른 사람의 얼굴로 변형하는 작업은 생각보다 단순하다는 데 있습니다.
휴대전화에 앱만 설치하면 간단하게 여러 사람의 얼굴로 변신 가능한데, 인공지능 AI 기술이 적용됐기 때문입니다. 지금 보시는 영상은 한 일반인이 자기 얼굴에 안면인식 기술을 활용해 성룡의 얼굴을 합성한 영상입니다. 해당 사실을 미리 말하지 않는다면 우리는 성룡이 말하는 것으로 착각할 만큼 실제 성룡의 모습과 분간하기 힘들 정도입니다.
이번엔 테슬라의 CEO 일론 머스크 얼굴을 합성해 보겠습니다. 말하는 모습이나 표정, 행동 하나하나가 전혀 어색함이 없어 실제 일론 머스크와 구분하기 힘들 정도입니다. 뿐만 아닙니다. 우리에게 ‘아이언맨’으로 잘 알려진 배우 로버트 다우니 주니어의 얼굴을 합성해도 전혀 합성한 티가 안 날 만큼 말하는 모습이나 표정이 실제와 흡사함을 느낄 수 있습니다.
이러한 방법을 사용하면 ‘친절한 톰 아저씨’ 톰 크루즈 역시 소환해 마치 우리 앞에서 영상을 통해 이야기하는 모습을 구현해 낼 수 있을 정도로 안면인식 기술은 무서울 정도로 발전하고 있습니다.
지난 5월 중국에서 상품을 판매하는 라이브커머스에서는 중국의 유명 여배우 양미가 등장해 상품이 불티나게 팔렸는데요. 영상에 등장한 이는 실제 양미가 아니라 안면인식 기술을 이용해 인터넷 방송에 유명인이 등장한 것처럼 얼굴을 감쪽같이 위조한 것인데 세계적 수준인 중국의 인공지능 안면인식 기술 때문에 가능한 일로 CCTV는 이는 위법행위임을 강조하기도 했습니다.
관건은 중국에서는 이런 문제의 심각성을 생각하기보다는 일종의 유희 대상으로 합성 영상들을 만들어 그저 즐기는 용도로 가볍게 사용한다는 데 있으며 중국의 CCTV도 이러한 점을 집중적으로 보도하기도 했는데요.
올해 초 중국에서 큰 인기를 끌었던 드라마 ‘광표’의 주인공들의 얼굴을 다른 이의 얼굴과 합성한 이 영상들은 중국의 각종 플랫폼에서 수백만 조회수를 기록하며 인기를 얻고 있는데 이를 바라보는 중국인들도 우려의 시선을 보내기도 했습니다. 이러한 우려는 현실로 나타나고 있습니다.
지난달 중국의 온주시에 거주하는 진선생은 위챗으로 영상통화를 걸어온 친구가 급전이 필요하다고 해 돈을 보냈는데 알고 보니 안면인식 기술을 이용한 사기 전화로 피해를 보기도 했습니다. 그뿐만 아니라 한 IT업체의 대표마저 영상통화를 걸어온 사람이 친구인 줄 알고 8억 원을 송금하는 사기 피해가 발생하기도 했습니다.
이렇게 얼굴뿐 아니라 목소리까지 똑같이 조작해서 사기를 벌이는 것인데 방법은 간단합니다. 핸드폰에 앱을 깔고 SNS를 해킹해 사기를 치기 위한 목표물로 정해진 인물의 지인들의 영상을 확보한 뒤 AI 기술로 그 지인들의 얼굴과 목소리를 위조하면 그만입니다. 중국의 온라인과 핸드폰에서 이렇게 합성할 수 있는 앱들을 검색하면 수도 없이 많이 나오는데요. CCTV 기자가 직접 이를 시연해 보기도 했습니다.
여기에 35만 원만 지불하면 중국의 플랫폼에서 전자동으로 얼굴을 변환할 수 있는 프로그램을 살 수도 있으며 그 정확도는 97%에 이른다고 CCTV는 전했습니다. 이러자 발등에 불이 떨어진 중국의 공안당국은 영상통화로 누군가 돈을 요구하면 신분증을 요구하여 철저하게 신원을 확인하고 자신의 정면 얼굴이나 목소리가 잘 나오는 영상이나 사진을 가급적 SNS에 올리지 말 것을 권고하고 나섰습니다.
또한 이런 피해 사례가 발생하자 현재 중국에서는 사람의 얼굴은 이렇게 AI 기술을 이용해 자유자재로 변환할 수 있다는 모습을 보여주며 이를 예방하는 각종 영상이 올라오면서 사람들의 주의를 환기시키고 있는데요. 그럼 우리는 이로부터 자유로울까요? 우리나라 사람들 대부분이 카톡을 사용한다면 중국에서는 우리의 카톡에 해당하는 위챗을 사용합니다.
대다수 사기단체들은 이 위챗을 해킹했는데 만약 사기 단체가 이 위챗을 해킹한다면 문자 송신부터 금융거래, 세금신고, 각종 공공기관 예약 등 개인정보는 물론이고 위챗을 통해 지인들과 주고받은 사진, 영상, 통화내용 등 이 모든 것들을 알 수 있으며 이는 고스란히 AI 기술을 이용해 내 가족과 지인들의 음성과 얼굴을 그대로 만들어 낼 수 있는 것입니다.
만약 이런 단체들이 우리가 사용하는 카톡을 해킹한다면 어떤 일이 발생할까요? 그리고 그 주요 타깃은 제일 먼저 온라인 사용에 미숙한 어르신들을 대상으로 자기 자녀 얼굴을 한, 자기 자녀 목소리와 똑같은 이가 영상통화를 통해 금전을 요구하겠죠. 그 어느 부모가 자식의 얼굴을 분명히 확인했는데 돈을 송금하지 않을까요?
과거 전화를 이용한 사기는 애들 장난에 불과한 더 엄청난 성공률을 자랑할 것이고 피해를 본 이들은 기하급수적으로 늘어날 것입니다. 오늘 바로 여러분들이 이 콘텐츠를 내 부모님이나 친척, 친구 및 지인들에게 보여줘야 하는 이유입니다.
