<송세용 기자.>
최근 배우 박하선 씨가 자신의 얼굴이 합성된 딥페이크 영상을 발견한 뒤 "피가 빠져나가는 기분이었다"고 고백한 사건은 기술 발전이 초래하는 부작용에 대한 경각심을 불러일으켰다.
이번 사건은 딥페이크 기술이 초래하는 개인과 사회적 위협을 상징적으로 보여주는 사례로 자리 잡았다.
범인이 대학 교수였음에도 불구하고 벌금형에 그쳤다는 사실은 딥페이크 범죄에 대한 법적 대응의 한계를 극명하게 드러냈다.
딥페이크는 인공지능 딥러닝 기술을 기반으로 특정 인물의 얼굴이나 음성을 합성해 사진, 영상, 음성파일을 생성하는 기술이다.
이 기술은 영화, 교육, 의료 등 다양한 분야에서 긍정적으로 활용될 가능성이 있지만, 성범죄, 금융 사기, 가짜 뉴스, 정치적 선전 등으로 악용되며 심각한 사회적 위협으로 부상하고 있다.
홍콩에서는 딥페이크 화상회의를 이용해 340억 원 규모의 금융 사기가 발생했으며, 국내에서는 초중고 학생들뿐 아니라 교사들까지 딥페이크 성범죄 피해를 입는 사례가 급증하고 있다.
방송통신심의위원회에 따르면 2023년 상반기 딥페이크 성적 허위영상물 차단 요청 건수는 6,000건을 넘었으며, 이는 불과 4년 만에 12배 이상 증가한 수치다.
드론 기술 역시 양날의 검과 같은 역할을 한다. 드론은 군사 작전, 치안 유지, 재난 구조 등에서 중요한 역할을 하지만 동시에 간첩 활동, 불법 촬영, 정보 유출 등의 수단으로 악용되며 사회적 위협이 되고 있다.
북한은 드론을 이용해 한국 내 군사 정보를 수집하거나 심리전을 펼치고 있으며, 중국은 드론을 통해 남중국해 등 군사적 긴장이 고조된 지역에서 정찰 활동을 벌이고 있다.
최근 한국에서도 중국 국적의 사람들이 국가정보원 청사와 군사시설을 드론으로 촬영한 사건이 발생해 간첩 행위로 의심받고 있다.
이처럼 딥페이크, 드론 그리고 AI 기술은 첨단 기술의 상징이지만, 동시에 사회적 안정성을 위협하는 도구로 전락할 위험이 크다.
특히, 딥페이크와 드론 기술이 결합할 경우, 드론을 활용해 딥페이크로 조작된 영상이 정찰·정보 조작, 심리전 등에 사용되거나, 특정 군사 목표를 속이는 데 악용되는 등 복잡하고 치명적인 위협이 발생할 가능성도 높다.
이러한 양면성을 해결하기 위해서는 다각적이고 실질적인 대응 방안이 필요하다.
우선 기술적 대응력이 중요하다. 딥페이크 및 AI 탐지 기술과 드론 방어 체계를 강화해야 한다.
구글은 ‘신스ID 텍스트 워터마킹 도구’를 오픈 소스로 공개하며 AI로 생성된 이미지에 보이지 않는 워터마크를 삽입해 진위를 확인하고 있다.
인텔은 혈류 변화를 추적해 딥페이크 여부를 탐지하는 기술을 개발했다. 드론에 대해서는 신호탐지와 무력화 시스템 개발이 필수적이다. 한국은 드론 작전 사령부를 설립하고, 국가 사이버안보센터를 운영해 이러한 기술적 대응력을 강화하고 있다.
이러한 노력을 더욱 확대하고 민관 협력을 통해 기술 개발에 박차를 가해야 한다.
법적·제도적 장치의 보완도 필수적이다. 딥페이크 범죄와 관련하여 성범죄 처벌이 강화되었지만, 가짜 뉴스, 금융 사기, 정치적 선전 등 다른 악용 사례를 포괄할 수 있는 법적 체계가 여전히 부족하다.
드론 역시 간첩 활동이나 불법 촬영을 명확히 규제할 수 있는 국제적 법 체계가 마련돼야 한다.
유럽연합의 AI법은 위험 수준에 따른 차등 규제를 도입했으며, 중국은 간첩죄 적용 대상을 확대하는 개정 반간첩법을 시행 중이다. 이러한 사례를 참고해 한국도 법적·제도적 보완에 속도를 내야 한다.
국제 협력도 빼놓을 수 없다. 기술 범죄는 국경을 초월하기 때문에 미국, 일본, 유럽연합과 같은 주요국과 협력해 글로벌 규제 체계를 마련해야 한다.
한·미·일은 연합 훈련을 통해 드론 및 AI 기술의 악용에 대비한 공동 방어 체계를 구축하고 있다. 이러한 협력을 확대하여 정보 공유와 기술 개발을 강화해야 한다.
아울러, 대중의 인식 제고와 교육이 필요하다. 딥페이크와 드론 악용의 위험성을 알리고, 허위 콘텐츠를 인식하고 신고하는 방법을 교육해야 한다.
디지털 리터러시 교육을 강화하고, 정부와 플랫폼 사업자가 협력해 경고 메시지와 탐지 도구를 제공해야 한다. 이는 대중이 기술 악용에 대한 경각심을 가지게 하고, 피해를 사전에 예방하는 데 중요한 역할을 할 것이다.
기술이 인간을 위협하는 도구로 전락하지 않도록 만드는 것은 결국 우리의 선택에 달려 있다.
딥페이크, 드론, 그리고 AI 기술은 이미 우리의 일상을 혁신했지만, 그 이면의 위협은 예측을 넘어서는 속도로 다가오고 있다.
지금 우리가 이 문제를 통제하지 못한다면, 기술은 우리에게 기회가 아닌 재앙으로 남을 것이다.
인간과 기술이 조화를 이루는 미래를 만들어가기 위해, 지금이야말로 결단력 있는 행동과 강력한 체계 구축이 필요한 때다.
기술 발전의 속도만큼 우리의 대응도 그에 상응해야 한다. 삶의 도구로서 기술을 남길지, 아니면 스스로를 위협하는 무기로 허락할지의 선택은 우리의 몫이다.
