[時論] 딥페이크, 이것은 진실이 아니다

[교육연합신문=시론]

옛날 우리 고전소설인 「옹고집전」에 보면 옹고집의 고약한 고집과 인색함을 꾸짖으려 도승이 허수아비로 가짜 옹고집을 만들어 옹고집을 혼내는 이야기다. 특히 이 소설의 압권은 도승이 허수아비를 만들고 부적을 붙여서 가짜 옹고집을 만들어 옹고집의 집에 보내 서로가 진짜라고 다투게 만드는 장면이다. 옹고집의 가족들도 누가 진짜 옹고집인지 판별하지 못해 옹고집이 패소하고 진짜 옹고집은 곤장을 맞고 내쳐진 다음에 걸식하는 신세가 된다. 한편 가짜 옹고집은 집으로 들어가 아내와 자식을 거느리고 산다는 이야기다.

이 이야기는 오늘날 딥페이크의 영향력을 미리 말해주는 것 같아 소름이 돋았다. 진짜가 가짜에게 당하는, 그래서 집도 빼앗기고 가족도 잃고 자살까지 생각하는 지경에 이른다. 이것은 딥페이크로 인한 피해자의 상황을 잘 보여주고 있다.

AI의 기술은 말 그대로 기술이다. 어떤 감정도 없다는 말이다. 기술에는 참과 거짓이 없다. 그 기술을 쓰는 사람의 마음만 있을 뿐이다. 딥페이크는 모두 가짜다. 자신의 꿈을 실현시켜 보려는 마음의 헛된 환상이다. 마찬가지로 AI 가술로 복제된 딥페이크가 나쁜 것은 아니다. AI 기술로 딥페이크 영상을 만드는 사람의 마음이 문제인 것이다. 같은 이슬도 소가 먹으면 우유가 되지만, 뱀이 먹으면 독이 된다. 꿈을 실현시킨다는 환상에서 끝나야 한다. 그것이 발전하면 현실에 막대한 해악을 끼친다. 백악관이 폭파되는 영상을 딥페이크로 만들어 유튜브에 송출하면 삽시간에 세계는 아수라장이 될 것이다. 나아가 핵전쟁도 불러일으킬 수 있다. 딥페이크로 성착취물을 만들어 피해자가 견딜 수 없어 자살하는 경우를 쉽게 볼 수 있다. 이처럼 딥페이크는 자신의 욕망을 남에게 전가시켜 사회를 악의 구렁텅이에 빠트리게 만든다.

벨기에의 초현실주의 화가 르네 마그리트의 대표작 「이미지의 배반」이라는 작품에는 흔한 파이프가 그려져 있지만 그 아래에는 ‘ Ceci n’est pas une pipe’(이것은 파이프가 아니다)라고 쓰여 있다. 파이프를 재현한 그림 속의 파이프는 파이프가 맞지만, 마그리트는 관습적 사고방식을 깨기 위해 의도적으로 그림과 문장을 모순적으로 표현하였다. 즉 미술가가 대상을 매우 사실적으로 묘사한다 하더라도 그것은 그 대상의 재현일 뿐이지, 그 대상 자체일 수는 없다는 것이다. 이것은 마치 지도가 실제 영토는 아니라는 말이다. 우리는 흔히 이미지를 보고 그것이 실제라고 착각한다. 이것은 파이프가 아니다, 그렇다. 이미지가 그렇다는 것이다. 실제 담배를 피는 도구인 실제 파이프는 아니다. 혼동하지 말라. 21세기 AI시대가 되면서 진짜와 가짜의 구별이 매우 혼란스럽다. 실제와 이미지의 대립은 진짜와 가짜의 대결이다. 더군다나 딥페이크의 기술은 그것을 더욱 부추긴다.

딥페이크(deepfake)는 인공지능(AI)과 머신러닝 기술의 발전으로 등장한 기술로, 이미지, 음성, 동영상 등에서 사람의 얼굴이나 목소리를 다른 사람으로 교체하거나 생성할 수 있다. 이 기술은 여러 분야에서 깊이 있는 논의와 분석을 필요로 한다.

딥페이크에 대한 사고의 확산 결과를 요약하면, 기술적으로는 놀라운 가능성을 열어주지만, 동시에 진실성과 신뢰의 문제를 제기하며, 사회적, 윤리적 논란을 불러일으킨다. 예술적으로는 창작의 새로운 가능성을 열어주지만, 진정성과 의도의 문제가 뒤따른다. 이러한 모든 요소들을 고려할 때, 딥페이크는 단순한 기술적 진보가 아닌, 인간 존재와 사회, 문화 전반에 깊은 영향을 미치는 중대한 이슈로 볼 수 있다.

결국 딥페이크에 대한 논의는 이 기술이 가져오는 기회와 위험을 균형 있게 바라보고, 이를 통해 어떻게 기술을 책임 있게 사용할 수 있을지에 대한 방향을 모색하는 데 있다. 이는 다양한 분야의 협력과 통합적 접근을 필요로 하며, 딥페이크가 현대 사회에 미치는 영향을 심도 있게 이해하고 대처할 수 있는 기반을 마련하는 데 기여할 것이다.

딥페이크 기술의 발전이 정보의 진위성과 사회적 신뢰를 심각하게 위협하고 있다. 특히 초중고학생들의 무분별한 딥페이크 제작 유포가 도를 넘고 있다. 한 순간도 손에서 핸드폰을 놓지 못하는 청소년들이 할 수 있는 유일한 놀이가 바로 딥페이크 놀이란다. 현재 청소년들은 딥페이크 기술을 이용해 장난삼아 한 짓이라고 평가 절하해 버린다. 아무런 죄의식이 없다. 청소년의 놀이 문화에 대해서도 깊이 있는 논의가 필요한 지점이다. 이는 진짜와 가짜를 구별하기 어려운 수준의 가짜 이미지를 생성할 수 있게 되면서 발생했다. 이는 허위 정보의 확산과 개인정보의 악용 가능성을 높인다. 현재의 규제와 탐지 기술은 딥페이크의 빠른 발전 속도를 따라가지 못하고 있다. 또한, 법적 대응은 사후적 조치에 그치고 있어 예방적 효과가 부족하다. 딥페이크 문제를 해결하려면 기술적 대응뿐만 아니라, 윤리적 기준 확립과 사회적 인식 제고가 필요하다. 기술과 윤리가 조화를 이루는 방향으로 접근해야 한다.

그 구체적 해결 방안은 첫째, 딥페이크 탐지 알고리즘의 개발과 공유를 촉진해야 한다. 둘째, 딥페이크 제작에 대한 강력한 법적 제재와 규제를 마련해야 한다. 셋째, 교육과 캠페인을 통해 대중의 미디어 리터러시를 강화하고, 딥페이크의 위험성을 널리 알리는 노력이 절실하다.

편집국 기자 news@eduyonhap.com 이 기자의 다른 기사 보기