무용 작품 「Simulacra」에 대한 연구

Abstract

본 논문은 현 사회적 이슈인 생성형 AI기술을 악용하여 만든 딥페이 크 범죄로 인한 피해자들의 고통을 주제로 누구나 딥페이크의 피해자가 될 수 있다는 위험성을 전달하고자 하는 무용 작품 「Simulacra」에 대한 분석 및 연구이다. 현재 사회는 인공지능 기술이 나날히 발전하고 있으며, 그렇게 발전된 기술은 다양한 디지털 콘텐츠의 창작 및 n차 창작의 원천이 되고 있다. 그 기술들 중 하나인 딥페이크 기술은 현재 긍정적 작용보다는 부정적인 면을 넘어 디지털 성범죄, 허위조작정보의 생성 등 다양한 범죄수단으로 도 활용되어 심각한 사회적 문제로 대두되고 있다. 딥페이크 기술로 생겨 난 피해자들은 심리적 불안과 또 다시 유포될지 모르는 공포심을 유발해 피해자들의 삶에 장기적인 영향을 미친다. 본 연구자는 딥페이크 기술로 인해 발생한 사회적 문제를 분석하고 딥 페이크 기술의 피해 사례, 법적 제도, 피해자들의 현황을 조사하였으며, 각 피해자들의 심리적 영향을 분석하였다. 작품을 통해 피해자들의 고통 을 표현하고 현재 딥페이크 기술로 생성한 허위조작정보들이 발생시키고 있는 문제성과 해당 기술로 만들어진 콘텐츠들은 현재 많은 사람들이 쉽 게 만들 수 있다는 점을 본다면 피해자들의 범위도 특정 유명인 뿐만 아 닌 연령에 구분 없이 주위의 모든 사람들이 대상화 될 수 있다는 위험성 을 전달하여, 딥페이크 기술로 인한 범죄와 피해가 줄어드길 바라는 마음 으로 작품 「Simulacra」을 창작하였다. 무용 작품 「Simulacra」에서는 도입부를 포함하여 총 5장으로 구성되 어 있으며, 각 장마다 딥페이크의 생산, 딥페이크 피해를 당하기 전과 유 포 된 후의 모습들, 극단적인 선택까지 가는 피해자의 심리적 불안을 표현 하며, 피해자가 생김에도 불구하고 끊임없이 다시 생산 및 유포를 하는 현 실적 상황을 보여주고자 하였다. 작품의 의미를 효과적으로 전달하기 위 해 본 연구자를 포함한 4명의 무용수와 장면을 구성하였고, AI를 통해 제 작하는 과정의 영상과 피해자의 사진이 점점깨지는 효과로 만든 영상 등 미디어 영상 매체를 함께 활용하였으며, 실제로 본 연구자의 딥페이크 된 모습의 사진을 무대 위에 뿌리고 관객들에게 전달하여 유포되는 과정의 장면을 통해 피해자의 정신적 고통을 극적으로 표현하고자 하였다. 본 연구 및 창작과정을 통해 딥페이크 기술로 인한 피해자들의 상황과 정신적 피해를 보여주어 딥페이크 기술의 사회적 관심을 높이고자 하며, 타인의 일이라고 등한시 하지 않고 자신을 포함한 누구나 딥페이크로 인 한 피해를 겪을 수 있다는 위험성을 전달하여 딥페이크 범죄의 심각성을 강조하고자 한다. 【주요어】 딥페이크, 허위조작정보, 디지털 성범죄, 가짜뉴스, 유포|This paper presents an analysis and study of the dance performance 「Simulacra」, a work addressing the suffering of victims of deepfake crimes—a major current social issue stemming from the malicious use of generative AI technology—to convey the risk that anyone can become a victim of deepfakes. Contemporary society is witnessing the rapid development of artificial intelligence technology, which has become the source for creating various digital content and its subsequent derivative works. Deepfake technology, one such advancement, is now transcending its negative aspects to be utilized as a means for various crimes, including digital sexual offenses and the creation of fake manipulated information, thus emerging as a serious social problem rather than serving a positive function. Victims created by deepfake technology experience psychological distress and the fear of re-dissemination, which causes long-term impacts on their lives. This study analyzed the social problems caused by deepfake technology, investigated deepfake victim cases, legal frameworks, and the status of victims, and examined the psychological impact on each victim. Through the performance, the author aimed to express the victims' suffering and highlight the problems arising from the fake manipulated information currently produced by deepfake technology. Given the ease with which many people can create such content, the scope of victims is not limited to specific celebrities but extends to anyone of any age. The performance 「Simulacra」was created with the hope of reducing crimes and damages caused by deepfake technology by conveying this inherent danger. The dance performance 「Simulacra」consists of a total of five acts, including the introduction. Each act expresses the production of deepfakes, the state of the victim before and after deepfake dissemination, and the victim's psychological distress leading to extreme choices. It also aims to show the reality of the constant reproduction and dissemination despite the existence of victims. To effectively convey the work's meaning, the author composed the scenes with four dancers, including the researcher, and utilized media content such as videos showing the AI creation process and videos with glitching effects on the victim's photo. Furthermore, the scene depicting the dissemination process, where a deepfaked photo of the author was actually scattered on the stage and delivered to the audience, was intended to dramatically express the mental suffering of the victim. Through this research and creation process, the author seeks to raise social awareness of deepfake technology by illustrating the circumstances and psychological damage experienced by the victims. By conveying the risk that anyone, including oneself, can suffer harm from deepfakes—rather than dismissing it as someone else's problem—this work emphasizes the severity of deepfake technology.

【Key words】Deepfake, false manipulation information, digital sex crimes, fake news, dissemination