아버지의 목소리를 다시 듣다
랴오닝성에 사는 장신위(47세)는 2년 전 아버지가 암으로 세상을 떠난 뒤 깊은 우울감에 빠졌다. 어느 날 그녀는 AI 스타트업 '슈퍼브레인'을 찾아가 아버지의 외모와 목소리를 그대로 재현한 디지털 아바타를 만들어 달라고 요청했다. 이제 그녀는 아버지의 아바타와 온라인으로 대화를 나눈다. "순간 완전히 충전되는 느낌이었어요. 다시 살아갈 힘이 생겼습니다"라고 그녀는 말했다. 친구들 일부는 가상 세계에 너무 빠져 "결코 나오지 못할 것"이라며 이를 '거짓된 위로'라 불렀지만, 그녀의 대답은 분명했다. "위로 자체가 허구일지라도, 그 뒤에 있는 사랑은 진짜입니다."
중국을 뒤덮은 AI 디지털 휴먼
AI 디지털 휴먼은 실제 사람과 구분하기 어려울 만큼 정교한 외모와 움직임을 갖춘 가상 인물이다. 중국 소셜미디어에는 이런 아바타가 쏟아지고 있으며, 상품 홍보 라이브스트림에도 대거 등장한다. 2024년 기준 중국의 디지털 휴먼 산업 규모는 약 41억 위안(약 6억 달러)에 달하며, 전년 대비 85% 급성장했다. 시드니공과대학의 마리나 장 교수는 중국의 디지털 기술 규제 방식을 "먼저 개발하고, 나중에 규제하며, 과정에서 다듬는다"는 논리로 설명한다.
할머니를 속인 아바타, 9천만 뷰를 기록하다
이달 초 중국 소셜미디어에는 충격적인 영상이 확산됐다. 교통사고로 아들을 잃은 한 노년 여성이 영상 통화를 통해 아들과 대화를 나누는 장면이었는데, 상대방은 슈퍼브레인이 만든 초사실적 AI 아바타였다. 여성은 그 사실을 전혀 알지 못했다. 관련 해시태그는 웨이보에서 9천만 뷰를 넘기며 폭발적인 반응을 얻었다.
슈퍼브레인 창업자 장쩌웨이는 아들 측 가족의 동의를 받아 아바타를 제작했다고 밝히며, 이를 "선의의 거짓말"이라 표현했다. 이 영상은 생성형 AI의 윤리 문제를 둘러싼 격렬한 온라인 토론을 불러일으켰다.
중국 정부가 내놓은 규제 초안
중국 인터넷정보판공실(CAC)은 이달 AI 디지털 휴먼 관련 규제 초안을 발표하고, 5월 초까지 공개 의견을 수렴 중이다. 주요 내용은 다음과 같다.
- 디지털 휴먼 콘텐츠에 명확한 표시 의무화
- 당사자 동의 없이 개인정보로 딥페이크 아바타 생성 금지
- 국가안보를 위협하거나 국가 전복을 선동하는 콘텐츠 생성 금지
- 미성년자 대상 가상 친밀관계 서비스 또는 극단적 감정 유발 서비스 금지
- 위반 시 1만 ~ 20만 위안(약 145만~2,900만 원) 벌금 부과
앞서 CAC는 전자상거래 라이브스트림에서 공인을 사칭하는 AI 딥페이크가 "온라인 생태계를 심각하게 훼손한다"며 이를 제한한 바 있다.
규제와 혁신 사이, 중국의 계산
싱가포르 라자라트남 국제관계학교의 마노지 하르자니 연구원은 새 규제가 중국의 기술 주권과 정치적 목표를 수호하려는 의도도 담고 있다고 분석한다. 아시아소사이어티 정책연구소의 리지 리는 "베이징은 AI 채택과 배포를 빠르게 추진하되 통제된 틀 안에서 하길 원한다"고 말했다. 새로운 기술의 위험이 가시화되는 순간 규제 당국이 빠르게 개입하는 패턴이다.
슈퍼브레인 창업자는 규제를 긍정적으로 평가하며, 업계 표준화와 성장의 균형을 이루는 계기가 될 것이라고 말했다.
핵심 요점
- 중국 AI 디지털 휴먼 산업은 2024년 41억 위안 규모, 전년 대비 85% 성장
- 슈퍼브레인 등 기업이 고인의 아바타를 제작해 유족에게 제공 중
- CAC가 디지털 휴먼 규제 초안 발표 — 동의 없는 딥페이크 생성 금지 등 포함
- 위반 시 최대 20만 위안(약 2,900만 원) 벌금
만약 우리의 디지털 아바타가 우리가 죽은 뒤에도 누군가와 지속적으로 대화를 나눈다면, 그것은 여전히 우리 '자신'일까요?
만약 AI 아바타가 살아있는 사람과 완전히 구분이 안 될 만큼 정교해진다면, 우리가 생각하는 '죽음'의 의미는 어떻게 달라질까요?
고인을 디지털로 재현할 권리는 누구에게 있는 걸까요? 당사자인 본인일까요? 아니면 가족? 아니면 누구에게도 없는걸까요?
AI가 재현한 디지털 아바타와의 대화는 진정한 위로일까요? 아니면 필연적인 슬픔을 회피하는 것일까요?