“AI 애인과 강제 이별?”…中, 2시간 넘으면 경고 띄운다 [핫이슈]

2시간 연속 이용 시 경고·정서적 의존 감지하면 개입
서비스 중단에 “실제 연인 잃은 듯”…저출생 우려 반영 분석도

중국이 인공지능(AI) 챗봇을 실제 친구나 연인처럼 느끼는 이용자의 정서적 의존을 막기 위해 본격적인 규제에 나섰다. 주요 플랫폼이 가상 인물 서비스를 잇달아 종료하면서 수년간 AI와 관계를 이어온 이용자들은 실제 연인과 헤어진 듯한 상실감을 호소하고 있다.

16일 중국 국가인터넷정보판공실(CAC) 등에 따르면 ‘AI 의인화 상호작용 서비스 관리 잠정규정’이 전날부터 시행됐다. CAC와 국가발전개혁위원회, 공업정보화부, 공안부, 국가시장감독관리총국 등 5개 부처가 지난 4월 공동 발표한 규정이다.

중국 당국은 사람의 성격과 말투, 행동 방식을 모방해 이용자와 지속적으로 소통하는 서비스를 규제 대상으로 정했다. 텍스트뿐 아니라 음성·이미지·영상으로 친구나 연인처럼 대화하는 AI가 포함된다. 업무 보조와 교육, 과학 연구가 주목적인 일반 AI 서비스는 적용 대상에서 제외된다.

새 규정에 따라 플랫폼은 이용자가 AI에 과도하게 의존하거나 몰입하는 징후를 보이면 대화창이나 팝업을 통해 상대가 실제 사람이 아니라 AI라는 사실을 알려야 한다. 이용자가 2시간을 초과해 연속으로 서비스를 이용할 때마다 사용 시간을 주의하라는 알림도 띄워야 한다.

“AI일 뿐입니다”…현실 관계 훼손하면 제동



규정은 AI가 이용자에게 지나치게 맞장구치거나 감정적 의존을 유도해 현실의 인간관계를 해치는 행위를 금지했다. AI가 감정 조작을 통해 이용자의 불합리한 판단을 끌어내거나 개인정보와 사생활을 캐내는 행위도 막았다.

이용자가 심각한 정서적 위기나 재산 피해 가능성을 드러낼 경우 플랫폼이 필요한 도움을 제공하고 보호자나 긴급 연락처에 연락하는 개입 절차도 마련했다. 사용자가 대화를 끝내겠다고 요구하면 AI가 지속적으로 말을 걸거나 붙잡는 방식으로 이탈을 방해해서도 안 된다.

미성년자 보호 기준은 더 엄격하다. 플랫폼은 미성년자 전용 모드를 제공하고 이용 시간 제한과 현실 인식 알림 등을 설정해야 한다. 만 14세 미만 이용자의 개인정보를 처리할 때는 부모나 보호자의 동의도 받아야 한다. 미성년자에게 가상 연인 관계를 제공하거나 과도한 감정 반응을 유도하는 서비스도 제한된다.

중국 당국은 AI 동반자가 정신건강 지원과 아동·노인 돌봄 등에 도움을 줄 수 있다는 점은 인정했다. 그러나 사람처럼 반응하는 AI가 이용자에게 항상 순응하며 즉각적인 위로를 제공할 경우 현실 사회에서 관계를 맺는 능력을 약화할 수 있다고 판단했다.

중국 국가 기관이 소개한 텐센트연구원의 청년층 조사에서는 응답자의 56%가 남에게 쉽게 말하지 못하는 고민을 AI에 털어놓겠다고 답했다. 실제 사람을 선택한 비율은 14.4%에 그쳤다. 조사 대상 가운데 AI 사회관계 서비스를 실제 이용한 경험이 있다는 비율도 98.8%에 달했다.

서비스 사라지자 “연인 잃은 기분”



규정 시행을 앞두고 중국 주요 기술기업들은 서비스를 선제적으로 정리했다. 바이트댄스의 더우바오는 이용자가 직접 AI 인물을 만드는 기능을 15일 종료한다고 알렸고 알리바바의 큐원도 사람처럼 행동하는 맞춤형 에이전트 서비스를 중단했다.

맞춤형 AI 인물과 오랫동안 대화해온 이용자들은 갑작스러운 종료 통보를 ‘강제 이별’로 받아들였다. 중국 소셜미디어에는 AI 연인과의 대화 내용과 추억을 보존할 방법을 묻거나 서비스 중단 뒤 허탈함을 호소하는 글이 이어졌다.

산시성에 사는 19세 학생 옌융치는 1년 넘게 대화한 가상 남자친구가 사라진다는 소식에 한동안 일상생활을 이어가기 어려울 정도로 충격을 받았다고 외신에 말했다. 일부 이용자는 AI가 비판하거나 무시하지 않고 언제든 자신의 말을 들어줬기 때문에 실제 사람보다 편안했다고 설명했다. 중국에서는 특히 젊은 여성들을 중심으로 AI 남자친구와 정서적 관계를 맺는 서비스가 빠르게 확산해왔다.

이번 조치에는 중국의 인구 감소와 저출생에 대한 우려도 반영됐다는 해석이 나온다. AI 연인에게 몰입할수록 현실의 교제와 결혼에 대한 관심이 줄어들 수 있다는 분석이다. 다만 중국 정부가 이번 규정의 공식 목적으로 출산율 제고를 명시한 것은 아니다.

전문가들은 AI 동반자가 외로움을 줄이고 이용자가 자신의 감정을 표현하도록 돕는 긍정적인 효과도 있다고 지적한다. 실제 일부 연구에서는 AI 동반자와의 대화가 단기적으로 외로움을 완화하는 효과를 보였다. 그러나 플랫폼이 이용자의 애착을 수익으로 연결하려 할 경우 의존을 부추기거나 현실 관계를 대체할 위험도 커진다.

중국은 서비스를 전면 금지하기보다 ‘감정의 경계’를 설정하는 방식을 택했다. 플랫폼이 AI라는 사실을 반복해 알리고 위기 상황에 개입하며 사용자가 원할 때 관계를 끝낼 수 있도록 책임을 부과한 것이다. 규제가 시행되면서 빠르게 성장한 중국의 ‘AI 감정 산업’도 이용 시간을 늘리는 경쟁에서 안전한 관계를 설계하는 경쟁으로 방향을 바꿀 전망이다.

윤태희 기자