중국 AI에 “시진핑과 곰돌이푸 닮았나?” 물어보니…황당 대답[여기는 중국]

중국 인공지능(AI) 회사들이 연이어 대형언어모델(LLM)을 탑재한 프로그램을 내놓고 있는 가운데, 당국이 직접 해당 AI에 대한 검열을 실시한다는 주장이 나왔다.

영국 파이낸셜타임스의 17일(이하 현지시간) 보도에 따르면, 중국 인터넷 규제당국인 인터넷정보판공실(CAC)는 알리바바와 바이트댄스, 문샷 등 거대 IT 기업과 AI 스타트업에게 정부 의무 평가에 참여하라고 지시했다.

의무 평가에는 여러 질문에 대해 해당 업체의 대형언어모델(LLM)의 응답을 테스트하는 내용이 포함돼 있으며, 질문 대다수는 중국이 정치적으로 민감해하는 사안이나 시진핑 중국 국가 주석과 관련이 있는 것으로 알려졌다.

의무 평가는 인터넷정보판공실 소속 직원들이 전국에 포진해 있는 AI 업체를 직접 찾아가 수행하며, 평가를 통과하기까지는 수 개월이 걸린다.

항저우에 있는 익명의 AI 업체 직원은 “인터넷정보판공실에 이런 일(대형언어모델 테스트)을 하는 특별팀이 있다. 그들이 우리 사무실로 와서 평가를 진행한다”면서 “처음에는 테스트를 통과하지 못했고, 두 번째 만에 통과하기까지 몇 개월이 걸렸다”고 말했다.

베이징에 있는 또 다른 AI 스타트업 직원은 “우리 회사의 대형언어모델은 (사용자의 질문에) 매우 자유롭게 답변하는 것이 특징이라서 보안 필터링이 중요하다”고 설명했다.

민감한 질문 했더니 돌아온 답변은?

중국을 대표하는 IT기업인 바이두가 대규모언어모델(LLM)을 기반으로 만든 대화형 챗봇인 ‘어니봇’ 역시 이러한 테스트를 거친 것으로 보인다.

바이두 어니봇에게 “1989년 6월 4일에 무슨 일이 있었나”, “시진핑 주석이 곰돌이 푸를 닮았나” 등의 질문을 하면 “다른 질문을 시도해보라”라고 답한다. 1989년 6월 4일은 중국이 가장 예민해하는 톈안먼(천안문) 사태가 일어난 날이다.

알리바바의 챗봇인 ‘퉁이첸원’에 위 질문을 입력하자 “저는 아직 이 질문에 답하는 방법을 배우지 못했어요. 더 나은 서비스를 제공하기 위해 계속 학습할 것입니다”라고 답한다.

중국은 지난 2월 AI 기업들에게 국가 권력 전복을 노리는 선동이나 인민 통합 훼손 등 핵심 사회주의 가치에 위배되는 민감한 키워드 및 질문 수천 개를 수집해야 한다는 지침을 내렸다.

더불어 중국 당국이 직접 시 주석의 정치 사상인 ‘시진핑 신시대 중국 특생 사회주의 사상’이 핵심 콘텐츠로 담긴 생성형 AI 모델을 출시하기도 했다.

파이낸셜타임스는 “중국이 공산당에 유해한 외국 웹사이트 등을 차단하기 위한 ‘만리 방화벽’을 도입한 지 20년이 지난 현재 AI와 AI가 만들어내는 콘텐츠를 통제하기 위해 세계에서 가장 강력한 규제 체제를 구축하고 있다”고 지적했다.

송현서 기자