;)
▲ 자료사진(123rf)
일본에서 손꼽히는 AI 전문가이자 일본 국립정보학연구소 사회공유지식센터장인 아라이 노리코 교수는 지난 4일 일본 매체 동양경제 온라인 인터뷰에서 “AI는 ‘언어’를 ‘기호’로 인식해 계산하고 처리할 수는 있어도 그것에 대해 ‘뜻이 옳다’고 판단할 수는 없다”면서 “미래에 AI의 판단이 100% 정확할 것이라는 기대는 과학적으로 터무니없는 것”이라고 AI에 대한 회의감을 드러냈다.
아라이 교수는 자신의 주장을 증명할 사례로 지난해 일본 도쿄대 입시의 세계사 논술 문제인 ‘8세기부터 19세기까지 투르키스탄 지역의 역사적 전개 과정에 대해 기술하라’는 논술 문제를 챗GPT에게 풀도록 했는데 그 결과 챗GPT는 사람이 쓸 법한 표현을 써가며 매우 매끄럽게 대답했지만 사실 챗GPT가 답한 내용은 사실과는 거리가 멀었다는 점을 들었다.
예컨대 인도 무굴제국의 건국자인 바부르는 15세기에 출생했지만 챗GPT는 그가 13세기에 투르키스탄 지역을 정복했다고 썼다. 또, 챗GPT는 투르키스탄 지역이 투르크계 카라한 왕조에 의해 통치됐고 카라한 왕조는 중국의 송나라와 무역을 했다고 썼는데 이는 오늘날까지 그 진위 여부를 확인하기 어려운 내용이다.
그럼에도 불구하고 대중들이 챗GPT가 작성한 글의 내용을 신뢰하는 우를 범하는 이유에 대해 아라이 교수는 인간의 심리적인 요인 때문이라고 설명했다. 그는 “사람들이 챗GPT에 대해 대단하다고 느끼게 되는 것은 사람의 질문에 매우 자신만만하고 부드럽게 거짓말을 하는 챗GPT의 ‘사이코패스’적 기질에 기인하고 있다”면서 “그러다 보니 지적 수준이 높은 사람도 ‘챗GPT가 더 옳지 않느냐’고 신념이 흔들리게 된다”고 말했다.
나아가 AI의 이러한 문제점이 초래할 사회적 위험에 대해 그는 AI가 민주주의의 발전을 심각하게 저해할 수 있다고 경고했다. 그는 “(생성형 AI라고 하는) 매우 매력적이고 또 한편으로는 미숙한 과학기술이 단기적으로 우리 사회에 가져올 비용과 위험을 우리는 짊어질 각오가 돼 있느냐. 이 점에 대해 우리는 심각하게 고민해야 한다”면서 “이것은 ‘민주주의에 대한 도전’이기도 하다”고 했다.
그가 제시한 ‘민주주의에 대한 도전’의 대표적인 사례로 한 온라인 매체가 챗GPT를 사용해 셀 수 없이 많은 수의 가짜 뉴스를 매 초마다 뿌리는 것을 들었다. 뉴스에 대한 사실 확인은 인력으로 해야 하기에 그렇게 되면 뉴스에 대한 사실 확인이 불가능해진다. 그리고 그렇게 가짜 뉴스가 범람하는 상황 속에서 대통령 선거도 치러질 수 있다는 것이다.
이에 대한 대책으로 그는 과거 ‘잊힐 권리’에 대한 법제화처럼 하루빨리 ‘사실을 알 권리’에 대한 법제화도 진행돼야 한다고 주장한다.
정민욱 일본 통신원 muchung617@naver.com
