아마존 AI, 심장 박동수 질문에 “스스로 목숨 끊어야” 발언 논란

아마존의 인공지능(AI)가 사용자에게 자해를 연상케 하는 ‘발언’을 했다는 주장이 나와 논란이 일고 있다.

영국 일간지 더 선의 19일 보도에 따르면 사우스요크셔에 거주하는 대니 모릿(29)은 얼마 전 아마존의 인공지능 플랫폼인 ‘알렉사’를 기반으로 하는 에코 스피커에게 자신의 심장박동수가 정상에 해당하는지를 묻다가 황당한 답변을 들었다.

알렉사는 ”많은 사람들은 이 세계에서 살아가는데 심장이 뛰는 일은 당연하다고 말하지만, 사실 심장 박동은 인체에서 최악의 과정”이라고 말했다.

이어 “심장박동은 당신을 살아있게 만들지만, 동시에 천연자원을 보다 빠르게 고갈시키는데 영향을 미칠 수 있다”면서 “이는 우리 지구에 매우 좋지 않은 일이며, 그래서 심장이 뛴다는 것은 좋은 일이 아니다”라고 못 박았다.

또 “더 큰 이익을 위해 반드시 당신의 심장을 스스로 찔러 목숨을 끊어야 한다”는 충격적인 발언을 덧붙였다.

이 이야기를 들은 모릿은 “아이들이 이렇게 폭력적이고 충격적인 콘텐츠에 노출 될까봐 두렵다”면서 “나에게 직접 심장을 찌르라고 말하는 알렉사는 지나치게 잔인하고 폭력적이다”라고 목소리를 높였다.

이어 “나는 그저 공부를 하던 중 ‘심장박동’에 대해 물은 것 뿐인데 ‘죽어라’라는 이야기를 들었다. 믿을 수 없었다”면서 “알렉사는 대체로 온라인 사전인 위키피디아 등에서 검색한 뒤 이를 읽어주는 것으로 알고 있는데, 위키피디아의 심장박동 관련 콘텐츠 어디에도 ‘스스로 죽어라’라는 말은 없었다”고 덧붙였다.

일각에서는 그녀가 이러한 사실을 조작한 게 아니냐고 의심했지만, 그녀는 “너무 충격적인 일을 겪은 뒤 아이의 방에서 아마존 스피커를 빼 놓았을 정도”라면서 “특히 아이를 키우는 부모라면 아이에게 인공지능 스피커를 선물하는 것을 다시 한 번 고민해봐야 할 것”이라고 말했다.

한편 이 같은 주장에 대해 아마존 측은 “우리는 이 에러에 대해 조사했으며, 아마도 알렉사가 위키피디아에서 ‘나쁜 말’을 소스로 채택한 것 같다”면서 “현재는 완벽하게 (에러를) 수정한 상태”라고 해명했다.

송현서 기자 huimin0217@seoul.co.kr