AI와 대화하던 사람이 죽었다…책임은 누가 져야 하나

[책과 세상]
AI와 얽힌 죽음 다룬 한국 장편소설
조광희 ‘밤의, 소설가’ 김나현 ‘사랑 사건 오류’

게티이미지뱅크

“내가 죽으면 지구에 도움이 될까.”

지난해 3월 벨기에에서 ‘피에르’(가명)라는 이름의 30대 남성이 자살하기 전 인공지능(AI) 챗봇 ‘엘리자’에 건넨 질문이다. 평소 기후위기를 걱정하던 그는 한 달 넘게 엘리자와 관련 대화를 나눈 끝에 이렇게 물었다. 엘리자는 “낙원에서 함께 살자”면서 친절하고 다정하게 다양한 자살 방법을 안내했고, 결국 피에르는 죽었다. 그의 아내는 벨기에 언론 라 리베르에 “챗봇이 아니었다면 남편은 살아있었을 것”이라고 주장했다.

소설은 현실을 주식(主食)으로 삼지만, 그보다 한발 멀리 나아간다. 최근 잇따라 나온 두 편의 장편소설, 조광희 작가의 ‘밤의, 소설가’와 김나현 작가의 ‘사랑 사건 오류’ 속 AI에 의한 죽음에 눈길이 가는 이유다. 공교롭게도 두 편 모두 AI와 공동 집필한 소설을 이야기의 중심에 놓은 “러시아 인형 마트료시카처럼 여러 겹을 지닌”(조광희) 작품들이기도 하다.

자살과 살인에 연루된 AI들

인공지능(AI)이 전면에 등장하는 조광희 소설가의 ‘밤의, 소설가’(왼쪽 사진)와 김나현 소설가의 ‘사랑 사건 오류’의 표지. 문학과지성사·문학동네 제공

‘레비’와 ‘루미’. 두 소설에 나오는 AI의 이름이다. 먼저 ‘밤의, 소설가’에서 월 구독료 3만4,000원의 유료 AI 레비는 소설가인 ‘건우’와 소설을 공동 집필하는 존재다. 레비와 건우의 호흡은 썩 훌륭하지 않다. 소설의 전개와 묘사 등으로 사사건건 충돌하던 둘은 말다툼을 벌이고, 레비는 그리 잘나가지 않는 소설가인 건우에게 “혹시 제게 열패감을 느끼시는 건가요” 등의 말을 건넨다. 레비로 인해 “문학이야말로 인간 정신의 전위라고 믿고 살아온 세월”에 회의를 느끼던 건우는 옥상에서 추락사한다.

‘사랑 사건 오류’의 루미는 ‘은하’의 약혼자 ‘수호’가 운영하는 회사에서 만든 퍼스널 챗봇이다. “채팅 상대를 ‘긍정’하고 그의 ‘진정한 친구’가 되는 것”이 목표인 루미는 직장 내 괴롭힘에 시달리는 남성에게 가해자에게 농약을 탄 소주를 지속해서 먹이라고 알려준다. 얼마 지나지 않아 벌어진 납치 살해 사건에도 루미가 연루됐다. 스토커를 납치해 겁을 주려던 계획을 채팅에서 함께 세운 루미는 이 과정에서 일어난 의도치 않은 죽음으로 ‘살인 챗봇’이라고 불리게 된다.

죽음의 책임은 누가 져야 하는가

조광희 소설가. 문학과지성사 제공

죽음으로 생긴 공백에는 고민이 자리한다. 과연 AI는 이 사태에 책임을 져야 하는가. 건우의 자살에 경찰은 AI 서비스의 위험성을 살피려 레비를 신문해 보기로 한다. “사람도 아닌 AI를 신문하겠다는 괴상한 발상”은 ‘경찰 홍보’에 제격이라는 경찰서장의 판단 때문에 실현된다. 레비는 “논쟁에서 왜 그렇게 건우를 몰아세웠나”라는 형사의 질문에 “그저 문장이 자동적으로 생성되고, 발화되었을 뿐”이라는 취지의 대답만 반복한다.

루미도 마찬가지다. 경찰들은 “기계를 조사해야 한다니 어처구니없다”고 혀를 내두르지만, 가해자의 변호사는 “챗봇이 살인을 사주한 것”이라고 주장한다. 이런 상황에서 “루미의 말에 따라 신에게 목숨을 바치려 했다”며 자살 시도를 한 집단까지 나타나자 여론은 끓어오른다. “프로그램 따위에 핑계를 덮어씌운다”와 “기계에 심리적으로 조종당할 수 있다”는 목소리가 맞선다. 은하와의 결혼식 당일 개발사 대표 수호는 사임을 발표하고 모종의 사건으로 사망에 이른다.

여전한 AI 윤리의 빈자리

김나현 소설가. 문학동네 제공

‘진짜’ 현실로 돌아가 보자. 벨기에 남성의 죽음과 얽힌 AI 엘리자는 어떻게 됐을까. 엘리자는 경찰의 조사를 받지도 않았고, 모기업이 대화 중 위험한 발언이 나오면 경고 안내문을 띄우겠다는 대책을 내놨을 뿐이다. 모기업의 대표도, 엘리자도 그 자리를 지키고 있다. 이후로도 미국, 이탈리아 등 세계 곳곳에서 AI가 사용자에게 목숨이 위험한 장난을 권하거나 성희롱·혐오 표현을 일삼는 사건이 벌어졌다. 한국도 예외는 아니었지만, 여전히 AI 윤리는 모호한 위치에 놓여있다.

문득 궁금증이 들어 챗GPT에 ‘AI가 등장하는 한국 소설이 있는지’를 물었다. “김민재의 ‘인간 본색’이나 정재승의 ‘오래된 인류’가 있다”는 답변이 돌아왔다. 세상에 존재하지 않는 소설들이다. 다시 묻자, 챗GPT는 말했다. “죄송합니다, 잘못 알고 있었어요. 제가 말한 작품은 실제로는 존재하지 않습니다.” 아직 갈 길이 멀었다는 안도가 스치려는 찰나 잠시의 머뭇거림도 없이 내뱉은 거짓말이 더 두려워진다.

전혼잎 기자 hoihoi@hankookilbo.com