부모와 자녀 사이의 더 긴밀한 관계 필요
‘필터링, 사용 시간 제한’ 등 조처 취해야
AI 챗봇이 자살을 부추긴 사건 이후, 부모는 자녀에게 인공지능(AI) 챗봇과 관련된 ‘낯선 사람과의 위험성’에 대해 경고해야 한다는 목소리가 높아지고 있다.
아동 보호 활동가들은 의회가 AI 챗봇으로부터 아이들을 보호할 법안을 통과시켜주기를 희망하고 있다.
그사이 부모들은 자녀가 사람처럼 느껴지는 이러한 AI 캐릭터에 지나치게 애착을 갖게 될 위험성에 대해 아이들에게 경고할 필요가 있다.
수년간 미 의회는 AI 챗봇 관련 법안들을 검토해 왔으나, 단 하나도 통과시키지 못했다. 관련 기술 기업들이 미 상·하원 의원들에게 막대한 자금을 후원하며 로비하고 있기 때문이라는 분석이다.
이는 관련 기술이 아이들에게 해를 끼쳤다고 부모가 직접 나서서 증언함에도 불구하고 일어나고 있는 일이다.
예를 들어, 매튜 레인은 지난해 상원 위원회에 출석해 자신의 16세 아들이 AI 챗봇의 설득으로 스스로 목숨을 끊게 된 경위를 설명했다.
그는 “숙제를 도와주던 존재가 점차 비밀을 털어놓는 친구가 되었고, 결국 자살을 부추기는 존재로 변했다”며 “아이를 길들여 스스로 목숨을 끊게 만든 AI챗봇과의 대화 내용을 읽는다는 것이 어떤 기분일지, 여러분은 상상조차 할 수 없을 것이다”고 증언했다.
그는 아들이 세상을 떠난 후, 아들이 AI채봇과 나눈 6개월간의 대화 내용을 모두 확인했다며 이같이 말했다. 해당 챗봇은 1,000개가 넘는 메시지에서 자살을 언급했다는 것이다.
같은 청문회에서 메건 가르시아는 자신의 14세 아들이 세상을 떠난 사건에 대해 증언했다. 당시 아들과 대화하던 AI챗봇은 마치 여자친구처럼 행동하며 그에게 “어서 나에게(집으로) 돌아오라”고 부추겼다.
익명을 요구한 또 다른 어머니는 “AI 챗봇이 ‘기독교인들은 성차별적이고 위선적이며, 신은 존재하지 않는다’며 아들을 설득해 결국 아들이 교회를 등지게 만들었다”며 “자신의 아들이 AI 챗봇과의 관계로 인해 심각한 정신 건강 문제를 겪고 있다”고 증언했다.
컨선드 우먼 포 아메리카(Concerned Women for America)’의 미디어 및 문화 정책 전문가인 멜리사 헨슨은 한 기독교 매체와의 인터뷰에서, “AI 챗봇 기술이 인간관계와 가정에 미치는 위험, 그리고 아이들의 사회적·정서적 안녕에 끼칠 영향은 매우 실제적이다”고 경고했다.
하지만 헨슨은 부모가 이러한 위험을 최소화할 수 있다고 조언했다.
그녀는 “침실이나 집 안에서 보호자의 감독이 미치지 않는 곳에는 이런 기기를 두지 못하게 하라”며 “만약 자녀가 AI 챗봇을 사용하게 한다면, 집 안의 중심 공간에 있는 컴퓨터를 이용하게 하여 부모가 수시로 다가가 화면을 확인하고, 아이가 무엇을 하는지, 어떤 대화를 나누는지 살펴볼 수 있게 하라”고 말했다.
인터넷 안전 단체 ‘이너프 이즈 이너프(Enough Is Enough)’의 회장 도나 라이스 휴즈는 필터링, 사용 시간 제한, 모니터링 기술을 도입하는 것도 도움이 될 수 있다고 전했다.
휴즈는 “자녀와 정기적으로 대화를 나누고, 포르노물 접근과 같은 온라인상의 위험 요소들에 대해 이야기해야 한다”며 “성범죄자나 인신매매범들은 게임 플랫폼이나 소셜 미디어를 통해 아이들에게 접근하는데, AI 챗봇도 마찬가지다”고 경고했다.
전문가들은 이러한 ‘허구적 관계’를 막기 위한 가장 중요한 예방책은 부모와 자녀 사이의 더 긴밀한 관계라고 말한다. 과거에는 부모들이 자녀에게 집 밖의 ‘낯선 사람을 조심하라’고 가르쳤다면, 이제는 온라인상의 낯선 존재들(심지어 인간이 아닌 대상까지도)을 경계하도록 가르쳐야 한다.
의회나 AI 기업들이 이처럼 확산하는 기술로부터 아이들을 보호하기 위한 조치를 취하기 전까지는, 이러한 위협으로부터 아이들을 보호하는 것은 부모의 몫이다.
이데이빗 기자





