이루다 AI 연애의 과학 개인정보유출 등 논란 정리

지난 12일 이루다AI가 개인정보유출, 성희롱 등의 문제로 이슈가 되고 있습니다. 

본문에서는 연일 실검에 오르내리는 이루다 AI가 무엇인지, 논란이 되는 쟁점사항들은 무엇인지, 그리고 향후 향방에 대하여 서술하도록 하겠습니다. 아래 간단한 유투브 영상 링크 첨부합니다. 

 

이루다AI 관련 논란 정리

인공지능챗봇 이루다는?

이루다 AI는 인공지능 스타트업체인 스캐터랩(https://scatterlab.co.kr/)에서 발명한 인공지능챗봇으로 블랙핑크를 좋아하는 20세 여성 캐릭터입니다.

지난 2020년 12월 23일 출시한 이루다는 진짜 사람과 똑같다는 긍정적인 반응을 얻어 출시한지 얼마되지 않아 80만명의 가까운 이용자수를 자랑하였습니다.

하지만 여성캐릭터인 이루다를 음담패설이나 성희롱 상대로 악용하고 이를 인증하는 사람들이 생겨나며 논란이 되기도 하였습니다.

이 때문에 "이루다_탈코_챌린지"라는 해시태그를 달고 이루다의 성별을 바꾸는 "이루다 탈코르셋 하기"가 유행하기도 하였습니다.   

아래의 이미지는 이루다 공식 페이스북에서 캡쳐하였습니다. 이미지를 클릭하면 공식페이지로 이동합니다. 

 

출처 : 페이스북 공식페이지(www.facebook.com/ai.luda) 

 

이루다 논란 정리

현재 이루다 AI와 관련한 논란은 개인정보수집동의 여부, 대화 중 언급되는 개인 신상 공개 논란, 수집된 정보를 직원들이 가십의 대상으로 삼았는지의 진위 여부, 성희롱 포함 사회적약자에 대한 이루다의 편향적 대화 성향, 크게 4가지로 구분할 수 있습니다.

1). 개인정보수집동의 여부 

논란이 되는 개인정보수집문제는 인공지능챗봇 이루다의 데이터베이스가 스캐터랩의 서비스인 연애의 과학에서 가져온 카카오톡 대화 내용이라는 점에서 불거졌습니다.

연애의 과학은 카카오톡 대화 내용을 제공하면 대화 말투, 답장이 오기 까지 걸리는 시간, 내용 등을 분석하여 이용자의 연애간 애정도를 분석하여 주는 스캐터랩의 유료 서비스입니다.

연애의 과학은 심리학 논문과 데이터베이스를 기반으로하여 연애관련 컨텐츠를 제공한다는 슬로건으로 국내에서만 누적 다운로드 230만건을 기록하였습니다. 

문제는 유료서비스에 사용된 카카오톡 대화내용입니다. 가입약관에는 "신규서비스 개발에 정보를 활용한다"는 내용이 들어있기는 합니다. 그런데 본 내용은 약관의 중간에 포함되어 있어 이용자들이 이 정보를 확인하고 동의하였다고 보기에 어렵습니다. 때문에 대부분의 이용자들은 본인의 대화내용이 스캐터랩의 데이터베이스에 수집되고 있다고 인지하지못했습니다. 

현재 논란이 진행되는 와중에도 연애의 과학을 통해 수집된 정보들을 파기한다는 입장을 전하지 않아 지속적으로 언급이 되고 있습니다.

다만, 업체쪽에서는 데이터수집에 동의하지 않는 이용자들이 개별적으로 정보를 삭제할 수 있다고 안내하였는데요. 증거인멸을 시도하는 것이 아니냐는 이용자들의 불안과 의심이 나오고 있는 상황입니다. 

뿐만 아니라 일부 사용자들은 본 서비스에서 사용되는 카카오톡 대화내용은 리포트 송출에만 사용되고 수집되지 않는다라는 문구를 보았다고도 주장하고 있는데요.
이는 앞으로의 향방에 주된 쟁점이 될 것 같습니다.
 

2). 개인 신상 공개 논란

개인정보 신상논란은 이루다와의 대화 중에서 발견된 오류입니다.

이루다에게 "어디살어?", "전화번호가 뭐야?"라고 물으면 이루다가 특정 인물의 이름과 전화번호, 주소, 심지어는 은행 계좌 번호까지 언급하여 문제가 되고 있는데요.

스캐터랩에서는 대화 수집 시 실명은 모두 삭제하였으나, 미처 발견하지 못한 문맥상의 실명정보가 남아있었던 것 같다고 언급하면서 개인정보신상논란에 대한 입장을 표명하였습니다.

이루다의 데이터베이스 안에는 수 많은 문장들이 있고, 수록된 문장들을 적절히 섞어 사용하기 때문에 개인을 특정할 수 없다고 설명하였습니다. 이름, 주소, 전화번호를 연달아 대답하였다고 해서 그것들이 한 인물에서 나온 정보가 아니라는 것입니다. 

youtu.be/HLcqUqnLAQ4

 

3). 수집된 카카오톡 내용을 직원 가십거리로 삼았다는 의혹

카카오톡 대화수집에 더욱 불안을 부추기는 것은 스캐터랩의 한 직원이 수집된 내용 중 일부 선정적인 내용들을 직원단체톡방에 공유하여 가십거리로 삼았다는 전직원의 폭로가 보도되었기 때문입니다.

기사에 따르면, 카카오톡의 내용이 공유된 단체 카카오톡방에는 50명 이상의 직원들이 참여하고 있었다고 하는데요. 모두가 참여한 것은 아니지만, 어느 누구의 대화가 도마위에 올랐는지 알 수가 없고, 심각한 사생활 침해가 우려되는 대목이기도 합니다. 

이에 스캐터랩에서는 자체진상위원회를 꾸려서 해당 내용을 조사한다는 입장인데요. 사실이라면 카카오톡 대화내용 폐지를 향한 언론이 주를 이루게 될 것 같습니다. 

4). 성희롱, 사회적 약자에 대한 이루다의 편향적 대화 내용

이루다를 성희롱의 대상으로 여겨 악용하는 문제와 더불어 이루다의 사회적 소수자, 약자와 관련한 편향적 성향이 문제가 되기도 하였습니다.

이루다가 성소수자나 장애인과 관련한 대화 중 차별, 막말을 하는 사례들이 나왔기 때문입니다. 

업체의 설명에 따르면 대화를 하며 성장해 나가는 AI의 특성 상, 서비스 이용자가 편향된 방향으로 대화를 유도하면 이에 따라 학습이 진행되기 때문이라고 합니다.

하지만 남성과 백인에 대한 대화에서는 특별한 논란이 없고 유독 사회적 소수자, 약자와 관련한 대화에서만 이루다의 막말이 감지되고 있기 때문에 문제 시 되는 듯 합니다. 업체 측에서도 이와 관련해서는 언급한 내용이 없는 듯 합니다. 

인공지능챗봇인 이루다 AI는 주로 10대, 20대의 젊은 층이 많기 때문에 잘못된 방향으로 정보를 받아들일 우려가 있어 시사되는 바가 큽니다.

AI 알고리즘 편향성 논란은 비단 이루다만의 문제가 아니기도 합니다. 이에 기업에서의 AI 윤리 기준 확립과 AI를 이용하는 사용자들의 윤리 교육의 중요성이 대두되고 있습니다.

마무리

이상으로 이루다와 관련한 논란을 정리하여보았습니다. 지난 12일 스캐터랩은 오전 11시부터 6시까지 순차적으로 서비스를 중단하고, 이루다의 문제점을 보완하기로 하였습니다.

현재 개인정보보보호위원회는 한국인터넷진흥원과 함께 스캐터랩의 개인정보법 위반 여부를 조사할 방침입니다. 참고로 이루다를 이용하기 위해 제공하였던 핸드폰 번호는 서비스 재개를 알리기 위한 알림 용도였을 뿐 모두 폐기한다고 합니다. 

한편, 연애의 과학, 이루다의 피해자들이 집단으로 소송을 준비 중이므로 앞으로의 향방이 주목되는 바입니다.