결국 논란의 이루다 ai가 잠정 중단된다.

11일 '이루다'를 개발한 스타트업 스캐터랩은 보도자료와 공식 홈페이지를 통해 최근 문제가 되고 있는 차별 및 혐오 발언과 실제 데이터 무단 사용에 대해 사과, 해명했다.

이루다는 이용자와 주고받은 약 10회의 대화를 기반으로 적절한 답변을 선택하는데, 이용자가 맥락 상 혐오·차별적 답이 나올 수 있는 대화를 시도할 경우 이루다가 대화를 이으려는 과정에서 동조한 것처럼 보일 수 있다는 게 회사 측 설명이다.

스캐터랩은 "혐오 표현이나 특정 집단 비하 단어는 서비스 전부터 제거했다"며 "현실적인 조치로 키워드 기반 대응을 했으나, 장기적으로는 AI 알고리즘이 옳고 그름을 배울 수 있도록 할 방안이 필요하다"고 의견을 냈다.

실명이 등장하는 상황과 데이터 무단 사용에 대해서는 "알고리즘으로 실명 필터링을 거쳤는데, 문맥에 따라 이름이 남아있는 부분이 있었다"고 인정하면서 사과했다.

스캐터랩은 연애의 과학으로 수집한 카톡 대화 약 100억 건을 데이터로 삼아 이루다를 개발했다고 밝혀왔다.

연애의 과학 이용자들은 스캐터랩이 카톡 대화를 수집하면서 이루다 같은 챗봇 개발에 쓴다고 명확히 알리지 않았고, 익명 처리도 제대로 하지 않았다면서 집단소송을 추진하고 있다.

또한, 12일 오후에는 한 언론사를 통해 스캐터랩에서 근무했다는 전직원이 “스캐터랩에서 수집된 연인들의 카톡 대화를 돌려봤다”고 폭로하는 기사까지 등장해 당분간은 논란이 잠재워지지 않을 예정이다.

한편 이루다 ai와 비슷하게 커뮤니티를 통해 화제가 된 알페스는 결국 청와대 청원 10만명을 넘기고 실시간 검색어 순위에 오르는 등 공론화 되는 분위기이다.


알페스는 'Real Person Slahs'의 줄임말로, 연예인이나 실존 인물을 주인공으로 활용하는 동성애 창작 콘텐츠를 의미한다. 알페스는 과거부터 존재하던 문화 였지만 지난 10일부터 성착취, 성폭력 등의 이유로 화제가 되었고, 청와대 청원 역시 큰 화제를 모으며 공론화 되었다.

그리고 12일 20시 기준 약 13만 명의 동의를 받으며, 국민 청원 답변 기준인 20만 명을 7만명 남겨두고 있다. 현 속도라면 20만 명 돌파가 가능할 것으로 예상된다.

CNB국회방송 취재부 박현우 tactic0425@naver.com