20세 여대생으로 설정된 인공지능 챗봇 서비스

한국의 스타트업 스캐터랩이 출시한 인공지능 챗봇 서비스다. 이용자는 20세 여대생으로 설정된 이루다와 대화할 수 있다. 일부 온라인 커뮤니티는 이루다를 상대로 성희롱성 대화를 시도한 것으로 밝혀져 문제가 됐다. 이루다는 딥러닝 기술을 기반으로 레즈비언에 대해 ‘진짜 싫다’, ‘혐오스럽다’ 등 혐오표현을 학습해 논란이 확대됐다. 스캐터랩은 이용자 동의 범위를 넘어선 개인정보 수집 의혹까지 휩싸이더니, 2021년 1월 15일 이루다의 딥러닝 대화 모델을 폐기한다고 발표했다.

다음달 2일 과학기술정보통신부와 정보통신정책연구원은 ‘사람 중심의 인공지능을 위한 AI 윤리 정책 세미나’를 연다고 밝혔다. 인공지능의 혐오 표현 학습이 문제가 된 이루다를 시작으로 AI 윤리 정립 논의가 본격적으로 이루어지고 있다. 주제는 ‘사람 중심 AI 구현을 위한 도전과 과제’다.

 

 관련기사로 알아보기

-조선비즈

챗봇‘이루다’가 불지핀AI 윤리 논란…정책 세미나 개최

-연합뉴스

'제2의 이루다'막으려면…'사람중심AI윤리정책 세미나' 개최

 

 

저작권자 © 단비뉴스 무단전재 및 재배포 금지