성차별과 동성애·장애인 혐오 등의 논란을 일으킨 인공지능(AI) 챗봇 '이루다' 개발사에 수억 원의 과징금과 과태료가 부과됐다.

개인정보보호위원회 28일 전체회의를 열고 '이루다' 개발사 ㈜스캐터랩에 대해 총 1억 330만 원의 과징금과 과태료 등을 부과했다고 밝혔다.

개인정보위의 이번 제재는 혐오 논란이 아닌 개인정보를 무단으로 사용한 데 대한 것이다.

개인정보위에 따르면 스캐터랩은 자사의 앱 서비스인 ‘텍스트앳’과 ‘연애의 과학’에서 수집한 카카오톡 대화를 '이루다' 의 AI 개발과 운영에 이용했다.

스캐터랩은 '이루다' AI 모델의 개발을 위한 알고리즘 학습 과정에서, 카카오톡 대화에 포함된 이름, 휴대전화번호, 주소 등의 개인정보를 삭제하거나 암호화하는 등의 조치를 전혀 하지 않았다.

또 약 60만 명에 달하는 이용자의 카카오톡 대화문장 94억여 건을 이용했으며, 서비스 운영 과정에서는 20대 여성의 카카오톡 대화 문장 약 1억 건을 응답 데이터베이스로  구축하고, '이루다'가 이 중 한 문장을 선택하여 발화할 수 있도록 운영했다.

개인정보위는 "텍스트앳과 연애의 과학 개인정보처리방침에 '신규 서비스 개발'을 포함해 이용자가 로그인함으로써 동의한 것으로 간주하는 것만으로는 이용자가 '이루다'와 같은 ’신규 서비스 개발‘ 목적의 이용에 동의하였다고 보기 어렵다"라며 "'신규 서비스 개발'이라는 기재만으로 이용자가 '이루다' 개발과 운영에 카카오톡 대화가 이용될 것에 대해 예상하기도 어렵다"라고 판단했다.

이어 "이용자의 개인정보 자기결정권이 제한되는 등 이용자가 예측할 수 없는 손해를 입을 우려가 있다는 이유로 스캐터랩이 이용자의 개인정보를 수집한 목적을 벗어나 이용한 것"이라고 판단했다.

아울러 개인정보위는 스캐터랩이 개발자들의 코드 공유 및 협업 사이트로 알려진 깃허브(Github)에 이름과 지명정보, 성별, 대화 상대방과의 관계 등이 포함된 카카오톡 대화문장 1,431건과 함께 AI 모델을 게시한 것에 대해서도 '개인정보 보호법'을 위반했다고 봤다. 제28조의2제2항을 위반한 것이라고 판단하였다.

윤종인 개인정보위 위원장은 "이번 사건은 기업이 특정 서비스에서 수집한 정보를 다른 서비스에 무분별하게 이용하는 것이 허용되지 않고, 개인정보 처리에 대하여 정보주체가 명확하게 인지할 수 있도록 알리고 동의를 받아야 한다는 것을 분명히 하였다는 점에 의미가 있다"라며 "처분 결과가 AI 기술 기업이 개인정보를 이용할 때에 올바른 개인정보 처리 방향을 제시하는 길잡이가 되고, 기업이 스스로 관리·감독을 강화해 나가는 계기가 되기를 바란다"라고 했다.