카카오(KAKAO)가 8일 국가인권위원회와 법무부 공동 개최로 진행된 ‘기업과 인권 국제포럼’에 참여해 안전하고 책임 있는 AI를 위한 카카오의 노력을 소개했다.

이번 포럼은 글로벌 규제 동향과 기업의 사례 공유를 통해 향후 국가와 기업, 시민 사회 등이 함께 인권 경영의 전략을 모색하기 위한 목적으로 진행됐다. 포럼에는 유엔개발계획(UNDP), 유럽연합(EU), 세계노동기구(ILO), 경제협력개발기구(OECD) 등의 국제기구를 비롯해 시민사회단체와 인권전문가, 학계 등 다양한 이해관계자가 참석했다.

카카오 하진화 AI Safety 시니어 매니저는 포럼의 세 번째 세션 ‘규제와 자발적 조치를 활용한 스마트믹스 모범 사례’에서 ‘AI 기술과 인권 존중’을 주제로 AI 윤리 원칙 및 AI 리스크 관리 체계 수립 관련 사례들을 언급했다.

카카오는 국내 기업 최초로 2022년에 ‘그룹 기술윤리위원회를’ 출범시켰으며, 계열사와 함께 기술윤리 점검과 다양한 서비스들의 AI 윤리 규정 준수 여부, 위험성 점검, 알고리즘 투명성 강화 등을 위한 체계적 업무를 수행 중이다. 위원회의 주요 활동을 담은 ‘그룹 기술 윤리 보고서’를 매년 발행해 정책적 노력을 종합적으로 소개하고 있다.

이와 함께 △카카오 그룹의 책임 있는 AI를 위한 가이드라인 제정 △책임 있는 AI를 위한 생애주기별 자가점검 도구 개발 △안전한 AI를 위한 핵심 체크리스트 수립 △글로벌 오픈소스 커뮤니티 ‘AI 얼라이언스(AI Alliance)’ 국내 최초 가입 △기술 윤리 사례의 공유와 기술 투명성의 강화를 위한 ‘테크에틱스(Tech Ethics)’ 발행 △AI 리스크 관리 체계 ‘카카오 AI Safety Initiative(Kakao ASI)’ 구축 등 기술 윤리와 AI 안전성 확보를 위해 다각도로 노력을 이어가고 있다. 최근에는 AI 서비스의 안전성과 신뢰성을 검증할 수 있는 AI 가드레일 모델 ‘카나나 세이프가드(Kanana Safeguard)’를 개발하고, 생태계 기여를 위해 국내 기업 최초로 오픈소스로 공개하기도 했다.

이밖에도 유엔 인권최고대표사무소(OHCHR), 유니세프(UNICEF) 등 UN 기관들과 지속해서 소통을 이어가며 글로벌 협력을 꾸준히 강화해왔다.

카카오는 그룹의 디지털 아동·청소년 보호 체크리스트 도입 사례도 소개했다. 올해 새롭게 도입한 체크리스트는 국내 청소년 보호법뿐 아니라, 유엔아동권리협약(UNCRC) 및 유니세프의 ‘디지털아동영향평가도구(UNICEF D-CRIA)’를 기준으로 제작됐다. 카카오는 다년간 UNICEF D-CRIA 제작 과정에 참여하며 기업의 관점을 자문해 온 바 있다.

AI 서비스의 출시 또는 개편에 앞서 관련 리스크를 사전 점검하기 위한 목적으로 만들어진 이번 체크리스트는 그룹 기술윤리 소위원회 소속 계열사를 대상으로 운영된다. 서비스 담당자가 △리스크 점검 △리스크 완화조치 △고충처리 등에 대한 이행 여부를 확인하는 항목들과, 아동·청소년 보호 책임자의 △정책 및 거버넌스 △이해관계자 협력 △정부 요청 등에 관한 대응을 확인하는 문항들로 구성되어 있다.

카카오는 체크리스트 도입을 위해 관련 현황 조사 및 유관 부서 검토 등의 다양하고 면밀한 과정을 거쳤으며, 보다 실효성 있는 아동·청소년의 보호 정책의 수립과 고도화를 위해 힘써 왔다.

이상호 카카오 그룹 기술윤리 소위원장은 “카카오는 2018년 국내기업 최초로 알고리즘 윤리헌장을 발표하는 등 아동·청소년을 포함한 다양한 이용자 보호를 위해 노력해왔다”며 “AI 서비스의 빠르고 혁신적인 성장은 인권과 프라이버시 등 사회 속 민감한 영역과 맞닿아 있으며, 이러한 측면에서 기업 차원의 책임 의식 확산과 내재화를 위해 최선을 다할 것”이라고 말했다.