국회도서관은 ‘유럽연합의 인공지능 규정(안)’을 소개한 '최신외국입법정보'(2021-16호, 통권 제165호)를 발간했다고 6일 밝혔다.

이번 호에서는 인공지능의 안전한 활용에 관한 입법적 참고사항을 살펴봤다.

최근 인공지능은 자율자동차·가전제품·마케팅·고객대응 등 다양한 분야에서 사용되고 있고, 오남용 또는 오작동하는 경우 예상치 못한 피해가 발생할 수 있다.

2021년 4월 21일 유럽연합 집행위원회는 인공지능의 안전한 활용을 위해 인간에 대한 위험도에 따라서 3단계로 구분해 규제하는 규정(안)을 마련했다. 이 규정(안)은 유럽연합에 인공지능 서비스를 제공하는 역외 사업자에게도 적용된다.

먼저 ‘금지된 인공지능’은 인공지능이 인간의 존엄성과 기본권을 침해할 위험이 있는 경우를 대상으로 한다. 예를 들어, 공공기관이 인공지능을 활용하여 실시간 생체인식을 한 후 특정한 사람에 대한 감시나 불리한 대우를 하는 경우를 금지하는 것이다.

다음으로 ‘고위험 인공지능’은 인공지능이 상품의 안전이나 인간의 기본권에 영향을 줄 수 있는 경우를 말한다. 예를 들어, 인공지능이 항공기·자동차·기계 등에 탑재되거나 교통·수도·전기 등 중요인프라 시스템에 탑재되어 오동작을 일으킬 경우 사람의 안전에 위험이 발생할 수 있다.

규정(안)은 고위험 인공지능 사업자로 하여금 상품 또는 서비스 출시 전에 적합성 평가와 인증을 받도록 하고, 인공지능의 학습용 데이터셋이 편향되지 않고 오류가 없도록 지속적 관리를 의무화하고 있다.

마지막으로 ‘저위험 인공지능’은 사람에 별다른 위험이 없는 인공지능으로 특별한 경우가 아니면 규제의 대상에 포함시키지 않는다.

현진권 국회도서관장은 “이번에 소개하는 유럽연합의 규정(안)이 인간에 미치는 위험도에 따라 인공지능을 규제하려는 입법적인 시도를 하고 있다는 측면을 높게 평가하고, 이를 입법과정에 참고하여 인공지능 산업 발전에 도움이 되기를 희망한다”고 밝혔다.