앤트로픽의 차세대 인공지능 ‘미토스(Mythos)’가 공개 한 달여 만에 전 세계 주요 소프트웨어에서 1만 건이 넘는 고위험 취약점을 찾아내며 보안 업계에 비상이 걸렸다. 미토스는 클라우드플레어 핵심 시스템에서 2000건의 버그를 찾아냈고, 파이어폭스 150 버전에서는 271건의 취약점이 발견되는 등 기존 대비 10배 이상 빠른 탐지 능력을 보여줬다.

이와 같이 사이버 위협이 하루가 다르게 고도화되고 빨라지고 있지만, 오픈소스 유지관리자들은 “AI가 쏟아내는 취약점을 감당할 수 없다”며 패치 지연을 호소하고 있다. 실제로 미토스가 발견한 고위험 버그 하나를 수정하는 데 평균 2주가 걸리는 것으로 나타났다. 보안 전문가들은 “AI가 취약점을 찾는 시대에서, 이제는 (취약점을) 얼마나 빨리 검증하고 패치하느냐가 보안의 핵심이 됐다”며 글로벌 차원의 대응 체계 강화가 시급하다고 지적한다.

이 같은 사이버 위협이 악화하면서 한국인터넷진흥원(KISA)은 ‘AI 기반 사이버공격 대비 기업 대응 요령’을 발표했다. 이번 발표는 크게 △AI 기반 방어 △거버넌스 정비 △오픈소스 식별·관리 △제로트러스트 체계 전환 △기본기 집중 △협력·공유 등 여섯 가지로 구분된다.

첫째는 ‘AI 기반 방어’다. AI를 통한 단기·대량의 사이버공격에 대응하기 위해 기업도 AI 기반의 정보보호 방어책 도입을 검토하고 있다.

AI 기반 정보보호 방어책은 세부적으로 취약점 관리·패치, 정기점검, 로그 분석 등에 대한 수동·주기적 운영 환경에서 AI 기반의 상시 탐지·평가·대응 체계로 전환하는 것이다. 단기·대량화되는 공격 대응을 위해 취약점과 침입을 실시간 탐지하고, 필요시 긴급 패치·차단·설정 변경이 가능한 자동 운영체계를 구축해야 한다. 특히 AI 기반 시스템 운영에 있어, 자동화된 시스템이 실제 서비스 시스템에 미치는 영향을 사전에 면밀히 분석 및 시뮬레이션해 예기치 못한 시스템 장애를 방지하는 것이 필요하다.

또 사고 복구 기능을 최대한 자동화하고, 동시다발적으로 고위험 사고가 발생하는 상황을 가정한 시뮬레이션 훈련 실시해야 한다. 이와 함께 개발·운영의 전 과정에서 취약점 사전 검토(코드 리뷰)가 가능한 특성화 AI 에이전트를 사용해 침해사고의 발생 가능성을 최소화해야 한다.

둘째는 ‘거버넌스 정비’로, 사이버보안은 기업의 운영을 위한 필수 요소임을 명확히 인식하고, 정보보호 인력과 예산, 조직 역량을 재정비해야 한다. CEO 등 경영진은 물론, 전 구성원에게 AI시대에 정보보호가 기업 지속 경영 및 성장의 필수 요소라는 점에 대한 인식을 전파·공유해야 한다. 기업 내 사이버보안 지표를 업데이트하고, 취약점 발표 후 이에 대한 보안패치를 신속히 적용할 수 있도록 정보보호 절차를 재정비해야 한다. 특히 SIM3(침해사고대응팀 성숙도 측정 모델)를 활용해 보안 조직의 정책, 인력, 정보공유 및 대응 절차 등 보안 사고 관리·대응 역량을 점검해야 한다.

셋째는 ‘오픈소스 식별·관리’다. 공격자가 미리 취약점을 파악할 수 있는 오픈소스를 통한 AI 사이버공격 위협에 대비할 필요가 있다. 기업이 사용 중인 오픈소스 리스트(SBOM·Software Bil of Material, 소프트웨어를 구성하고 있는 다양한 정보에 대한 상세 내역)를 작성해 현황을 파악해야 한다. 현재 사용 중인 라이브러리, 프레임워크, 종속성 등을 면밀히 조사하고 SBOM 생성 및 신규 업데이트 정보 관리하고, 생성된 SBOM을 바탕으로 취약점 데이터베이스와 대조해 잠재적 위협을 식별하고 오픈소스 사용 여부 검토할 필요가 있다.

넷째는 ‘제로트러스트 체계 전환’으로, 경계 중심 보안을 넘어 기업의 핵심 자산·데이터를 보호하기 위해 제로트러스트 3대 원칙(강화된 인증, 마이크로 세그멘테이션, 소프트웨어 정의 경계)을 적용한 보안을 강화해야 한다.

기업의 IT환경과 네트워크에 접근을 시도하는 모든 기기·사용자 등을 목록화하고 현재 보안 정책·솔루션·디지털 인프라를 분석하고, 제로트러스트(Zero Trust, ‘아무것도 신뢰하지 않고 항상 검증한다’는 원칙의 사이버보안 모델) 성숙도 모델에 기반, 기업의 현재 상태를 진단하고 계획을 수립해 단계적인 체계 전환을 추진한다.

6대 핵심 요소(식별자·신원, 기기 및 엔드포인트, 네트워크, 시스템, 애플리케이션 및 워크로드, 데이터)별로 진단한 현재 보안 수준을 고려해 제로트러스트 기반으로 전환하는 보안성 향상 방안 마련해야 한다. 이와 함께 보안체계 구축 후 제로트러스트 성숙도 기반의 완성도 비교, 모니터링 및 개선방안 도출 등 지속적인 고도화를 추구해야 한다.

다섯째는 ‘기본기 집중’이다. AI 시대에도 사이버보안의 기본 수칙 이행은 AI의 침투 난이도를 높이고 피해 최소화를 위한 가장 중요한 보안전략이다. 따라서 자산 현황 전수 조사, 취약점 패치 및 이중화 등 운영·관리를 강화하고, 전사 IT 자산의 수명주기와 이동 유무, 운영·폐기 여부 등을 확인 가능한 IT 자산 관리 솔루션 도입·운영 및 주기적 자산실사를 실시한다. 또, 외부 접점 자산(홈페이지, 이메일, VPN, PC 등 인터넷 연결 가능 자산)의 취약점 패치 우선 관리 및 지원종료 시스템 격리 실시한다. 특히 주요 시스템은 사고시 ’신속한 회복‘을 위한 이중화 체계를 구축하고, 계정관리·접근권한 통제 정책을 현행화와 함께 백신 및 EDR(Endpoint Detection & Response) 솔루션 도입, 공급망 관리 강화 등 보안정책을 재정비해야 한다.

불필요·미사용 접속 계정 유무 및 계정별 접근권한 설정을 점검하고, MFA(Multi-Factor Authentication) 적용 등을 통해 인증 체계 강화하고, 백신·EDR 등 보안 솔루션 도입을 확대해 비정상 접속행위에 대한 실시간 탐지 및 모니터링 강화, 로그 관리 정책 수립·정비한다. 협력업체 공급 SW 등 외부 조직·서비스로부터 발생할 수 있는 위험성에 대한 보호 대책 마련 등 공급망 보안체계를 구축해야 한다.

여섯째는 ’협력·공유‘로 민·관 협력을 통해 위협 정보 실시간 공유 및 공동 대응한다. C-TAS, ISAC 등 민·관 협력 채널을 통한 위협 정보 및 대응 방향을 공유한다. 정보보호 포럼 등에 적극 참여해 국내외 보안 동향을 주기적으로 파악하는 것도 중요하다.