엔비디아(www.nvidia.co.kr)가 미국 라스베이거스에서 개최된 블랙햇(Black Hat) 연례 콘퍼런스에서 120개가 넘는 조직이 참여하고 있는 오픈 시큐어 AI 얼라이언스(Open Secure AI Alliance) 회원사들이 에이전틱 AI 사이버보안을 강화하기 위한 새로운 가이드라인을 개발하고 있다고 밝혔다.
리눅스 재단(Linux Foundation)은 SAFE(Shared AI Findings Exchange)에 대한 의견 수렴 요청서(Request for Comments, RFC)를 공개했다. SAFE는 에이전틱 AI 사이버보안 사고에서 얻은 정보를 생태계 전체를 보호하는 공동의 방어 체계로 전환하기 위해 제안된 가이드라인이다.
SAFE 가이드라인은 오픈 시큐어 AI 얼라이언스 워킹 그룹이 마련하고 있다. 엔비디아(NVIDIA)와 시스코(Cisco), 크라우드스트라이크(CrowdStrike), 허깅페이스(Hugging Face), 레드햇(Red Hat)을 비롯한 오픈 시큐어 AI 얼라이언스 회원사들은 리눅스 재단과 협력해 초기 제안서 작성에 참여하고 있다.
SAFE 가이드라인에는 AI 관련 사고와 아차 사고(near miss)를 기밀로 수집·분석하고, 영향을 받은 대상에 이를 알리며, 반복적으로 발생하는 통제 실패를 식별하는 방안이 포함돼 있다. 또한, 시스템 전반의 위험을 줄일 수 있도록 증거에 기반한 운영 권고안을 발표하는 방안도 담고 있다.
사이버보안은 결승선이 없는 경주이다. 주요 기술이 전환될 때마다 새로운 잠재적 공격 표면이 생겨났다. 방어자는 인프라와 지식재산을 보호하기 위해 지금부터 AI 에이전트의 속도에 맞춰 신속하게 대응해야 하며, 이를 위한 가장 효과적인 방법은 함께 협력하는 것이다. 신뢰할 수 있는 생태계가 위협 인텔리전스를 투명하게 공유할 때 집단 방어의 효과는 더욱 배가될 수 있다.
회원사들이 재사용 가능한 완화 조치를 공개하면 생태계 전반의 보안 담당자들이 이를 검토하고 각자의 환경에 맞게 조정·개선할 수 있다. 이를 통해 AI 기술의 발전에 발맞춰 보안 관행도 지속적으로 발전할 수 있다.
|
