레드햇(Red Hat)이 아사고(asago, AI Safety And Governance Orchestration) 출범을 발표했다.
아사고는 AI 거버넌스 정책을 실제 운영 가능한 안전한 AI 시스템으로 자동 전환하는 것을 목표로 하는 오픈소스 커뮤니티 프로젝트다. 엔지니어링팀과 컴플라이언스팀에 분산돼 있던 절차와 도구, 요구사항을 하나로 연결해, 자동화, 감사 및 추적이 가능한 워크플로우를 만든다. 이를 통해 더 안전하고 프로덕션에 바로 투입할 수 있는 AI 시스템을 몇 개월, 몇 년이 아닌 며칠 만에 구현하도록 지원하는 것이 목표다.
아사고는 표준화된 오픈소스 플랫폼과 자동화된 워크플로우를 활용해 복잡한 기업 및 규제 AI 거버넌스 정책을 실제 운영 통제 체계로 전환할 계획이다. 이는 레드햇과 엔비디아가 오픈 시큐어 AI 얼라이언스(Open Secure AI Alliance) 회원으로서 추진해 온 협력의 연장선에 있으며, 개발자의 유연성과 운영 조직의 거버넌스 요구를 다음 네 단계에 걸쳐 연결한다.
1. 리스크 매핑: 프레임워크가 업로드된 AI 거버넌스 정책을 자동으로 분석하고 해석한다. 조직의 요구사항을 NIST AI RMF, OWASP LLM Top 10, IBM AI 리스크 아틀라스(IBM AI Risk Atlas)를 통한 EU AI 법(EU AI Act)등 검증된 AI 리스크 프레임워크와 온톨로지, 표준에 직접 매핑한 후, 실제 실행 가능한 리스크 프로파일로 변환한다.
2. 리스크 평가: 식별된 위험 요소를 기반으로 사용 사례별 AI 안전성 테스트 시나리오를 자동 생성하고 실행한다. 단순한 범용 벤치마크에 의존하지 않고, 실제로 유해한 동작이 발생할 수 있는지를 중심으로 AI 시스템을 평가한다.
3. 리스크 완화: 테스트 결과를 토대로 안전 가드레일을 포함한 위험 완화 방안을 제안하고, 검토가 가능하도록 명확한 근거와 감사 추적 기록을 함께 생성한다.
4. 프로덕션 배포: 아사고는 권장 통제 방안을 하이브리드 클라우드와 쿠버네티스를 포함한 여러 플랫폼에 배포 가능한 구성으로 조율해, 인프라에 대한 수동 코딩 작업을 없앤다.
각 단계는 정책 조항과 테스트 결과, 운영 중인 통제 체계를 지속적으로 연결하는 감사 추적 기록을 생성한다. 이를 통해 검토자는 각 통제 조치가 어떤 리스크를 해결하기 위한 것인지 명확하게 확인할 수 있으며, AI 안전성을 보다 예측 가능하고 체계적으로 관리할 수 있는 기업용 유틸리티로 전환한다.
추상적인 정책 지침을 실제 소프트웨어 구성으로 전환하는 과정은 AI 혁신 속도를 늦추고, 사람 간 소통 오류와 오해로 인한 추가 리스크를 초래할 수 있다. 컴플라이언스 담당자는 엄격한 리스크 평가와 검증 가능한 증거를 요구하는 반면, 플랫폼 엔지니어는 표준 데브옵스(DevOps) 및 깃옵스(GitOps) 워크플로우 내에서 유지 관리할 수 있는 구조화된 구성이 필요하다. EU AI법과 같은 광범위한 규제가 시행됨에 따라, 기업은 수 개월에 걸친 수작업 검토로 혁신이 지연되거나, 적절한 안전장치 없이 관리되지 않는 섀도우 AI(Shadow AI)가 운영되는 상황을 감수할 수 없는 환경에 놓였다.
아사고는 컴플라이언스팀과 데이터 과학자, 인프라 관리자가 모두 활용할 수 있는 단일 개방형 표준을 제공함으로써 이러한 문제를 해결하고자 한다. 모든 이해관계자를 동등한 사용자로 고려해 설계된 플랫폼으로, 수작업 변환 과정에서 발생하는 불일치 없이 자율 AI 에이전트와 기업용 대규모 언어모델(LLM)을 위한 안전 통제 체계를 구축할 것이다.
핵심 기능
정책 복잡성을 해소하는 자동화: 수작업 해석과 커스텀 스크립트를 통합 오케스트레이션 워크플로우로 대체해, 배포 기간을 수개월에서 수일로 단축한다.
단일화된 감사 추적: 정책 담당자와 CIO, AI 개발자, 플랫폼 엔지니어, 외부 감사인이 하나의 통합된 추적 인터페이스 안에서 협업할 수 있도록 지원한다.
오픈소스와 커뮤니티 거버넌스: 아파치 라이선스 2.0(Apache License 2.0)으로 공개돼, 더 넓은 AI 안전 생태계 전반의 개방형 협업을 촉진한다.
인프라에 종속되지 않는 배포: 쿠버네티스, 테라폼(Terraform), 앤서블(Ansible)용 선언형(declarative)구성을 출력해, 여러 클라우드와 온프레미스 환경 전반에서 일관된 안전 태세를 유지할 수 있도록 한다.
세부 기능
아사고 프로젝트에는 레드햇, 브레이브 소프트웨어 (Brave Software), EvalEval 연합, IBM 리서치(IBM Research), 오스트리아 인터디시플리너리 트랜스포메이션 대학교 (Interdisciplinary Transformation University Austria), 마이크로소프트(Microsoft), MIT 링컨 연구소 (MIT Lincoln Laboratory), 노스캐롤라이나 주립대학교 (North Carolina State University), 엔비디아(NVIDIA), 앨런 튜링 연구소 (The Alan Turing Institute) 등 업계 기업과 학술기관이 참여한다. 참여 기관들은 AI 안전 연구와 엔터프라이즈 소프트웨어 엔지니어링, 적대적 머신러닝(Adversarial Machine Learning), 규제 및 컴플라이언스 분야의 전문성을 결집해 하나의 공동 프로젝트를 추진한다.
이 프로젝트는 업계 최고 수준의 오픈소스 도구와 연동되며, 각각의 도구 사이에 존재하는 운영 공백을 해소하는 데 중점을 둔다. 감사인이 컴플라이언스를 검증하는 데 필요한 근거 자료를 기록하도록 완전하고 분산된 추적 기능을 제공하는 것이 목표다. 이를 통해 실제 운영 환경에서 적용되는 모든 통제(Control)가 어떤 정책을 근거로 적용됐는지 명확하게 추적할 수 있으며, 기업의 AI 포트폴리오 전반에 걸쳐 지속적인 검증 체계를 구축할 수 있도록 지원한다.
아사고 프로젝트는 현재 프로젝트 출범 단계에 있다. 개발자와 학계 연구자, 기업 얼리어답터는 깃허브에서 리포지토리를 확인하고 프로젝트 거버넌스에 참여할 수 있다. 자세한 내용은 asago.ai를 방문하거나 커뮤니티 그룹 신청서를 제출하면 확인할 수 있다.
|
