|
오픈AI(OpenAI)는 소프트웨어 취약점 발견·검증과 보안 패치 개발 지원 역량을 강화한 사이버 보안 특화 AI 모델 ‘GPT-6 사이버(GPT-6 Cyber)’를 공개했다. 이번 모델은 보안 연구자가 승인한 작업 범위와 제한 사항을 준수하도록 특화 학습을 적용한 것이 특징이다. GPT-6 사이버는 우선 승인을 받은 일부 데이브레이크 레드(Daybreak Red) 고객에게 API와 코덱스(Codex)를 통해 제공되며, 향후 전체 데이브레이크 레드 고객으로 확대될 예정이다.
GPT-6 사이버는 대규모 코드베이스에서 취약점을 식별하고 실제 악용 가능성을 검증하며, 수정에 필요한 패치 후보와 분석 자료를 생성할 수 있다. 오픈AI는 보안 담당자가 공격자보다 먼저 취약점을 발견하고 수정할 수 있도록 지원하는 데 초점을 맞췄다.
오픈AI 연구진은 GPT-6 사이버를 활용해 모질라(Mozilla)가 개발한 웹 브라우저 ‘파이어폭스(Firefox)’에서 기존에 알려지지 않았던 고위험 보안 취약점 81건을 발견했다. 연구진은 각 취약점에 대한 재현 가능한 검증 자료를 생성하고 모질라에 전달했으며, 모질라는 이를 바탕으로 다수의 취약점에 대한 수정 사항을 배포했다.
리눅스(Linux) 커널 연구에서는 총 1,724건의 취약점을 재현하고, 이 가운데 948건에 대해 실제로 작동하는 익스플로잇(exploit)을 개발했다. 오픈AI는 리눅스 커뮤니티의 지침에 따라 중요 발견 사항 304건을 패치 후보와 함께 유지관리자들에게 보고했으며, 추가 취약점에 대한 수정 작업도 진행하고 있다.
GPT-6 사이버는 주요 사이버 보안 성능 평가에서도 이전 모델을 앞섰다. 알려진 취약점을 실제로 악용할 수 있는지 평가하는 ‘익스플로잇짐(ExploitGym)’에서 48.5%의 성공률을 기록해 GPT-5.6 사이버의 32.1%보다 약 16%포인트 높은 성능을 보였다. 또한 실제 환경을 모사한 서버에서 복잡한 보안 작업을 수행하는 ‘리모트익스플로잇벤치(RemoteExploitBench)’ 초기 평가에서는 과제의 95%를 완료했다.
오픈AI는 이러한 사이버 보안 역량 향상과 함께 모델이 허가된 작업 범위를 준수하는 능력도 강화했다. 사이버 보안 AI 에이전트는 취약점을 조사하는 과정에서 허가되지 않은 시스템이나 서비스에 접근할 위험이 있다. 이를 줄이기 위해 GPT-6 사이버에는 승인된 대상과 작업 범위를 지키고, 제한 사항을 따르며, 수행 결과를 정확하게 보고하도록 특화된 학습을 적용했다.
GPT-6 사이버는 허가 범위 밖의 서비스에 대한 공격 여부를 평가하는 ‘익스플로잇짐 허니팟(ExploitGym Honeypot)’에서도 이전 모델 대비 성능이 향상됐다. 해당 평가에서 배포용 안전 프롬프트를 적용하지 않은 GPT-6 사이버는 99.93%의 사례에서 허가 범위 밖 서비스를 공격하지 않았다. 이는 GPT-5.6 사이버의 94.49%보다 높은 수준이다. 허가 범위 밖 서비스를 공격한 비율로 환산하면 기존 모델의 5.51%에서 0.07%로 낮아졌다. 배포용 안전 프롬프트를 적용한 동일 평가에서는 GPT-6 사이버가 모든 사례에서 허가된 작업 범위를 준수했다.
오픈AI는 GPT-6 사이버의 고도화된 역량이 악용되지 않도록 고위험 사이버 활동 차단, 악용 탐지, 모델의 행동이 사용자의 승인 범위에 부합하는지 확인하는 모니터링 등 안전장치를 강화했다. 핵심 인프라와 필수 서비스에 심각한 피해를 초래할 수 있는 요청은 제한하는 한편, 승인된 보안 연구와 취약점 검증은 지원하도록 설계했다.
또한, 오픈AI는 GPT-6 사이버를 자체 인프라 보안 테스트에도 활용해 취약점을 수정하고 네트워크 접근 제한을 강화하는 등 내부 시스템의 보안을 개선했다.
|
