쉽고 효율적인 AI 환경, AMD x ASRock MEET UP AI

2024-03-14 14:23
이상호 기자 ghostlee@bodnara.co.kr

AMD와 ASRock에서 국내 기자진들을 대상으로 AMD x ASRock MEET UP AI 행사를 개최했다. 현 IT 업계의 핵심 화두인 AI 대응을 위한 AMD 플랫폼의 특징을 소개하기 위한 자리로, 본 행사에서는 AMD의 마케팅 디렉터인 Adam Kozak과 ASRock의 국내 세일즈 담당하고 있는 김성현 실장이 관련 내용을 소개했다.

합리적으로, 갈수록 진화하는 AMD AI 플랫폼

그는 발표를 통해 AMD 플랫폼이 AI 워크플로우에서 경쟁사와 동일한 수준의 지원이 이뤄지고 있다며, 특히 대용량 VRAM이 요구되는 작업 특성상 VRAM 16GB 모델 가격이 329달러부터 시작되는 AMD 플랫폼이, 499달러부터 시작되는 경쟁사보다 더 나은 비용 옵션을 제공한다는 점을 강조했다.

오늘날 AI 워크로드에는 FP16 포맷 성능 만큼이나 메모리 용량이 중요하다며, 하이엔드 제품군인 라데온 RX 7900 시리즈는 최대 192개의 AI 가속기와 대규모 AI 모델에 대응하도록 최대 24GB의 대용량 VRAM을 제공하며, DirectML과 Non.AI Shark 최적화, AMD ROCm 5.7 지원등을 주요 특징으로 꼽았다.

이를 통해 게이머에게는 영상 품질 강화와 노이즈 감쇠, 창작자에게는 생성형 AI, 영상 및 이미지 편집, 업스케일링 등의 기능을, 전문 개발자들에게는 모델 트레이닝과 AMD ROCm에 대응할 수 있다고 전했다.

요새 AI에서는 FP16 포맷을 많이들 사용하는데, 대형 AI 모델을 다룰 때엔 성능만큼 메모리 용량이 중요합니다. 어지간한 AI 모델을 실행하려면 8GB 이상의 비디오 메모리가 필요합니다. 그리고 크면 클수록 좋지요.

AMD는 라데온 RX 7900 시리즈가 오늘날의 AI 워크로드 처리를 위한 성능과 비용 효율적인 하드웨어라는 점을 강조하는 동시에 관련 업체들과의 협력과 자체 드라이버 개선을 통해 성능을 개선하고 있다며, 갈수록 플랫폼이 발전하고 있음을 강조했다.

AI 생태계 구축을 위해 허깅 페이스, 파이토치, ONNX 런타임 등 AI 업계의 다양한 플랫폼과 함께, MS DirectML과 AMD ROCm 5.7, 더 많은 포맷의 추론을 위한 ONNX 런타임 지원을 통해 상호 운용성을 개선한 ROCm 6.0을 지원한다.

누구나 쉽게 쓰는 AI, ASRock AI QuickSET

이어진 ASRock 세션에서는 AI 활용을 위해 필요한 설치 및 관리 과정을 쉽게 만들어준 AI QUICKSET에 대한 소개가 이어졌다. 생성형 AI 이미지 활용을 위해 필요한 설치및 관리 과정을 누구나 쉽게 처리할 수 있도록 단순화한 것이 특징이다.

AI 모델 특성상 설치 시간 자체는 짧지 않지만, 보고 따라하는 것 조차 쉽지 않은 깃허브의 스테이블 디퓨전 설치 가이드와 달리, 앱을 다운로드 받아 일반적인 프로그램 설치 과정과 같이 필요한 옵션을 선택하고 '다음'을 클릭하면 누구나 설치할 수 있다.

ASRock AI QUICKSET은 함께 제공되는 GUI를 통해 사용자가 이미지 생성과 번역, 텍스트 생성, 오브젝트 감지 등 다양한 작업을 손쉬게 경험할 수 있으며, 현재는 윈도우보다 리눅스 플랫폼에서 보다 다양한 작업을 지원한다.

생성형 AI 작업은 강력한 성능이 요구되는 만큼 권장 사양으로는 AMD 라이젠 5000 시리즈 및 인텔 13세대 코어 CPU 이상, 32GB 시스템 메모리, 윈도우 버전은 ASRock 라데온 RX 7000 시리즈, 리눅스 버전은 ASRock 라데온 RX 7900 시리즈 그래픽 카드가, 운영체제는 윈도우 10/ 11 22H2 64bit 또는 우분투 22.04.3 64bit 데스크탑 버전이 요구된다.