µ¨ Å×Å©³î·ÎÁö½º(Dell Technologies)°¡ AMD¿Í Çù·ÂÇØ µ¨ »ý¼ºÇü AI ¼Ö·ç¼Ç(Dell Generative AI Solutions) Æ÷Æ®Æú¸®¿À¸¦ °ÈÇÑ´Ù. µ¨Àº À̸¦ ÅëÇØ °³¹æÇü »ýÅ°踦 ±¸ÃàÇÏ°í ÇÁ·Î¼¼¼ÀÇ ´Ù¾ç¼ºÀ» ³ÐÇô, °¢ ±â¾÷ÀÌ º¸À¯ÇÑ °íÀ¯ µ¥ÀÌÅÍ¿¡ AI¸¦ Àû¿ëÇÒ ¶§ ¸ÂÃãÇü ¼Ö·ç¼ÇÀ¸·Î º¸´Ù °£ÆíÇÏ°í ½Å·ÚÇÒ ¼ö ÀÖ´Â AI Àü·«À» ±¸ÇöÇÒ ¼ö ÀÖµµ·Ï Áö¿øÇÑ´Ù.
¿À´Ã³¯ ±Þ°ÝÈ÷ ´Ã¾î³ µ¥ÀÌÅÍ¿Í AI¸¦ ¾î¶»°Ô È°¿ëÇÏ´À³Ä°¡ ºñÁî´Ï½º Çõ½ÅÀÇ ÃÖ´ë °úÁ¦·Î ²ÅÈ÷°í ÀÖÀ¸¸ç, ±â¾÷À̳ª °ø°ø±â°üµéÀÌ ÇÊ¿ä·Î ÇÏ´Â ÄÄÇ»Æà ÆÄ¿ö¸¦ ÃæºÐÈ÷ »ç¿ëÇÒ ¼ö ÀÖµµ·Ï Áö¿øÇÏ´Â °ÍÀÌ Áß¿äÇÏ´Ù. µ¨°ú AMD´Â °í°´µé¿¡°Ô ´õ ¸¹Àº ¼±Åà ¿É¼ÇÀ» Á¦°øÇÔÀ¸·Î½á µðÁöÅÐ ½Ã´ëÀÇ °æÀï ¿ìÀ§ ¼ö´ÜÀÌ µÇ´Â »ý¼ºÇü AI ¿öÅ©·Îµå Áö¿ø¿¡ ³ª¼¹´Ù.
µ¨ ¿ª»ç»ó °¡Àå ºü¸£°Ô ¼ºÀåÇÏ°í ÀÖ´Â ¼Ö·ç¼ÇÀÎ µ¨ ÆÄ¿ö¿§Áö XE9680(Dell PowerEdge XE9680) ¼¹ö´Â °ð Ãâ½Ã ¿¹Á¤ÀÎ AMD ÀνºÆÃÆ® MI300X(AMD Instinct™ MI300X) °¡¼Ó±â¸¦ Áö¿øÇϸç AI ¼º´É¿¡ ´ëÇÑ Æø³ÐÀº ¼±ÅÃÁö¸¦ Á¦°øÇÒ ¿¹Á¤ÀÌ´Ù. MI300X °¡¼Ó±â¸¦ žÀçÇÑ ÆÄ¿ö¿§Áö XE9680 ¼¹ö´Â µ¥ÀÌÅÍÀÇ °¡Ä¡¸¦ ¹ß±¼ÇÏ°í ¸ÂÃãÇü ´ëÇü ¾ð¾î ¸ðµ¨(LLM)µé·Î ºñÁî´Ï½º¸¦ Â÷º°ÈÇϱâ À§ÇÑ °í¼º´É ±â´ÉÀ» Áö¿øÇÑ´Ù. ¿©´ü °³ÀÇ MI300X GPU¿Í GPU ´ç 192GBÀÇ 5.3 TB/s °í´ë¿ª ¸Þ¸ð¸®(HBM3)¸¦ žÀçÇϸç, ¼¹ö ´ç 1.5 TBÀÇ ÀÏ°üµÈ HBM3 ¿ë·® ¹× 21 ÆäŸÇ÷ÓÀÇ FP16 ¼º´ÉÀ» Á¦°øÇÔÀ¸·Î½á ±â¾÷µéÀÌ ´õ Å« ±Ô¸ðÀÇ ¸ðµ¨À» ÇнÀÇÏ°í, µ¥ÀÌÅÍ ¼¾ÅÍÀÇ »ó¸éÀº ´õ Àû°Ô Â÷ÁöÇؼ, TCO¸¦ ³·Ãß°í °æÀï ¿ìÀ§¸¦ È®º¸ÇÒ ¼ö ÀÖµµ·Ï ±â¿©ÇÑ´Ù.
AMD MI300X ÀνºÆÃÆ® °¡¼Ó±â Áö¿ø°ú ´õºÒ¾î µ¨Àº »ý¼ºÇü AI ¼Ö·ç¼ÇÀÇ ´ÙÀ½ ´Ü°è·Î¼ »ý¼ºÇü AI¸¦ À§ÇÑ µ¨°ú AMDÀÇ °ËÁõ ¼³°è(Dell Validated Design for Generative AI with AMD)¸¦ ¼±º¸ÀδÙ. À̸¦ »ç¿ëÇØ ±â¾÷¿¡¼´Â ½Å·ÚÇÒ ¼ö ÀÖ´Â »ý¼ºÇü AI¸¦ º¸´Ù ¼Õ½±°Ô ±¸ÃàÇÒ ¼ö ÀÖ´Ù.
»ý¼ºÇü AI¸¦ À§ÇÑ µ¨°ú AMDÀÇ °ËÁõ ¼³°è´Â ³»³â¿¡ Ãâ½Ã ¿¹Á¤ÀÎ AMD ROCm™ ±â¹ÝÀÇ AI ÇÁ·¹ÀÓ¿öÅ©¸¦ Áö¿øÇÔÀ¸·Î½á µ¨ÀÇ »ý¼ºÇü AI ¼Ö·ç¼Ç »ýÅ°踦 È®ÀåÇÏ°í ¿©·¯ ¿ÀǼҽº LLMµéÀ» ÇÔ²² Áö¿øÇÒ ¿¹Á¤ÀÌ´Ù. AMD ROCm™Àº AMD ÀνºÆÃÆ® °¡¼Ó±â¸¦ À§ÇÑ µå¶óÀ̹ö, °³¹ß ÅøŶ ¹× APIÀÇ ¿ÀǼҽº ½ºÅÃÀÌ´Ù. »ý¼ºÇü AI¸¦ À§ÇÑ µ¨ °ËÁõ ¼³°è´Â °í°´ÀÌ ÅëÇÕ, ¼º´É, »çÀÌ¡ µîÀÇ ÀÛ¾÷ ½Ã ÃßÃø¿¡ ÀÇÁ¸ÇÏÁö ¾Ê°í ÇÊ¿äÇÑ Á¶°ÇÀ» ÃæºÐÈ÷ ¸¸Á·½ÃÅ°´Â ½Å·Ú¼º ÀÖ´Â »ý¼ºÇü AI Ç÷§ÆûÀ» °£ÆíÇÏ°Ô ±¸ÃàÇÒ ¼ö ÀÖµµ·Ï µ½´Â´Ù. ROCm¿¡ ÃÖÀûÈµÈ ÆÄÀÌÅäÄ¡(PyTorch), ÅÙ¼Ç÷Î(TensorFlow), ONNX-RT), À轺(JAX), Æ®¸®Åæ(Triton)°ú °°Àº ¿ÀǼҽº AI/ML ÇÁ·¹ÀÓ¿öÅ©¸¦ ÅëÇØ °£ÆíÇÏ°Ô LLMÀ» È°¿ëÇÒ ¼ö ÀÖ´Ù.
ÆÄ¿ö¿§Áö XE9680¿¡ Æ÷ÇÔµÈ µ¨ ¿ÀÇ ¸Å´ÏÁö ¿£ÅÍÇÁ¶óÀÌÁî(Dell Open Manage Enterprise) ¼ÒÇÁÆ®¿þ¾î´Â »ý¼ºÇü AI ÀÎÇÁ¶ó ±¸ÃàÀ» ´Ü¼øÈÇÏ°í °¡¼ÓÈÇϸç, Ŭ¶ó¿ìµåIQ(CloudIQ) AI¿É½º ¼ÒÇÁÆ®¿þ¾î´Â Áö´ÉÀûÀÎ ÀÚµ¿È¸¦ Á¦°øÇÑ´Ù. ¶ÇÇÑ ÅëÇÕÇü »çÀ̹ö º¹±¸ ¹× ±¤¹üÀ§ÇÑ Á¦·Î Æ®·¯½ºÆ® ±¸ÇöÀ» ÅëÇØ ¾ÈÀü¼ºÀ» º¸ÀåÇÑ´Ù.
8°³ÀÇ AMD ÀνºÆÃÆ® MI300X °¡¼Ó±â¸¦ žÀçÇÑ µ¨ ÆÄ¿ö¿§Áö XE9680Àº µ¨ ÆÄ¿ö½ºÀ§Ä¡ Z9664F-ON(Dell PowerSwitch Z9664F-ON)°¡ žÀçµÈ µ¨ °ËÁõ GPU Æк긯(Dell validated GPU fabric)À» ÅëÇØ ÀÌ´õ³Ý(Ethernet) ±â¹Ý AI Æк긯À¸·Î ¿¬°áµÇ´Â MI300X GPU Ŭ·¯½ºÅ͸¦ Áö¿øÇÑ´Ù. ÀÌ Å¬·¯½ºÅ͸¦ ¾Æ¿ì¸£´Â xGMI(Global Memory Interconnect) ±â¼úÀ» ÅëÇØ ºÐ»êµÈ »ý¼ºÇü AIÀÇ ÈÆ·Ã ¹× Ãß·ÐÀ» ¼±ÇüÀûÀ¸·Î È®ÀåÇÏ°í, ³·Àº Áö¿¬½Ã°£À» º¸ÀåÇÑ´Ù.
µ¨Àº ¿ïÆ®¶ó ÀÌ´õ³Ý ÄÁ¼Ò½Ã¾ö(Ultra Ethernet Consortium)ÀÇ ±¸¼º¿øÀ¸·Î¼ Ç¥ÁØ ±â¹ÝÀÇ ³×Æ®¿öÅ· ±â¼ú ¹ßÀü¿¡ Áö¼ÓÀûÀ¸·Î ±â¿©ÇÏ°í ÀÖÀ¸¸ç, ¼¹ö, ½ºÅ丮Áö, ³×Æ®¿öÅ© Æк긯À» Æ÷ÇÔÇÑ ÀüüÀûÀÎ »ý¼ºÇü AI ¼Ö·ç¼Ç¿¡ ´ëÇØ °³¹æÇü Á¢±ÙÀÌ °¡´ÉÇÑ µ¶º¸ÀûÀÎ ÀÔÁö¸¦ º¸À¯ÇÑ °ø±Þ¾÷üÀÌ´Ù.
AMD ÀνºÆÃÆ® MI300X °¡¼Ó±â°¡ žÀçµÈ µ¨ ÆÄ¿ö¿§Áö XE9680 ¹× »ý¼ºÇü AI¸¦ À§ÇÑ µ¨°ú AMDÀÇ °ËÁõ ¼³°è´Â 2024³â »ó¹Ý±â Áß Ãâ½ÃµÉ ¿¹Á¤ÀÌ´Ù.
|