quickmenu
PC ´º½º Ȩ  

¿£ºñµð¾Æ, SC24¼­ H200 NVL PCle GPU Ãâ½Ã ¹ßÇ¥

2024-11-19 12:19
ÆíÁýºÎ press@bodnara.co.kr

¿£ºñµð¾Æ°¡ 17ÀϺÎÅÍ 22ÀϱîÁö(ÇöÁö½Ã°£) ¹Ì±¹ ¾ÖƲ·£Å¸¿¡¼­ °³ÃֵǴ ½´ÆÛÄÄÇ»ÆÃ 2024(Supercomputing 2024, SC24) ÄÜÆÛ·±½º¿¡¼­ È£ÆÛ(Hopper) Á¦Ç°±ºÀÇ ÃֽŠÁ¦Ç°ÀÎ ¿£ºñµð¾Æ(NVIDIA) H200 NVL PCIe GPUÀÇ Ãâ½Ã¸¦ ¹ßÇ¥Çß´Ù.

 

¿£ºñµð¾Æ È£ÆÛ ¾ÆÅ°ÅØÃ³´Â µµÀÔ ÀÌÈÄ AI¿Í °í¼º´ÉÄÄÇ»ÆÃ(HPC) ȯ°æÀ» Çõ½ÅÇϰí ÀÖ´Ù. À̸¦ ÅëÇØ ±â¾÷, ¿¬±¸ÀÚ, °³¹ßÀÚµéÀº ¼¼°è¿¡¼­ °¡Àå º¹ÀâÇÑ ¹®Á¦¸¦ ´õ ³ôÀº ¼º´É°ú ¿¡³ÊÁö È¿À²·Î ÇØ°áÇÒ ¼ö ÀÖ°Ô µÆ´Ù.

SC24¿¡¼­ Ãâ½Ã¸¦ ¹àÈù ¿£ºñµð¾Æ H200 NVL PCIe GPU´Â ³·Àº Àü·Â ¼Òºñ¿Í °ø·©½Ä ¿£ÅÍÇÁ¶óÀÌÁî ·¢ ¼³°è¸¦ Èñ¸ÁÇÏ´Â µ¥ÀÌÅͼ¾Å͸¦ º¸À¯ÇÑ Á¶Á÷¿¡ ÀûÇÕÇÏ´Ù. ÀÌ´Â ±Ô¸ð¿¡ °ü°è¾øÀÌ ¸ðµç AI¿Í HPC ¿öÅ©·Îµå¿¡ °¡¼ÓÀ» Á¦°øÇÒ ¼ö ÀÖ´Â À¯¿¬ÇÑ ±¸¼ºÀ» °®Ãß°í ÀÖ´Ù.

ÃÖ±Ù Á¶»ç¿¡ µû¸£¸é ¿£ÅÍÇÁ¶óÀÌÁî ·¢ÀÇ ¾à 70%°¡ 20kW ÀÌÇÏÀÌ¸ç °ø·©½ÄÀ» »ç¿ëÇÏ´Â °ÍÀ¸·Î ³ªÅ¸³µ´Ù. µû¶ó¼­ PCIe GPU°¡ ÇʼöÀûÀÌ´Ù. PCIe GPU´Â 1°³, 2°³, 4°³, 8°³ µî ¼¼ºÐÈ­µÈ ³ëµå ¹èÄ¡¸¦ Á¦°øÇØ µ¥ÀÌÅͼ¾ÅͰ¡ ´õ ÀÛÀº °ø°£¿¡ ´õ ¸¹Àº ÄÄÇ»ÆÃ ¼º´ÉÀ» ±¸ÇöÇÒ ¼ö ÀÖ°Ô ÇØÁØ´Ù. ±â¾÷Àº ±âÁ¸ ·¢À» Ȱ¿ëÇϰí Çʿ信 ¸Â´Â ÀûÇÕÇÑ GPU ¼ö¸¦ ¼±ÅÃÇÒ ¼ö ÀÖ´Ù.

±â¾÷Àº H200 NVLÀ» »ç¿ëÇØ AI¿Í HPC ¾ÖÇø®ÄÉÀ̼ÇÀ» °¡¼ÓÈ­ÇÏ´Â µ¿½Ã¿¡ Àü·Â ¼Òºñ¸¦ ÁÙ¿© ¿¡³ÊÁö È¿À²¼ºÀ» °³¼±ÇÒ ¼ö ÀÖ´Ù. H200 NVLÀº ¿£ºñµð¾Æ H100 NVL ´ëºñ ¸Þ¸ð¸®°¡ 1.5¹è Áõ°¡Çϰí, ´ë¿ªÆøÀÌ 1.2¹è Áõ°¡ÇÑ´Ù. À̸¦ ÅëÇØ ±â¾÷µéÀº ¸î ½Ã°£ ³»¿¡ °Å´ë ¾ð¾î ¸ðµ¨(Large Language Model, LLM)À» ¹Ì¼¼ Á¶Á¤Çϰí ÃÖ´ë 1.7¹è ºü¸¥ Ãß·Ð ¼º´ÉÀ» Á¦°øÇÒ ¼ö ÀÖ´Ù. HPC ¿öÅ©·ÎµåÀÇ °æ¿ì, ¼º´ÉÀº H100 NVL ´ëºñ ÃÖ´ë 1.3¹è, ¿£ºñµð¾Æ ¾ÏÆä¾î(Ampere) ¾ÆÅ°ÅØÃ³ ¼¼´ë ´ëºñ 2.5¹è±îÁö Çâ»óµÈ´Ù.

H200 NVLÀÇ ¿ø½Ã ¼º´ÉÀ» º¸¿ÏÇÏ´Â °ÍÀº ¿£ºñµð¾Æ NV¸µÅ©(NVLink) ±â¼úÀÌ´Ù. Ãֽм¼´ëÀÇ NV¸µÅ©´Â 5¼¼´ë PCIeº¸´Ù 7¹è ºü¸¥ GPU °£ Åë½ÅÀ» Á¦°øÇØ HPC, LLM Ã߷аú ¹Ì¼¼ Á¶Á¤ÀÇ ¿ä±¸ »çÇ×À» ÃæÁ·ÇÏ´Â ´õ ³ôÀº ¼º´ÉÀ» Á¦°øÇÑ´Ù.

¿£ºñµð¾Æ H200 NVLÀº ±â¾÷ÀÌ AI¿¡¼­ HPC¿¡ À̸£´Â ¾ÖÇø®ÄÉÀ̼ÇÀ» °¡¼ÓÈ­ÇÒ ¼ö ÀÖ´Â °­·ÂÇÑ ¼ÒÇÁÆ®¿þ¾î µµ±¸¿Í ÇÔ²² Á¦°øµÈ´Ù. ¶ÇÇÑ, ÇÁ·Î´ö¼Ç AIÀÇ °³¹ß°ú ¹èÆ÷¸¦ À§ÇÑ Å¬¶ó¿ìµå ³×ÀÌÆ¼ºê ¼ÒÇÁÆ®¿þ¾î Ç÷§ÆûÀÎ ¿£ºñµð¾Æ AI ¿£ÅÍÇÁ¶óÀÌÁî(AI Enterprise) 5³â ±¸µ¶µµ ÇÔ²² Á¦°øµÈ´Ù. ¿£ºñµð¾Æ AI ¿£ÅÍÇÁ¶óÀÌÁî´Â °í¼º´É AI ¸ðµ¨ Ãß·ÐÀÇ ¾ÈÀüÇÏ°í ½Å·ÚÇÒ ¼ö ÀÖ´Â ¹èÆ÷¸¦ À§ÇÑ ¿£ºñµð¾Æ NIM ¸¶ÀÌÅ©·Î¼­ºñ½º¸¦ Æ÷ÇÔÇÑ´Ù.

¿£ºñµð¾Æ´Â H200 NVLÀ» ÅëÇØ ±â¾÷µéÀÌ AI¿Í HPC ¿öÅ©·Îµå¸¦ °³¹ßÇÏ°í ¹èÆ÷ÇÒ ¼ö ÀÖ´Â Ç®½ºÅà Ç÷§ÆûÀ» Á¦°øÇÑ´Ù.

°í°´µéÀº ´Ù¾çÇÑ »ê¾÷ ºÐ¾ßÀÇ AI¿Í HPC »ç¿ë »ç·Ê¿¡¼­ »ó´çÇÑ È¿°ú¸¦ º¸°í ÀÖ´Ù. ¿¹¸¦ µé¾î, °í°´ ¼­ºñ½º¿ë ºñÁÖ¾ó AI ¿¡ÀÌÀüÆ®¿Í 꺿, ±ÝÀ¶À» À§ÇÑ °Å·¡ ¾Ë°í¸®Áò, ÀÇ·á ºÐ¾ßÀÇ ÀÌ»ó ¡ÈÄ °¨Áö °³¼±À» À§ÇÑ ÀÇ·á À̹Ì¡, Á¦Á¶¾÷ÀÇ ÆÐÅÏ ÀνÄ, ¿¬¹æ °úÇÐ ±â°üÀ» À§ÇÑ ÁöÁø À̹Ì¡ µîÀÌ ÀÖ´Ù.

µå·Ó¹Ú½º(Dropbox)´Â ¼­ºñ½º¿Í ÀÎÇÁ¶ó¿¡ ¿£ºñµð¾Æ °¡¼Ó ÄÄÇ»ÆÃÀ» Ȱ¿ëÇϰí ÀÖ´Ù.

µå·Ó¹Ú½ºÀÇ ÀÎÇÁ¶ó ´ã´ç ºÎ»çÀåÀÎ ¾Ë¸® ÀÚÆÄ¸£(Ali Zafar)´Â “µå·Ó¹Ú½º´Â ´ë·®ÀÇ ÄÜÅÙÃ÷¸¦ ó¸®Çϱ⠶§¹®¿¡ °í±Þ AI¿Í ¸Ó½Å ·¯´× ±â´ÉÀÌ ÇÊ¿äÇÏ´Ù. ¿ì¸®´Â ¼­ºñ½º¸¦ Áö¼ÓÀûÀ¸·Î °³¼±ÇÏ°í °í°´¿¡°Ô ´õ ¸¹Àº °¡Ä¡¸¦ Á¦°øÇϱâ À§ÇØ H200 NVLÀ» °ËÅäÇϰí ÀÖ´Ù”°í ¸»Çß´Ù.

´º¸ß½ÃÄÚ´ëÇб³(University of New Mexico)´Â ´Ù¾çÇÑ ¿¬±¸¿Í Çмú ¾ÖÇø®ÄÉÀ̼ǿ¡¼­ ¿£ºñµð¾Æ °¡¼Ó ÄÄÇ»ÆÃÀ» »ç¿ëÇϰí ÀÖ´Ù.

´º¸ß½ÃÄÚ´ëÇб³ °í±Þ ¿¬±¸ ÄÄÇ»ÆÃ ¼¾ÅÍÀÇ Ã¥ÀÓÀÚÀÎ ÆÐÆ®¸¯ ºê¸®Áö½º(Patrick Bridges) ±³¼ö´Â “¿ì¸®´Â °ø°ø ¿¬±¸ ´ëÇÐÀ¸·Î¼­ AI¿¡ ´ëÇÑ Çå½ÅÀ¸·Î °úÇаú ±â¼ú ¹ßÀüÀÇ ÃÖÀü¼±¿¡ ¼³ ¼ö ÀÖ¾ú´Ù. ÀÌÁ¦ H200 NVL·Î ÀüȯÇÔ¿¡ µû¶ó µ¥ÀÌÅÍ °úÇÐ ÀÌ´Ï¼ÅÆ¼ºê, »ý¹°Á¤º¸Çаú À¯ÀüüÇÐ ¿¬±¸, ¹°¸®Çаú õ¹®ÇÐ ½Ã¹Ä·¹À̼Ç, ±âÈÄ ¸ðµ¨¸µ µî ´Ù¾çÇÑ ¾ÖÇø®ÄÉÀ̼ÇÀ» °¡¼ÓÈ­ÇÒ ¼ö ÀÖÀ» °Í”À̶ó°í ¸»Çß´Ù.

µ¨ Å×Å©³î·ÎÁö½º(Dell Technologies), ÈÞ·¿ÆÑÄ¿µå ¿£ÅÍÇÁ¶óÀÌÁî(Hewlett Packard Enterprise), ·¹³ë¹ö(Lenovo), ½´ÆÛ¸¶ÀÌÅ©·Î(Supermicro)´Â H200 NVLÀ» Áö¿øÇÏ´Â ´Ù¾çÇÑ ±¸¼ºÀ» Á¦°øÇÒ ¿¹Á¤ÀÌ´Ù.

¶ÇÇÑ, H200 NVLÀº ¿¡À̺극½º(Aivres), ¾ÖÁî¶ô·¢(ASRock Rack), ¿¡À̼ö½º(ASUS), ±â°¡¹ÙÀÌÆ®(GIGABYTE), Àα׶ó½Ã½º(Ingrasys), Àκ¥ÅØ(Inventec), MSI, Æä°¡Æ®·Ð(Pegatron), QCT, À§½ºÆ®·Ð(Wistron), À§À©(Wiwynn)ÀÇ Ç÷§Æû¿¡¼­ »ç¿ëÇÒ ¼ö ÀÖ´Ù.

ÀϺΠ½Ã½ºÅÛÀº ¿£ºñµð¾Æ MGX ¸ðµâÇü ¾ÆÅ°ÅØÃ³¸¦ ±â¹ÝÀ¸·Î ÇØ ÄÄÇ»ÅÍ Á¦Á¶¾÷ü°¡ ¹æ´ëÇÑ µ¥ÀÌÅͼ¾ÅÍ ÀÎÇÁ¶ó ¼³°è¸¦ ºü¸£°í ºñ¿ë È¿À²ÀûÀ¸·Î ±¸ÃàÇÒ ¼ö ÀÖµµ·Ï ÇÑ´Ù.

H200 NVLÀ» žÀçÇÑ Ç÷§ÆûÀº 12¿ùºÎÅÍ ¿£ºñµð¾ÆÀÇ ±Û·Î¹ú ½Ã½ºÅÛ ÆÄÆ®³Ê¸¦ ÅëÇØ Á¦°øµÉ ¿¹Á¤ÀÌ´Ù. ÁÖ¿ä ±Û·Î¹ú ÆÄÆ®³ÊÀÇ °ø±ÞÀ» º¸¿ÏÇϱâ À§ÇØ ¿£ºñµð¾Æ´Â H200 NVL ½Ã½ºÅÛÀ» À§ÇÑ ¿£ÅÍÇÁ¶óÀÌÁî ·¹ÆÛ·±½º ¾ÆÅ°ÅØÃ³(Enterprise Reference Architecture)µµ °³¹ß ÁßÀÌ´Ù.

ÀÌ ·¹ÆÛ·±½º ¾ÆÅ°ÅØÃ³¿¡´Â ¿£ºñµð¾ÆÀÇ Àü¹®¼º°ú ¼³°è ¿øÄ¢À» ÅëÇÕÇØ ÆÄÆ®³Ê¿Í °í°´ÀÌ H200 NVLÀ» ±â¹ÝÀ¸·Î °í¼º´É AI ÀÎÇÁ¶ó¸¦ ´ë±Ô¸ð·Î ¼³°èÇÏ°í ¹èÆ÷ÇÒ ¼ö ÀÖµµ·Ï ÇÑ´Ù. ¿©±â¿¡´Â ÃÖÀûÀÇ ¼­¹ö, Ŭ·¯½ºÅÍ, ³×Æ®¿öÅ© ±¸¼º¿¡ ´ëÇÑ ÀÚ¼¼ÇÑ Áöħ°ú ÇÔ²² Ç®½ºÅà Çϵå¿þ¾î¿Í ¼ÒÇÁÆ®¿þ¾î ±ÇÀå »çÇ×ÀÌ Æ÷ÇԵȴÙ. ³×Æ®¿öÅ·Àº ¿£ºñµð¾Æ ½ºÆåÆ®·³-X ÀÌ´õ³Ý(Spectrum-X Ethernet) Ç÷§ÆûÀ» ÅëÇØ ÃÖ°íÀÇ ¼º´ÉÀ» ¹ßÈÖÇϵµ·Ï ÃÖÀûÈ­µÈ´Ù.

¿£ºñµð¾Æ´Â 11¿ù 22ÀϱîÁö Á¶Áö¾Æ ¿ùµå Äá±×·¹½º ¼¾ÅÍ(Georgia World Congress Center)¿¡¼­ ¿­¸®´Â SC24¿¡¼­ ¿£ºñµð¾Æ ±â¼úÀ» ¼±º¸ÀδÙ. ÀÚ¼¼ÇÑ ³»¿ëÀº 11¿ù 19ÀÏ¿¡ ÁøÇàµÈ ¿£ºñµð¾Æ ⸳ÀÚ °â CEOÀÎ Á¨½¼ Ȳ(Jensen Huang)°ú ÇÏÀÌÆÛ½ºÄÉÀÏ ¹× HPC ´ã´ç ºÎ»çÀåÀÎ ÀÌ¾È ¹÷(Ian Buck)ÀÇ Æ¯º° ¿¬¼³ ¿Âµð¸Çµå ¼¼¼ÇÀ» ÅëÇØ È®ÀÎÇÒ ¼ö ÀÖ´Ù.

´Ð³×ÀÓ lock
ºñȸ¿ø

º¸µå³ª¶ó ¸¹ÀÌ º» ´º½º
º¸µå³ª¶ó ¸¹ÀÌ º» ±â»ç

º¸µå³ª¶ó Ãֽбâ»ç
[11/19] ³Ø½¼, ¡®¾Æ½º°¡¸£µå¡¯ ¡®¸ÞÅ׸®¾ó ¹®¸í¡¯ ¾÷µ¥ÀÌÆ®!  
[11/19] ÀÌ¿¥ÅØ, ±×·¡ÇÈÄ«µå ±¸¸ÅÇϰí ÁöÁö´ëºÎÅÍ Å°º¸µå±îÁö! PALIT ÁöÆ÷½º RTX¢â ½Ã¸®Áî Èæ¹é´ëÀü À̺¥Æ® ÁøÇà  
[11/19] ³Ý¸¶ºí <¼¼ºì³ªÀÌÃ÷ Ű¿ì±â>, ¡®»çȲ¡¯ ÃÖÃÊ °¢¼º ¿µ¿õ ¡®ÀÜ¿ù ¿¡À̽º¡¯ µî ¾÷µ¥ÀÌÆ®  
[11/19] À¥Á¨, ¹Â ¸ð³ªÅ© ½Å±Ô ´ëÀü ÄÜÅÙÃ÷ ¡®È¥µ·ÀÇ ¾Æ·¹³ª¡¯ ¾÷µ¥ÀÌÆ®  
[11/19] ¾ÛÄÚ, ½Ç¼ÓÇü °ÔÀÌ¹Ö USB»ç¿îµå¹Ù ¡®SP48¡¯ Ãâ½Ã  
[11/19] ¾ÛÄÚ, Ŭ·¡½Ä °¨¼º ´ãÀº ¡®AO98¡¯ ±â°è½Ä Űº¸µå Ãâ½Ã  
[11/19] ¸¶¿ìÀú, ¿§Áö,»ê¾÷ÀÚµ¿È­, IoT ºÐ¾ß¸¦ À§ÇÑ ¾ÆµÎÀ̳ë ASX00073 ¿ì³ë SPE ½Çµå °ø±Þ  
[11/19] ³Ý¸¶ºí, <¼¼ºì³ªÀÌÃ÷ ¸®¹ö½º> ±Û·Î¹ú Á¤½Ä Ãâ½Ã  
[11/19] ÄÄÅõ½º ½ÅÀÛ MMORPG ¡®´õ ½ºÅ¸¶óÀÌÆ®¡¯, ¿À´Ã(18ÀÏ) Á¤½Ä ¼­ºñ½º ½ÃÀÛ  
[11/19] ÀÌ¿¥ÅØ, ¹Ì´Ï¸Ö »çÀÌÁî¿Í °­·ÂÇÑ ÆÛÆ÷¸Õ½ºÀÇ PALIT ÁöÆ÷½º RTX 3050 STORM X Ãâ½Ã!  
[11/19] ·ÎÁöÅØ, Àü ¼¼°è °ÔÀÌ¸Ó¿Í ÇÔ²²ÇÑ ¡®·ÎÁöÅØ G PLAY 2025¡¯¿¡¼­ Â÷¼¼´ë °ÔÀÌ¹Ö ±â¾î °ø°³  
[11/19] ¹èƲ±×¶ó¿îµå ¸ð¹ÙÀÏ, °¡À» ¸ÂÀÌ ¡®BOOST TOGETHER¡¯ À̺¥Æ® °³ÃÖ  
[11/19] ³Ø½¼, '¸ÞÀÌÇýºÅ丮' ½Å±Ô ¿¡ÇÈ ´øÀü ¡®¾Ç¸ù¼±°æ¡¯ ¾÷µ¥ÀÌÆ®!  
[11/19] À̹ø ÁÖ¸» ¿­¸®´Â °ÔÀÓ e½ºÆ÷Ã÷ ¼­¿ï(GES) 2025¿¡¼­ ¡®¿À¹ö¿öÄ¡ 2 ½ºÅ¸µð¿ò ºü¸¥ ´ëÀü üÇèÁ¸¡¯ ¼±º¸¿©  
[11/19] ³ª¿ì¾Ø¼­º£ÀÌ, ¡®¼³¹® »ý¼º AI¡¯ ¾÷±×·¹À̵å Ãâ½Ã  
[11/19] ¿¢½Ã½º, ÇÑ-µ¶ IoT º¸¾ÈºÐ¾ß »óÈ£ÀÎÁ¤¾àÁ¤ ÅëÇØ ±¹³» KISA CIC ÀÎÁõ ÃÖÃÊ È¹µæ  
[11/19] ´õ Æ÷Äϸó ÄÄÆÛ´Ï, ½½·Î ¶óÀÌÇÁ »÷µå¹Ú½º °ÔÀÓ Ã¹ ¼±  
[11/19] ¼Ò¸®¼¥, ¡®ÀÌÆåÆ® ¿Àµð¿À(EFFECT AUDIO)¡¯ÀÇ Ç÷¡±×½Ê ¼ÒÀç ±Ýµµ±Ý ½Ç¹ö¸¦ »ç¿ëÇÑ À̾îÆù ÄÉÀÌºí ¡®DIONYSUS (µð¿À´Ï¼Ò½º)¡¯ Ãâ½Ã!  
[11/19] ³Ý¸¶ºí <Å· ¿Àºê ÆÄÀÌÅÍ AFK> ù ¾÷µ¥ÀÌÆ®.. ¡®Å׸® º¸°¡µå¡¯ Àü°Ý µîÀå  
[11/19] ±×¶óºñƼ °ÔÀÓ ¾î¶óÀÌÁî(GGA), Àεð ¹× ÀÚü °³¹ß ŸÀÌÆ² À̲ø°í ¡®µµÄì°ÔÀÓ¼î 2025¡¯ Âü°¡!  
·Î±×ÀÎ | ÀÌ ÆäÀÌÁöÀÇ PC¹öÀü
Copyright NexGen Research Corp. 2010