NVIDIA�͂ǂ̂悤��Hopper���_���\��30�{���コ�����̂��FGTC 2025�Ŕ��\�����uDynamo�v�i2/2 �y�[�W�j

AI���f���������I�ɕ������镪�U����

�@Dynamo�̐��\����ɂ��������1�‚̏d�v�ȗv�f�ƂȂ��Ă���̂��A���U�������B�ŐV��LLM���f���͑傫�����邽�߁A�P���GPU��A1���GPU�T�[�o��ł����s�ł��Ȃ��BDynamo�́A�ō����\�������ł���悤�A��ʂ�GPU�S�̂Ń��f���������I�ɕ�������݌v�ƂȂ��Ă���B

�@�܂�Dynamo�́A���̓g�[�N���̏����i�v���t�B���i�K�j�Əo�̓g�[�N���i�f�R�[�h�i�K�j�̐����Ƃ𕪊�����B���[�N���[�h�̂����2�‚̕����͏\���ɈقȂ��Ă��邽�߁A�•ʂɎ��s���邱�ƂŁA�傫�Ȑ��\�����b�g�������炷�œK�����������邱�Ƃ��”\���B

�@Buck���́u�����́AHopper�N���X�^���Llama-70B�����s���ADynamo���I�t����I���ɕύX���邱�ƂŁAHopper�f�[�^�Z���^�[�̃X���[�v�b�g��{���������B����͂‚܂�A�ڋq�ɂƂ��Ă͔��㍂��2�{�ɂȂ�Ƃ������Ƃ��BDeepSeek�̂悤�ȁA���C���[������257�G�L�X�p�[�g��ۗL����wMoE�iMixture of Experts�^�����G�L�X�p�[�g�j�x�\�����̗p���郂�f���ł́A�قȂ�G�L�X�p�[�g���قȂ�GPU��ɕ��U�����邱�ƂŁA30�{�̍��������������Ă���B���̂��߁A�����ɂƂ��Ă͔��ɏd�v�ȃ\�t�g�E�F�A���Ƃ�����v�Əq�ׂĂ���B

�@Buck�����������Ă���悤�ɁA���̓g�[�N���͑S�ē����Ƀ��f���ɒ񎦂���邽�߁A���񏈗����”\�ł���A�������x�Ɏ�荞�ނ��Ƃ��ł���BDeepSeek�́A�����Ɋւ��Ă͎��ȉ�A�^�ŁA�������ꂽ�o�̓g�[�N�������ꂼ��KV�L���b�V���ɒlj�����A���̃g�[�N����������1�‚����������B

�@Buck���́u������2�‚̒i�K�𕪊����邱�ƂŁA���̓g�[�N���i�K�����I�Ɉ��k�ł���B���񏈗����s���A�����xFP4���Z�����s�ł���悤�ɂ��āA�S�Ă̓��̓g�[�N������񏈗����邽�߂Ƀ��f�����œK�����邱�Ƃ��”\���B�o�͂Ɋւ��ẮA�”\�Ȍ���NVL72���b�N�S�̂ɕ��U�����邱�ƂŁA�”\�Ȍ���̍����Ŏ��s���������߁ANVLink�ш敝�ƁA�ł��邾��������GPU���m�ۂ��邱�Ƃ��d�v�����Ă���v�Əq�ׂ�B

�@�V�X�e���ł͂��‚āA���[�N���[�h�̗����̕����ŗD�ꂽ���ʂ��o��悤�o�����X������Ă������A����́A����DeepSeek�̂悤�Ȓ���K��MoE���f���̏ꍇ�A���͂�őP��ł͂Ȃ��Ȃ��Ă���B1�N�O�ANVIDIA��16�̃G�L�X�p�[�g�����ƒ��f�����u��K�́v�ƌ��Ȃ��Ă�����Buck���͐�������BDeepSeek�ɂ́A���C���[���Ƃ�257�̃G�L�X�p�[�g������B

�@DeepSeek-R1�̘_���ɂ��ƁA������AI��Ƃł���DeepSeek�́A�v���t�B���^���̓X�e�[�W��32�‚�GPU���g�p���A�����^�o�̓X�e�[�W�ɏ��Ȃ��Ƃ�320�‚�GPU���g�p�������A���̂��߂ɂ�NVIDIA�̃R���s���[�e�B���O�R�A���J�X�^��DMA�iDirect Memory Access�j�G���W���ɕϊ����邽�߂̓Ǝ��\�t�g�E�F�A�����K�v���������B

�@Buck���́ADeepSeek-R1�̐��_�́AHopper����̃n�[�h�E�F�A�ł�1�b�������50�̎v�l�g�[�N�����������A������́uB200�vGPU�ł͖�120�v�l�g�[�N���ɂ܂ʼn��P�����Ɛ��������B�����ɂ��ƁAB200�̖ڕW��1�b������350�g�[�N���ł��邪�A�uGB300�v�ł�DeepSeek-R1��1�b������1000�v�l�g�[�N�����������A�����I�Ƀ��A���^�C���œ��삷��悤�ɂȂ�Ƃ����B

���_�́u�M�����Ȃ��قǓ���v

�@�V�����n�[�h�E�F�A�ɂ���ăg�[�N�����[�g�����コ���邪�ADynamo�Ȃǂ̐V�����\�t�g�E�F�A����������̊v�V�����܂��B�uDynamo�̎g���́A�p�t�H�[�}���X�����コ���镪�U�����������A�C���t���S�̂�GPU�Q���Ǘ����āA�����������ɉғ����������邱�Ƃ��v��Buck���͌�����B�u�����̎g���́AAI�t�@�N�g���[��O��I�ɉ��������邱�Ƃ��B���_�͐M�����Ȃ��قǓ���̂ł���v�ƕt���������B

�y�|��F�c�������A�ҏW�FEE Times Japan�z