NVIDIA�́uGTC 2025�v�ŁA�I�[�v���\�[�X�̃��[�Y�j���O�\�t�g�E�F�A�uDynamo�v�\�����B���_�̍œK���ɂ��uDeepSeek-R1�v�̏����\�͂�30�{�Ɍ��コ������Ƃ����B���̗��R���ANVIDIA�ɕ������B
�@NVIDIA�́A�V�����f�[�^�Z���^�[���_�I�[�P�X�g���[�V�����\�t�g�E�F�A�uDynamo�v��p���邱�ƂŁAGPU�̐��_���\�����I�Ɍ��コ�����B����Dynamo�́uTriton Inference Server�v�̌�p�ł���A�f�[�^�Z���^�[���Ǝ҂���K�͌��ꃂ�f���iLLM�j�g�[�N���̐����ɂ����v���ő剻�ł���悤�v����Ă���B�uHopper�v�����GPU�ł́A���ɂ��̐V�����\�t�g�E�F�A�ɂ���ăg�[�N��/�b/���[�U�[�itoken/s/user�j���\��30�{�Ɍ��サ�Ă���Ƃ����B��̂ǂ̂悤�ɋ@�\���Ă���̂��낤���B
�@NVIDIA�̃o�C�X�v���W�f���g���n�C�p�[�X�P�[���^HPC����S���[�l�����}�l�W���[�ł���Ian Buck���́u����́A�g���[�h�I�t�̊W�ɂ���B���[�U�[1�l������̃g�[�N�����ƁA���Ђ�AI�t�@�N�g���[����̍��v�g�[�N�������g���[�h�I�t�ɂł���BGPU��Ŏ��s������Ƃɂ���āAAI�t�@�N�g���[�S�̂��œK������Ă���v�Əq�ׂ�B
�@���̃g���[�h�I�t�̃X�C�[�g�X�|�b�g�́AAI�t�@�N�g���[�̎��v���ɂ����Ĕ��ɏd�v�ł���A�A�v���P�[�V�����ɂ���ĈقȂ�ꏊ�ɑ��݂���\��������B�Ⴆ�A�o�����ł���K�v�����Ȃ��f�B�[�v���T�[�`�ƁA�������̃V���O�����[�U�[�g�[�N�����x�����߂���`���b�g�{�b�g�ł́A�قȂ�ꍇ������Ƃ������Ƃ��B
�@Buck���́u�ǂ�AI�t�@�N�g���[���A�ō��̃T�[�r�X��ō��̃��[�U�[�G�N�X�y���G���X�������AGPU������g�[�N��������̃g�[�^���R�X�g�����A�����Ă��������v���ő剻���悤�Ƃ��Ă���v�Əq�ׂ�B
�@������AI�t�@�N�g���[�́A����1���GPU�T�[�o��LLM�����s�ł��������̓W�J�����Ƃ͑啝�ɈقȂ�A���\�������GPU���������f�������s���Ă���\��������BBuck���́u���[�Y�j���O�̂悤�ȍŐ�[�̐��_�Z�p�ɂ́A����K�͂́g�v�l�h�g�[�N�����K�v�ɂȂ邾�낤�B�wDeepSeek-R1-671B�x��6710���̃p�����[�^�������A�o�͂̐������J�n����O��1�����̎v�l�g�[�N��������v�Əq�ׂĂ���B
�@�u�����̃��f���́AAI��S���V�������x���̒m����L�p���A�G���^�[�v���C�Y���Y���ɓ��B������Ƃ����_�Ŕ��ɏd�v�ł���A�����ɂ͂��̉ۑ�ɑΉ����邱�Ƃ��\�ȃ\�t�g�E�F�A�X�^�b�N���K�v���v�iBuck���j
�@Buck�����uAI�t�@�N�g���[��OS�v�ƕ\������Dynamo�́A�f�[�^�̑҂����Ԃ��Ȃ����߂ɁA��K��GPU�t���[�g���Ǘ��ł���B
�@���ɏd�v�Ȃ̂��A�����I�ɂ̓��f���̃��[�L���O�������ł���KV�iKey-Value�j�L���b�V�����B����́A��b�S�̂̃R���e�N�X�g���ێ����邽�߂ɁA���[�U�[���ȑO�Ɏ��₵�����ƂɊւ������ۑ�����B�ŐV��AI�t�@�N�g���[�́A���[�U�[���Ƃ�KV�L���b�V����ێ�����K�v������i�Ⴆ��ChatGPT��1�J��������̃��[�U�[����10�����j�A���[�U�[�̃��N�G�X�g��������GPU�ɑ�����悤�A���̃L���b�V�������[�U�[���Ƃɂǂ�GPU��ɑ��݂���̂���c�����A�K�v�ɉ����Ēx��邱�ƂȂ��ύX�ɑΉ����Ȃ���Ȃ�Ȃ��B
�@Dynamo�́A�C���e���W�F���g�ȃ��[�e�B���O���J�j�Y���𓋍ڂ��Ă���AKV�L���b�V���l�����ɃV�X�e�����̂ǂ����ɑ��݂���ꍇ�ɍČv�Z������Ȃ��Ȃ�Ƃ������������BKV�L���b�V���̍����q�b�g�����������邱�ƂŁA���_�̑啝�ȍ��������\�ɂȂ�B
Copyright © ITmedia, Inc. All Rights Reserved.