From bef02fd6b9cde975c51607fb936050ef706ff6d8 Mon Sep 17 00:00:00 2001 From: heuristicwave <31366038+heuristicwave@users.noreply.github.com> Date: Wed, 2 Aug 2023 23:06:35 +0900 Subject: [PATCH] =?UTF-8?q?=F0=9F=8C=90=20[i18n-KO]=20Translated=20`perf?= =?UTF-8?q?=5Finfer=5Fgpu=5Fmany.md`=20to=20Korean=20(#24943)?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit * doc: ko: perf_infer_gpu_many.mdx * feat: chatgpt draft * fix: manual edits * Update docs/source/ko/perf_infer_gpu_many.md Co-authored-by: Jungnerd <46880056+jungnerd@users.noreply.github.com> --------- Co-authored-by: Jungnerd <46880056+jungnerd@users.noreply.github.com> --- docs/source/ko/_toctree.yml | 4 ++-- docs/source/ko/perf_infer_gpu_many.md | 27 +++++++++++++++++++++++++++ 2 files changed, 29 insertions(+), 2 deletions(-) create mode 100644 docs/source/ko/perf_infer_gpu_many.md diff --git a/docs/source/ko/_toctree.yml b/docs/source/ko/_toctree.yml index 6956db092b..71985b6832 100644 --- a/docs/source/ko/_toctree.yml +++ b/docs/source/ko/_toctree.yml @@ -127,8 +127,8 @@ title: CPU로 추론하기 - local: in_translation title: (번역중) Inference on one GPU - - local: in_translation - title: (번역중) Inference on many GPUs + - local: perf_infer_gpu_many + title: 여러 GPU에서 추론 - local: in_translation title: (번역중) Inference on Specialized Hardware - local: perf_hardware diff --git a/docs/source/ko/perf_infer_gpu_many.md b/docs/source/ko/perf_infer_gpu_many.md new file mode 100644 index 0000000000..3e45421803 --- /dev/null +++ b/docs/source/ko/perf_infer_gpu_many.md @@ -0,0 +1,27 @@ + + +# 다중 GPU에서 효율적인 추론 [[efficient-inference-on-a-multiple-gpus]] + +이 문서에는 다중 GPU에서 효율적으로 추론하는 방법에 대한 정보가 포함되어 있습니다. + + +참고: 다중 GPU 설정은 [단일 GPU 섹션](./perf_infer_gpu_one)에서 설명된 대부분의 전략을 사용할 수 있습니다. 그러나 더 나은 활용을 위해 간단한 기법들을 알아야 합니다. + + + +## 더 빠른 추론을 위한 `BetterTransformer` [[bettertransformer-for-faster-inference]] + +우리는 최근 텍스트, 이미지 및 오디오 모델에 대한 다중 GPU에서 더 빠른 추론을 위해 `BetterTransformer`를 통합했습니다. 자세한 내용은 이 통합에 대한 [문서](https://huggingface.co/docs/optimum/bettertransformer/overview)를 확인하십시오. \ No newline at end of file