本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。
# 对具有模型并行性的模型执行检查点操作和微调
SageMaker 模型并行度库提供了检查点 APIs 功能，用于保存按各种模型并行策略划分的模型状态和优化器状态，并从要重新开始训练和微调的地方加载用于持续训练的检查点。 APIs 还支持部分或全部保存模型和优化器状态的选项。
**Topics**
+ [对分布式模型执行检查点操作](#distributed-model-parallel-checkpoint)
+ [微调分布式模型](#distributed-model-parallel-fine-tuning)
## 对分布式模型执行检查点操作
根据 PyTorch 和之间的框架以及您使用的 SageMaker 模型 TensorFlow 并行度库的版本，选择以下主题之一。
**Topics**
+ [对分布式 PyTorch 模型执行检查点操作（适用于 SageMaker 模型并行度库 v1.10.0 及更高版本）](#model-parallel-extended-features-pytorch-checkpoint)
+ [对分布式 PyTorch 模型执行检查点操作（适用于 v1.6.0 和 v1.9.0 之间的 SageMaker 模型并行度库）](#model-parallel-extended-features-pytorch-saving-loading-checkpoints)
+ [对分布式模型执行检查点操作 TensorFlow](#distributed-model-parallel-checkpoint-tensorflow)
### 对分布式 PyTorch 模型执行检查点操作（适用于 SageMaker 模型并行度库 v1.10.0 及更高版本）
SageMaker 模型并行度库提供了用于保存和加载分布式模型状态及其优化器状态的全部或部分检查点的检查点。 APIs
**注意**
如果您使用 SageMaker 模型并行度库 v1.10.0 或更高版本，则建议使用 PyTorch 此检查点方法。
**部分检查点**
要保存使用模型并行性训练的模型的检查点，请使用 [https://sagemaker.readthedocs.io/en/v2.199.0/api/training/smp_versions/latest/smd_model_parallel_pytorch.html#smdistributed.modelparallel.torch.save_checkpoint](https://sagemaker.readthedocs.io/en/v2.199.0/api/training/smp_versions/latest/smd_model_parallel_pytorch.html#smdistributed.modelparallel.torch.save_checkpoint) API 并将部分检查点选项设置为 true (`partial=True`)。这将单独保存每个模型分区。在模型状态和优化器状态之外，您还可以通过 `user_content` 参数保存任何其他自定义数据。具有检查点的模型、优化器和用户内容保存为单独的文件。`save_checkpoint` API 调用按以下结构创建检查点文件夹。
```
- path
- ${tag}_partial (folder for partial checkpoints)
- model_rankinfo.pt
- optimizer_rankinfo.pt
- fp16_states_rankinfo.pt
- user_content.pt
- $tag (checkpoint file for full checkpoints)
- user_content_$tag (user_content file for full checkpoints)
- newest (a file that indicates the newest checkpoint)
```
要从部分检查点恢复训练，请使用 [https://sagemaker.readthedocs.io/en/v2.199.0/api/training/smp_versions/latest/smd_model_parallel_pytorch.html#smdistributed.modelparallel.torch.resume_from_checkpoint](https://sagemaker.readthedocs.io/en/v2.199.0/api/training/smp_versions/latest/smd_model_parallel_pytorch.html#smdistributed.modelparallel.torch.resume_from_checkpoint) API 和 `partial=True`，并指定保存部分检查点时使用的检查点目录和标签。请注意，模型权重的实际加载在模型分区之后进行，在第一次运行经过 `smdistributed.modelparallel.torch.step` 修饰的训练步骤函数期间。
保存部分检查点时，库还会使用 `.pt` 文件扩展名，将模型分区决策保存为文件。反过来，在从部分检查点恢复时，库会将分区决策文件一起加载。分区决策一旦加载，您就无法更改分区。
以下代码片段显示了如何在 PyTorch训练脚本 APIs 中设置检查点。
```
import smdistributed.modelparallel.torch as smp
model = ...
model = smp.DistributedModel(model)
optimizer = ...
optimizer = smp.DistributedOptimizer(optimizer)
user_content = ... # additional custom data
checkpoint_path = "/opt/ml/checkpoint/model_parallel"
# Save a checkpoint.
smp.save_checkpoint(
path=checkpoint_path,
tag=f"total_steps{total_steps}",
partial=True,
model=model,
optimizer=optimizer,
user_content=user_content
num_kept_partial_checkpoints=5
)
# Load a checkpoint.
# This automatically loads the most recently saved checkpoint.
smp_checkpoint = smp.resume_from_checkpoint(
path=checkpoint_path,
partial=True
)
```
**完整检查点**
要保存最终模型构件用于推理用途，请使用 `smdistributed.modelparallel.torch.save_checkpoint` API 和 `partial=False`，这会组合模型分区以创建单个模型构件。请注意，这不会合并优化器状态。
要使用特定权重初始化训练，对于给定的完整模型检查点，您可以使用 `smdistributed.modelparallel.torch.resume_from_checkpoint` API 和 `partial=False`。请注意，这不会加载优化器状态。
**注意**
通常，对于张量并行性，`state_dict` 必须在原始模型实施和 `DistributedModel` 实施之间进行转换。或者，您可以将 `state_dict` 转换函数作为参数提供给 `smdistributed.modelparallel.torch.resume_from_checkpoint`。但是，对于 [现成支持的模型](model-parallel-extended-features-pytorch-hugging-face.md#model-parallel-extended-features-pytorch-hugging-face-out-of-the-box)，库会自动处理此转换。
以下代码显示了如何使用检查点对使用模型并行度训练的 PyTorch 模型 APIs 进行完全检查点的示例。
```
import smdistributed.modelparallel.torch as smp
model = ...
model = smp.DistributedModel(model)
optimizer = ...
optimizer = smp.DistributedOptimizer(optimizer)
user_content = ... # additional custom data
checkpoint_path = "/opt/ml/checkpoint/model_parallel"
# Save a checkpoint.
smp.save_checkpoint(
path=checkpoint_path,
tag=f"total_steps{total_steps}",
partial=False,
model=model,
optimizer=optimizer,
user_content=user_content
num_kept_partial_checkpoints=5
)
# Load a checkpoint.
# This automatically loads the most recently saved checkpoint.
smp_checkpoint = smp.resume_from_checkpoint(
path=checkpoint_path,
partial=False
)
```
### 对分布式 PyTorch 模型执行检查点操作（适用于 v1.6.0 和 v1.9.0 之间的 SageMaker 模型并行度库）
SageMaker 模型并行度库提供了 Python 函数，用于使用张量并行度为训练作业保存部分或全部检查点。以下过程演示如何使用 [https://sagemaker.readthedocs.io/en/v2.199.0/api/training/smp_versions/latest/smd_model_parallel_pytorch.html#smdistributed.modelparallel.torch.save](https://sagemaker.readthedocs.io/en/v2.199.0/api/training/smp_versions/latest/smd_model_parallel_pytorch.html#smdistributed.modelparallel.torch.save) 和 [https://sagemaker.readthedocs.io/en/v2.199.0/api/training/smp_versions/latest/smd_model_parallel_pytorch.html#smdistributed.modelparallel.torch.load](https://sagemaker.readthedocs.io/en/v2.199.0/api/training/smp_versions/latest/smd_model_parallel_pytorch.html#smdistributed.modelparallel.torch.load)，在使用张量并行性的情况下保存和加载检查点。
**注意**
如果您使用 PyTorch、和 v1.6.0 和 v1.9.0 之间的 SageMaker 模型并行度库[张量并行性](model-parallel-extended-features-pytorch-tensor-parallelism.md)，则建议使用这种检查点方法。
1. 准备一个模型对象，并使用库的包装器函数 `smp.DistributedModel()` 进行包装。
```
model = MyModel(...)
model = smp.DistributedModel(model)
```
1. 为模型准备一个优化器。一组模型参数是优化器函数所需的可迭代参数。要准备一组模型参数，必须处理`model.parameters()`为单个模型参数 IDs 分配唯一的参数。
如果模型参数可迭代 IDs 中存在重复的参数，则加载检查点优化器状态将失败。要为优化器创建具有唯一 IDs 性的可迭代模型参数，请参阅以下内容：
```
unique_params = []
unique_params_set = set()
for p in model.parameters():
if p not in unique_params_set:
unique_params.append(p)
unique_params_set.add(p)
del unique_params_set
optimizer = MyOpt(unique_params, ...)
```
1. 使用库的包装器函数 `smp.DistributedOptimizer()` 包装优化器。
```
optimizer = smp.DistributedOptimizer(optimizer)
```
1. 使用 [https://sagemaker.readthedocs.io/en/v2.199.0/api/training/smp_versions/latest/smd_model_parallel_pytorch.html#smdistributed.modelparallel.torch.save](https://sagemaker.readthedocs.io/en/v2.199.0/api/training/smp_versions/latest/smd_model_parallel_pytorch.html#smdistributed.modelparallel.torch.save) 保存模型和优化器状态。根据您保存检查点的方式，选择以下两个选项之一：
+ **选项 1：**在每个 `mp_rank` 上为单个 `MP_GROUP` 保存一个部分模型。
```
model_dict = model.local_state_dict() # save a partial model
opt_dict = optimizer.local_state_dict() # save a partial optimizer state
# Save the dictionaries at rdp_rank 0 as a checkpoint
if smp.rdp_rank() == 0:
smp.save(
{"model_state_dict": model_dict, "optimizer_state_dict": opt_dict},
f"/checkpoint.pt",
partial=True,
)
```
使用张量并行性，该库按以下命名格式保存检查点文件：`checkpoint.pt_{pp_rank}_{tp_rank}`。
**注意**
对于张量并行性，请确保将 if 语句设置 `if smp.rdp_rank() == 0` 为而不是 `if smp.dp_rank() == 0`。当使用张量并行性对优化器状态进行分片时，所有缩减数据并行秩都必须保存自己的优化器状态分区。为检查点操作使用错误的 *if* 语句可能会导致训练作业停滞。有关在`if smp.dp_rank() == 0`不使用张量并行的情况下使用的更多信息，请参阅 Pyth *SageMaker on* SD [K 文档中的保存和加载一般说明](https://sagemaker.readthedocs.io/en/v2.199.0/api/training/smp_versions/latest/smd_model_parallel_pytorch.html#general-instruction-for-saving-and-loading)。
+ **选项 2：**保存完整模型。
```
if smp.rdp_rank() == 0:
model_dict = model.state_dict(gather_to_rank0=True) # save the full model
if smp.rank() == 0:
smp.save(
{"model_state_dict": model_dict},
"/checkpoint.pt",
partial=False,
)
```
**注意**
对于完整检查点操作，请考虑以下内容：
如果您设置 `gather_to_rank0=True`，则除 `0` 之外的所有秩返回空字典。
对于完整检查点，您只能对模型执行检查点操作。目前不支持对优化器状态执行完整检查点操作。
只需将完整模型保存在 `smp.rank() == 0` 即可。
1. 使用 [https://sagemaker.readthedocs.io/en/v2.199.0/api/training/smp_versions/latest/smd_model_parallel_pytorch.html#smdistributed.modelparallel.torch.load](https://sagemaker.readthedocs.io/en/v2.199.0/api/training/smp_versions/latest/smd_model_parallel_pytorch.html#smdistributed.modelparallel.torch.load) 加载检查点。根据您在上一步中的检查点操作方式，选择以下两个选项之一：
+ **选项 1：**加载部分检查点。
```
checkpoint = smp.load("/checkpoint.pt", partial=True)
model.load_state_dict(checkpoint["model_state_dict"], same_partition_load=False)
optimizer.load_state_dict(checkpoint["optimizer_state_dict"])
```
如果您知道分区不会更改，则可以在 `model.load_state_dict()` 中设置 `same_partition_load=True` 以实现更快的加载速度。
+ **选项 2：**加载完整检查点。
```
if smp.rdp_rank() == 0:
checkpoint = smp.load("/checkpoint.pt", partial=False)
model.load_state_dict(checkpoint["model_state_dict"])
```
`if smp.rdp_rank() == 0` 条件并非必需，但它可以帮助避免不同 `MP_GROUP` 之间的冗余加载。使用张量并行性时，目前不支持完整检查点优化器状态字典。
### 对分布式模型执行检查点操作 TensorFlow
要在使用 TensorFlow 模型并行度训练时保存模型，请使用 SageMaker 模型并行度库提供的以下函数。
+ [https://sagemaker.readthedocs.io/en/v2.199.0/api/training/smp_versions/latest/smd_model_parallel_tensorflow.html#smp.DistributedModel.save_model](https://sagemaker.readthedocs.io/en/v2.199.0/api/training/smp_versions/latest/smd_model_parallel_tensorflow.html#smp.DistributedModel.save_model)
+ [https://sagemaker.readthedocs.io/en/v2.199.0/api/training/smp_versions/latest/smd_model_parallel_tensorflow.html#smp.CheckpointManager](https://sagemaker.readthedocs.io/en/v2.199.0/api/training/smp_versions/latest/smd_model_parallel_tensorflow.html#smp.CheckpointManager)
## 微调分布式模型
需要在训练脚本中配置微调。以下代码片段显示了使用 Hugging Face Transformers 的 [AutoModelForCausalLM](https://huggingface.co/docs/transformers/main/en/model_doc/auto#transformers.AutoModelForCausalLM) 类的训练脚本的示例结构，其中包含用于注册`smdistributed.model.parallel.torch`模块和微调设置的修改。
**注意**
在激活 [smp.delayed\$1param\$1initionational 函数的情况下微调分布式变压器（封装的变压器模型`smp.DistributedModel()`）需要使用 for](https://sagemaker.readthedocs.io/en/v2.199.0/api/training/smp_versions/latest/smd_model_parallel_pytorch.html#smdistributed.modelparallel.torch.delay_param_initialization) Lustre 文件系统配置微调作业。 FSx 如果要使用延迟参数初始化选项对大型模型进行微调，则应设置 for Lustre 文件系统。 FSx
```
import argparse
from transformers import AutoModelForCausalLM
import smdistributed.modelparallel
import smdistributed.modelparallel.torch as smp
def parse_args():
parser = argparse.ArgumentParser()
# set an arg group for model
model_grp = parser.add_argument_group(
title="model", description="arguments to describe model configuration"
)
... # set up numerous args to parse from the configuration dictionary to the script for training
# add arg for activating fine-tuning
model_grp.add_argument(
"--fine_tune",
type=int,
default=0,
help="Fine-tune model from checkpoint or pretrained model",
)
def main():
"""Main function to train GPT."""
args = parse_args()
... # parse numerous args
if args.fine_tune > 0 and args.delayed_param > 0 and smp.rank() == 0:
pretrained_model = AutoModelForCausalLM.from_pretrained(
args.model_name or args.model_dir
)
model_state_dict = pretrained_model.state_dict()
path = os.path.join(args.model_dir, "fullmodel.pt")
torch.save(model_state_dict, path)
# create a Transformer model and wrap by smp.model_creation()
# with options to configure model parallelism parameters offered by SageMaker AI
with smp.model_creation(
tensor_parallelism=smp.tp_size() > 1 or args.use_distributed_transformer > 0,
zero_init=args.use_distributed_transformer == 0,
dtype=dtype,
distribute_embedding=args.sharded_data_parallel_degree > 1 and smp.tp_size() > 1,
use_alibi=args.alibi > 0,
attention_in_fp32=args.attention_in_fp32 > 0,
fp32_residual_addition=args.residual_addition_in_fp32 > 0,
query_key_layer_scaling=args.query_key_layer_scaling > 0 and args.bf16 < 1,
fused_softmax=args.fused_softmax > 0,
fused_dropout=args.fused_dropout > 0,
fused_bias_gelu=args.fused_bias_gelu > 0,
flash_attention=args.flash_attention > 0,
):
if args.fine_tune > 0 and args.delayed_param == 0:
model = AutoModelForCausalLM.from_pretrained(
args.model_name or args.model_dir
)
else:
model = AutoModelForCausalLM.from_config(model_config)
# wrap the model by smp.DistributedModel() to apply SageMaker model parallelism
model = smp.DistributedModel(
model, trace_device="gpu", backward_passes_per_step=args.gradient_accumulation
)
# wrap the optimizer by smp.DistributedOptimizer() to apply SageMaker model parallelism
optimizer= ... # define an optimizer
optimizer = smp.DistributedOptimizer(
optimizer,
static_loss_scale=None,
dynamic_loss_scale=True,
dynamic_loss_args={"scale_window": 1000, "min_scale": 1, "delayed_shift": 2},
)
# for fine-tuning, use smp.resume_from_checkpoint() to load a pre-trained model
if args.fine_tune > 0 and args.delayed_param > 0:
smp.resume_from_checkpoint(args.model_dir, tag="fullmodel.pt", partial=False)
```
有关训练脚本和 Jupyter 笔记本的完整示例，请参阅 *SageMaker AI [示例存储库 PyTorch中的 GPT-2](https://github.com/aws/amazon-sagemaker-examples/tree/main/training/distributed_training/pytorch/model_parallel/gpt2) 示例 GitHub*。