TRL documentation

MergeModelCallback

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

MergeModelCallback

класс trl.experimental.merge_model_callback.MergeModelCallback

< >

( merge_config: MergeConfig | None = Nonemerge_at_every_checkpoint: bool = Falsepush_to_hub: bool = False )

Параметры

  • merge_config (experimental.merge_model_callback.MergeConfig, необязательный) — Конфигурация, используемая для процесса слияния. Если не указана, используется конфигурация по умолчанию MergeConfig.
  • merge_at_every_checkpoint (bool, необязательный, по умолчанию False) — Следует ли объединять модель при каждом контрольном пункте.
  • push_to_hub (bool, необязательный, по умолчанию False) — Следует ли отправить объединенную модель на Hub после слияния.

Класс TrainerCallback, который объединяет модель политики (обучаемую модель) с другой моделью на основе конфигурации слияния.

Пример:

>>> from trl.experimental.merge_model_callback import MergeConfig, MergeModelCallback

>>> config = MergeConfig()
>>> merge_callback = MergeModelCallback(config)
>>> trainer = DPOTrainer(..., callbacks=[merge_callback])
Update on GitHub