使用基礎模型微調 API 建立定型執行

本文說明如何使用基礎模型微調（現在是馬賽克 AI 模型訓練的一部分）API 來建立和設定定型執行，並描述 API 呼叫中使用的所有參數。 您也可以使用 UI 建立回合。 如需指示，請參閱 使用基礎模型微調 UI 建立定型回合。

需求

請參閱 需求。

建立訓練回合

若要以程式設計方式建立訓練回合，請使用 create() 函式。 這個函式會用提供的資料集訓練模型，並將最終的 Composer 檢查點轉換為 Hugging Face 格式化檢查點以供推斷。

您必須輸入想訓練的模型、訓練資料集的位置，以及註冊模型的位置。 也有選擇性參數可讓您執行評估並變更回合的超參數。

回合完成之後會儲存完成的回合和最終檢查點、複製模型，並在 Unity Catalog 將該複製品註冊為供推斷的模型版本。

已完成回合的模型，不是 Unity Catalog 中複製的模型版本，而且其 Composer 和 Hugging Face 檢查點會儲存至 MLflow。 Composer 檢查點可用於持續微調工作。

如需 函式之引數的詳細資料，請參閱create()。

from databricks.model_training import foundation_model as fm

run = fm.create(
  model='meta-llama/Llama-2-7b-chat-hf',
  train_data_path='dbfs:/Volumes/main/mydirectory/ift/train.jsonl', # UC Volume with JSONL formatted data
  # Public HF dataset is also supported
  # train_data_path='mosaicml/dolly_hhrlhf/train'
  register_to='main.mydirectory', # UC catalog and schema to register the model to
)

設定訓練回合

下表摘要說明 函式 foundation_model.create() 的參數。

以自訂模型權數為基礎建置

基礎模型微調支援使用選擇性參數 custom_weights_path 來新增自定義權數，以定型和自定義模型。

若要開始使用，請從先前的訓練回合設定 custom_weights_path 為 Composer 檢查點路徑。 您可以在先前 MLflow 執行的 [成品] 索引標籤中找到檢查點路徑。 檢查點資料夾名稱會對應至特定快照集的批次和 Epoch，例如 ep29-ba30/。

• 若要提供先前執行的最新檢查點，請將 設定 custom_weights_path 為 Composer 檢查點。 例如： custom_weights_path=dbfs:/databricks/mlflow-tracking/<experiment_id>/<run_id>/artifacts/<run_name>/checkpoints/latest-sharded-rank0.symlink 。
• 若要提供先前的檢查點，請將 設定 custom_weights_path 為資料夾的路徑，其中包含 .distcp 對應至所需檢查點的檔案，例如 custom_weights_path=dbfs:/databricks/mlflow-tracking/<experiment_id>/<run_id>/artifacts/<run_name>/checkpoints/ep#-ba#。

接下來，更新 model 參數，以符合您傳遞給 custom_weights_path之檢查點的基底模型。

在下列範例 ift-meta-llama-3-1-70b-instruct-ohugkq 中，是先前 meta-llama/Meta-Llama-3.1-70B微調的執行。 若要微調 來自 ift-meta-llama-3-1-70b-instruct-ohugkq的最新檢查點，請設定 model 和 custom_weights_path 變數，如下所示：

from databricks.model_training import foundation_model as fm

run = fm.create(
model = 'meta-llama/Meta-Llama-3.1-70B'
custom_weights_path = 'dbfs:/databricks/mlflow-tracking/2948323364469837/d4cd1fcac71b4fb4ae42878cb81d8def/artifacts/ift-meta-llama-3-1-70b-instruct-ohugkq/checkpoints/latest-sharded-rank0.symlink'
... ## other parameters for your fine-tuning run

)

請參閱 設定定型回合 ，以在微調回合中設定其他參數。

取得叢集 ID

若要擷取叢集 ID：

1. 在 Databricks 工作區的左側導覽列按下[計算]。

2. 在資料表中，按下叢集的名稱。

3. 按下右上角的 ，然後從下拉式功能表中選取[檢視 JSON]。

4. 叢集 JSON 檔案隨即出現。 複製叢集識別碼，亦即檔案中的第一行。

   

取得回合狀態

若要追蹤回合的進度，您可以使用 Databricks UI 中的 [實驗] 頁面或使用 API 命令 get_events()。 如需詳細資訊，請參閱 檢視、管理和分析基礎模型微調執行。

get_events() 輸出範例︰

實驗頁面上的回合範例詳細資料：

下一步

訓練回合完成之後，您可以在 MLflow 檢閱計量及部署推斷模型。 請參閱教學課程：建立和部署基礎模型微調執行的步驟 5 到 7。

如需逐步說明資料準備、微調訓練回合組態和部署的指令微調範例，請參閱指令微調：具名實體辨識示範筆記本。

筆記本範例

下列筆記本示範如何使用 Meta Llama 3.1 405B Instruct 模型產生綜合資料，並使用該資料微調模型：

使用 Llama 3.1 405B 指示筆記本產生綜合資料

取得筆記本

其他資源

• 基礎模型微調
• 教學課程：建立和部署基礎模型微調執行
• 使用基礎模型微調 UI 建立定型執行
• 檢視、管理和分析基礎模型微調執行
• 準備基礎模型微調的數據