phi-3安装指南：如何在 MacBook Pro 上微调 phi-3(phreeqci安装步骤)

4月25日 消息:博主Abhishek Thakur在博客中向大家展示了如何在 MacBook Pro 上训练/微调 Microsoft 的最新 phi-3模型!用户需要使用 M1或 M2mac 来执行此操作。之后将使用 AutoTrain Advanced来微调 phi-3。

要安装 AutoTrain Advanced，您可以执行以下操作:

$pipinstallautotrain-advanced

注意:autotrain不安装pytorch、torchvision等，所以需要自己安装。您可以创建 conda 环境并安装这些依赖项:

$condacreate-nautotrainpython=3.10

完成后，您可以在 Mac 计算机上使用 AutoTrain CLI 或 UI!我们将看看两者!

AutoTrain 不仅提供 LLM 微调，还提供许多其他任务，例如文本分类、图像分类、dreambooth lora 等。但在这篇博文中，我们正在研究 LLM 微调。

您可以通过执行以下操作来查看可以调整 llm 微调的所有参数

$autotrainllm--help

下一步是抓取数据。在这篇博客中，我将向您展示如何在 MacBook 上通过 SFT 训练和 ORPO 调整（DPO 的大而小的兄弟）进行训练。

• 对于 SFT 训练，我们需要一个具有单个文本列的数据集。我们可以使用timdettmers/openassistant-guanaco或 alpaca 之类的数据集。注意:这些数据集已经格式化为带有系统提示、用户指令和辅助消息的文本。如果它们的格式如下:

[{"content":"Definition:Inthistask，youneedtocountthenumberofvowels（letters'a'，'e'，'i'，'o'，'u'）/consonants(alllettersotherthanvowels)inthegivensentence.\nInput:Sentence:'abaseballplayerisinhishittingstanceasafewpeoplewatch'.Countthenumberofconsonantsinthegivensentence.\nOutput:"，"role":"user"}，{"content":"32"，"role":"assistant"}]

您可以使用 AutoTrain 的 chat-template 参数。我们将在本文后面看到它，但用于 ORPO 培训。因此，我们将介绍使用预格式化数据集进行 SFT 训练，并使用聊天模板进行 ORPO 训练。

• 对于 ORPO 训练，您可以使用argilla/distilabel-capybara-dpo-7k-binarized等数据集。该数据集有很多列，但我们只对chosen&列感兴趣rejected。

使用 AutoTrain，仅创建或查找数据集将是最耗时的部分。现在，当我们拥有数据集时，我们可以使用以下方法进行 SFT 训练:

autotrainllm\

其中 $HF_TOKEN 是您的拥抱面部写入令牌，以防您希望将经过训练的模型推送到拥抱面部中心以方便部署和共享。您可以在这里找到您的代币。

请注意，我们使用的是 lora，这就是我们有--peft参数的原因。另外，如果text您的数据集中未调用文本列，您可以添加另一个参数--text-column your_datasets_text_column。如果您想使用自己的 CSV/JSON 文件而不是拥抱面部中心数据集，您可以将其命名为 train.csv / train.jsonl 并将其放置在本地文件夹中。训练命令将略有变化:

autotrainllm\

接下来，我们来进行orpo培训。对于 orpo 训练，我们更改--trainer sft为--trainer orpo.

autotrainllm\

以上有4处变化。只有列映射发生了变化，训练器，当然还有数据集。另一项主要变化是--chat-template设置为 的参数的使用chatml。对于--chat-template，选项有:zephyr、chatml或tokenizer无。如果您已经像我们在 SFT 训练中那样自行正确格式化了数据，则不会使用任何内容。

现在，如果 CLI 对您来说太难了，您还可以使用 UI!这更容易，并且还允许您上传文件。

要使用用户界面:

$exportHF_TOKEN=your_huggingface_write_token

然后在浏览器中访问https://127.0.0.1:10000并享受AutoTrain UI!