使用计算会话创建运行#

实验性功能

这是一个实验性功能,随时可能更改。了解更多

Prompt flow 计算会话提供应用程序运行所需的计算资源,包括包含所有必要依赖包的 Docker 镜像。这种可靠且可扩展的计算会话环境使 Prompt flow 能够高效执行其任务和功能,从而提供无缝的用户体验。

如果您是新用户,我们建议您使用计算会话(预览版)。您可以通过在 flow 文件夹中的 flow.dag.yaml 文件的 requirements.txt 文件中添加包来轻松自定义环境。

使用计算会话创建运行#

pfazure run create --flow path/to/flow --data path/to/data --stream
from promptflow.azure import PFClient


pf = PFClient(
    credential=credential,
    subscription_id="<SUBSCRIPTION_ID>",  # this will look like xxxxxxxx-xxxx-xxxx-xxxx-xxxxxxxxxxxx
    resource_group_name="<RESOURCE_GROUP>",
    workspace_name="<AML_WORKSPACE_NAME>",
)
pf.run(
    flow=flow,
    data=data,
)

为计算会话指定 pip 要求#

如果 requirements.txtflow.dag.yaml 在同一文件夹中,则其中的依赖项将自动安装到计算会话中。

您也可以像这样在 flow.dag.yaml 中指定要使用的要求文件

$schema: https://azuremlschemas.azureedge.net/promptflow/latest/Flow.schema.json
environment:
  python_requirements_txt: path/to/requirement/file
...

有关详细信息,请参阅 Flow YAML Schema

自定义计算会话#

在计算会话情况下,您还可以指定实例类型,如果您不指定实例类型,Azure 机器学习会根据配额、成本、性能和磁盘大小等因素选择一个实例类型(VM 大小),了解更多关于无服务器计算的信息。

$schema: https://azuremlschemas.azureedge.net/promptflow/latest/Run.schema.json
flow: <path_to_flow>
data: <path_to_flow>/data.jsonl

column_mapping:
  url: ${data.url}

# define instance type only work for compute session.
resources:
  instance_type: <instance_type>
pfazure run create --file run.yml
from promptflow.client import load_run

run = load_run(source="run.yml")
pf = PFClient(
    credential=credential,
    subscription_id="<SUBSCRIPTION_ID>",  # this will look like xxxxxxxx-xxxx-xxxx-xxxx-xxxxxxxxxxxx
    resource_group_name="<RESOURCE_GROUP>",
    workspace_name="<AML_WORKSPACE_NAME>",
)
pf.runs.create_or_update(
    run=run
)

后续步骤#

  • 在此处尝试示例 here