Prompt Flowとは
まず初めにPrompt Flowとは、Azure Machine Learning内の強力な機能として追加された新機能で、プロンプトエンジニアリングプロジェクト
の開発、評価、継続的なインテグレーションとデプロイを合理化します。
Prompt Flowの特徴としては、
・対話型の作成エクスペリエンス
・バリアントによるプロンプトのチューニング
・ビルトインの評価指標
・ツールの統合
また、LLMベースのアプリケーション開発ライフサイクルに対応しており、
・計画
→ビジネスユースケースの特定、サンプルデータ収集、基本的なプロンプトの開発
・実験
→サンプルデータに対してフローを実行、プロンプトのパフォーマンスを評価、フローの反復処理
・評価
→大きなデータセットに対する実行とパフォーマンス評価、プロンプトの有効性評価
・運用
→フローの最適化、運用環境へデプロイパフォーマンス監視、使用状況を収集
上記の流れに沿ってプロントフローが作成されていきます。
このように、Prompt Flowの導入により、大規模言語モデルのプロンプト作成、評価、チューニングを効率的に行えるようになります。
ユーザーは、様々な言語モデルなどのプロンプトワークフローを迅速に作成し、グラウンデッドネスなどの評価値で
ワークフローの品質を評価し、ユースケースに最適なプロンプトを選択できるようになります。また、Azure AI Content Safetyを
統合し、ユーザーが仕事の流れの中で有害なコンテンツを直接検出して削除できるように支援します。
〈参考資料〉
Microsoft Build で開発者向け AI ツールを発表 - News Center Japan