● コミュニティ
OmidZamani
⚡ 即起動
dspy-skills
作者 OmidZamani · OmidZamani/dspy-skills
DSPy向けClaudeスキルパック — 言語モデルのプログラミング、プロンプト最適化、RAGパイプラインの体系的な構築を支援します。
dspy-skillsは、DSPyのメンタルモデル(シグネチャ、モジュール、プレディクター、テレプロンプター、評価ループ)をClaudeに習得させます。手作業でプロンプトを作成する代わりに、シグネチャでタスクを記述し、DSPyのオプティマイザに最適化を任せます。Claudeは生のプロンプトテンプレートに頼らず、DSPyコードをイディオマティックに記述します。
なぜ使うのか
主な機能
- DSPyのシグネチャ/モジュール/プレディクターをパターンとしてエンコード
- テレプロンプター(BootstrapFewShot, MIPRO)の使用ガイダンス
- 評価とメトリクス設計
- DSPyリトリーバーを活用したRAGパイプラインのスキャフォールド
- 主要なLLMプロバイダーとの統合についてのベストプラクティス
ユースケース
実用的な使い方: dspy-skills
使うタイミング: プロンプトの品質が重要なタスクがあり、体系的に改善する方法を求めている場合に使用します。
フロー
-
シグネチャを定義する
タスク: サポートチケットを {billing, technical, account} に分類する。DSPyのシグネチャとシンプルなPredictモジュールを作成してください。✓ コピーしました
→ シグネチャ+モジュールのコード
-
評価を記述する
ラベル付きの50件の評価データセットとaccuracyメトリクスを追加してください。✓ コピーしました
→ 呼び出し可能なメトリクスを備えた評価ハーネス
-
最適化を実行する
BootstrapFewShotを実行して、評価セットに対してモジュールをコンパイルしてください。✓ コピーしました
→ コンパイル済みプレディクター+スコアの改善
結果: 手書きのプロンプトを上回る、DSPyで最適化されたプレディクター。再現可能なコード付き。
注意点
- 評価データが少なすぎてオプティマイザが過学習する — 最低100〜200件の例を用意し、真のテストセットをホールドアウトする
- メトリクスが本当に重要な指標を捉えていない — モデル選択の前にメトリクス設計に時間を投資する
使うタイミング: 手動で配線したチェーンではなく、モジュール化された最適化可能なRAGが必要な場合に使用します。
フロー
-
モジュールを定義する
DSPy RAGパイプラインを作成してください: ColBERTv2またはローカルリトリーバーを使ったRetrieveThenRead構成で。✓ コピーしました
→ 検索と生成が分離されたモジュール式パイプライン
-
エンドツーエンドで最適化する
QAデータセットで評価を記述し、MIPROを実行して改善してください。✓ コピーしました
→ スコア差分付きのコンパイル済みパイプライン
結果: プロンプトを書き直すのではなく、評価を変更することで改善できるRAGパイプライン。
注意点
- リトリーバーの品質がエンドツーエンドの品質の上限になる — 生成の最適化の前に、検索を個別に評価する(recall@k)
組み合わせ
他のMCPと組み合わせて10倍の力を
ローカルリトリーバーをDSPyのRAGモジュールに組み込む
ColBERTリトリーバーをlocal-rag MCPに差し替えて検索ソースとして使用してください。✓ コピーしました
DSPyプログラム、評価、アーティファクトをリポジトリ内で整理する
programs/、evals/、artifacts/ ディレクトリ構成でDSPyプロジェクトをセットアップしてください。✓ コピーしました
コストと制限
運用コスト
- APIクォータ
- 最適化実行時にLLMトークンが支配的なコストとなります
- 呼び出しあたりのトークン
- 高額になる可能性があります — 最適化がLLMを数百回呼び出す場合があります
- 金額
- プロバイダーにより異なる
- ヒント
- テレプロンプターの実行には安価なモデルを使用し、最終評価時のみ上位モデルにアップグレードしてください
セキュリティ
権限、シークレット、影響範囲
認証情報の保管: LLMプロバイダーのAPIキーを環境変数に格納
データ送信先: LLMプロバイダーのエンドポイント
トラブルシューティング
よくあるエラーと対処法
テレプロンプターが結果を悪化させているように見える
メトリクスの正確性を確認し、ホールドアウトセットを使用し、サンプルプールを拡大してください。
最適化が予算を使い果たす
max_bootstrapped_demosに上限を設定し、探索中はより安価なモデルを使用してください。
代替案
dspy-skills 他との比較
| 代替案 | 代わりに使う場面 | トレードオフ |
| prompt-architect-skill | DSPyのプログラマティックなアプローチではなく、プロンプトレベルの職人的な最適化を求める場合 | 手作業による作り込み vs 自動最適化 |