WEBVTT 00:00:00.120 --> 00:00:03.640 賢いエージェントが愚かなことをするのを防ぐ唯一の検証 00:00:03.640 --> 00:00:07.720 賢いことを有能に変える唯一のゲートは実行前の契約チェックです 00:00:07.720 --> 00:00:11.400 ツールが実行される前にバリデーターは3つのことを順番に証明します 00:00:11.400 --> 00:00:13.120 意図が実際の機能と一致していること 00:00:13.120 --> 00:00:15.120 呼び出し元が現在権限を持っていること 00:00:15.120 --> 00:00:18.300 要求された結果が宣言されたデータ協会内で実行可能であること 00:00:18.300 --> 00:00:20.980 いずれかの部分が失敗すると何も実行されません 00:00:20.980 --> 00:00:23.060 注意を払うのではなくとにかく試すのではなく 00:00:23.060 --> 00:00:24.520 理由と代替案を添えて拒否します 00:00:24.520 --> 00:00:25.940 機能の一致から始めます 00:00:25.940 --> 00:00:28.600 計画ではシェアポイントリストアイテムを更新するとされています 00:00:28.600 --> 00:00:32.160 バリデーターはどのツールどのメソッドどのスキーマバージョンかと尋ねます 00:00:32.160 --> 00:00:34.340 引数はレジストリに対してチェックされます 00:00:34.340 --> 00:00:37.680 必須フィールドが存在し型が正しく値の範囲が妥当であり 00:00:37.680 --> 00:00:39.680 誰かが無視することを期待して余分なフィールドが 00:00:39.680 --> 00:00:41.260 密かに持ち込まれていないことを確認します 00:00:41.260 --> 00:00:43.220 ツールのエイリアスは禁止されています 00:00:43.220 --> 00:00:45.440 正規名を使用するか拒否されます 00:00:45.440 --> 00:00:49.340 これにより幻覚ツールや推測パラメータが誤動作する前に排除されます 00:00:49.340 --> 00:00:51.180 次にポリシー準拠です 00:00:51.180 --> 00:00:55.180 ポリシーエンジンは提案された呼び出しをアクティブなポリシーに対して評価します 00:00:55.180 --> 00:00:57.180 ツールとドメインのリストを許可します 00:00:57.180 --> 00:01:01.540 RBACまたはABCチェックは入力IDクレームとスコープに関連付けられています 00:01:01.540 --> 00:01:02.960 環境回想ルール 00:01:02.960 --> 00:01:04.340 データ分類境界 00:01:04.340 --> 00:01:06.360 エージェントのスコープがファイルに限定されている場合 00:01:06.360 --> 00:01:10.340 特定のサイトの読み取り更新呼び出しまたは別のサイトは絶対に許可されません 00:01:10.340 --> 00:01:14.580 低ロードが人間のチェックポイントなしで制限された分類に踏み込む場合も許可されません 00:01:14.580 --> 00:01:16.960 トークンは最新の状態で検証されます 00:01:16.960 --> 00:01:22.980 スコープは正確に検証されこの一度だけの権限昇格は侵害の試みとして扱われます 00:01:22.980 --> 00:01:25.360 次に事後条件の実現可能性 00:01:25.360 --> 00:01:27.420 結果を望むだけでは十分ではありません 00:01:27.420 --> 00:01:29.740 達成可能で検証可能でなければなりません 00:01:29.740 --> 00:01:32.800 バリデータは宛先がアイテムの有効性キーをサポートしているか 00:01:32.800 --> 00:01:36.220 システムは後で確認できる永続的な識別紙または電子タグを発行するか 00:01:36.220 --> 00:01:38.820 下流が失敗した場合に保証アクションがあるかと尋ねます 00:01:38.820 --> 00:01:43.020 計画が検証可能な事後条件を生成できない場合計画は拒否されるか書き換えられます 00:01:43.020 --> 00:01:45.760 私を信じて後でログに記録しますは受け入れられません 00:01:45.760 --> 00:01:47.580 後でインシデントが発生するからです 00:01:47.580 --> 00:01:52.080 これらを組み合わせると機能一致ポリシー準拠事後条件の実現可能性という3つのゲートが得られます 00:01:52.080 --> 00:01:54.520 3つ全てに合格すると実行者は続行します 00:01:54.520 --> 00:01:57.400 いずれか1つでも失敗すると理由付きパスがアクティブになります 00:01:57.400 --> 00:02:00.080 このパスは丁寧で徹底的で曖昧さがありません 00:02:00.080 --> 00:02:01.760 あなたが試したことは次の通りです 00:02:01.760 --> 00:02:04.040 あなたが破った正確なポリシーまたはスキーマは次の通りです 00:02:04.040 --> 00:02:05.760 安全な代替案は次の通りです 00:02:05.760 --> 00:02:09.780 ユーザーの意図を修復できる場合は範囲を狭め読み取り専用の要約に切り替え 00:02:09.780 --> 00:02:11.160 許可されたサイトにルーティングします 00:02:11.160 --> 00:02:14.380 バリデーターは準拠した計画を提案し承認を求めます 00:02:14.380 --> 00:02:18.960 修復できない場合は完全なコンテキストで人間のチェックポイントにエスカレーションするか完全に停止します 00:02:18.960 --> 00:02:20.360 謎の停止はありません 00:02:20.360 --> 00:02:21.960 静かな成功もありません 00:02:21.960 --> 00:02:25.420 あなたが知らなかったとしても経験したことのある簡単なマイクロストーリー 00:02:25.420 --> 00:02:29.560 エージェントは全市販機のすべての人事文書を要約してホーム部にメールで送信するように求められます 00:02:29.560 --> 00:02:32.660 取得は人事サイトとホームサイトに渡るグラフクエリを提案します 00:02:32.660 --> 00:02:34.880 バリデーターは境界を超えることを検出します 00:02:34.880 --> 00:02:36.380 人事は制限されています 00:02:36.380 --> 00:02:37.560 ホームは内部です 00:02:37.560 --> 00:02:40.700 3つのゲートはクロス読み取りと送信メールをブロックします 00:02:40.700 --> 00:02:42.160 拒否パスが返されます 00:02:42.160 --> 00:02:44.360 制限されたコンテンツが検出されました 00:02:44.360 --> 00:02:47.080 代替案として内部ポリシーインデックスを要約し 00:02:47.080 --> 00:02:50.260 承認されたレビュー担当者に人事概要のリクエストリンクを提供します 00:02:50.260 --> 00:02:52.420 ユーザーは準拠したプランを承認します 00:02:52.420 --> 00:02:55.260 実行ツールがそれを実行し内部コンテンツをサイトし 00:02:55.260 --> 00:02:57.040 人事資料の許可リクエストを添付します 00:02:57.040 --> 00:02:59.340 漏洩もドラマもなく依然として役立ちます 00:02:59.340 --> 00:03:01.040 実装は設計家未退屈です 00:03:01.040 --> 00:03:04.760 ポリシーDSLは誰が何をどこでどのような副作用で実行できるかを定義します 00:03:04.760 --> 00:03:09.860 スキーマレジストリはツール契約名前バージョン引数の形状及びポスト条件を格納します 00:03:09.860 --> 00:03:14.200 許可リストリゾルバはドメインサイトスコープを環境階層にマッピングします 00:03:14.200 --> 00:03:19.800 バリデータはこれらを構成しすべての決定に関査レコード入力ポリシー評価結果をスタンプし 00:03:19.800 --> 00:03:22.380 実行ツールに緑信号または修復プランを渡します 00:03:22.380 --> 00:03:25.340 実行ツールは赤信号を無視して勝手に実行することはありません 00:03:25.340 --> 00:03:27.300 決定を強制するか停止します 00:03:27.300 --> 00:03:30.880 メンタルモデルはアーキテクチャ図の額にタトゥーとして刻むのに十分なほど明確です 00:03:30.880 --> 00:03:32.480 実行ツールが強制します 00:03:32.480 --> 00:03:33.760 グラフが制約します 00:03:33.760 --> 00:03:35.200 バリデータが決定します 00:03:35.200 --> 00:03:36.180 この順序です 00:03:36.180 --> 00:03:41.080 モデルはフェンスで囲まれた庭の中でのみ提案しフェンスを越えようとした瞬間にバリデータがそれを引き戻し 00:03:41.080 --> 00:03:43.260 理由を説明しゲートを指し示します 00:03:43.260 --> 00:03:44.500 秩序は維持されます 00:03:44.500 --> 00:03:46.040 安全性が強制されます 00:03:46.040 --> 00:03:47.420 信号は妨げられません 00:03:47.420 --> 00:03:48.800 ポリシーの範囲内です 00:03:48.800 --> 00:03:52.280 スマートエージェントが愚かなことをするのを防ぐものが一つ欲しかったのですね 00:03:52.280 --> 00:03:53.340 これがそれです 00:03:53.340 --> 00:03:59.080 実行前の契約チェックで現実世界での変異の前に能力許可検証可能な結果が証明されます 00:03:59.080 --> 00:04:03.440 できると思うが許可されているやり方を知っているやったことを証明できるに変わります 00:04:03.440 --> 00:04:06.340 いいえいいえ暗闇は私たちには起こりません 00:04:06.340 --> 00:04:08.900 これでアーキテクチャができたのでそれを使います 00:04:08.900 --> 00:04:11.020 重要なポイントさらにCT 00:04:11.020 --> 00:04:15.540 重要なポイントはプロンプとは意見であり実行者と検証済グラフは操作であり 00:04:15.540 --> 00:04:19.220 実行前の契約チェックは両方を正直に保つガードレールであるということです 00:04:19.220 --> 00:04:22.180 これで時間を節約できたなら恩返しをしてください 00:04:22.180 --> 00:04:23.280 購読してください 00:04:23.280 --> 00:04:31.000 次にパフォーマンスと可観測性実際のトレースコストp95に関するランググラフとマイクロソフトエージェントフレームワークの分析をご覧ください 00:04:31.000 --> 00:04:35.300 アップグレードパスをロックしフォローしアラートを有効にして次のエピソードを予定通りに配信します 00:04:35.300 --> 00:04:36.140 続行します 00:04:36.140 --> 00:04:39.280 ほとんどの人はプロンプとを改善すれば不安定なエージェントが修正されると考えています 00:04:39.280 --> 00:04:40.320 かわいい理論です 00:04:40.320 --> 00:04:43.160 プロンプとは思考をガイドしますが操作は実行しません 00:04:43.160 --> 00:04:46.720 真実は信頼性は実行者とグラフ検証から生まれます 00:04:46.720 --> 00:04:50.040 現実が現れた時にエージェントが失敗しないようにする背骨です 00:04:50.040 --> 00:04:53.540 これをマイクロソフトシナリオマイクロソフト365グラフ取得 00:04:53.540 --> 00:04:55.120 アジュールオープンAI推論 00:04:55.120 --> 00:04:57.680 暴走しないコパイロットスタジオエージェントに接続します 00:04:57.680 --> 00:05:00.100 利害関係は単純で正確性 00:05:00.100 --> 00:05:00.860 レイテンシ 00:05:00.860 --> 00:05:01.380 コスト 00:05:01.380 --> 00:05:02.600 監査可能性です 00:05:02.600 --> 00:05:03.740 測定可能であり 00:05:03.740 --> 00:05:04.980 雰囲気ではありません 00:05:04.980 --> 00:05:06.900 頭の中で実行できるメンタルモデル 00:05:06.900 --> 00:05:08.220 忘れられない言葉の図 00:05:08.220 --> 00:05:12.120 スマートエージェントが愚かなことをするのを防ぐ一つの検証手順を提供します 00:05:12.120 --> 00:05:14.840 初日から使用すべきだったアーキテクチャに入ります 00:05:14.840 --> 00:05:18.320 プロンプトが操作で失敗するが実行者は失敗する理由 00:05:18.320 --> 00:05:23.540 さてここで重要なのはLLMは認知を処理し実行者は操作を処理するということです 00:05:23.540 --> 00:05:25.940 これらを混ぜ合わせると混乱が生じます 00:05:25.940 --> 00:05:32.420 モデルは計画を提案できますがメールが送信されたことファイルが保存されたこと権限が存在したことを保証することはできません 00:05:32.420 --> 00:05:35.360 確率でしか話せず操作には保証が必要です 00:05:35.360 --> 00:05:37.360 そこで登場するのがエグゼキュータです 00:05:37.360 --> 00:05:43.260 エグゼキュータはポリシーに縛られた関数ランナーで状態制約とアイテムの有効性を持ついわば部屋の中の大人です 00:05:43.260 --> 00:05:46.360 アクションが成功したと信じることはなく確認します 00:05:46.360 --> 00:05:48.920 ツールが存在すると想定することもありません 00:05:48.920 --> 00:05:52.660 実行する前に機能パラメーター権限を検証します 00:05:52.660 --> 00:05:58.000 そして失敗した場合は大きなエラーメッセージを表示しエラーを分類し規定の回復パスを実行します 00:05:58.000 --> 00:06:01.480 ほとんどのプロンプト専用エージェントは3つの失敗モードに陥ります 00:06:01.480 --> 00:06:03.720 一つ目はツールの誤認識です 00:06:03.720 --> 00:06:08.580 モデルが登録されていない関数を要求したり存在しないフィールドで関数を呼び出したりします 00:06:08.580 --> 00:06:10.920 二つ目は前提条件の欠如です 00:06:10.920 --> 00:06:15.400 サイトリストアイテムバージョンにアクセスできるかどうかを確認せずにシェアポイントファイルを編集しようとします 00:06:15.400 --> 00:06:17.080 三つ目は部分的なサイレント処理です 00:06:17.080 --> 00:06:21.460 ステップ2が失敗しますがテキストが自信に満ちているように見えるためエージェントは処理を続行し成功を宣言します 00:06:21.460 --> 00:06:22.820 このようなケースは見たことがあるでしょう 00:06:22.820 --> 00:06:24.240 あなたはそれを不安定だと呼びました 00:06:24.240 --> 00:06:26.960 エグゼキュータは退屈に見えるループを実行しますがそれが機能する理由です 00:06:26.960 --> 00:06:30.120 前提条件入力権限および普遍条件を確認します 00:06:30.120 --> 00:06:35.660 アクションアイテム攻力キーを使用してツールを呼び出し再試行で二重請求や二重投稿が発生しないようにします 00:06:35.660 --> 00:06:39.000 事後条件真実のソースに対して効果を確認します 00:06:39.000 --> 00:06:43.640 エラー分類検証一時的レート制限若年またはポリシーのどれですか 00:06:43.640 --> 00:06:46.400 回復一時的の場合はバックオフして再試行 00:06:46.400 --> 00:06:48.720 認証の場合は再認証または再同意 00:06:48.720 --> 00:06:50.800 基地の代替手段の場合はホールバック 00:06:50.800 --> 00:06:53.160 ポリシー違反の場合は理由付きのハードストップ 00:06:53.160 --> 00:06:54.620 歴等性は譲れません 00:06:54.620 --> 00:06:59.940 アクションを再試行できる場合は2回目の試行を何もしないか一貫したオーバーライドにするキーが必要です 00:06:59.940 --> 00:07:01.960 タイムアウトはゾンビ呼び出しを防ぎます 00:07:01.960 --> 00:07:04.040 バックオフはレート制限を尊重します 00:07:04.040 --> 00:07:08.680 これは本質的に確率的なテキスト生成を制御する決定論的な動作です 00:07:08.680 --> 00:07:10.480 エグゼキュータはギアボックスです 00:07:10.480 --> 00:07:12.000 LLMはエンジンです 00:07:12.000 --> 00:07:15.040 エンジンを全開にして車輪が理解してくれることを期待するようなことはしません 00:07:15.040 --> 00:07:18.340 契約優先の出力はベストエフォートの段落に対する下毒剤です 00:07:18.340 --> 00:07:20.560 推論モデルは長々と話すことはありません 00:07:20.560 --> 00:07:24.740 ツール名、引数、期待される事後条件などスキーマに一致するJSONを出力します 00:07:24.740 --> 00:07:27.780 バリデーターは何かが実行される前にスキーマ準拠をチェックします 00:07:27.780 --> 00:07:30.140 形状が間違っている場合実行者は理由を添えて拒否するか 00:07:30.140 --> 00:07:32.080 修正されたプランを要求するかエスカレーションします 00:07:32.080 --> 00:07:34.920 こうして名刺サラダが本番環境のインシデントになるのを防ぎます 00:07:34.920 --> 00:07:37.460 さてモデルに作業をチェックするように促すだけではダメなのか 00:07:37.460 --> 00:07:38.480 と思うかもしれません 00:07:38.480 --> 00:07:39.480 尋ねることができます 00:07:39.480 --> 00:07:40.720 モデルははいと答えます 00:07:40.720 --> 00:07:41.560 常にそうです 00:07:41.560 --> 00:07:43.200 平均的なユーザーはそれを受け入れています 00:07:43.200 --> 00:07:44.980 プロフェッショナルは証明を必要とします 00:07:44.980 --> 00:07:49.120 証明はマイクロソフトグラフ、シェアポイント、エクスチェンジなどのシステムに対して検証された事後条件にあります 00:07:49.120 --> 00:07:51.400 モデルのメモリではなく真の情報源です 00:07:51.400 --> 00:07:53.360 しかしここからが興味深いところです 00:07:53.360 --> 00:07:54.900 単一のステップは問題ありません 00:07:54.900 --> 00:07:58.560 実際のワークフローには分岐、並列処理、保証、人間のチェックポイントがあります 00:07:58.560 --> 00:08:00.300 実行者以上のものが必要です 00:08:00.300 --> 00:08:02.160 実行者が読み取れるマップが必要です 00:08:02.160 --> 00:08:03.540 それがワークフローグラフです 00:08:03.540 --> 00:08:06.300 グラフではノードは明示的な契約を持つタスクまたはサブエージェントです 00:08:06.300 --> 00:08:08.260 エッジは制御フローとデータフローを定義します 00:08:08.260 --> 00:08:09.680 状態は第一級です 00:08:09.680 --> 00:08:12.400 何が永続的で、何がチェックポイントされ、何が一時的か 00:08:12.400 --> 00:08:15.080 実行者は各エッジの許可ニストとスキーマを尊重しながら 00:08:15.080 --> 00:08:16.580 決定論的にグラフを操作します 00:08:16.580 --> 00:08:22.000 ノードが失敗した場合、グラフは保証、取り消し、修復、またはエスカレーションを指定します 00:08:22.000 --> 00:08:23.500 謎のパイプはありません 00:08:23.500 --> 00:08:25.000 そして魔法が起こります 00:08:25.000 --> 00:08:27.060 信頼性が反転する瞬間です 00:08:27.060 --> 00:08:28.500 LLMが提案します 00:08:28.500 --> 00:08:30.040 実行者が強制します 00:08:30.040 --> 00:08:32.080 グラフ制約検証が決定します 00:08:32.080 --> 00:08:33.480 秩序が回復します 00:08:33.480 --> 00:08:38.000 認知と操作を分離すると、エージェントは即興で行動するのをやめ、行動し始めます 00:08:38.000 --> 00:08:41.680 そしてエージェントは賢いので、まだ賢いと感じますが、今は監視されています 00:08:41.680 --> 00:08:43.280 設計図の準備ができました 00:08:43.280 --> 00:08:47.160 テナントをバフィに変えることなく、マイクロソフト365に接続しましょう 00:08:47.160 --> 00:08:48.680 グラフワークフロー101 00:08:48.680 --> 00:08:51.040 ノード、エッジそして情報漏洩のない状態 00:08:51.040 --> 00:08:52.400 これを想像してみてください 00:08:52.400 --> 00:08:54.820 信頼できる実行エンジンはありますが、マップがありません 00:08:54.820 --> 00:08:56.560 命令には従いますが、どこへ? 00:08:56.720 --> 00:08:59.280 そこでワークフローグラフ、つまり操作マニュアルの登場です 00:08:59.280 --> 00:09:02.320 ノードは明示的な契約を持つタスクまたはサブエージェントです 00:09:02.320 --> 00:09:04.600 エッジは制御フローとデータフローを定義します 00:09:04.600 --> 00:09:08.980 グラフは何が実行されるか、いつ実行されるか、境界を超えることが許可されるデータをエンコードします 00:09:08.980 --> 00:09:10.520 即興やジャズはありません 00:09:10.520 --> 00:09:11.700 これは楽譜です 00:09:11.700 --> 00:09:13.160 形状から始めましょう 00:09:13.160 --> 00:09:16.660 ほとんどのプロダクショングラフは有効批准解グラフ、DAGです 00:09:16.660 --> 00:09:20.220 なぜなら、サイクルは無限ループと状態の破損を招くからです 00:09:20.220 --> 00:09:26.300 ループがあっても構いませんが、カウンターとガード、最大反復回数、終了術後、タイムアウトで意図的にマークします 00:09:26.300 --> 00:09:30.440 そうすることで、より深く考えることが永遠に考え続けることにならないようにします 00:09:30.440 --> 00:09:32.640 条件付きルーティングは明示的です 00:09:32.640 --> 00:09:36.220 取得の信頼度が敷地を超えている場合は、合成に分岐します 00:09:36.220 --> 00:09:38.660 そうでない場合は、サイクエリに分岐します 00:09:38.660 --> 00:09:40.680 並列処理は最優先事項です 00:09:40.680 --> 00:09:46.960 要約と引用抽出を並行して実行し、両方が事後条件を満たしたことを検証するバリアノードで結合します 00:09:46.960 --> 00:09:49.200 状態は雰囲気ではなく、台帳です 00:09:49.200 --> 00:09:50.920 3種類の状態を維持します 00:09:50.920 --> 00:09:56.120 永続状態、クラッシュ後に回復できる耐久性のあるチェックポイント、入力、決定、署名付きアクション 00:09:56.120 --> 00:10:00.580 一時状態、中間モデル出力など、長期メモリを汚染したくない短命の爆破 00:10:00.580 --> 00:10:05.860 派生状態、埋め込みやフィルタリングされた結果など、決定論的に構築できる再計算可能なアーティファクト 00:10:05.860 --> 00:10:08.940 ルールは単純で、監査で擁護できるものだけを永続化します 00:10:08.940 --> 00:10:11.020 それ以外は全て意図的に破棄されます 00:10:11.020 --> 00:10:12.920 ロールバック戦略が重要です 00:10:12.920 --> 00:10:21.260 ノードが外部世界を変更したり、カレンダーイベントを作成したり、リストアイテムを更新したりすると、逆アクションが存在する場合はそれを記録するか存在しない場合は保証プランを記録します 00:10:21.260 --> 00:10:25.600 下流のノードが致命的に失敗した場合、グラフはこれらの保証を逆順にたどることができます 00:10:25.600 --> 00:10:27.440 いいえ、これはやりすぎではありません 00:10:27.440 --> 00:10:31.560 これは、CEOの予約が20になってしまい、修正できないという事態を回避する方法です 00:10:31.560 --> 00:10:33.060 エッジは契約を運びます 00:10:33.060 --> 00:10:36.400 エッジは謎のパイプではなく、ノード間のAPIです 00:10:36.400 --> 00:10:40.120 Ioスキーマ、タイプ、必須フィールド、許可値を定義します 00:10:40.120 --> 00:10:43.880 次のノードが呼び出すことができるツールやドメインである許可リストを定義します 00:10:43.880 --> 00:10:47.800 受信ノードが実行を約束し、拒否する機能タグを定義します 00:10:47.800 --> 00:10:50.300 実行者は実行時にこれらを強制します 00:10:50.300 --> 00:10:53.920 ノードは、サマリーエッジを介してシェアポイントトークンを密輸することはできません 00:10:53.920 --> 00:10:58.420 これはセキュリティの見せかけではなく、エージェントによる横方向の移動を防ぐ方法です 00:10:58.420 --> 00:11:01.220 エラー処理は、バイブではなくグラフにあります 00:11:01.220 --> 00:11:11.900 全てのノードは、検証エラー、一時的なインフラストラクチャ、レート制限、認証、認可、ポリシー違反、不明などのエラー分類を宣言します 00:11:11.900 --> 00:11:14.780 グラフは、各クラスに対してパスを提供します 00:11:14.780 --> 00:11:22.120 一時的な場合は指数バックオフで再試行し、認証の場合はトークンを更新し、レート制限の場合は代替ツールを使用し、ポリシーの場合は理由付きで拒否します 00:11:22.120 --> 00:11:24.500 未知のものにはデッドレター9が用意されています 00:11:24.500 --> 00:11:30.400 失敗したペイロードは完全なコンテキストと共に隔離されるため、人間は混乱を本番環境に再現することなく検査できます 00:11:30.400 --> 00:11:34.300 Human in the Loopチェックポイントは、アドホックなスラックメッセージではありません 00:11:34.300 --> 00:11:39.780 実行を一時停止し、提案されたアクションと証拠を提示し、ログに記録され署名された承認または編集を要求します 00:11:39.780 --> 00:11:41.900 承認されると、実行が再開されます 00:11:41.900 --> 00:11:44.640 拒否された場合は、グラフは安全なホールバックにルートします 00:11:44.640 --> 00:11:45.640 おめでとうございます 00:11:45.640 --> 00:11:48.460 開発者が実際に従う変更管理を実装しました 00:11:48.460 --> 00:11:50.620 なぜなら、これはメールよりも早いからです 00:11:54.500 --> 00:11:57.340 必要なドキュメント、トークン、および中間結果のみを取得します 00:11:57.340 --> 00:12:03.620 クロスセッションポイズニング、つまりある会話のプロンプとインジェクションが別の会話に漏れ出すことが、意図せずデータを漏えいさせる原因です 00:12:03.620 --> 00:12:05.380 グラフは境界を強制します 00:12:05.380 --> 00:12:10.680 共有可変メモリはなく、コンテンツフィルタとスキーマバリデータを備えた検証済みのストアからの承認された読み取りのみです 00:12:10.680 --> 00:12:16.060 はい、埋め込みと要約をキャッシュすることはできますが、それらには出書と権限をタグ付けし、ポリシーの変更時に削除します 00:12:16.060 --> 00:12:18.620 可観測性は組み込みであり、後付けではありません 00:12:18.620 --> 00:12:23.000 ノードレベルのトレースは、入力、出力、期間、再試行、下流への影響を示します 00:12:23.000 --> 00:12:28.020 トレースをグラフ実行IDに結合して、再生、診断、コンプライアンスの証明ができるようにします 00:12:28.020 --> 00:12:30.260 誰が、いつ、なぜ、何をしたのか 00:12:30.260 --> 00:12:35.520 異常検出は、奇妙なパターン、ツール呼び出しの急激な増加、異常なドメイン、トークンの爆発をフラグ付けします 00:12:35.520 --> 00:12:38.880 これは、興味深いものがインシデントになる前の早期警告システムです 00:12:38.880 --> 00:12:40.940 基本的に、グラフは憲法です 00:12:40.940 --> 00:12:42.740 執行者は法執行機関です 00:12:42.740 --> 00:12:45.240 LLMは弁護士であり、裁判官ではありません 00:12:45.240 --> 00:12:53.680 このようにノード、エッジ状態をエンコードすると、成功するワークフローが得られるだけでなく、安全に失敗し、自己説明し、予測可能な回復を行うワークフローが得られます 00:12:53.680 --> 00:12:59.040 これで、設計図が手に入ったので、テナントをビュッフェにすることなくマイクロソフト365に接続できます 00:12:59.040 --> 00:13:00.660 設計によるセキュリティ 00:13:00.660 --> 00:13:03.060 グラフ検証はカオスエンジニアリングに勝ります 00:13:03.060 --> 00:13:07.840 信頼性を証明するには、本番環境に混乱を招き、生き残ったものが回復力を持っていることを期待するだけでは不十分です 00:13:07.840 --> 00:13:11.320 信頼性を証明するには、安全でないワークフローが実行される前に拒否する必要があります 00:13:11.320 --> 00:13:12.760 これがグラフ検証です 00:13:12.760 --> 00:13:16.440 静的チェックで無意味なものを排除し、ランタイムガードレールで危険を封じ込めます 00:13:16.440 --> 00:13:18.360 静的検証はプリフライトです 00:13:18.360 --> 00:13:20.160 離陸前に構造をチェックします 00:13:20.160 --> 00:13:24.460 無限ループを作成するサイクルは拒否されるか、反復ガードの宣言を強制されます 00:13:24.460 --> 00:13:27.860 到達不能なノード、デッドコードは削除または正当化されます 00:13:27.860 --> 00:13:33.800 契約が欠落している場合、すべてのノードは入力スキーマと出力スキーマ、必要な機能、副作用を宣言する必要があります 00:13:33.800 --> 00:13:41.060 特権境界、外部システムを変更するノードは、最小特権資格情報と明示的な許可リストを使用してセグメント内で実行する必要があります 00:13:41.060 --> 00:13:46.660 そして、ようやくノードが突然シェアポイントへの書き込みアクセスを要求した場合、バリデーターは容赦なく拒否します 00:13:46.660 --> 00:13:48.160 次に、ランタイムです 00:13:48.160 --> 00:13:50.000 ここで人々はいい加減になります 00:13:50.000 --> 00:13:53.320 ポリシーエンジンは実行エンジンの後ろではなく、横に配置されます 00:13:53.320 --> 00:13:57.000 ツールとドメインの許可リストはドキュメントではなく、強制される決定です 00:13:57.000 --> 00:14:04.900 呼び出し時に、エンジンはアクティブなプリンシパル、内部IDトークン、スコープ、クレームに対して、私たちのバックまたは私たちのバックをチェックし、チェーンの下流に正しく伝播します 00:14:04.900 --> 00:14:06.760 アンビエントのスーパーパワーはありません 00:14:06.760 --> 00:14:10.800 トークンはスコープされ、許可された時に更新され、フレンドリーエッジを介して密輸されることはありません 00:14:10.800 --> 00:14:13.860 エージェントは全ての呼び出しでアクセス権を獲得するか、呼び出しを行いません 00:14:13.860 --> 00:14:16.980 入力と出力のサニタイズは衛星であり、オプションではありません 00:14:16.980 --> 00:14:19.920 プロンプトの挿入は巧妙ではなく、予測可能です 00:14:19.920 --> 00:14:27.640 全ての受信コンテンツソースは、コンテンツフィルタ、HTML、マークダウンスクラバー、および無視すべき無意味なものを削除する命令ファイアウォールを通過します 00:14:27.640 --> 00:14:29.980 出力はスキーマバリデーターを通過します 00:14:29.980 --> 00:14:34.840 ノードがJSONを約束した場合、エグゼキュータは3分を拒否し、修復を要求します 00:14:34.840 --> 00:14:37.720 モデルは議論できますが、バリデーターは交渉しません 00:14:37.720 --> 00:14:40.480 型、範囲、および普遍条件を強制します 00:14:40.480 --> 00:14:43.560 サンドボックスとセグメンテーションは爆発半径を制限します 00:14:43.560 --> 00:14:48.300 外部コードまたは信頼できないコネクタを呼び出すノードは、制約された環境で実行されます 00:14:48.300 --> 00:14:56.660 レート制限と横方向の移動を防止するネットワークポリシーを備えたAPIゲートウェイ、および検証済みのドメインへのトラフィックのみを許可する出力制御 00:14:56.660 --> 00:15:00.780 取得ノードが本番環境で新しいデータソースを発見することを許しません 00:15:00.780 --> 00:15:05.100 検出は許可リストへの署名付き更新を伴うテストの背後にある開発環境で行われます 00:15:05.100 --> 00:15:08.180 可観測性はどこかにログ記録されるのではなく、下下手術のようなものです 00:15:08.180 --> 00:15:12.900 ノードレベルのトレースはポリシーエンジンからの入力、出力、期間、再試行、および決定を記録します 00:15:12.900 --> 00:15:15.340 実行IDの下で全てを関連付けます 00:15:15.340 --> 00:15:22.060 監査ログは普遍であり、どのプリンシパルがどのスコープでどのアクションをいつ許可したか、そしてポリシーがそれを許可した理由が帰属されます 00:15:22.060 --> 00:15:25.640 規制当局が誰が何をしたかを尋ねたとき、肩をすくめるのではなく調査します 00:15:25.640 --> 00:15:28.620 コンプライアンス対応とは、証拠が退屈で完全であることを意味します 00:15:28.620 --> 00:15:31.060 パッチとサードパーティのリスクはサプライチェーンの問題です 00:15:31.060 --> 00:15:32.300 そのように扱います 00:15:32.300 --> 00:15:34.600 依存関係のスキャンは全てのビルドで実行されます 00:15:34.600 --> 00:15:38.380 コネクタとプラグインは監査され、バージョンが固定され、権限の肥大化がないかレビューされます 00:15:38.380 --> 00:15:45.700 MCPまたはOpenAPI仕様をインポートする場合は、宣言されたメソッドが期待する最小権限ポリシーに一致することを検証します 00:15:45.700 --> 00:15:49.840 ワイルドカードエンドポイントも、読み取りを装った隠し書き込みパスもありません 00:15:49.840 --> 00:15:53.520 衛生管理は華やかではありませんが、あなたが安心して眠れる理由です 00:15:53.520 --> 00:15:56.580 真実グラフ検証はカオスエンジニアリングよりも優れています 00:15:56.580 --> 00:16:00.540 なぜなら、インシデントの結果を文書化するのではなく、インシデントのクラスを防止するからです 00:16:00.540 --> 00:16:05.140 障害モードはテストしますが、ガードレールのインストールを忘れたことを発見するためではなく、ガードレールを確認するために行います 00:16:05.140 --> 00:16:07.220 これをメンタルモデルに結びつけてみましょう 00:16:07.220 --> 00:16:09.940 静的チェックはブループリントを健全に保ちます 00:16:09.940 --> 00:16:13.580 不可能なパスも、孤立した作業も、権限の漏洩もありません 00:16:13.580 --> 00:16:16.220 ランタイムガードレールは動作を健全に保ちます 00:16:16.220 --> 00:16:20.060 すべての呼び出しは認証され、認可され、サニタイズされ、監視されます 00:16:20.060 --> 00:16:23.420 実行者は、バリデーターが決定したグラフ制約を強制します 00:16:23.420 --> 00:16:27.180 モデルは、境界内で提案し、逸脱するとクリップされます 00:16:27.180 --> 00:16:30.420 これは重すぎませんか?違反を楽しむ場合だけです 00:16:30.420 --> 00:16:32.700 オーバーヘッドは機械的で自動化されています 00:16:32.700 --> 00:16:35.540 静的検証はビルド時とデプロイ時に実行されます 00:16:35.540 --> 00:16:38.400 ランタイムポリシーはサイドカーであり、高速でローカルです 00:16:38.400 --> 00:16:40.280 スキーマチェックはミリ秒単位です 00:16:40.280 --> 00:16:45.700 削減できるコスト、つまりインシデント、手動レビュー、回収にかかる費用は、追加されるわずかな遅延を遥かに上回ります 00:16:45.700 --> 00:16:48.100 そして、その見返りは測定可能です 00:16:48.100 --> 00:16:53.800 不正な呼び出し、トークンの爆発、そして事後検証の回数が大幅に減少します 00:16:53.800 --> 00:16:57.120 平均的なユーザーが見落としがちな点がもう一つあります 00:16:57.120 --> 00:16:58.980 検証は構成可能です 00:16:58.980 --> 00:17:04.760 サードパーティツールを、ツール自体を信頼することなく契約とポリシーを強制するプロキシノードでラップできます 00:17:04.760 --> 00:17:12.920 グラフを機密性、公開、内部、制限付きでセグメント化し、新しい境界の検証に合格した後にのみ、回想間でワークフローを昇格させることができます 00:17:12.920 --> 00:17:15.000 これが安全なスケーリングの方法です 00:17:15.000 --> 00:17:18.380 設計段階からのセキュリティはスローガンではなく、ワークフローの特性です 00:17:18.380 --> 00:17:23.680 エージェントが適切に動作することを期待するのではなく、不正動作を構造的に困難にし、運用神化しかします 00:17:23.680 --> 00:17:28.340 レールが整備されていれば、マイクロソフト365グラフとアジュールオープンAIを接続するのはルーレットではありません 00:17:28.340 --> 00:17:30.700 それは、自分の条件で制御されたパワーです 00:17:30.700 --> 00:17:33.500 これで、引消しではなく配線について話すことができます 00:17:33.500 --> 00:17:39.100 マイクロソフトのシナリオ、M365グラフとアジュールオープンAIとコパイロットスタジオの組み合わせです 00:17:39.100 --> 00:17:40.480 キャストを揃えましょう 00:17:40.480 --> 00:17:45.920 取得エージェントは、最小限の権限でマイクロソフトグラフからのみデータを取得する規律あるライブラリアンです 00:17:45.920 --> 00:17:52.020 推論エージェントは、計画、サイト設定を行い、その範囲を超えてフリーランスになることはないアジュールオープンAIモデルです 00:17:52.020 --> 00:17:57.920 実行者は、べき統制と事後条件チェックを備えたツールを実行するポリシーに拘束されたオペレーターです 00:17:57.920 --> 00:18:02.240 検証者は、バウンサー、スキーマ、ポリシー、境界の強制です 00:18:02.240 --> 00:18:06.840 ポリシーガードは、すべてをエントラーIDスコープとRBACに結びつけるランタイムサイドカーです 00:18:06.840 --> 00:18:10.340 これらが連携して、委員会スレッドではなく、有能なチームのように動作します 00:18:10.340 --> 00:18:12.700 データアクセスは推測ではなくグラフから始まります 00:18:12.700 --> 00:18:15.560 取得エージェントは、きめ細かいスコープを持つアプリ登録を保持します 00:18:15.560 --> 00:18:17.580 ファイルは、特定のサイト用に読み取られます 00:18:17.580 --> 00:18:19.960 メールは、限定されたメールボックス用に基本的に読み取られます 00:18:19.960 --> 00:18:22.140 カレンダーは、リソースカレンダー用に読み取られます 00:18:22.140 --> 00:18:24.480 グラフの読み書きによるすべてのヒーロー行為はありません 00:18:24.480 --> 00:18:27.780 クエリは、ペイロードを薄く保つためにデルタと選択フィールドを使用します 00:18:27.780 --> 00:18:29.440 ページングはファーストクラスです 00:18:29.440 --> 00:18:33.460 実行者は、サービスのスロットリングを尊重しながら、タイムアウト付きで次のリンクを決定論的にたどります 00:18:33.460 --> 00:18:36.420 429エラーが発生した場合は、バックオフは数学的に行われます 00:18:36.420 --> 00:18:39.000 感触を起こすのではなく、指数関数的な忍耐力を発揮します 00:18:39.000 --> 00:18:41.260 グラウンディングは、雰囲気ではなく、パイプラインです 00:18:41.260 --> 00:18:44.380 グラフ検索またはリストクエリを使用して候補ドキュメントを取得します 00:18:44.380 --> 00:18:48.880 古いものと最新のものが混ざらないように、アイテムIDとバージョンEタグで重複を排除します 00:18:48.880 --> 00:18:57.600 意味境界、セクションヘッダー、スライドブレイクでチャンクを作成し、来歴、ドライブ、サイト、パス、アイテムID、最終更新日、割り当てられたハッシュを添付します 00:18:57.600 --> 00:19:03.220 推論エージェントはチャンクとメタデータのみを参照し、それらのIDにマッピングされた引用を出力する必要があります 00:19:03.220 --> 00:19:05.200 引用がなければ、クレームはできません 00:19:05.200 --> 00:19:08.520 実行者は、外部アクションの前に事後条件としてこれを強制します 00:19:08.520 --> 00:19:11.120 オーケストレーションにはコパイロットスタジオを使用します 00:19:11.120 --> 00:19:19.160 宣言ツール、グラフクエリパック、シェアポイント書き込みアクション、チーム投稿、アウトルック送信をそれぞれ明示的なスキーマと許可リストを持つプロ騎士の背後で定義します 00:19:19.160 --> 00:19:21.500 エージェント間の連携は構造化されています 00:19:21.500 --> 00:19:24.120 検索エージェントはグラウンドツールを公開します 00:19:24.120 --> 00:19:26.820 推論エージェントはパラメータ付きでそれを要求します 00:19:26.820 --> 00:19:31.140 実行エージェントは仲介、検証を行い、グラウンドコンテキストを返します 00:19:31.140 --> 00:19:33.260 人間のチェックポイントはネイティブです 00:19:33.260 --> 00:19:38.560 提案されたアクションノードは実行を一時停止し、プランと引用を表示し、承認を要求します 00:19:38.560 --> 00:19:40.680 承認は署名され、ログに記録されます 00:19:40.680 --> 00:19:43.580 拒否された場合は、安全な代替手段またはエスカレーションにルーティングされます 00:19:43.580 --> 00:19:46.320 トークンとレイテンシは管理され、無視されることはありません 00:19:46.320 --> 00:19:50.760 選択的コンテキストとは、テナント全体ではなく、関連するチャンクのみをフィードすることを意味します 00:19:50.760 --> 00:19:55.040 要約は事前に計算され、コンテンツハッシュと権限によってキー付けされた埋め込みと共にキャッシュされます 00:19:55.040 --> 00:19:58.900 ドキュメントを変更し、キーを変更し、キャッシュをミスした場合は再計算します 00:19:58.900 --> 00:20:04.940 ストリーミング応答により、実行エージェントが完全なスキーマ有効プランが到着した後にのみ副作用を処理する間、UIはアクティブな状態を維持します 00:20:04.940 --> 00:20:09.400 早期終了条件は、信頼度とカバレッジが敷地に達した時に推論ループを停止します 00:20:09.400 --> 00:20:12.480 モデルが指摘だと感じたため、余計な思考は必要ありません 00:20:12.480 --> 00:20:14.360 監査可能性は組み込まれています 00:20:14.360 --> 00:20:23.640 すべてのアクションは、サービスプリンシパルまたは委任されたユーザーによって署名され、実行ID、ツールパラメーター、必要に応じて編集、スコープ、および結果がスタンプされます 00:20:23.640 --> 00:20:26.420 普遍のログは、オブザーバビリティスタックに保存されます 00:20:26.420 --> 00:20:28.060 お好みのものを選択してください 00:20:28.060 --> 00:20:30.720 副作用を再実行することなく実行をリプレイできます 00:20:30.720 --> 00:20:34.120 誰が、いつ、なぜ何をしたのかは、魔女狩りではなくクエリになります 00:20:34.120 --> 00:20:39.720 そして、引用はそのまま残るので、回答がモデル法ではなく実際のテナントコンテンツにトレースされていることを確認できます 00:20:39.720 --> 00:20:41.740 障害は標準化され、退屈です 00:20:41.740 --> 00:20:47.500 429エラーの場合、エグゼキュータはジッターを使用して再試行し、その後、より低コストのクエリまたは縮小されたページサイズにホールバックします 00:20:47.500 --> 00:20:51.820 キャッシュが古い場合、バリデーターは一致しないEタグを検出し、更新を強制します 00:20:51.820 --> 00:20:58.400 権限が拒否された場合、ポリシーガードは理由を添えて拒否し、同意要求パスを提案するか、漏洩しない編集された要約にルーティングします 00:20:58.400 --> 00:21:04.760 ツールが停止した場合、グラフは代替手段を宣言するか、人間の修復のために完全なコンテキストと共に実行をデッドレター級に保留します 00:21:04.760 --> 00:21:08.000 決定論的なホールバックにより、インシデントがチケットに変換されます 00:21:08.000 --> 00:21:10.260 次に、非常に簡単なウォークスルーを示します 00:21:10.260 --> 00:21:14.320 ユーザーが、リンク付きの前市販機のロードマップ決定の概要を作成してくださいと要求します 00:21:14.320 --> 00:21:20.940 推論エージェントは、特定のシェアポイントサイトとチームチャンネル全体でグラフ検索を使用し、全市販機でフィルタリングしてから統合しますと提案します 00:21:20.940 --> 00:21:24.780 バリデーターは、要求されたスコープがエージェントの役割と一致しているかどうかを確認します 00:21:24.780 --> 00:21:25.680 一致しています 00:21:25.680 --> 00:21:31.920 実行者は、ページングとフィールド選択を使用してグラフ呼び出しを発行し、アイテムIDで重複を排除し、チャンク化して出所情報付きのコンテキストを返します 00:21:31.920 --> 00:21:36.000 推論は、アイテムIDにマッピングされたインライン引用を含む概要を生成します 00:21:36.000 --> 00:21:38.840 バリデーターはスキーマと引用をチェックし、合格します 00:21:38.840 --> 00:21:41.540 概要と証拠を含む人間のチェックポイントが表示されます 00:21:41.540 --> 00:21:43.560 承認者は、OKをクリックします 00:21:43.560 --> 00:21:46.400 実行者は、結果をチームに投稿し、関係者にメールを送信します 00:21:46.400 --> 00:21:49.640 各アクションはアイテムの攻力キーを使用するため、再試行で二重投稿されることはありません 00:21:49.640 --> 00:21:51.000 規律に注目してください 00:21:51.000 --> 00:21:54.840 エージェントはツールを発明せず、ノードは許可リスト外のドメインを横断しません 00:21:54.840 --> 00:22:00.140 トークンは、ノード間でコピー&ペーストされるのではなく、エントラーIDを介して正しくスコープされ、伝播されます 00:22:00.140 --> 00:22:02.360 モデルは成功を結論付けることはありません 00:22:02.360 --> 00:22:05.300 実行者は、グラフのポスト条件を使用してそれを証明します 00:22:05.300 --> 00:22:09.820 メッセージIDを作成し、アイテムEタグ、カレンダーイベントIDを更新し、実行完了をスタンプします 00:22:09.820 --> 00:22:18.640 そして、MCPまたはオープンAPIを介してプランナー、Viva、またはサードパーティサービスを取り込むことで、これを安全に拡張できますが、厳格なスキーマとネットワーク出力制御を備えたプロキシツールの背後でのみ可能です 00:22:18.640 --> 00:22:21.860 すべてのコネクタを同じバリデータロジックとポリシーガードでラップします 00:22:21.860 --> 00:22:25.800 環境間の昇格には、新しい境界に一致する検証パスが必要です 00:22:25.800 --> 00:22:29.000 スコープの増加がレビューされ、想定されない開発からテスト、本番へと移行します 00:22:29.000 --> 00:22:31.680 これが、マイクロソフトのアーキテクチャを正しく実装したものです 00:22:31.680 --> 00:22:32.940 グラフは真実です 00:22:32.940 --> 00:22:41.660 Azure OpenAIは思考、Copilot Studioはオーケストレーション、実行者は操作、バリデータとポリシーは安全性、可観測性は証明です 00:22:41.660 --> 00:22:43.900 次は数値、雰囲気ではありません 00:22:43.900 --> 00:22:50.360 前後のメトリック、精度、レイテンシ、コスト、管理オーバーヘッド、素晴らしいアーキテクチャ、それを証明してください 00:22:50.360 --> 00:22:52.020 数値、雰囲気ではありません 00:22:52.020 --> 00:22:54.940 まずベースラインですが、プロンプトのみのエージェントは大げさです 00:22:54.940 --> 00:22:58.680 情報源を捏造したり引用を忘れたりするため、精度は一貫していません 00:22:58.680 --> 00:23:02.280 根拠がないため、どこにも繋がらない自信満々の文章になります 00:23:02.280 --> 00:23:04.180 テールレイテンシはひどいものです 00:23:04.180 --> 00:23:08.980 冗長なコンテキストで膨れ上がった、より深く考えるための呼び出しが延々と続く長いチェーンです 00:23:08.980 --> 00:23:15.500 各ターンで、まるで高額な宅配便サービスのように、完全なトランスクリプトと正のドキュメントがモデルに送り返されるため、コストは急上昇します 00:23:15.500 --> 00:23:16.860 管理オーバーヘッドは? 00:23:17.000 --> 00:23:17.660 高いです 00:23:17.660 --> 00:23:22.520 インシデント、ホットフィックス、謎の障害、目隠しをした考古学のような監査が発生します 00:23:22.520 --> 00:23:25.620 次に、実行者と検証済みのグラフを備えた後の状態です 00:23:25.620 --> 00:23:28.620 クレームには領収書が必要なので、精度が飛躍的に向上します 00:23:28.620 --> 00:23:35.400 グラフアイテムID、eタグ、署名付きハッシュに紐付けられた根拠のある引用により、出所のない回答は検証者を通過しません 00:23:35.400 --> 00:23:36.920 効果はすぐに現れます 00:23:36.920 --> 00:23:42.320 誤った回答の送信が減り、再作業ループが減り、評価セットでのタスク成功率が測定可能なほど向上します 00:23:42.320 --> 00:23:46.860 クレームが裏付けられない場合、エージェントは理由を添えて拒否するか、人間の承認を求めます 00:23:46.860 --> 00:23:49.380 予測可能で、レビュー可能で、安全です 00:23:49.380 --> 00:23:51.660 0点子が圧縮される理由は3つあります 00:23:51.660 --> 00:23:57.300 まず、並列処理、検索、再ランキング、引用抽出が並行して実行され、バリアノードで同期されます 00:23:57.300 --> 00:24:02.980 次に、コンテンツハッシュと権限スコープでキー付けされたキャッシュ、埋め込み、要約により、変更されていないものの再計算が回避されます 00:24:02.980 --> 00:24:04.820 3つ目は、早期終了です 00:24:04.820 --> 00:24:08.240 カバレッジと信頼度が敷地に達すると、グラフはループを停止します 00:24:08.240 --> 00:24:13.200 モデルが段落を反映するシリアルプロンプトと、ユーザーが終了を検討するシリアルプロンプトと比較してください 00:24:13.200 --> 00:24:16.140 トークン規律が強制されるため、コストが削減されます 00:24:16.140 --> 00:24:19.060 スキーマ制約付き出力により、冗長な記述が防止されます 00:24:19.060 --> 00:24:23.660 選択的コンテキストにより、メタデータ付きの関連チャンクのみがフィードされ、サイト全体がフィードされることはありません 00:24:23.660 --> 00:24:26.760 プロンプトが短くなり、応答が小さくなり、再試行が減ります 00:24:26.760 --> 00:24:31.100 エグゼキュータのアイテム効力とバックオフロジックにより、重複呼び出しと無駄なサイクルが回避されます 00:24:31.100 --> 00:24:35.260 結果として、成功した結果あたりのトークン数が少なくなり、ばらつきが大幅に減少します 00:24:35.260 --> 00:24:37.300 財務部門はサイの削減を好みます 00:24:37.300 --> 00:24:40.760 可観測性が設計されているため、管理オーバーヘッドが縮小します 00:24:40.760 --> 00:24:44.740 ノードレベルのトレースと普遍のログにより、インシデント診断までの時間が短縮されます 00:24:44.740 --> 00:24:49.280 どのノードが失敗したか、ポリシーエンジンが拒否した理由、実行者が次に何を試みたかがわかります 00:24:49.280 --> 00:24:52.760 再現可能なデプロイメントにより、マシンシアターでの作業が削減されます 00:24:52.760 --> 00:24:58.800 すべての実行に誰が、何を、いつ、なぜ言ったかがすでに含まれているため、コンプライアンスは季節的な危機ではなくなります 00:24:58.800 --> 00:25:02.160 実際に実行できる測定リグを使用して、これを具体的にしましょう 00:25:02.160 --> 00:25:08.000 代表的なタスク、引用付きのQ&A、リンク付きの要約、承認付きのアクション提案の評価セットを作成します 00:25:08.000 --> 00:25:15.660 定義された各ゴールデンアンサーまたは受け入れ基準について、マッピングされたアイテムID、引用カバレッジ及び許容される際を使用して事実を修正します 00:25:15.660 --> 00:25:21.500 スロップ50及びP95エンド2エンドの0点し、成功したタスクごとのトークン消費、ポリシー拒否率を計測します 00:25:21.500 --> 00:25:25.620 すべてのメトリックをトレースにリンクして、回帰が発生した場合にパンクズの道筋が残るようにします 00:25:25.620 --> 00:25:28.800 アーキテクチャに従うことで、期待される結果が得られます 00:25:28.800 --> 00:25:30.660 回答の妥当性が向上します 00:25:30.660 --> 00:25:33.600 サポートされていないクレームはステージングから出ないためです 00:25:33.600 --> 00:25:38.580 並列濃度と早期終了によりロングテールが切り捨てられるため、P950点子が低下します 00:25:38.580 --> 00:25:43.980 長文のレポートを配信するのをやめて関連性の高いスニペットを配信し始めるため、トークンの消費量が削減されます 00:25:43.980 --> 00:25:48.580 ほとんどの障害は決定論的なホールバックで処理されるため、管理者へのページ数が減少します 00:25:48.580 --> 00:25:51.300 そして、誰もが忘れがちな退屈な指標もあります 00:25:51.300 --> 00:25:55.120 初回パス完了率の成功率、人間の介入なしに完了する実行が増えます 00:25:55.120 --> 00:25:58.860 ビジネスへの影響、解決が早くなると、ユーザーは重複したチケットを開くことがなくなります 00:25:58.860 --> 00:26:02.280 予測可能な支出により、トークンの予期せぬ余剰なしに予算を立てることができます 00:26:02.280 --> 00:26:06.360 コンプライアンスへの信頼により、監査サイクルがロードマップを乗っ取ることが減ります 00:26:06.360 --> 00:26:08.280 目立たないメリットは評判です 00:26:08.280 --> 00:26:15.760 エージェントの回答がテナントのコンテンツを引用し、リンクが機能すると、人々はそれを信頼し、使用し、なぜこんなことが書いてあったのか 00:26:15.760 --> 00:26:18.120 出始まるスクリーンショットを転送しなくなります 00:26:18.120 --> 00:26:23.060 直接的な命令型アドバイス、測定トレースとメトリックのリンクを測定しないと、意見だけで行動していることになります 00:26:23.060 --> 00:26:30.340 実行結果を開いて、どのノードがトークンを水増ししたか、レイテンシーを滞らせたかを正確に確認できないのであれば、それは可観測性ではなく、タイムスタンプ付きの雰囲気にすぎません 00:26:30.340 --> 00:26:34.640 バリデーターが理想的な計画と実際の動作の間に位置することで、すべてが変わります 00:26:34.640 --> 00:26:39.680 精度が安定し、レイテンシーが縮小し、コストが平準化され、管理者は安心して眠ることができます 00:26:39.680 --> 00:26:46.160 これは魔法ではなく、実行エンジン、グラフ、検証ツールがプロンプトに誤って割り当てた作業を実際に言っている結果です