WEBVTT

00:00:00.000 --> 00:00:04.000
Ви натиснули, бо в подкасті було сказано, що Azure AI Foundry – це пастка, чи не так?

00:00:04.120 --> 00:00:05.880
Чудово! Ви в потрібному місці.

00:00:06.020 --> 00:00:07.680
Ось обіцянка з самого початку.

00:00:07.840 --> 00:00:12.540
Копілоти руйнуються без заземлення, але такі інструменти, як Rattrival Augmented Generation або REG,

00:00:12.660 --> 00:00:16.440
з гібридним та семантичним пошуком Azure AI, а також оцінювачі заземленості,

00:00:16.560 --> 00:00:20.960
релевантності та узгодженості – це фактичні виправлення, які не дають вам доставляти галюцинації,

00:00:21.120 --> 00:00:22.220
замасковані під відповіді.

00:00:22.220 --> 00:00:27.140
Ми пройдемо повз маркетингові колоди та покажемо вам посібник з виживання з реальними прикладами з практики.

00:00:27.280 --> 00:00:32.100
Підпишіться на розсилку M365 Show та слідкуйте за прямими трансляціями з MVP.

00:00:32.420 --> 00:00:34.380
Саме там живуть шрами та виправлення.

00:00:34.520 --> 00:00:38.440
А оскільки перші тріщини зазвичай з'являються в мультимодельних додатках, почнемо звідти.

00:00:38.580 --> 00:00:41.300
Чому мультимодельні додатки зазнають невдачі в реальному світі?

00:00:41.440 --> 00:00:44.740
Коли ви бачите мультимодельну демонстрацію на сцені, вона виглядає бездоганно.

00:00:44.740 --> 00:00:51.560
Ведучий додає текстову підказку «Чисте зображення», можливо, навіть швидкий голосовий від, і модель видає ідеальну діаграму або чіткий зведений опис контракту.

00:00:51.720 --> 00:00:55.940
Все це схоже на магію, але щойно ви спробуєте те саме в реальній компанії, близьк швидко зникає.

00:00:56.160 --> 00:00:58.240
Демонстрації працюють на бездоганних вхідних даних.

00:00:58.380 --> 00:00:59.880
Робочі місця працюють на смітті.

00:01:00.020 --> 00:01:01.360
Ось у чому справжній розкол.

00:01:01.360 --> 00:01:07.300
У виробництві ніхто не надає вашій моделі ретельно підготовлені скріншоти чи CSV-файли, відформатовані комітетом зі стандартів.

00:01:07.440 --> 00:01:10.080
Відділ кадрів здає її розмиті державні посвідчення особи.

00:01:10.200 --> 00:01:13.720
Закупівлі затягують PDF-файли, які вже працюють на п'ятому поколінні факсів.

00:01:13.880 --> 00:01:17.520
Хтось у фінансовій сфері фотографує рахунок фактуру з ламаною камерою Android.

00:01:17.520 --> 00:01:21.000
Мультимодельні моделі можуть обробляти текст, зображення, голос та відео,

00:01:21.100 --> 00:01:24.680
але їм потрібні добре індексовані дані та пошук, щоб працювати в незручних умовах.

00:01:24.820 --> 00:01:27.760
В іншому випадку ви просто просите модель імпровізувати на смітті.

00:01:27.760 --> 00:01:31.480
І жодні витрати на графічний процесор не виправляють сміття на вході та на вигоді.

00:01:31.600 --> 00:01:35.060
Ось тут вас має врятувати розширена генерація пошуку або ганчірка.

00:01:35.220 --> 00:01:39.120
Простими словами, модель не знає вашого бізнесу, тому ви підключаєте її до джерела знань.

00:01:39.120 --> 00:01:41.980
Вона отримує фрагмент даних і формує відповідь навколо нього.

00:01:42.180 --> 00:01:45.040
Коли збіг є чітким, ви отримуєте корисні обґрунтовані відповіді.

00:01:45.180 --> 00:01:48.380
Коли все не дбало, модель вередує, виплювуючи впевнену нісенітницю.

00:01:48.380 --> 00:01:54.540
І ось так ви отримуєте чат-бота, який лається, що у вашої компанії нова політика знижок за третій квартал, якої не існує.

00:01:54.700 --> 00:01:57.660
Вона не стала розумною, вона просто витягла неправильні дані.

00:01:57.820 --> 00:02:02.700
Azure AI Studio та Azure AI Foundry спираються на цей шаблон і підтримують усі типи модельностей,

00:02:02.700 --> 00:02:04.920
мову, зір, мовлення, навіть пошук відео.

00:02:05.040 --> 00:02:08.040
Але заковика в тому, що ганчірка настільки хороша, наскільки хороші її дані.

00:02:08.180 --> 00:02:10.280
Ось головний момент, який більшість команд пропускають.

00:02:10.280 --> 00:02:13.220
Ви не можете просто підключити один метод пошуку та назвати його хорошим.

00:02:13.340 --> 00:02:17.260
Якщо ви хочете, щоб результати залишалися цілісними, вам потрібен гібридний пошук за ключовими словами та вектором,

00:02:17.340 --> 00:02:19.760
доповнений семантичним переранжирувачем, вбудованим у пошуке Azure AI.

00:02:19.920 --> 00:02:23.260
Це дозволяє системі збалансувати буквальні збіги ключових слів із семантичним значенням,

00:02:23.260 --> 00:02:26.080
а потім перевпорядкувати результати так, щоб правильний контекст був зверху.

00:02:26.080 --> 00:02:30.580
У вашій мультимодельній конфігурації модель раптово може пережити криві сканування та розмиті зображення,

00:02:30.700 --> 00:02:33.720
замість того, щоб галюцинувати вашу політику відповідності з повітря.

00:02:33.840 --> 00:02:37.180
Тепер давайте поговоримо про те, чому так багато розгортань зазнають невдачі.

00:02:37.380 --> 00:02:42.240
Підприємства очікують відшліфованих результатів з першого дня, але вони не закладають у бюджет цикли оцінювання.

00:02:42.240 --> 00:02:46.120
Без перевірок на обґрунтованість, релевантність та узгодженість, що виконується у фоновому режимі,

00:02:46.180 --> 00:02:48.400
ви не помічаєте дрейфу, доки користувачі вже не перегорять.

00:02:48.540 --> 00:02:51.540
Багато ранніх розгортань швидко зазнають невдачі саме з цієї причини.

00:02:51.680 --> 00:02:54.940
Вихідні дані здаються правильними, але ніхто не перевірив їх на відповідність джерелу.

00:02:55.060 --> 00:02:57.980
Подумайте, ви ніколи не розгорнете нову базу даних без моніторингу.

00:02:58.120 --> 00:03:01.340
Однак, завдяки мультимодельному штучному інтелекту, керівники запускають його у виробництво,

00:03:01.340 --> 00:03:05.360
Це не обов'язково має закінчуватися невдачею.

00:03:05.480 --> 00:03:08.320
Карвана – одна з історій клієнтів, яка доводить цю думку.

00:03:08.460 --> 00:03:11.120
Вони зробили штучний інтелект самообслуговування справді корисним,

00:03:11.220 --> 00:03:15.100
налаштувавши пошук, належним чином заземливши своїх агентів та інвестуючи у спостережуваність.

00:03:15.240 --> 00:03:19.960
Це перетворило те, що могло бути черговим іграшковим ботом на щось, чому клієнти могли б довіряти.

00:03:20.120 --> 00:03:23.300
Тепер переверніть це до компаній, які розмістили універсального чат бота

00:03:23.300 --> 00:03:25.760
на своїй сторінці підтримки без заземлення чи оцінювання.

00:03:25.940 --> 00:03:26.900
Ви бачили результат.

00:03:27.140 --> 00:03:29.600
Гарантійні претензії неправильно подані як потенційні клієнти,

00:03:29.720 --> 00:03:31.400
черги підтримки роздуті, а довіра знищена.

00:03:31.560 --> 00:03:33.540
Той самий стеки ежур – протилежний результат.

00:03:33.740 --> 00:03:35.260
Отже, ось суцільний підсумок.

00:03:35.440 --> 00:03:38.660
Мультимодельний бізнес руйнується не тому, що штучний інтелект недостатньо розумний.

00:03:38.800 --> 00:03:42.120
Він руйнується тому, що дані не підготовлені, не проіндексовані або не контролюються.

00:03:42.120 --> 00:03:46.240
Завантажуйте сміття в систему пошуку, пропускайте оцінювання та спостерігайте, як згорає довіра.

00:03:46.380 --> 00:03:50.080
Але за допомогою гібридного пошуку, семантичного переранжування та постійних запусків оцінювачів

00:03:50.080 --> 00:03:54.160
ви можете обробляти рахунки фактури, контракти, зображення, навіть приблизні аудіозаписи з відповідями,

00:03:54.340 --> 00:03:56.320
які все одно опиняються в реальності, а не у фантазії.

00:03:56.460 --> 00:03:59.520
І як тільки заземлення налагоджено, виникає інший ризик.

00:03:59.520 --> 00:04:04.220
Тому що навіть якщо канали передачі даних чисті, система, яка ними керує, все одно може вийти з ладу.

00:04:04.220 --> 00:04:05.900
Ось тут і зміщується питання.

00:04:06.080 --> 00:04:09.200
Чи агент, який координує все це, насправді допомагає вашому бізнесу,

00:04:09.280 --> 00:04:12.320
чи він просто непомітно перетворює ваш ІТ-бюджет на паливо для багаття?

00:04:12.460 --> 00:04:14.520
Корисний агент чи дороге – прес-пап'є.

00:04:14.680 --> 00:04:17.380
Агент координує моделі, дані, тригери та дії.

00:04:17.580 --> 00:04:21.240
Уявіть собі його як дорожнього поліцейського для ваших автоматизованих робочих процесів.

00:04:21.240 --> 00:04:26.400
Іноді він плавно керує всім, іноді махає трьома самоскидами та машиною-клоуном, а потім йде на обід.

00:04:26.400 --> 00:04:30.800
Саме в цьому розриві між чистим визначенням та безладною реальністю більшість команд провалюється.

00:04:30.980 --> 00:04:32.860
На папері агент виглядає чудово.

00:04:33.020 --> 00:04:35.600
Здайте йому інструкції, направте його на ваші дані та програми,

00:04:35.700 --> 00:04:39.360
і він має запускати процеси, отримувати відповіді та навіть запускати робочі процеси.

00:04:39.480 --> 00:04:40.940
Але це не ідеальний колега.

00:04:41.100 --> 00:04:44.080
Він з такою ж ймовірністю виправить повторювану проблему о 2.00 ночі,

00:04:44.080 --> 00:04:47.900
який завалить вашу чергу сотнею фантомних квитків, тому що неправильно прочитав журнал помилок.

00:04:47.960 --> 00:04:49.900
Уявіть собі, це всередині сервіси нову.

00:04:49.900 --> 00:04:54.960
При щільному обмеженні Ші генерує справжні квитки лише для справжніх проблем і викуповує людям години назад.

00:04:55.160 --> 00:04:58.440
Якщо залишити його без нагляду, він може поховати службу підтримки під стіною фальшивих сповіщень

00:04:58.440 --> 00:05:00.320
про критичні збої принтера на обладнанні, і це нормально.

00:05:00.540 --> 00:05:03.220
Спробуйте пояснити це підвищення продуктивності своєму ІТ-директору.

00:05:03.340 --> 00:05:05.060
Ось різниця, яку багато хто не помічає.

00:05:05.200 --> 00:05:07.040
Копілоти та агенти – це не одне й те саме.

00:05:07.140 --> 00:05:09.100
Копілот – це, по суті, швидкий приятель.

00:05:09.100 --> 00:05:12.040
Ви запитуєте, він відповідає, і ви контролюєте ситуацію.

00:05:12.180 --> 00:05:14.540
Агенти ж вирішують речі, не чекаючи на вас.

00:05:14.680 --> 00:05:18.920
Вони дотримуються ваших розпливчастих інструкцій до букви, навіть коли результати не мають сенсу.

00:05:19.100 --> 00:05:22.160
Саме тоді автоматизація або економить реальний час, або впадає в хаос,

00:05:22.260 --> 00:05:24.060
і ви витратите вдвічі більше часу на прибирання.

00:05:24.220 --> 00:05:28.560
Правда в тому, що багато команд надають своїм агентам опис роботи, який читається як передвиборча обіцянка.

00:05:28.780 --> 00:05:31.680
Оптимізуйте процеси, надавайте аналітичні дані, допомагайте людям.

00:05:31.680 --> 00:05:34.360
Вітаємо, ви фактично сказали боту діяти неконтрольовано.

00:05:34.480 --> 00:05:37.080
Агенти без визначення обсягу роботи неввічливо залишаються на своїй смузі.

00:05:37.200 --> 00:05:39.680
Вони руйнуються. Вони вигадують проблеми для вирішення.

00:05:39.840 --> 00:05:42.380
Вони дублюють записи. Вони зациклюються безкінечно.

00:05:42.560 --> 00:05:45.560
А потім керівництво дивується, чому блискуча демонстрація перетворилася на виробничий біль.

00:05:45.680 --> 00:05:47.320
Тепер давайте прояснимо ситуацію.

00:05:47.460 --> 00:05:50.240
Не те, щоб більшість організацій зазнавали невдачі в перші два місяці.

00:05:50.240 --> 00:05:51.920
Цього не підтверджують дослідження.

00:05:51.920 --> 00:05:55.560
Що трапляється і швидко, так це те, що багато організацій на ранніх етапах стикаються з перешкодами,

00:05:55.620 --> 00:05:57.900
тому що вони ніколи чітко не визначали обсяг роботи своїх агентів,

00:05:57.980 --> 00:06:00.400
ніколи не додавали кроки перевірки та ніколи не використовували телеметрію.

00:06:00.520 --> 00:06:04.860
Без цих захисних огорож ваш новий блискучий інструмент – це просто безрозсудний стажер з правами адміністратора.

00:06:05.020 --> 00:06:07.980
І ось тут стек Майкрософт насправді дає вам необхідні деталі.

00:06:07.980 --> 00:06:12.020
Co-Pilot Studio – це лоу-коуд-платформа, де розробники розробляють поведінку агентів,

00:06:12.020 --> 00:06:14.200
продумають потоки дій, підказки, тригери подій.

00:06:14.340 --> 00:06:17.900
Тоді, оскільки служба агентів вашого AI Foundry є корпоративною структурою,

00:06:18.040 --> 00:06:20.460
яка вводить цих агентів у виробництво зі спостережуваністю,

00:06:20.580 --> 00:06:23.800
служба агентів – це місце, де ви додаєте моніторинг, журнали, метрики.

00:06:23.980 --> 00:06:27.100
Вона навмисно розроблена для автоматизації з вбудованим людським наглядом,

00:06:27.100 --> 00:06:31.660
тому що Майкрософт знає, що станеться, якщо ви довірите непротестованому агенту в реальних умовах.

00:06:31.760 --> 00:06:34.240
Отже, як дізнатися, чи ваш агент дійсно корисний?

00:06:34.240 --> 00:06:36.880
Проведіть його через простий лакмусовий контрольний список.

00:06:37.020 --> 00:06:40.740
По-перше, чи зменшує він людський час, чи залучає ваш персонал до налагодження.

00:06:40.920 --> 00:06:44.960
По-друге, чи фіксуєте ви такі метрики, як обґрунтованість, плавність та узгодженість,

00:06:45.060 --> 00:06:47.200
чи просто дивитися на гарні маркетингові панелі.

00:06:47.200 --> 00:06:50.160
По-третє, чи є у вас телеметрія, щоб ви могли вловити відхилення,

00:06:50.260 --> 00:06:52.180
перш ніж користувачі почнуть подавати скарги.

00:06:52.300 --> 00:06:55.780
Якщо ви відповіли неправильно на будь-які з цих питань, у вас немає інтелектуального агента.

00:06:55.780 --> 00:07:02.200
У вас є дорога-заставка, вихід використовувати функції спостереження Azure AI Foundry та вбудовані оцінювачі.

00:07:02.360 --> 00:07:03.700
Це не додаткові функції.

00:07:03.900 --> 00:07:08.280
Це документований спосіб вимірювання обґрунтованості, релевантності, узгодженості та істинності джерела.

00:07:08.280 --> 00:07:12.720
Без них ви здогадуєтесь, чи ваш агент розумний, чи просто вигадує щось вічливим тоном.

00:07:12.900 --> 00:07:16.860
З ними ви можете впевнено втручатися та точно налаштовувати результати, коли результат відхиляється.

00:07:17.000 --> 00:07:18.980
Тож так, агенти можуть змінити правила гри.

00:07:18.980 --> 00:07:23.180
Якщо неправильно визначити масштаб, вони стають підселювачами хаосу, які витрачають більше часу, ніж економлять.

00:07:23.300 --> 00:07:26.920
Якщо правильно визначити масштаб, з чіткими межами роботи, реальною телеметрією та обґрунтованими відповідями,

00:07:27.020 --> 00:07:29.700
вони можуть виконувати завдання, поки люди зосереджуються на роботі з вищою цінністю.

00:07:29.700 --> 00:07:33.480
І саме тоді, коли ви думаєте, що досягли правильного балансу, історія знову змінюється.

00:07:33.620 --> 00:07:38.040
Майкрософт вже просуває автономних агентів, ботів, які не чекають на вас перш ніж діяти.

00:07:38.040 --> 00:07:41.700
Що переводить ставки з корисності чи преспап'я в зовсім іншу категорію,

00:07:41.780 --> 00:07:45.860
тому що тепер ми говоримо про системи, які працюють навіть тоді, коли ніхто не дивиться.

00:07:46.260 --> 00:07:47.980
Пастка автономного агента

00:07:47.980 --> 00:07:51.280
Автономні агенти – це те, де галас стає небезпечним.

00:07:51.440 --> 00:07:52.640
На папері вони мрія.

00:07:52.780 --> 00:07:55.540
Дозвольте штучному інтелекту діяти за вас, автоматизуйте рутинну роботу

00:07:55.540 --> 00:07:59.020
та перестаньте витягувати себе з ліжка о 2.00 ночі, щоб чекати в чергах за квитками.

00:07:59.220 --> 00:08:00.660
Звучить чудово в залі засідань.

00:08:00.800 --> 00:08:02.980
Пастка проста. Вони не чекають дозволу.

00:08:02.980 --> 00:08:06.120
Копілоти зупиняються для вас. Автономні агенти цього не роблять.

00:08:06.240 --> 00:08:09.400
І коли вони роблять поганий вибір, шкода поширюється миттєво та поширюється на вашого орендаря.

00:08:09.520 --> 00:08:10.720
Концепція досить проста.

00:08:10.880 --> 00:08:13.680
Копілоти реагують на події. Агенти діють проактивно.

00:08:13.860 --> 00:08:15.880
Замість того, щоб сидіти тихо, поки хтось не введе запит,

00:08:15.960 --> 00:08:18.000
ви обираєте агентів для спостереження за станом служби,

00:08:18.080 --> 00:08:20.800
обробки сигналів безпеки або автоматичного запуску робочих процесів.

00:08:20.920 --> 00:08:23.960
Microsoft презентує це як ефективність, менше людських втрат,

00:08:23.960 --> 00:08:25.800
швидше виявлення, плавнішу роботу.

00:08:25.960 --> 00:08:28.300
Обіцянка реальна, але ось важливий контекст.

00:08:28.480 --> 00:08:32.480
Автономні агенти в Co-Pilot Studio сьогодні все ще знаходяться в режимі попереднього перегляду.

00:08:32.620 --> 00:08:36.460
Попередній перегляд не означає зламаний, але це означає неперевірений у безладному реальному світі.

00:08:36.580 --> 00:08:39.840
І навіть Microsoft каже, що вам потрібні захисні огородження для управління життєвим циклом

00:08:39.840 --> 00:08:42.460
та консульна система Co-Pilot перш ніж думати про їх широке розгортання.

00:08:42.700 --> 00:08:43.900
Розглянемо реальний ризик.

00:08:44.080 --> 00:08:46.380
Скажімо, ви створюєте автономного агента служби підтримки

00:08:46.380 --> 00:08:48.680
та надаєте йому повноваження реагувати на аномалії входу.

00:08:48.780 --> 00:08:51.120
У демонстрації з п'ятьма користувачами він працює ідеально.

00:08:51.300 --> 00:08:53.440
З повіщення піднімаються, облікові записи керуються.

00:08:53.600 --> 00:08:55.700
Потім у продакшені з'являються шумні вхідні дані.

00:08:55.840 --> 00:09:00.500
Замість того, щоб чекати, він починає масово скидати сотні облікових записів на основі хибних спрацювань.

00:09:00.740 --> 00:09:02.440
Результатом є негіпотетичний збій.

00:09:02.580 --> 00:09:05.300
Це реально може призвести до зупинки операції наприкінці місяця.

00:09:05.440 --> 00:09:06.660
Це не наукова фантастика.

00:09:06.660 --> 00:09:09.520
Це режим відмови, на який ви підписуєтесь, якщо пропустите визначення обсягу операцій.

00:09:09.640 --> 00:09:11.460
Виправлення полягає не в тому, щоб відмовитися від технологій.

00:09:11.580 --> 00:09:13.260
Спочатку потрібно побудувати систему безпеки.

00:09:13.380 --> 00:09:14.940
Отже, який контрольний список для виживання?

00:09:15.080 --> 00:09:17.400
Три обов'язкові пункти передують будь-які яскраві автоматизації.

00:09:17.540 --> 00:09:19.820
По-перше, визначення обсягу ідентифікації та доступу.

00:09:19.940 --> 00:09:22.720
Надайте своєму агенту мінімальні права, жодних загальних ролей адміністратора.

00:09:22.860 --> 00:09:24.480
По-друге, ведення журналу та відкат.

00:09:24.480 --> 00:09:27.120
Кожна дія повинна залишати слід, який ви можете перевірити.

00:09:27.260 --> 00:09:30.560
І кожна серйозна дія потребує шляху зворотного зв'язку, коли агент дає збій.

00:09:30.700 --> 00:09:32.620
По-третє, фільтри контенту та поведінки.

00:09:32.780 --> 00:09:36.660
Майкрософт виявляє це за допомогою конфігурації безпеки та знань контенту Azure AI.

00:09:36.840 --> 00:09:41.240
Фільтри, які не дають завзятому боту генерувати невідповідні відповіді або відхилятися від сценарію.

00:09:41.400 --> 00:09:45.280
Зробіть це спочатку, інакше кмітливість вашого агента поховає ваш пар, а не допоможе йому.

00:09:45.460 --> 00:09:47.360
Етичний рівень робить це ще гострішим.

00:09:47.360 --> 00:09:54.720
Уявіть собі, як HR-агент автоматично позначає співробітників як ризикованих, або фінансовий агент утримує платежі постачальникам, які він неправильно класифікує як шахрайство.

00:09:54.880 --> 00:09:59.200
Це не нешкідливі примхи, це збої, пов'язані з людським впливом, з юридичними та нормативними наслідками.

00:09:59.440 --> 00:10:04.680
Упередженість у навчальних даних або їх отриманні не зникає лише тому, що ви тепер працюєте в попередньому перегляді для підприємства.

00:10:04.680 --> 00:10:10.980
Без фільтрів, перевірок та людських резервних варіантів ви передаєте на аутсорсинг рішення, які ваші юристи точно не хочуть приймати від неконтрольованого алгоритму.

00:10:11.100 --> 00:10:14.120
Власне, повідомлення Microsoft на Ignite було відвертим щодо цього.

00:10:14.300 --> 00:10:19.520
Hardruns, управління життєвим циклом, моніторинг та система управління Coopilot – це неприємні речі, вони необхідні.

00:10:19.640 --> 00:10:24.560
Попередній перегляд сьогодні – це не стільки блискучі демонстрації, скільки тестувальники, які доводять, де з'являються тріщини.

00:10:24.560 --> 00:10:31.440
Якщо ви запускаєте без етапів тестування робочих процесів затвердження та аудитів, ви не запускаєте агента, ви проводите стрес-тестування свого орендаля у виробництві.

00:10:31.560 --> 00:10:33.580
Ось чому спостереження не є необов'язковим.

00:10:33.740 --> 00:10:40.400
Вам потрібні панелі інструментів, які показують кожен крок агента та перевіряють, чи його вихідні дані були обґрунтованими, релевантними та узгодженими з вашою політикою.

00:10:40.500 --> 00:10:42.500
І вам потрібні опції «Людина в циклі».

00:10:42.500 --> 00:10:47.360
Microsoft цього не приховує. Вони посилаються на шаблони, де людина залишається надійним захистом.

00:10:47.360 --> 00:10:52.700
Уявіть собі це як автопілот польоту. Неймовірно корисний, але завжди розроблений зручним керуванням.

00:10:52.820 --> 00:10:57.460
Якщо бот вважає, що оптимальна посадка в озеро, вам потрібно взяти керування в свої руки перш ніж приземлитися.

00:10:57.620 --> 00:11:00.420
Правильна аналогія тут – дозволити підлітку навчитися водити.

00:11:00.560 --> 00:11:05.600
Потенціал реальний, швидкість вражаюча, але ви не передаєте ключі, не залишаєте під'їзну доріжку та не сподіваєтеся на краще.

00:11:05.760 --> 00:11:09.640
Ви сидите з боку пасажира, даєте їм межі та встановлюєте гальма, в які можете вдарити себе.

00:11:09.640 --> 00:11:15.200
Це управління життєвим циклом на практиці. Тренуєте колеса, доки не переконаєтеся, що система не з'їде з дороги.

00:11:15.300 --> 00:11:20.520
І це підводить нас до більшого заводського цеху, де агенти, другі пілоти та кожен робочий процес, який ви протестували, об'єднуються.

00:11:20.660 --> 00:11:25.660
Microsoft називається Azure AI Foundry універсальним простором для створення штучного інтелекту з усіма інструментами.

00:11:25.800 --> 00:11:31.740
Чи стане він виробничою потужністю, чи місцем, де ваш проект самозгорить, повністю залежить від того, як ви до нього ставитеся.

00:11:31.740 --> 00:11:35.000
Azure AI Foundry – ваша фабрика чи ваше мінне поле?

00:11:35.000 --> 00:11:41.340
Azure AI Foundry – це нова флагманська пропозиція Microsoft, так звана фабрика для всього, що пов'язано зі штучним інтелектом.

00:11:41.560 --> 00:11:45.040
Проблема? Занадто багато команд заходять і ставляться до цього, як до Ікеа.

00:11:45.200 --> 00:11:52.040
Вони блукають по каталогах, засліплені каталогами, беруть пару блискучих великих мовних моделей, додають якісь конектори, а потім збирають щось докупи без інструкцій.

00:11:52.180 --> 00:11:59.460
Зрештою, вони отримують не корпоративну систему штучного інтелекту, а демонстраційну іграшку, яка перевертається, коли реальний користувач завантажує безладний PDF-файл.

00:11:59.460 --> 00:12:07.320
Ось що насправді пропонує Foundry прямо з офіційного посібника. Каталог моделей, що охоплює Microsoft, OpenAI, Meta, MiiStral, Dipsic та інші.

00:12:07.440 --> 00:12:12.360
Параметри налаштування, такі як генерація доповненого пошуку, точне налаштування та дистиляція.

00:12:12.520 --> 00:12:22.120
Служба агентів для оркестрації інструменти, такі як потік запитів для оцінки та налагодження, базові функції безпеки, контроль ідентифікації та доступу, фільтри безпеки контенту та панелі спостереження.

00:12:22.120 --> 00:12:28.920
Коротше кажучи, це все, що потрібно для створення копілетів агентів, автономних потоків та забезпечення їхньої відповідності. Це і є інвентар.

00:12:29.040 --> 00:12:35.960
Проблема не в тому, що набір інструментів порожній, а в тому, що занадто багато адміністраторів ставляться до цього як до перемикання перемикача GPT-4 Turbo та оголошення готовності до виробництва.

00:12:36.080 --> 00:12:39.660
Правда в тому, що Foundry – це заводський цех, а не коробка з іграшками для хакатону.

00:12:39.800 --> 00:12:43.960
Це означає встановлення меж ідентифікації, щоб лише потрібні люди торкалися правильних моделей.

00:12:43.960 --> 00:12:47.280
Це означає огортання безпеки контенту навколо кожного конвейера.

00:12:47.420 --> 00:12:53.900
Це означає використання спостережуваності, щоб ви знали, коли відповідь обґрунтована, а коли це модель, яка винаходить політику компанії з повітря.

00:12:54.020 --> 00:12:59.120
І це означає зіставлення роботи з правильною моделью, а не просто вибір найбільшої, тому що вона звучить розумно.

00:12:59.260 --> 00:13:01.980
Пропустіть ці кроки, і хаос увійде через бічні двері.

00:13:02.120 --> 00:13:07.660
Я бачив, як команда зв'язалася з другим пілотом Foundry в SharePoint, який із задоволенням надав доступ до обмежених даних HR 20 стажерам.

00:13:07.660 --> 00:13:12.120
Це не було розумно, це була катастрофа з дотриманням вимог, якої можна було уникнути за допомогою вбудованих правил доступу.

00:13:12.220 --> 00:13:14.120
Давайте поговоримо про реальні режими невдачі.

00:13:14.240 --> 00:13:17.820
Одна організація колись запустила GPT-4 Turbo для позначення фотографій продуктів тегами.

00:13:17.960 --> 00:13:20.060
У лабораторії це розгромило демонстрацію.

00:13:20.200 --> 00:13:23.480
Чисті студійні фотографії, ідеальні теги всі плескали в долоні.

00:13:23.600 --> 00:13:28.200
У виробництві вхідні дані були не глянцевими JPG-файлами, а розмитими фотографіями зі складу з телефоном.

00:13:28.200 --> 00:13:34.380
Раптом штучний інтелект помилково позначив дитячі коляски як офісні стільці та переробив етикетки UPC у фальшиві серійні номери.

00:13:34.520 --> 00:13:37.000
На додачу до удару по довірі витрати почали зростати.

00:13:37.200 --> 00:13:39.720
І це не казка про 0,01 долара за повідомлення.

00:13:39.860 --> 00:13:43.480
Ціноутворення у FAMDRI базується на споживанні та прив'язане до конкретних послуг, які ви використовуєте.

00:13:43.640 --> 00:13:47.540
Кожен конектор, кожен виклик пошуку, кожен лічильник повідомлень виставляється рахунок вашому орендарю.

00:13:47.660 --> 00:13:50.000
Кожна одиниця має власну модель виставлення рахунків.

00:13:50.000 --> 00:13:54.380
Така гнучкість чудова, але якщо ви не оцінюєте за допомогою калькулятора ціни ажур та не відстежуєте використання,

00:13:54.500 --> 00:13:57.440
ваша фінансова команда буде в захваті від вашого несподіваного рахунку фактури.

00:13:57.580 --> 00:13:59.080
Це пастка виставлення рахунків.

00:13:59.300 --> 00:14:02.660
Ціноутворення на основі споживання працює, якщо ви плануєте, контролюєте та оптимізуєте.

00:14:02.820 --> 00:14:07.300
Якщо ви цього не зробите, це дуже схоже на використання спортивного автомобіля як самоката для піци, дорого, шумно та безглуздо.

00:14:07.300 --> 00:14:11.140
Ми всі стикалися з такими речами, як Pava BI, чудова демонстрація, неконтрольований рахунок.

00:14:11.220 --> 00:14:13.620
Не дозволяйте Foundry ставити вас в одне й те саме становище.

00:14:13.760 --> 00:14:17.020
Розробники люблять створювати прототипи у Foundry, тому що пісочниця здається гладкою.

00:14:17.140 --> 00:14:18.380
А в пісочниці вона гладка.

00:14:18.540 --> 00:14:20.980
Чисті демонстраційні дані, жодного безладу, миттєве вау.

00:14:21.120 --> 00:14:22.320
Але ось у чому вся суть.

00:14:22.440 --> 00:14:25.340
Команди заштовхують цей прототип у продакшні без конвейерів оцінки.

00:14:25.340 --> 00:14:29.280
Якщо ви пропускаєте оцінювачів на предмет обґрунтованості, плавності, релевантності та узгодженості,

00:14:29.360 --> 00:14:30.480
ви розгортаєте його на осліп.

00:14:30.520 --> 00:14:31.500
І що відбувається?

00:14:31.660 --> 00:14:33.100
Користувачі бачать дрейф у результатах?

00:14:33.220 --> 00:14:35.260
Певненість падає, керівники скорочують фінансування.

00:14:35.420 --> 00:14:37.780
Це не провал Foundry, це провал команд в управлінні.

00:14:37.920 --> 00:14:41.260
Багато прототипів Foundry зупиняються перед продакшеном саме з цієї причини.

00:14:41.440 --> 00:14:44.380
Немає спостережуваності, немає перевірок якості, немає телеметрії.

00:14:44.560 --> 00:14:46.000
Відповідь є прямо в платформі.

00:14:46.000 --> 00:14:48.800
Використовуйте спостережуваність Azure AI Foundry з першого дня.

00:14:48.940 --> 00:14:50.240
Підключіть потоки запитань.

00:14:50.400 --> 00:14:52.460
Запускайте вбудовані оцінювачі в кожному тесті.

00:14:52.460 --> 00:14:56.400
Заземліть свою систему за допомогою пошуку Azure AI, використовуючи гібридний пошук плюс семантичне переранжування,

00:14:56.500 --> 00:14:57.640
перш ніж ви навіть подумаєте про запуск.

00:14:57.760 --> 00:15:01.540
Microsoft не закупала ці інструменти в додатку, вони задокументовані для безпеки виробництва.

00:15:01.680 --> 00:15:04.680
Але занадто часто розробники просіюють їх повз як виноски.

00:15:04.820 --> 00:15:08.180
Такий менталітет контрольних точок – це те, як ви уникаєте мінного поля.

00:15:08.180 --> 00:15:12.300
Ставтеся до Foundry як до фабрики, управління як до першого кроку, політики відповідності,

00:15:12.440 --> 00:15:15.840
такі як умовний доступ, конвейери спостереження, що працюють з самого початку.

00:15:15.840 --> 00:15:21.020
І так, визначення області видимості, ідентифікації та безпека контенту не повинні бути додані пізніше, вони є в переліку матеріалів.

00:15:21.120 --> 00:15:23.940
Пропустіть управління і ви ризикуєте не лише поганими відповідями.

00:15:24.120 --> 00:15:28.100
Без нього ваш мультимодельний бот може із задоволенням розкривати зарплати HR відділу зовнішнім користувачам

00:15:28.100 --> 00:15:30.420
або позначати рахунки фактури вигаданими номерами полісів.

00:15:30.500 --> 00:15:34.740
Це не просто зламаний щі, це приманка для заголовків, яку ваш відділ відповідності не хоче пояснювати.

00:15:34.740 --> 00:15:39.080
І саме тут зміщується акцент, тому що наступний камінь з потикання зовсім не технічний.

00:15:39.220 --> 00:15:41.000
Це те, чи відповідає ваш щі.

00:15:41.160 --> 00:15:48.360
Усі люблять вставляти ці слова в слайд основної доповіді, але на практиці йдеться про аудити, фільтри, відповідність та гору рішень, які ви робите перед запуском.

00:15:48.500 --> 00:15:50.700
І саме тут починаються справжні головні болі.

00:15:50.700 --> 00:16:01.280
Відпишіться та слідкуйте за нами в розсилці М365, шоу, щоб отримувати прості виправлення, та слідкуйте за нами на сторінці М365, шоу у LinkedIn, щоб отримувати прямі трансляції з MVP, які тестували фамдри у продакшені та бачили, що йде не так.

00:16:01.580 --> 00:16:03.540
Відповідальний щі чи відповідальний головний біль?

00:16:03.700 --> 00:16:06.640
Усі люблять згадувати відповідальний щі у своїй основній доповіді.

00:16:06.800 --> 00:16:10.100
Це виглядає стильно поруч із такими модними словами, як справедливість та прозорість.

00:16:10.220 --> 00:16:12.240
Але в окупах це не надихаюча філософія.

00:16:12.240 --> 00:16:17.720
Це конфігурація, аудити, фільтри та кроки управління, які більше схожі на обслуговування сервера, ніж на інновації.

00:16:18.100 --> 00:16:20.660
Відповідальний щі це ремінь безпеки, а не спортивний автомобіль.

00:16:20.780 --> 00:16:23.060
Пропустіть його один раз, і крах настане швидко.

00:16:23.200 --> 00:16:29.380
Майкрософт одразу говорить про етику та безпеку, але для адміністраторів, які запускають це в прямому ефірі, це перетворюється на практичні захисні бар'єри.

00:16:29.500 --> 00:16:34.000
Вам потрібні політики доступу, які не згинаються під тиском, фільтри, які фактично блокують шкідливі запити,

00:16:34.000 --> 00:16:43.240
Це не гламурна робота. Це ізоляція HR-пілотів від фінансових даних, встановлення правил визначення обсягу,

00:16:43.360 --> 00:16:49.120
щоб місця в команді не потрапляли в секрети SharePoint, та позначення журналів, щоб ви могли точно довести, як була сформована відповідь.

00:16:49.160 --> 00:16:52.920
Робіть це правильно, і відповідальність – це не корпоративний слоган, це виживання.

00:16:52.920 --> 00:16:58.880
Потворна версія пропуску цього підключення бота безпосередньо до вашого HR-репозиторію без визначення обсягу орендарів.

00:16:59.120 --> 00:17:01.360
Користувач запитує про страхові пільги.

00:17:01.360 --> 00:17:04.880
Бот корисно публікує зарплатні шкали співробітників у чаті.

00:17:05.000 --> 00:17:10.200
Тепер у вас є порушення конфіденційності, кошмар морального духу, і, можливо, регулятори дихають вам у спину.

00:17:10.360 --> 00:17:14.080
Найшвидший спосіб знищити впровадження – це непоганий UX, а один витік конфіденційних даних.

00:17:14.160 --> 00:17:15.720
То що ж запобігає цьому безладу?

00:17:15.840 --> 00:17:17.620
Почніть з безпеки контенту Azure AI.

00:17:17.620 --> 00:17:21.260
Він створений для фільтрації насильницьких, непристойних та образливих запитань і відповідей,

00:17:21.360 --> 00:17:23.080
перш ніж вони просочаться назад до користувачів.

00:17:23.200 --> 00:17:24.540
Але це базова гігієна.

00:17:24.540 --> 00:17:29.280
Foundry та Coopilot Studio об'єднують конвейери оцінки, які обробляють наступний рівень.

00:17:29.400 --> 00:17:34.220
Перевірки обґрунтованості, оцінка релевантності, панелі інструментів, прозорості та пояснювальність.

00:17:34.360 --> 00:17:36.740
Англійською мовою ви можете налаштовувати порогові значення,

00:17:36.840 --> 00:17:40.260
фільтрувати як вхідні, так і вихідні дані та змушувати ботів показувати свою роботу.

00:17:40.260 --> 00:17:43.440
Без цього ви просто кидаєте кубики на основі того, що видає ші.

00:17:43.560 --> 00:17:44.960
А ось реальність ресурсів.

00:17:45.100 --> 00:17:46.900
Microsoft ставить це на перше місце.

00:17:46.900 --> 00:17:50.580
34 тисячі інженерів, що працюють повний робочий день і займаються безпекою,

00:17:50.660 --> 00:17:53.480
плюс 15 тисяч партнерів з глибоким досвідом у сфері безпеки.

00:17:53.620 --> 00:17:54.440
Це фортеця.

00:17:54.600 --> 00:17:56.020
Але не почувайтеся комфортно.

00:17:56.180 --> 00:17:59.620
Жоден з цих інженерів не знаходиться всередині вашого орендаря та не створює для вас правила доступу.

00:17:59.740 --> 00:18:02.320
Microsoft надає вам захисні огорожі, але ваша робота все ще полягає в тому,

00:18:02.320 --> 00:18:04.700
щоб блокувати ідентифікаційні дані, встановлювати ізоляцію даних,

00:18:04.780 --> 00:18:06.500
застосовувати шифрування та налаштовувати політики.

00:18:06.500 --> 00:18:09.620
Якщо ваше визначення обсягу не дбали, ви все одно будете відповідальні за порушення.

00:18:09.780 --> 00:18:11.980
Справжнім виправленням є управління життєвим циклом.

00:18:12.140 --> 00:18:14.900
Уявіть це як рецепт, який рекомендує сама Microsoft.

00:18:15.160 --> 00:18:18.460
Тестування, затвердження, випуск, аудит ітерація.

00:18:18.660 --> 00:18:21.520
Завдяки контрольним точкам на кожному циклі ви постійно помічаєте відхилення,

00:18:21.520 --> 00:18:23.340
перш ніж воно стане приманкою для заголовків.

00:18:23.440 --> 00:18:26.440
Команди, які один раз відправляють завдання та йдуть, завжди провалюються.

00:18:26.600 --> 00:18:29.640
Моделі розвиваються, підказки змінюються, а результати блукають.

00:18:36.500 --> 00:18:43.220
Відповідальність не вбиває швидкість, вона не дає швидкості вбити вас.

00:18:43.340 --> 00:18:45.400
Гарне управління означає, що ви можете пережити аудити

00:18:45.400 --> 00:18:47.300
та все одно продовжувати рухатися вперед через проекти.

00:18:47.420 --> 00:18:49.200
Пропустіть це, і ви стрибаєте з обриву.

00:18:49.360 --> 00:18:51.860
Швидкість без контролю дає вам лише один вид запису.

00:18:52.100 --> 00:18:53.400
Найкоротший час доростину.

00:18:53.580 --> 00:18:55.660
Уявіть собі їзду гірськими серпантинами.

00:18:55.840 --> 00:18:59.300
Ви не проклинаєте огорожі, ви дякуєте їм, коли дорога падає на 60 метрів.

00:18:59.620 --> 00:19:00.860
Відповідальний щі – це те саме.

00:19:00.860 --> 00:19:03.860
Охоплення, політики, фільтри, журнали, вони не зупиняють вашу швидкість,

00:19:03.940 --> 00:19:05.860
вони тримають вашу машину подалі від вечірніх новин.

00:19:06.020 --> 00:19:08.640
Зрештою, Майкрософт дав вам серйозну силу.

00:19:08.800 --> 00:19:12.400
Безпека контенту, конвейери оцінки, системи безпеки, огорожі SDK,

00:19:12.600 --> 00:19:15.540
але ваша робота все ще полягає в тому, щоб оцінювати орендарів,

00:19:15.660 --> 00:19:18.980
налаштовувати доступ і підключати ці цикли до вашого виробничого циклу.

00:19:19.140 --> 00:19:22.400
Зробіть це, і ви отримаєте щі, який переживе відповідність вимогам,

00:19:22.460 --> 00:19:23.500
а не зруйнується під ними.

00:19:23.500 --> 00:19:27.020
Ігноруйте це, і це не просто ризик збою, це кар'єра на кону.

00:19:27.520 --> 00:19:28.640
Відповідальний щі – неповільний.

00:19:28.980 --> 00:19:31.500
Відповідальний щі – життєздатний, а життєздатність – це справжнє випробування,

00:19:31.600 --> 00:19:33.500
тому що те, що буде далі, це не функції, а те,

00:19:33.600 --> 00:19:35.660
чи ставитися ви до цієї платформи як до Plug&Play,

00:19:35.780 --> 00:19:38.400
чи поважаєте її як інфраструктуру, що орієнтована на управління.

00:19:38.400 --> 00:19:41.340
Ця відмінність вирішує, хто витримає, а хто вигоріть.

00:19:41.460 --> 00:19:42.080
Ось суть.

00:19:42.180 --> 00:19:44.560
Пастка не фаундри, чи Coopilot Studio, а в тому, щоб думати,

00:19:44.560 --> 00:19:46.820
що вони підключаються за принципом «Підключи і працюй».

00:19:46.820 --> 00:19:49.520
Зачіпка з пам'яттю проста – управління – спочатку, експеримент – потім,

00:19:49.600 --> 00:19:50.480
виробництво – наостанок.

00:19:50.580 --> 00:19:53.440
Пропускайте ідентифікацію та спостережуваність на свій страх і ризик.

00:19:53.600 --> 00:19:57.020
Інструменти є, але лише управління перетворює прототипи на реальне виробництво.

00:19:57.180 --> 00:19:59.240
Тож, якщо ви хочете отримати суттєві виправлення,

00:19:59.240 --> 00:20:01.180
які дійсно підтримують життя вашого орендаря,

00:20:01.280 --> 00:20:03.140
підпишіться на подкаст і залиште мені відгук.

00:20:03.140 --> 00:20:06.200
Я щодня витрачаю на це години, і ваша підтримка справді допомагає.

00:20:06.380 --> 00:20:08.700
Інструменти змінюватимуться, тактика виживання виживе.