WEBVTT 00:00:00.160 --> 00:00:05.340 Уявіть, що ви входите в Teams і вас зустрічає рій агентів ЩІ, кожен з яких обіцяє оптимізувати ваш робочий день. 00:00:05.480 --> 00:00:11.380 Вони рекламують продуктивність, але без правил можуть неправильно тлумачити цілі та розширювати доступ таким чином, що ви будете відповідальні. 00:00:11.500 --> 00:00:16.640 Це як вручити своєму стажеру кредитну картку компанії та сподіватися, що звіт про витрати не повернеться з яхтою на ній. 00:00:16.800 --> 00:00:17.660 Ось гарна новина. 00:00:17.660 --> 00:00:24.880 У цьому епізоді ви отримаєте просту структуру, три практичні елементи керування та кілька перших кроків, щоб ці агенти були корисними, безпечними та узгодженими. 00:00:25.020 --> 00:00:29.300 Тому що, перш ніж ви зможете їм довіряти, вам потрібно зрозуміти, якими колегами вони стануть. 00:00:29.560 --> 00:00:31.640 Познайомтеся зі своїми новими цифровими колегами. 00:00:31.860 --> 00:00:33.840 Познайомтеся зі своїми новими цифровими колегами. 00:00:34.000 --> 00:00:38.080 Вони не сидять у кабінках, не користуються значками і точно ніколи не читають посібник для співробітників. 00:00:38.200 --> 00:00:40.920 Це не ті запилені макроси Excel, за якими ми колись доглядали. 00:00:40.920 --> 00:00:46.600 Агенти спостерігають, планують і діють, тому що вони поєднують три основні інгредієнти – пам'ять, права доступу та доступ до інструментів. 00:00:46.700 --> 00:00:49.620 Це фреймворк Microsoft та BCG, і це справжня різниця. 00:00:49.780 --> 00:00:56.760 Ваш новий колега може відстежувати минулі взаємодії, переходити між системами, яким ви вже довіряли, і насправді використовувати програми так, як це робила б звичайна людина. 00:00:56.980 --> 00:00:59.300 Звичайно, є спокуса знову пожартувати про стажерів. 00:00:59.440 --> 00:01:02.440 Вони з'являються сповнені енергії, але не мають уявлення, де знаходиться степлер. 00:01:02.440 --> 00:01:06.280 Те саме стосується агентів, вони вриваються у ваші робочі процеси, не розуміючи насправді меж. 00:01:06.400 --> 00:01:10.940 Але на відміну від стажера, вони можуть отримати доступ до Outlook, SharePoint або Dynamics, як тільки ви їх розгортаєте. 00:01:11.060 --> 00:01:13.600 Ця здатність не просто дивна, це проблема управління. 00:01:13.760 --> 00:01:19.100 Без належного запобігання втраті даних та прав доступу ви фактично розширили поверхню атаки на весь ваш степ. 00:01:19.200 --> 00:01:23.140 Якщо ви хочете відчути, як швидко це стане реальністю, подивіться на дорожню карту. 00:01:23.140 --> 00:01:29.040 Microsoft вже анонсувала агентів SharePoint, які керують документами безпосередньо на сайтах, а не лише в результатах пошуку. 00:01:29.180 --> 00:01:34.500 Уявіть, що ви просите помічника очистити файли проекту, і він фактично реорганізує спільні папки між командами. 00:01:34.640 --> 00:01:39.940 Вражаючи на слайдпанелі, але також одне неправильне тлумачення відділяє вас від архівування фінансових показників не за той квартал. 00:01:40.060 --> 00:01:42.840 Це не теоретичний ризик, це операційний квиток наступного року. 00:01:43.080 --> 00:01:45.440 Автоматизація старої школи здавалася торговим автоматом. 00:01:45.440 --> 00:01:48.760 Ви натискали одну кнопку, твік спадав, і якщо вам пощастило, він не застряг. 00:01:48.900 --> 00:01:55.420 Агенти зовсім не такі. Вони можуть помічати стан вашого робочого процесу, переглядати доступні варіанти та генерувати кроки, які ніхто заздалегідь не запрограмував. 00:01:55.540 --> 00:01:58.700 Це адаптивно, і в цьому є одночасно і привабливість, і небезпека. 00:01:58.860 --> 00:02:01.480 У природному випадку результат не застряг на батончику. 00:02:01.620 --> 00:02:06.360 Це впевнений звіт, отриманий з трьох систем з визначеннями лінії руху, представленими як Євангеліє через місяці. 00:02:06.360 --> 00:02:09.840 Вгадайте, хто підписує, коли фінансовий відділ запитує, звідки взялася розбіжність. 00:02:09.980 --> 00:02:11.800 Тим не менш, їхня перевага очевидна. 00:02:11.960 --> 00:02:16.200 Один агент може з'єднувати між ізоляційними слотами так, як ваша команда ледве може зрівнятися. 00:02:16.380 --> 00:02:21.140 Йому байдуже, чи дані знаходяться в Teams, SharePoint чи якомусь модулі Dynamics, що ховається у фоновому режимі. 00:02:21.140 --> 00:02:28.060 Він перемикатиметься між ними та компілюватиме результати без потреби у вкладеннях електронної пошти, нагадуваннях календаря чи тому одному майстрі Excel у вашому відділі. 00:02:28.060 --> 00:02:33.980 З точки зору пропускної здатності, це як найняти когось, хто працює в 10 разів швидше і ніколи не зупиняється, щоб прибалити в кімнаті відпочинку. 00:02:34.120 --> 00:02:36.280 Але швидкість без узгодженості небезпечна. 00:02:36.460 --> 00:02:40.780 Агенти не поділяють ваші бізнес-цілі, вони діляться буквальними інструкціями, які ви їм подаєте. 00:02:40.780 --> 00:02:44.180 Цей розрив – проблема принципа лата агента в технічній оболонці. 00:02:44.340 --> 00:02:48.980 Ви хочете точності та відповідності, вони надають найбільш близьку інтерпретацію з недоречною впевненістю. 00:02:49.120 --> 00:02:50.900 Це не ворожість, це неуважність. 00:02:50.900 --> 00:02:54.180 А неуважність до прав системного рівня може бути гарячішою за злість. 00:02:54.320 --> 00:03:01.060 Ось так ви отримуєте надмірно завзятого помічника, який надсилає конфіденційні електронні таблиці зовнішнім контактам, тому що ви попросили його поділитися оновленням. 00:03:01.060 --> 00:03:09.880 Тож реальність така, агенти – це не дивакуваті другорядні працівники, вони цифрові колеги, які проникають в основні робочі процеси, надзвичайно здібні, але надзвичайно не тямущі щодо контексту. 00:03:09.880 --> 00:03:17.500 Ви можете закохатися в їхню демонстраційну поведінку, але справжнє випробування починається, коли ви запускаєте їх у реальні процеси без захисних огорож, навчання чи нагляду. 00:03:17.620 --> 00:03:19.260 І ось вам розрив у допитливості. 00:03:19.560 --> 00:03:28.820 Залишайтеся зі мною, бо за кілька хвилин ми розглянемо три речі, необхідні кожному агенту – пам'ять, права доступу та інструменти, і чому кожна з них є одночасно суперсилою та точкою провалу, якщо її не контролювати. 00:03:28.820 --> 00:03:34.480 Це визначає вашу наступну роботу не лише з використанням інструментів, а й з управлінням цифровими працівниками, так, ніби вони є частиною вашої команди. 00:03:34.580 --> 00:03:37.840 І це без посібника з управління персоналом, але з великою відповідальністю. 00:03:38.000 --> 00:03:40.120 Менеджери як керівники цифрових працівників. 00:03:40.260 --> 00:03:46.400 Уявіть, що ви відкриваєте свій огляд ефективності та бачите новий рядок, керував 12-ма співробітниками людьми та 48-ма агентами зі штучним інтелектом. 00:03:46.520 --> 00:03:50.500 І це не науково-фантастичне хвастощі, це стає справжнім показником управлінських навичок. 00:03:50.500 --> 00:04:00.660 Експерти зараз кажуть, що цінність менеджера частково оцінюватиметься за тим, скількома цифровими працівниками він може керувати, оскільки підказки, перевірка та нагляд швидко стають основними лідерськими здібностями. 00:04:00.820 --> 00:04:05.340 Майбутній керівник не просто делегує людям, він керує поєднанням персоналу та програмного забезпечення. 00:04:05.520 --> 00:04:10.400 Цей суп важливий, тому що агенти зі штучним інтелектом працюють не як інструменти, які ви залишаєте бездіяльними, доки не знадобляться. 00:04:10.400 --> 00:04:14.420 Вони рухаються самостійно, коли їх запитують, і вони не піднімають руку, коли їх бентежать. 00:04:14.560 --> 00:04:20.120 Ваша роль менеджера тепер вимагає навичок, які виглядають не стільки як написання службових записок, скільки як визначення порогів ескалації. 00:04:20.280 --> 00:04:23.300 Коли агент зупиняється та уточнює у вас, а коли продовжує. 00:04:23.480 --> 00:04:31.840 Згідно з PwC та Всесвітнім економічним форумом, три критичні управлінські дії тут – це чіткі підказки, нагляд людини в процесі роботи та перевірка результатів. 00:04:31.840 --> 00:04:34.700 Якщо ви пропустите один із цих моментів, ризик швидко зростає. 00:04:34.700 --> 00:04:39.300 З працівниками-людьми зворотний зв'язок постійний. Тон голосу, швидке запитання, ледь помітне вагання. 00:04:39.460 --> 00:04:44.120 Агенти цього не виконують. Вони повернуть завершену роботу незалежно від того, чи мали сенс їхні припущення. 00:04:44.300 --> 00:04:47.500 Ось чому підказки – це не просто невимушені фрази, а системний дизайн. 00:04:47.660 --> 00:04:54.260 Одна розпливчаста інструкція може призвести до неправильно поданих даних, недбалого доступу до записів або впевнених, але неправильних звітів. 00:04:54.260 --> 00:04:58.660 Тестування підказок перед їх розгортанням стає таким же важливим, як і перегляд планів проєктів. 00:04:58.660 --> 00:05:04.480 Перевірка – це інша половина. Керівники звикли до вибіркової перевірки якості, але можуть вважати, що автоматизація дорівнює точності. 00:05:04.640 --> 00:05:09.600 Неправильне припущення. Агенти імпровізують, а імпровізація без перевірки може бути надзвичайно руйнівною. 00:05:09.760 --> 00:05:13.960 Як зазначає Аюмі Мур Аокі, Ші має талант генерувати відшліфовану нісенітницю. 00:05:14.120 --> 00:05:17.940 Менеджери не можуть вважати, що професійний тон означає фактичну правильність. 00:05:18.280 --> 00:05:21.860 Верифікація, підтвердження джерел, перевірка шляхів даних – це вже лідерство. 00:05:21.860 --> 00:05:27.100 Нагляд замикає цикл. Уявіть собі, це не стільки як старий мікроменеджмент, скільки як контроль доступу. 00:05:27.260 --> 00:05:29.800 Бабак Ходжат формулює це як знання меж довіри. 00:05:29.940 --> 00:05:34.100 Коли ви передаєте агенту права та доступ до інструментів, ви все ще володієте тим, що він виробляє. 00:05:34.260 --> 00:05:38.640 Менеджери повинні заздалегідь вирішити, скільки влади є доцільним, і встановити захисні бар'єри. 00:05:38.800 --> 00:05:43.880 Цей нагляд часто означає необхідність схвалення людиною, перш ніж агент внесе потенційно ризиковані зміни, 00:05:43.880 --> 00:05:47.420 такі як надсилання даних назовні або зміна записів в основних системах. 00:05:51.860 --> 00:06:03.260 Завдання полягає не у виборі одного стилю керівництва, а в одночасному виконанні обох. 00:06:03.380 --> 00:06:08.040 Люди потребують мотивації та емпатії. Агенти потребують суворих меж та постійного калібрування. 00:06:08.180 --> 00:06:13.240 Підтримка їхньої узгодженості, щоб вони не заважали робочим процесам один одного, стає частиною вашого щоденного управлінського рефлексу. 00:06:13.240 --> 00:06:18.900 Уявіть собі свою роль зараз як диригента не в сенсі відділу кадрів, а буквально як того, хто контролює ритм двох різних відділів. 00:06:18.900 --> 00:06:25.820 Працівники-люди привносять креативність та емпатію. Агенти штучного інтелекту привносять швидкість та охоплення, але якщо їх ніхто не спрямовує, результатом є розбрат. 00:06:25.980 --> 00:06:31.820 Найкращих лідерів майбутнього оцінюватимуть не лише за моральним духом їхньої команди, але й за тим, чи людський та цифровий персонал досягають одного темпу, 00:06:31.900 --> 00:06:35.080 не розкриваючи конфіденційні дані та не спотворюючи прийняття рішень по ходу справи. 00:06:35.080 --> 00:06:40.220 У природному випадку невідповідність тут не просто порушує робочий процес, а й створює розслідування щодо дотримання вимог. 00:06:40.360 --> 00:06:44.700 Отже, висновок простий. Ваша посада не змінилася, але зміст вашої ролі змінився. 00:06:44.860 --> 00:06:49.960 Ви більше не просто керуєте людьми, ви керуєте помічниками операторів, вбудованими в кожну систему, яку ви використовуєте. 00:06:50.120 --> 00:06:54.560 Це вимагає нових навичок, створення точних підказок, тестування інструкцій на наявність непередбачуваних наслідків, 00:06:54.560 --> 00:06:59.020 перевірки результатів на відповідність довіреним джерелам та забезпечення дотримання правил взаємодії людини в процесі. 00:06:59.140 --> 00:07:04.820 Успіх тут – це те, що відрізняє шанованих менеджерів завтрашнього дня від тих, кого тихо відправлять на дострокову пенсію. 00:07:04.980 --> 00:07:09.320 І оскільки теорія – це добре, але практика краще, ось ваше однодинне завдання. 00:07:09.520 --> 00:07:15.520 Відкрийте налаштування другого пілота або агента та знайдіть, де знаходяться схвалення або контрольні елементи контролю, пов'язані з людиною в циклі. 00:07:15.520 --> 00:07:18.420 І якщо ви не можете їх знайти, сама ця прогалина є знахідкою. 00:07:18.540 --> 00:07:21.540 Це означає, що ви ще не знаєте, як повернути процес, що не встигає. 00:07:21.660 --> 00:07:26.800 Тепер, якщо управління людьми завжди починалося з адаптації, справедливо запитати, як виглядає адаптація для агента зі штучним інтелектом. 00:07:26.920 --> 00:07:30.340 Кожен агент, якого ви розгортаєте, постачається з власним стартовим набором. 00:07:30.460 --> 00:07:33.960 І вміст цього набору, пам'ять, права доступу та інструменти визначають, 00:07:34.080 --> 00:07:39.040 чи ваш новий цифровий колега зробить вас блискучим, чи спалить ваші вихідні, відновлюючи збитки. 00:07:45.520 --> 00:07:49.360 Це стартовим набором три основні елементи – пам'ять, права доступу та інструменти. 00:07:49.500 --> 00:07:55.040 Пропустите один пункт, і замість цифрового колеги, якому можна довіряти, у вас буде недосконалий бот, що блукає вашим середовищем. 00:07:55.200 --> 00:07:59.200 Зробивши помилку, ви реєструєте себе на прибирання, на яке не заплановали бюджет. 00:07:59.300 --> 00:08:02.640 По-перше, пам'ять. Це те, що дозволяє агентам пов'язувати завдання разом, 00:08:02.720 --> 00:08:05.860 замість того, щоб щоразу починати все спочатку, як золота рибка за клавіатурою. 00:08:05.860 --> 00:08:11.160 Завдяки пам'яті агент може переносити ваші налаштування, завжди створювати діаграми синім кольором з одного звіту в наступний. 00:08:11.300 --> 00:08:13.960 Перевагою є безперервність, недоліком на полегливість. 00:08:14.100 --> 00:08:17.620 Помилки та погані вказівки переносяться так само легко, як і корисний контекст. 00:08:17.780 --> 00:08:20.960 Microsoft підкреслює це своєю роботою з фрагментації та ланцюжування. 00:08:21.120 --> 00:08:24.060 Агенти зберігають фрагменти взаємодій для створення потоку. 00:08:24.180 --> 00:08:28.580 Але PwC попереджає, що на полегливість також тягне за собою ризик для конфіденційності, 00:08:28.580 --> 00:08:31.620 оскільки конфіденційні дані можуть залишатися, коли це необхідно. 00:08:31.760 --> 00:08:34.120 У природному агенті ви не просто отримуєте корисного помічника, 00:08:34.260 --> 00:08:37.220 ви отримуєте того, хто нескінченно повторює вашу найгіршу друкарську помилку. 00:08:37.400 --> 00:08:38.560 Далі – права доступу. 00:08:38.680 --> 00:08:40.660 Уявіть їх як бейдж доступу агента. 00:08:40.880 --> 00:08:44.660 З людьми ви не даєте кожному головний ключ до штаб-квартири, ви обмежуєте доступ за ролями. 00:08:44.820 --> 00:08:46.540 Те саме правило застосовується і тут. 00:08:46.700 --> 00:08:48.420 Якщо ви занадто щільно тримаєте права доступу, 00:08:48.420 --> 00:08:51.340 агент постійно відскакуватиме від замкнених дверей і вимагатиме від вас дозволів. 00:08:51.460 --> 00:08:52.960 Якщо ж ви занадто щільно тримаєте свої права, 00:08:53.020 --> 00:08:55.720 ви фактично передали свою систему управління персоналом та фінансові записи чомусь, 00:08:55.820 --> 00:08:56.740 що не розуміє дотримання вимог. 00:08:57.000 --> 00:08:58.840 Рекомендації PwC тут прямолінійні. 00:08:58.960 --> 00:09:00.940 Використовуйте контроль доступу на основі ролей, RBAC, 00:09:01.100 --> 00:09:03.460 забезпечте багатофакторну автентифікацію для дій з підвищеними правами 00:09:03.460 --> 00:09:05.880 та обгорніть конфіденційні області засобом запобігання втраті даних. 00:09:05.880 --> 00:09:08.280 Наприклад, якщо агенту потрібно зробити запит до інтернету, 00:09:08.340 --> 00:09:11.320 PwC рекомендує виконувати це через проксі-сервер з політикою DLP, 00:09:11.480 --> 00:09:13.560 щоб уникнути витоку даних клієнтів у пошукові запити. 00:09:13.720 --> 00:09:17.040 У природному середовищі RBAC та MFA тримають його в межах його можливостей. 00:09:17.160 --> 00:09:19.340 У природному середовищі надмірні привілеї перетворюють його 00:09:19.340 --> 00:09:21.160 на найшвидшого випадкового інсайдера у світі. 00:09:21.280 --> 00:09:22.400 Потім є інструменти. 00:09:22.540 --> 00:09:25.700 Це програми, ARRI та коннектори, які агенти фактично використовують для дії. 00:09:25.900 --> 00:09:28.120 Без інструментів вони просто дивляться в порожнечу. 00:09:35.880 --> 00:09:41.120 Майкрософт створює тут захисні бар'єри, розміщуючи роз'єми Coopilot 00:09:41.120 --> 00:09:43.980 всередині каналів керування, а не просто надаючи агенту вихідний доступ. 00:09:44.120 --> 00:09:45.420 Найкраща практика та сама. 00:09:45.600 --> 00:09:47.780 Обмежте в область дії, перевірте налаштування за замовчуванням 00:09:47.780 --> 00:09:49.820 та прив'яжіть зовнішні інструменти до журналювання та DLP. 00:09:50.000 --> 00:09:52.740 Тримайте викрутку міцно затиснутою, інакше ви створите неконтрольовану машину 00:09:52.740 --> 00:09:55.980 Руба Голдберга, яка прикручує деталі до систем, до яких вона ніколи не мала торкатися. 00:09:55.980 --> 00:09:57.740 Тут допомагає швидка мнемоніка. 00:09:57.740 --> 00:10:00.400 Пам'ять – це досвід, те, що працівник уже пам'ятає. 00:10:00.560 --> 00:10:03.160 Право – це посвідчення особи, куди їм дозволено ходити. 00:10:03.340 --> 00:10:06.600 Інструменти – це ноутбук та ліцензовані програми, які вони насправді можуть використовувати. 00:10:06.860 --> 00:10:08.280 Компактно, але залишається. 00:10:08.440 --> 00:10:11.440 Паралель з адаптацією людини має сенс, але з агентами ставки швидші, 00:10:11.540 --> 00:10:13.480 менш помітні та важче перевіряти після факту. 00:10:13.640 --> 00:10:14.760 Баланс має значення. 00:10:14.940 --> 00:10:18.440 Баланс пам'яті забезпечує безперервність без нескінченного збереження особистих даних. 00:10:18.440 --> 00:10:22.900 Права з обмеженою областю дії дають їм достатньо ключів для виконання роботи, не відкриваючи сховища. 00:10:23.040 --> 00:10:26.620 Інструменти розміру підвищують продуктивність, не збільшуючи радіус вибуху. 00:10:26.800 --> 00:10:30.500 Занадто багато будь-якого з них перетворює результат з корисного на ризикований за один раз. 00:10:30.680 --> 00:10:33.700 І, як і у випадку з реальними речами, ви не можете уникнути відповідальності. 00:10:33.860 --> 00:10:37.820 Власні рекомендації Microsoft щодо відповідального щі нагадують нам, агентам, що потрібно підвищувати планку. 00:10:37.820 --> 00:10:40.980 Нижча толерантність до помилок, суворіша прозорість, чіткіший контроль. 00:10:41.080 --> 00:10:45.140 Ви все ще той, хто приймає рішення, коли неправильне право доступу або доступ до інструментів дають змогу отримати звіт. 00:10:45.260 --> 00:10:48.220 У випадку з природним досвідом 20 пам'ять забезпечує розумніший контекст. 00:10:48.360 --> 00:10:51.920 Права чітко узгоджуються з політикою, а інструменти розблоковують лише безпечні дії. 00:10:52.080 --> 00:10:57.540 У випадку з природним досвідом агент пам'ятає погані інструкції, має забагато ключів і з повною впевненістю використовує неправильний роз'єм. 00:10:57.540 --> 00:11:00.140 Це не якби це крива ризику, на якій ви знаходитесь. 00:11:00.260 --> 00:11:02.160 І ось те, що більшість людей пропускають. 00:11:02.300 --> 00:11:05.260 Навіть коли ви правильно налаштуєте стартовий комплект, ви не поза безпекою. 00:11:05.400 --> 00:11:08.460 Ці три елементи також розкривають тихішу, тонкішу небезпеку. 00:11:08.640 --> 00:11:11.840 Агент, зрештою, знає більше за вас про те, що він щойно зробив. 00:11:11.960 --> 00:11:17.820 А коли ви не бачите причин його вибору, прямо під вашим носом закрадається новий вид управлінської проблеми. 00:11:18.580 --> 00:11:20.880 Невидима проблема – інформаційна асиметрія. 00:11:21.040 --> 00:11:23.700 Чи траплялося вам коли-небудь, що співробітник кидав вам руку з легким? 00:11:23.700 --> 00:11:25.280 Не хвилюйтеся, я впорався з цим. 00:11:25.400 --> 00:11:27.900 А тепер уявіть собі ту саму фразу від агента штучного інтелекту, 00:11:28.000 --> 00:11:31.120 тільки ви не можете запитувати про подальші дії та не можете зазирнути в процес домов. 00:11:31.280 --> 00:11:33.860 Ви отримуєте відшліфований результат, акуратно упакований, 00:11:34.000 --> 00:11:35.960 але шлях прийняття рішень всередині не прозорий. 00:11:36.100 --> 00:11:38.700 Це невидимий головний біль – інформаційна асиметрія. 00:11:38.880 --> 00:11:41.340 Агенти мають більше даних та обчислювальної потужності, 00:11:41.440 --> 00:11:44.360 ніж ви коли-небудь матимете, але саме ви відповідаєте за результати. 00:11:44.360 --> 00:11:48.360 California Management Review називає це хрестоматійною проблемою «Принципал Агент». 00:11:48.360 --> 00:11:51.340 Система має конфіденційну інформацію, яку ви не можете спостерігати, 00:11:51.460 --> 00:11:52.820 тоді як ви несете відповідальність. 00:11:52.960 --> 00:11:55.320 Це ніби ваш цифровий колега кидає кубики за екраном 00:11:55.320 --> 00:11:59.720 і показує вам лише остаточне число, а не модифікатори, які він накопичив по ходу справи. 00:11:59.840 --> 00:12:01.640 І проблема не проявляється м'яко. 00:12:01.820 --> 00:12:05.020 Агенти працюють впевнено, вони не підстрахуються, не кваліфікуються, 00:12:05.140 --> 00:12:06.500 не дозволяють вам побачити шви. 00:12:06.500 --> 00:12:09.200 Тож ви залишаєтеся дивитися на готовий звіт і розмірковуєте, 00:12:09.280 --> 00:12:11.980 чи цей відшліфований артефакт надійний, чи він непомітно зламаний. 00:12:12.140 --> 00:12:13.880 На той час, як ви заглиблюєтесь у нього, 00:12:14.020 --> 00:12:16.900 команди нижче за течією вже можуть будувати роботу над помилкою. 00:12:17.060 --> 00:12:20.160 Візьмемо поширений випадок «Агент неправильно класифікує рахунок фактуру», 00:12:20.160 --> 00:12:23.100 пов'язаний з критичним контрактом з постачальником, як низькопріоритетний. 00:12:23.240 --> 00:12:26.420 На перший погляд, звіт виглядає бездоганно, нічого не помічено червоним. 00:12:26.420 --> 00:12:29.300 Через кілька місяців система дотримання вимог виявляє пропущені платежі. 00:12:29.420 --> 00:12:32.440 Ви відстежуєте це та виявляєте неправильну класифікацію, заховану на ранній стадії. 00:12:32.600 --> 00:12:34.400 Це і є інформаційна асиметрія в дії. 00:12:34.580 --> 00:12:37.200 Агент знав, що робив, але ви не мали доступу до його логіки. 00:12:37.360 --> 00:12:41.400 PwC виділяє саме цей сценарій у своїх рекомендаціях щодо запобігання виникненню помилок – DLP. 00:12:41.600 --> 00:12:45.700 Такі заходи, як доступ на основі ролей, перевірки класифікації та пороги ескалації, 00:12:45.700 --> 00:12:48.940 запобігають переростенню незначного промаху у фінансове стягнення. 00:12:49.120 --> 00:12:52.240 Ця динаміка безпосередньо впливає на проблему принципала та агента. 00:12:52.420 --> 00:12:56.040 Ви, принципал, ставите собі за мету, наприклад, впорядковуєте рахунки фактури постачальника. 00:12:56.200 --> 00:12:59.900 Агент оптимізує процес для буквального послуху, класифікує та реєструє їх. 00:12:59.900 --> 00:13:04.300 Він не бачить ширшого наміру, не інтерпретує нюанси та, звичайно ж, не зважує стратегічні наслідки. 00:13:04.440 --> 00:13:08.600 Те, що здається саботажем, часто є просто сліпою вірністю інструкціям, сприйнятим надто буквально. 00:13:08.600 --> 00:13:10.620 Тепер додайте зону морального краху. 00:13:10.780 --> 00:13:13.540 Коли все ламається, відповідальність піднімається нагору. 00:13:13.700 --> 00:13:17.940 Аудитори не звинувачують невидимий алгоритм, вони запитують, чому ви його не помітили. 00:13:18.080 --> 00:13:22.020 Машина знімає відповідальність, а людина поглинає вм'ятину від репутації. 00:13:22.020 --> 00:13:24.600 Ефект схожий на подушку безпеки під час аварії. 00:13:24.760 --> 00:13:28.640 Ви несете удар, але приймаєте на себе удар, поки справжній водій їде далі, не звертаючи на це уваги. 00:13:28.740 --> 00:13:29.800 Отже, що ви робите? 00:13:29.800 --> 00:13:35.660 Ви не можете магічним чином зазирнути всередину повного нейронного мислення генеративної моделі, але ви можете створити видимість на краях. 00:13:35.820 --> 00:13:39.100 Крок перший – наполягайте на детальних журналах та слідах походження. 00:13:39.100 --> 00:13:45.460 Не ілюзія внутрішнього мислення, а конкретний запис того, до яких даних зверталися, які дії були запущені та в якому порядку. 00:13:45.620 --> 00:13:47.980 Крок другий – розгорніть панелі прозорості. 00:13:48.160 --> 00:13:54.080 Вони висвітлюють ключові змінні рішень, хто, що, коли, щоб ви могли хоча б побачити контури того, як збиралися результати. 00:13:54.080 --> 00:13:57.940 Крок третій – вимагайте простих обґрунтувань для дій з високим впливом. 00:13:58.100 --> 00:14:00.880 CMR підкреслює це в такому контексті, як найм. 00:14:01.020 --> 00:14:05.320 Змушення агентів надавати людину читані критерії для кожного рішення створює рівень пояснень. 00:14:05.460 --> 00:14:07.820 Крок четвертий – об'єднайте своїх агентів у команди. 00:14:07.940 --> 00:14:11.380 Надайте їм дивні тестові випадки, навмисно порушуйте їх та документуйте недоліки. 00:14:11.540 --> 00:14:15.540 Якщо ви самостійно не виправляєте ці недоліки, вони з'являться, коли ставки набагато вищі. 00:14:15.540 --> 00:14:20.040 Кожен із цих заходів пом'якшення не вирішує асиметрію повністю, але разом вони розсіюють туман. 00:14:20.180 --> 00:14:24.680 Журнали аудиту дають вам можливість реконструкції, панелі інструментів дають вам ситуаційну обізнаність, 00:14:24.800 --> 00:14:27.820 обов'язкові обґрунтування формуються мовою, яку ви можете оцінити. 00:14:28.000 --> 00:14:31.860 Червоне командування виявляє сліпі зони, перш ніж це зроблять клієнти чи регулятори. 00:14:31.980 --> 00:14:36.400 Як наголошує Microsoft, нашарування схвалень людини в циклі в точках ескалації гарантує, 00:14:36.400 --> 00:14:39.940 що найризикованіші дзвінки зупиняються на живому столі перед виконанням. 00:14:40.060 --> 00:14:44.700 Суть не в тому, щоб прагнути ідеальної прозорості, тому що генеративне мислення завжди буде частково непрозорим. 00:14:44.860 --> 00:14:48.040 Суть в тому, щоб надати собі достатньо поверхневих даних для моніторингу закономірностей, 00:14:48.160 --> 00:14:52.060 виявлення аномалій та забезпечення відповідальності, перш ніж проблеми вийдуть за межі вашого досяжності. 00:14:52.200 --> 00:14:56.100 Без цих заходів ви, зрештою, не сете відповідальність за невидимий вибір, який ніколи не підписували, 00:14:56.100 --> 00:14:58.560 поки ваші агенти продовжують швидко виконувати результати, 00:14:58.740 --> 00:15:01.360 що підводить нас до справжнього рішення, з яким ви стикаєтеся. 00:15:01.500 --> 00:15:04.920 Ви можете або залишити ці системи без обмежень і сподіватися, що нічого не згоріть, 00:15:05.020 --> 00:15:07.980 або ви можете почати ставитися до їхньої поведінки як до групової політики, 00:15:08.080 --> 00:15:10.480 правил обмежень та ескалації, вбудованої з першого дня. 00:15:10.640 --> 00:15:14.280 Тому що якщо ви пропустите рівень управління, хаос не станеться колись просто так. 00:15:14.440 --> 00:15:19.140 Це трапляється вперше, коли ваш цифровий колега тікає на побічний квест, який ви ніколи не схвалювали. 00:15:19.140 --> 00:15:20.980 Запобігання старінню агентів 00:15:20.980 --> 00:15:24.400 Запобігання тому, що я люблю називати агентським проникненням, це не параноя. 00:15:24.560 --> 00:15:27.360 Йдеться про те, щоб керувати всіма принципами, які не дають вашому парку 00:15:27.360 --> 00:15:28.880 ще перетворитися на пожежну небезпеку. 00:15:29.000 --> 00:15:32.240 Це тактичний рівень, де зустрічаються управління, ризики та інфраструктура. 00:15:32.560 --> 00:15:34.100 PWC чітко викладає це. 00:15:34.300 --> 00:15:37.440 Якщо ви хочете, щоб агенти масштабувалися, не руйнуючи ваше середовище, 00:15:37.440 --> 00:15:38.940 вам потрібно 5 швидких тактик. 00:15:39.000 --> 00:15:42.140 Адаптуйте управління, оновіть управління ризиками, побудуйте інфраструктуру, 00:15:42.140 --> 00:15:45.720 забезпечте тестування та моніторинг і завжди тримайте людину в курсі критичних викликів. 00:15:45.820 --> 00:15:46.900 Почніть з управління. 00:15:47.060 --> 00:15:50.780 Поточні програми відповідального щі були створені для моделей, а не для вільнопересувних працівників. 00:15:50.960 --> 00:15:53.720 Ви повинні адаптувати нагляд, щоб комітети з ризиків на рівні ради директорів 00:15:53.720 --> 00:15:54.980 чітко включали ризик агентів. 00:15:55.120 --> 00:15:57.360 Агентам потрібні вбудовані правила ескалації. 00:15:57.360 --> 00:16:01.480 Коли ставки досягають певного рівня, робота зупиняється, доки людина не схвалить її. 00:16:01.620 --> 00:16:04.560 Уявіть це як дерево ескалації у вашій системі служби підтримки. 00:16:04.560 --> 00:16:07.660 На природному рівні 20 агент закриває заявки протягом усього дня. 00:16:07.820 --> 00:16:10.600 У природному випадку він знає, що потрібно зупинитися та запросити схвалення 00:16:10.600 --> 00:16:13.360 перш ніж торкатися заробітної плати чи конфіденційного зовнішнього зв'язку. 00:16:13.520 --> 00:16:16.520 Регуляторні поштовхи, такі як закон Європейського Союзу про штучний інтелект, 00:16:16.660 --> 00:16:17.700 лише посилюють цю потребу. 00:16:17.700 --> 00:16:20.720 Вони формалізують очікування, що нагляд має бути продемонстрованим 00:16:20.720 --> 00:16:23.120 і що ви можете задокументувати, хто що і коли схвалив. 00:16:23.240 --> 00:16:24.700 Потім управління ризиками. 00:16:24.700 --> 00:16:28.140 Агенти не рівні за рівнем ризику, тому ви розподіляєте їх так само, як і системи. 00:16:28.300 --> 00:16:31.560 Боти з низьким рівнем ризику, що працюють у вузьких ізоляціях, можуть швидко рухатися. 00:16:31.720 --> 00:16:34.880 Агенти з високою автономією, які торкаються даних клієнтів або фінансових записів, 00:16:34.960 --> 00:16:36.060 потребують ретельнішого контролю. 00:16:36.240 --> 00:16:38.160 Структура PwC тут прагматична. 00:16:38.320 --> 00:16:41.280 Відстежуйте використання, вимірюйте автономію відносно потенційного впливу 00:16:41.280 --> 00:16:44.440 та підштовхуйте агентів вищого рівня до повільніших циклів схвалення та тестування. 00:16:44.440 --> 00:16:47.780 Якщо бот пише нагадування в календарі, мінімальний нагляд спрацьовує. 00:16:47.960 --> 00:16:51.280 Якщо бот надсилає платежі постачальникам, він повинен мати червоні прапорці та реєстрацію, 00:16:51.420 --> 00:16:52.120 яка витримує аудит. 00:16:52.500 --> 00:16:53.920 Інфраструктура – це наступний блок. 00:16:54.080 --> 00:16:55.820 Ці інструменти не просто зникають. 00:16:55.980 --> 00:16:59.420 Вам потрібен RBA, щоб обмежити те, до чого можуть торкатися агенти MFA щоразу, 00:16:59.480 --> 00:17:02.900 коли вони підвищують привілеї, DLP для запобігання випадковим витокам та анонімізація, 00:17:02.900 --> 00:17:06.240 щоб журнали непомітно не переносили ідентифікатори користувачів до неправильного архіву. 00:17:06.340 --> 00:17:09.240 Ставтеся до кожної особи агента як до людського облікового запису. 00:17:09.360 --> 00:17:11.900 Принцип найменших привілеїв реєструється та перевіряється. 00:17:12.080 --> 00:17:14.720 Надання агенту необмежених прав, оскільки це пришвидшує тестування, 00:17:14.840 --> 00:17:17.800 є автоматизованим еквівалентом надання тимчасового адміністратора домену. 00:17:17.900 --> 00:17:20.740 Це не інновація, це квиток на порушення, який очікує на створення. 00:17:20.900 --> 00:17:22.280 Тепер тестування та моніторинг. 00:17:22.440 --> 00:17:24.440 Припустімо, що вихідні дані врешті-решт дадуть збій. 00:17:32.900 --> 00:17:36.780 Кидаєте їм дивні дані, щоб знайти тріщини, коли ставки низькі. 00:17:36.920 --> 00:17:38.640 Постійний моніторинг також важливий. 00:17:38.760 --> 00:17:42.920 Журнали доступу до даних в житті дії та частота викликів з високим рівнем ризику повинні бути перевірені. 00:17:43.040 --> 00:17:47.940 PwC та Microsoft зазначають, що журнали аудиту та регулярні перевірки – це ваша машина часу. 00:17:48.100 --> 00:17:50.500 Без них ви не бачите, що насправді зробив агент. 00:17:50.660 --> 00:17:53.100 І п'ята тактика – людський нагляд ніколи не зникає. 00:17:53.260 --> 00:17:55.620 Навіть за умови найгладшої оркестрації та захисних огорож, 00:17:55.620 --> 00:17:57.880 виклики з високими ставками все одно потребують людини. 00:17:57.880 --> 00:17:59.300 Встановіть чіткі пороги. 00:17:59.420 --> 00:18:01.760 Якщо агент схвалює транзакцію на суму понад певний долар, 00:18:01.840 --> 00:18:04.420 редагує конфіденційні записи або ініціює вихідне спілкування, 00:18:04.520 --> 00:18:07.600 яке стосується регульованих даних, він повинен зупинитися та передати вам кубики. 00:18:07.780 --> 00:18:10.600 Система Microsoft Co-Pilot має вбудований цей підхід. 00:18:10.760 --> 00:18:13.040 Штучний інтелект може написати чернитку електронного листа, 00:18:13.180 --> 00:18:14.820 але людина натискає кнопку «Відправити». 00:18:14.820 --> 00:18:18.500 Цей останній штрих є надійним балансом між продуктивністю та ризиком дотримання вимог. 00:18:18.500 --> 00:18:21.260 Коли ви масштабуєте агентів, це стає оркестрацією. 00:18:21.400 --> 00:18:22.540 З одним ботом легко. 00:18:22.760 --> 00:18:24.660 Натовпи можуть перетворитися на емерджентну дивність, 00:18:24.760 --> 00:18:27.080 що повторює один одного або женеться за дивними циклами. 00:18:27.240 --> 00:18:30.520 Безпорядку це виглядає як немодорований потік слег, що закручується в спіраль. 00:18:30.640 --> 00:18:33.320 Проти отрутою є оркестратор або один координуючий агент, 00:18:33.440 --> 00:18:35.040 або центральна команда людського огляду. 00:18:35.180 --> 00:18:38.420 Уявіть собі це як диригента, який запобігає конфлікту інструментів. 00:18:38.420 --> 00:18:41.660 Один дієвий початковий крок почніть з єдиного шаблону оркестратора, 00:18:41.660 --> 00:18:44.280 перш ніж відкривати шлюзи для багатоагентних натовпів. 00:18:44.420 --> 00:18:47.500 Цей рівень може координувати спеціалістів, придушувати цикли зворотного зв'язку 00:18:47.500 --> 00:18:49.420 та узгоджувати їх з бізнес-намірами, замість того, 00:18:49.560 --> 00:18:51.340 щоб дозволяти їм імпровізувати власні правила. 00:18:51.500 --> 00:18:54.280 Жоден з цих елементів контролю не існує для того, щоб уповільнювати вас. 00:18:54.420 --> 00:18:57.360 Якщо все зробити правильно, вони саме те, що дозволяє вам безпечно масштабуватися. 00:18:57.660 --> 00:19:00.300 PWC, BCG, McKinsey – усі вони сходяться в одному. 00:19:00.300 --> 00:19:03.280 Керовані та оркестровані агенти стають мультиплікатором сили. 00:19:03.280 --> 00:19:06.420 Вони усувають повторювану роботу, прокладають зв'язки між ізоляційними слотами 00:19:06.420 --> 00:19:09.540 та дозволяють вашій команді зосередитися на стратегічних зосиллях з вищою цінністю. 00:19:09.680 --> 00:19:12.180 У випадку з природним числом 20 це означає більшу пропускну здатність, 00:19:12.280 --> 00:19:14.560 менше ручного зволікання та відповідність вимогам, вбудовану в процес. 00:19:14.700 --> 00:19:16.460 Запобігання агентам – це непідготовка до загибелі, 00:19:16.520 --> 00:19:18.860 це встановлення захисних огорож, щоб ви отримали реальні переваги, 00:19:18.920 --> 00:19:20.280 не стикаючись із найгіршими наслідками. 00:19:20.280 --> 00:19:23.680 Контролюйте інструменти розподілу прав на пам'ять і ви зменшите приховані ризики. 00:19:23.860 --> 00:19:27.280 Адаптуйте управління, управління ризиками інфраструктуру, моніторинг та нагляд 00:19:27.280 --> 00:19:29.380 і ви збережете видимість керівництва неушкодженою. 00:19:29.520 --> 00:19:32.700 Зробіть усе це і те, що виглядало як хаос, стане основою для швидшої, 00:19:32.820 --> 00:19:34.360 дешевшої та більш відповідної роботи. 00:19:34.480 --> 00:19:37.040 І зрештою, ця відповідальність повертається до вас. 00:19:37.200 --> 00:19:39.880 Це не безликі інструменти, це колеги без файлів відділу кадрів, 00:19:39.880 --> 00:19:42.180 а це означає, що справжній тест полягає не в тому, 00:19:42.300 --> 00:19:43.860 чи замінять агенти вашу роль, а в тому, 00:19:43.980 --> 00:19:46.660 чи можете ви керувати їхньою автономією з тим самим наглядом, 00:19:46.740 --> 00:19:48.240 який ви вже використовуєте для людей, 00:19:48.380 --> 00:19:50.120 не дозволяючи стимулам втрачати баланс. 00:19:50.280 --> 00:19:51.740 Отже, ось завершальний етап. 00:19:51.880 --> 00:19:55.240 Агенти не замінюють менеджерів, вони змушують вас удосконалювати сам менеджмент. 00:19:55.400 --> 00:19:59.000 Дослідження чітко показують, що це лише проблема головного агента, який носить худій. 00:19:59.120 --> 00:20:01.300 Вони зберігають дані, ви несете відповідальність 00:20:01.300 --> 00:20:04.460 і єдиним реальним рішенням є керована автономія плюс постійний нагляд. 00:20:04.580 --> 00:20:05.920 Ось ваші перші три кроки. 00:20:06.100 --> 00:20:09.240 Проведіть інвентаризацію своїх агентів та розподіліть їх за ризиком та автономією, 00:20:09.360 --> 00:20:11.600 встановіть пороги ескалації, де людина повинна схвалити їх, 00:20:11.700 --> 00:20:14.860 та проведіть один тест червоної команди або крайнього випадку на критичному агенті. 00:20:14.980 --> 00:20:16.360 Це ваше початкове завдання. 00:20:16.540 --> 00:20:18.560 Якщо цей контрольний список допоміг, натисніть «Підписатися» 00:20:18.560 --> 00:20:21.000 та залиште коментар про те, якого агента ви проінвентаризуєте першим. 00:20:21.000 --> 00:20:23.800 З природним числом 20 ви запобіжите хаосу до його виникнення. 00:20:23.960 --> 00:20:27.140 З природним числом 20, ну, ви принаймні знатіміте, звідки почалася пожежа.