WEBVTT

00:00:00.180 --> 00:00:04.220
Представьте, что вы заходите в Teams, а вас встречает Рой и агентов, каждый из которых обещает

00:00:04.220 --> 00:00:08.140
оптимизировать ваш рабочий день. Они сулят продуктивность, но без правил могут неверно

00:00:08.140 --> 00:00:12.020
истолковать цели и расширить доступ так, что вы окажетесь виноваты. Это все равно,

00:00:12.160 --> 00:00:16.440
что дать стажеру корпоративную кредитку и надеяться, что в отчете о расходах не появится яхта.

00:00:16.560 --> 00:00:20.720
Но есть и хорошие новости. В этом выпуске вы получите простую структуру, три практических

00:00:20.720 --> 00:00:25.260
элемента контроля и первые шаги, чтобы сделать этих агентов полезными, безопасными и управляемыми.

00:00:25.380 --> 00:00:29.260
Ведь прежде чем довериться им, нужно понять, какими коллегами они станут.

00:00:29.260 --> 00:00:31.580
Знакомьтесь, ваши новые цифровые сотрудники.

00:00:31.740 --> 00:00:36.180
Знакомьтесь, ваши новые цифровые сотрудники. Они не сидят в кабинках, не отмечаются на проходной

00:00:36.180 --> 00:00:40.360
и точно не читали руководство для сотрудников. Это не пыльные макросы Excel, за которыми мы раньше

00:00:40.360 --> 00:00:45.060
присматривали. Агенты наблюдают, планируют и действуют, объединяя три ключевых компонента – память,

00:00:45.200 --> 00:00:49.940
право доступа и инструменты. Такова концепция Microsoft и BCG, и именно в этом их главное отличие.

00:00:49.940 --> 00:00:55.040
Ваш новый коллега помнит прошлое взаимодействия, переключается между доверенными системами и работает

00:00:55.040 --> 00:00:59.240
с приложениями почти как человек. Конечно, велик соблазн снова пошутить про стажер.

00:00:59.260 --> 00:01:04.340
Они полны энергии, но понятия не имеют, где лежит степлер. Также и агенты, они бросаются в ваши

00:01:04.340 --> 00:01:08.520
рабочие процессы, не понимая границ. Но в отличие от стажера, они получают доступ к Outlook,

00:01:08.680 --> 00:01:12.460
SharePoint или Dynamics, как только вы их запустите. Это сила, не просто особенность,

00:01:12.580 --> 00:01:16.880
это проблема управления. Без должной защиты от утечек данных и прав доступа вы фактически

00:01:16.880 --> 00:01:21.180
расширяете поверхность атаки на весь свой стэк. Если хотите понять, как быстро это станет

00:01:21.180 --> 00:01:25.300
реальностью, взгляните на дорожную карту. Microsoft уже анонсировала агентов для SharePoint,

00:01:25.520 --> 00:01:29.100
которые управляют документами на сайтах напрямую, они просто выдают результаты поиска.

00:01:29.260 --> 00:01:33.580
Представьте, вы просите помощника навести порядок в файлах проекта, а он перестраивает общие

00:01:33.580 --> 00:01:37.840
папки во всех командах. Впечатляет на слайдах, но стоит один раз ошибиться, и можно отправить

00:01:37.840 --> 00:01:42.240
в архив финансовую отчетность не за тот квартал. Это не теоретический риск, это заявка в техподдержку

00:01:42.240 --> 00:01:46.260
на следующий год. Автоматизация старой школы была похожа на торговый автомат. Нажал кнопку,

00:01:46.420 --> 00:01:51.240
шоколадка выпала, и если повезло, она не застряла. Агенты совсем не такие, они оценивают состояние

00:01:51.240 --> 00:01:55.460
рабочего процесса, ищут доступные варианты и генерируют шаги, которые никто не прописывал заранее.

00:01:55.460 --> 00:02:00.220
Они адаптивны, и в этом их преимущество и главная опасность. При ошибке результатом будет

00:02:00.220 --> 00:02:03.900
незастрявший батончик. Это будет уверенный отчет, собранный из трех систем с неверными данными,

00:02:04.000 --> 00:02:06.920
которые спустя месяца будут выдаваться за истину в последней инстанции. Угадайте,

00:02:07.060 --> 00:02:10.060
кто будет подписывать объяснительную, когда финодел спросит, откуда взялась эта нестыковка.

00:02:10.160 --> 00:02:14.400
И все же их преимущества очевидны. Один агент способен выстраивать связи между разрозненными

00:02:14.400 --> 00:02:18.440
отделами так, как ваша команда не сможет. Ему неважно, находятся ли данные в Teams,

00:02:18.660 --> 00:02:22.880
SharePoint или в каком-то скрытом модуле Dynamics. Он перескочит между ними и соберет

00:02:22.880 --> 00:02:27.200
результаты без вложений в письмах, напоминаний в календаре или помощи того самого Excel-гуру

00:02:27.200 --> 00:02:31.480
из вашего отдела. С точки зрения производительности, это как нанять кого-то, кто работает в 10 раз

00:02:31.480 --> 00:02:35.700
быстрее и никогда не отвлекается на разогрев рыбы в микроволновке. Но скорость без согласованности

00:02:35.700 --> 00:02:40.220
опасна. Агенты не разделяют ваши бизнес-цели, они следуют буквальным инструкциям, которые вы им

00:02:40.220 --> 00:02:44.840
даете. Этот разрыв – классическая проблема принципала агента в технологической обертке. Вы ждете

00:02:44.840 --> 00:02:48.880
точности и соответствия, а они выдают наиболее подходящую интерпретацию с неуместной самоуверенностью.

00:02:48.880 --> 00:02:52.860
Это не враждебность, это неосведомленность. А неосведомленность с системными правами доступа

00:02:52.860 --> 00:02:56.840
может быть разрушительней, чем злой умысел. Именно так чрезмерно усердный помощник рассылает

00:02:56.840 --> 00:03:00.900
конфиденциальные таблицы внешним контактам, потому что вы попросили его поделиться обновлением.

00:03:01.100 --> 00:03:06.280
Реальность такова. Агенты – это непричудливое дополнение, а цифровые коллеги, проникающие в рабочие

00:03:06.280 --> 00:03:11.460
процессы, они невероятно способны, но совершенно не понимают контекста. Вам может понравиться их поведение

00:03:11.460 --> 00:03:16.020
на демо, но настоящее испытание начинается, когда вы пускаете их в живые процессы без ограничений,

00:03:16.020 --> 00:03:20.340
обучения или контроля. И вот здесь возникает пробел в ваших знаниях. Оставайтесь со мной.

00:03:20.540 --> 00:03:24.480
Через пару минут мы разберем три вещи, необходимые каждому агенту – память, права доступа и

00:03:24.480 --> 00:03:28.600
инструменты, и почему каждая из них – это одновременно суперсила и точка отказа, если за ними не

00:03:28.600 --> 00:03:32.260
следить. Это подводит вас к следующей задаче – не просто использовать инструменты, а управлять

00:03:32.260 --> 00:03:36.280
цифровыми работниками как полноценной частью команды. И к этому не прилагается инструкция из отдела

00:03:36.280 --> 00:03:38.000
кадров, зато ответственности хоть отбавляй.

00:03:38.120 --> 00:03:42.020
Менеджеры как начальники цифровых сотрудников. Представьте, что вы открываете отчет об

00:03:42.020 --> 00:03:47.400
эффективности и видите новую строку – управлял 12 людьми и 48 и агентами. И это уже не хвастовство

00:03:47.400 --> 00:03:50.500
из научной фантастики, а реальный показатель управленческого мастерства.

00:03:50.700 --> 00:03:54.880
Эксперты говорят, что ценность менеджера будет отчасти оцениваться по количеству цифровых

00:03:54.880 --> 00:03:59.080
работников, которых он может направлять, ведь промптинг, проверка и контроль становятся

00:03:59.080 --> 00:04:03.480
ключевыми навыками лидерства. Босс будущего не просто делегирует задачи людям, он дирижирует

00:04:03.480 --> 00:04:07.900
сочетанием персонала и программного обеспечения. Этот сдвиг важен, потому что и агенты работают не как

00:04:07.900 --> 00:04:11.640
инструменты, которые можно оставить в покое до востребования. Они действуют самостоятельно,

00:04:11.640 --> 00:04:15.580
получив команду, и не поднимают руку, если чего-то не понимают. Ваша роль как менеджера теперь

00:04:15.580 --> 00:04:18.560
требует навыков, которые меньше похожи на написание служебных записок и больше,

00:04:18.720 --> 00:04:22.060
на определение порогов эскалации. Когда агенту нужно остановиться и свериться с вами?

00:04:22.240 --> 00:04:26.520
А когда можно продолжать работу? Согласно данным PwC и Всемирного экономического форума,

00:04:26.600 --> 00:04:30.820
тремя важнейшими управленческими действиями здесь являются четкие промпты, контроль с участием

00:04:30.820 --> 00:04:35.560
человека и проверка результата. Если упустить что-то одно, риски быстро возрастают. В работе с людьми

00:04:35.560 --> 00:04:40.520
обратная связь постоянно. Тон голоса – быстрый вопрос, едва заметное колебание. Агенты этого не дают,

00:04:40.520 --> 00:04:44.080
они выдадут готовую работу, независимо от того, были ли их предположения верны.

00:04:44.200 --> 00:04:48.020
Вот почему промптинг – это не просто формулировка, это системный дизайн. Одна

00:04:48.020 --> 00:04:52.440
нечеткая инструкция может привести к ошибкам в данных, небрежному доступу к записям или

00:04:52.440 --> 00:04:56.760
уверенным, но ошибочным отчетам. Тестирование промптов перед их внедрением становится таким же

00:04:56.760 --> 00:05:00.980
важным, как и проверка планов проектов. Проверка – это вторая половина задачи. Руководители

00:05:00.980 --> 00:05:04.300
привыкли к выборочному контролю качества, но могут ошибочно полагать, что автоматизация равна

00:05:04.300 --> 00:05:08.620
точности. Ошибочное мнение. Агенты импровизируют, а импровизация без проверки может быть

00:05:08.620 --> 00:05:12.880
крайне разрушительной. Как отмечает Айуми Мураоки, ИИ талантливо генерирует внешне

00:05:12.880 --> 00:05:16.700
безупречную чепуху. Менеджеры не должны считать, что профессиональный тон означает

00:05:16.700 --> 00:05:20.880
фактическую точность. Верификация, подтверждение источников и проверка путей передачи данных – вот

00:05:20.880 --> 00:05:24.580
что такое лидерство сегодня. Контроль замыкает цикл управления. Думайте об этом не как

00:05:24.580 --> 00:05:29.080
об устаревшем микроменеджменте, а как о контроле доступа. Бабак Хаджат называет это знанием

00:05:29.080 --> 00:05:33.220
границ доверия. Когда вы предоставляете агенту право и доступ к инструментам, вы все равно несете

00:05:33.220 --> 00:05:37.380
ответственность за результат. Менеджеры должны заранее решить, какой объем полномочий допустим,

00:05:37.580 --> 00:05:41.780
и установить ограничители. Такой контроль часто означает необходимость одобрения человеком,

00:05:41.900 --> 00:05:46.280
прежде чем агент внесет рискованные изменения, например, отправит данные вовне или изменит

00:05:46.280 --> 00:05:50.280
записи в ключевых системах. А вот и неприятный нюанс. Ваша репутация как менеджера теперь

00:05:50.280 --> 00:05:54.060
зависит от того, насколько хорошо вы балансируете между людьми и цифровыми коллегами. Слишком много

00:05:54.060 --> 00:05:58.740
контроля, и вы подавляете все преимущества. Слишком мало контроля, и вас застанут врасплох ошибки,

00:05:58.880 --> 00:06:02.860
которых вы даже не видели. Сложность не в выборе одного стиля лидерства, а в совмещении

00:06:02.860 --> 00:06:07.520
обоих. Людям нужны мотивация и эмпатия. Агентам нужны строгие границы и постоянная

00:06:07.520 --> 00:06:11.100
калибровка. Обеспечение их слаженной работы, чтобы они не мешали процессам друг друга,

00:06:11.280 --> 00:06:15.080
становится вашим ежедневным управленческим навыком. Представьте свою роль как роль дирижера,

00:06:15.280 --> 00:06:18.960
не в смысле HR, а буквально задающего ритм двум разным секциям оркестра.

00:06:19.100 --> 00:06:23.480
Сотрудники-люди привносят креативность и эмпатию. И агенты дают скорость и масштаб,

00:06:23.480 --> 00:06:28.040
но если ими никто не руководит, возникает разлад. Лучших лидеров будущего будут оценивать не только

00:06:28.040 --> 00:06:32.220
по моральному духу команды, но и потому, работают ли люди и цифровые сотрудники в тандеме,

00:06:32.340 --> 00:06:35.740
не допуская утечек данных и искажений в принятии решений. В худшем случае,

00:06:35.960 --> 00:06:39.740
несогласованность здесь не просто ломает рабочий процесс, а приводит к расследованию на предмет

00:06:39.740 --> 00:06:44.860
комплаенса. Итак, вывод прост. Название вашей должности не изменилось, но содержание вашей работы – да.

00:06:45.000 --> 00:06:48.080
Вы больше не просто управляете людьми, вы управляете помощниками-операторами,

00:06:48.080 --> 00:06:52.320
встроенными в каждую используемую вами систему. Это требует новых навыков, составления точных

00:06:52.320 --> 00:06:56.100
промптов, проверки инструкции на непредвиденные последствия, подтверждения результатов

00:06:56.100 --> 00:07:00.560
по надежным источникам и обеспечения контроля со стороны человека. Успех в этом деле отличает

00:07:00.560 --> 00:07:06.080
уважаемых менеджеров будущего от тех, кого тихо отправят на досрочную пенсию. И поскольку теория – это

00:07:06.080 --> 00:07:11.300
хорошо, а практика – лучше. Вот вам задача на один день. Откройте настройки вашего капилота или

00:07:11.300 --> 00:07:15.440
агента и посмотрите, где находятся функции одобрения действий человеком или элементы контроля.

00:07:15.440 --> 00:07:18.940
И если вы не можете их найти, сам этот пробел уже является результатом. Это значит,

00:07:19.120 --> 00:07:22.820
что вы еще не знаете, как остановить вышедший из-под контроля процесс. Если управление людьми

00:07:22.820 --> 00:07:27.380
всегда начиналось с анбординга, логично спросить, как выглядит анбординг для и-агента. Каждый агент,

00:07:27.480 --> 00:07:32.120
которого вы внедряете, поставляется со своим стартовым набором. И содержимое этого набора – память,

00:07:32.260 --> 00:07:37.260
права доступа и инструменты – определяет, сделает ли ваш новый цифровой коллега вас героем или заставит

00:07:37.260 --> 00:07:41.620
потратить выходные на устранение ущерба. Три элемента, которые нужны каждому агенту.

00:07:41.620 --> 00:07:47.780
Если разобрать, что именно движет агентом, Microsoft и BCG называют это стартовым набором из трех основ – память,

00:07:47.960 --> 00:07:52.320
право доступа и инструменты. Упустите хоть один, и вместо цифрового коллеги, которому можно доверять,

00:07:52.320 --> 00:07:56.760
вы получите недоработанного бота, блуждающего по вашей среде. Ошибитесь с ними, и вы обречете себя

00:07:56.760 --> 00:08:00.860
на работу по очистке последствий, на которую не рассчитывали. Во-первых, память – это то,

00:08:00.980 --> 00:08:04.440
что позволяет агентам связывать задачи воедино, а не начинать все с нуля каждый раз,

00:08:04.560 --> 00:08:08.500
как золотая рыбка за клавиатурой. Благодаря памяти агент может переносить ваши предпочтения

00:08:08.500 --> 00:08:13.620
всегда делать графики синими из одного отчета в другой. Плюс – это непрерывность. Минус – это устойчивость

00:08:13.620 --> 00:08:17.680
данных. Ошибки и неверные указания переносятся вперед так же легко, как и полезный контекст.

00:08:17.680 --> 00:08:21.900
Microsoft подчеркивает это в своей работе с фрагментацией и цепочками данных. Агенты сохраняют

00:08:21.900 --> 00:08:26.780
фрагменты взаимодействия для построения общей нити. Но PwC предупреждает, что такая устойчивость

00:08:26.780 --> 00:08:30.760
также несет риски для конфиденциальности, так как чувствительные данные могут задерживаться

00:08:30.760 --> 00:08:34.780
дольше, чем нужно. При неудачном стечении обстоятельств вы получите неполезного помощника,

00:08:34.960 --> 00:08:39.600
а того, кто бесконечно повторяет вашу худшую опечатку. Далее – права доступа. Представьте их как

00:08:39.600 --> 00:08:44.340
пропуск для агента. С людьми вы не даете каждому мастер-ключ от штаб-квартиры, вы ограничиваете доступ

00:08:44.340 --> 00:08:48.500
по ролям. То же самое правило применимо и здесь. Если вы слишком ограничите права, агент будет

00:08:48.500 --> 00:08:52.100
постоянно натыкаться на закрытые двери и докучать вам запросами разрешений. Если предоставите

00:08:52.100 --> 00:08:55.820
слишком много, вы фактически передадите свою HR-систему и финансовые записи тому, что не понимает

00:08:55.820 --> 00:09:00.040
принципов комплайенса. Рекомендация PwC здесь предельно прямолинейна. Используйте контроль доступа

00:09:00.040 --> 00:09:03.780
на основе ролей RBC, внедряйте многофакторную аутентификацию для важных действий и защищайте

00:09:03.780 --> 00:09:07.640
чувствительные области средствами предотвращения утечки данных. Например, если агенту нужно выполнить

00:09:07.640 --> 00:09:12.420
веб-запрос, PwC рекомендует пропускать его через прокси с политикой DLP, чтобы данные клиентов не

00:09:12.420 --> 00:09:16.660
попали в поисковую выдачу. При удачном стечении обстоятельств RBC и MFA удерживают его в рамках

00:09:16.660 --> 00:09:20.240
дозволенного. При неудачном, избыточные привилегии превращают его в самого быстрого в мире

00:09:20.240 --> 00:09:24.660
случайного инсайдера. Далее, инструменты. Это приложения, API и коннекторы, которые агенты

00:09:24.660 --> 00:09:28.720
используют для выполнения задач. Без инструментов они просто смотрят в пустоту. С неправильными

00:09:28.720 --> 00:09:32.720
инструментами они приносят больше вреда, чем пользы. Это как дать стажеру в первый же день право

00:09:32.720 --> 00:09:36.520
доступа к продакшену вместо безопасной панели отчетов. Инструменты определяют область,

00:09:36.700 --> 00:09:39.980
к которой агент может прикоснуться. Microsoft создает здесь защитные барьеры,

00:09:40.100 --> 00:09:43.860
помещая коннектор Экопайлот в каналы управления, а не просто предоставляя агенту прямой доступ.

00:09:44.060 --> 00:09:47.800
Лучшая практика остается прежней. Ограничивайте область действия, проверяйте настройки по умолчанию

00:09:47.800 --> 00:09:51.440
и связывайте внешние инструменты с лагированием и DLP. Держите набор инструментов под контролем,

00:09:51.560 --> 00:09:54.960
иначе вы построите неуправляемую машину Руба Голдберга, которая будет крепить детали к системам,

00:09:54.960 --> 00:09:59.020
которым ей нельзя прикасаться. Здесь поможет простая мнемоника. Память – это опыт, то,

00:09:59.180 --> 00:10:03.320
что сотрудник уже помнит. Права доступа – это пропуск, определяющий, куда можно зайти.

00:10:03.520 --> 00:10:07.180
Инструменты – это ноутбук и лицензионная па – то, чем они реально пользуются. Коротко,

00:10:07.340 --> 00:10:10.760
но запоминается. Параллель с адаптацией человека понятна, но с агентами ставки выше,

00:10:10.920 --> 00:10:14.820
процессы быстрее, менее заметны и их сложнее проверить постфактум. Баланс имеет значение.

00:10:15.160 --> 00:10:18.540
Сбалансированная память дает преемственность без бесконечного сохранения личных данных.

00:10:18.760 --> 00:10:22.800
Ограниченные права дают ровно столько ключей для работы, чтобы не открывать сейф целиком.

00:10:22.800 --> 00:10:27.940
Выверенные инструменты повышают продуктивность, не расширяя зону поражения. Избыток любого из

00:10:27.940 --> 00:10:31.980
этих компонентов мгновенно превращает пользу в риск. И, как и в реальной жизни,

00:10:32.220 --> 00:10:36.780
вам не уйти от ответственности. Руководство Microsoft по-ответственному и напоминает – агенты

00:10:36.780 --> 00:10:40.920
повышают планку. Меньше терпимости к ошибкам, строже прозрачность, четче контроль.

00:10:41.020 --> 00:10:44.540
Вам все равно придется отвечать, если из-за неверных прав или доступа к инструменту произойдет

00:10:44.540 --> 00:10:48.160
утечка отчета. При удачном стечении обстоятельств память обеспечивает более умный контекст.

00:10:48.300 --> 00:10:52.060
Права доступа точно соответствуют политике, а инструменты открывают только безопасные действия.

00:10:52.060 --> 00:10:56.420
При неудачном агент помнит плохие инструкции, имеет слишком много ключей и с полной уверенностью

00:10:56.420 --> 00:11:00.300
использует не тот коннектор. Это не вопрос, если это кривая риска, по которой вы идете.

00:11:00.440 --> 00:11:04.060
И вот что упускает большинство людей. Даже если вы правильно настроили стартовый набор,

00:11:04.180 --> 00:11:08.560
вы еще не в безопасности. Эти три элемента также открывают путь к более тихой и тонкой угрозе.

00:11:08.680 --> 00:11:14.040
В итоге агент знает о своих действиях больше, чем вы сами. И когда вы не видите логику его решений,

00:11:14.280 --> 00:11:17.860
у вас под носом незаметно возникает новая управленческая проблема.

00:11:17.860 --> 00:11:23.780
Невидимая проблема – асимметрия информации. Бывало ли, что сотрудник подает вам работу со словами

00:11:23.780 --> 00:11:28.540
«Не волнуйтесь, я все сделал». А теперь представьте, что это говорит и агент. Только вы не можете

00:11:28.540 --> 00:11:33.100
задать уточняющие вопросы и заглянуть в ход его мыслей. Вы получаете безупречный результат,

00:11:33.400 --> 00:11:38.220
но путь принятия решения остается скрытым. Это и есть невидимая головная боль – асимметрия

00:11:38.220 --> 00:11:42.280
информации. Агенты обладают большими данными и вычислительной мощностью, чем вы,

00:11:42.280 --> 00:11:46.320
но ответственность за результат несете именно вы. California Management Review называет это

00:11:46.320 --> 00:11:50.920
классической проблемой «Принципал-агент». У системы есть скрытая информация, которую вы не видите,

00:11:51.180 --> 00:11:55.820
а ответственность ложится на ваши плечи. Это как если бы ваш цифровой коллега бросал кости за экраном

00:11:55.820 --> 00:12:00.800
и показывал вам только итоговое число, скрывая все промежуточные модификаторы. И проблема не дает

00:12:00.800 --> 00:12:06.640
о себе знать сразу. Агенты выдают результат уверенно, без оговорок, не показывая швы своей работы.

00:12:06.820 --> 00:12:11.800
В итоге вы смотрите на готовый отчет и гадаете, надежен ли он или в нем скрыта ошибка.

00:12:11.800 --> 00:12:17.220
К тому времени, как вы разберетесь, другие отделы могут уже начать работу на основе этой ошибки.

00:12:17.400 --> 00:12:22.820
Возьмем частый случай. Агент ошибочно помечает счет по важному контракту как маловажный.

00:12:23.080 --> 00:12:27.920
Внешний отчет выглядит безупречно. Никаких тревожных сигналов. Спустя месяц и отдел контроля

00:12:27.920 --> 00:12:32.120
находит просроченные платежи. Вы очлеживаете проблему и находите эту ошибку классификации в самом

00:12:32.120 --> 00:12:36.980
начале. Вот как работает асимметрия информации. Агент знал, что сделал, но у вас не было доступа к его

00:12:36.980 --> 00:12:41.520
логике. PwC подчеркивает именно этот сценарий в своих рекомендациях по предотвращению утечек.

00:12:41.620 --> 00:12:47.240
Такие меры, как контроль доступа, проверки классификации и пороги эскалации, не дают мелкой

00:12:47.240 --> 00:12:52.280
ошибке превратиться в крупный штраф. Эта динамика прямо относится к проблеме принципал-агент.

00:12:52.440 --> 00:12:57.240
Вы, как принципал, ставите задачу организовать счета поставщиков. Агент оптимизирует процесс

00:12:57.240 --> 00:13:02.600
под буквальное исполнение, классифицировать и подшить. Он не видит общую цель, не понимает нюансов и уж точно

00:13:02.600 --> 00:13:06.940
не оценивает стратегические последствия. То, что кажется саботажем, часто является лишь слепой верностью

00:13:06.940 --> 00:13:10.780
слишком буквально понятым инструкциям. А теперь добавьте сюда зону моральной ответственности.

00:13:10.940 --> 00:13:15.380
Когда что-то идет не так, вся ответственность перекладывается на вас. Аудиторы не винят алгоритм,

00:13:15.540 --> 00:13:19.800
они спрашивают, почему вы этого не заметили. Машина снимает с себя ответственность,

00:13:19.940 --> 00:13:24.840
а человек принимает удар по репутации. Это похоже на то, как если бы вы были подушкой безопасности в аварии.

00:13:24.980 --> 00:13:28.800
Вы принимаете удар на себя, в то время как настоящий виновник продолжает свой путь, ничего не замечая.

00:13:28.800 --> 00:13:33.460
Так что же делать? Вы не можете волшебным образом заглянуть в нейронную логику генеративной модели,

00:13:33.600 --> 00:13:38.160
но можете обеспечить видимость на периферии. Шаг первый. Требуйте подробные журналы и истории

00:13:38.160 --> 00:13:41.680
происхождения данных. Не иллюзию внутренних размышлений, а конкретную запись того,

00:13:41.900 --> 00:13:45.360
каким данным был получен доступ, какие действия были запущены и в каком порядке.

00:13:45.500 --> 00:13:49.620
Шаг второй. Внедрите панели мониторинга прозрачности. Они отображают ключевые переменные

00:13:49.620 --> 00:13:53.900
принятия решений, кто, что и когда, чтобы вы могли хотя бы увидеть контуры того, как формировался результат.

00:13:54.100 --> 00:13:57.940
Шаг третий. Требуйте обоснований простым языком для действия с серьезными последствиями.

00:13:57.940 --> 00:14:02.380
CMR подчеркивает это в таких контекстах, как на имперсонала. Принуждение агентов предоставлять

00:14:02.380 --> 00:14:05.900
понятные человеку критерии для каждого решения создает уровень объяснимости. Шаг четвертый.

00:14:05.980 --> 00:14:09.540
Проводите красные команды Red Timing для ваших агентов. Подбрасывайте им странные тестовые примеры,

00:14:09.680 --> 00:14:13.180
специально ломайте их и фиксируйте все слабые места. Если вы сами не проверите эти ошибки,

00:14:13.340 --> 00:14:17.880
они проявятся тогда, когда ставки будут гораздо выше. Каждая из этих мер не решает проблему асимметрии

00:14:17.880 --> 00:14:22.000
полностью, но вместе они рассеивают туман. Журналы аудита дают возможность реконструкции,

00:14:22.200 --> 00:14:25.120
панели управления обеспечивают ситуационную осведомленность, а обязательные

00:14:25.120 --> 00:14:28.740
обоснования закрепляют решения в языке, которые вы можете оценить. Тестирование красными

00:14:28.740 --> 00:14:31.920
командами выявляет слепые зоны раньше, чем это сделают клиенты или регуляторы.

00:14:32.040 --> 00:14:35.680
И, как подчеркивает Microsoft, внедрение утверждения человеком в контурных этапах

00:14:35.680 --> 00:14:39.380
эскалации гарантирует, что самые рискованные решения будут проверены специалистам перед

00:14:39.380 --> 00:14:43.340
исполнением. Смысл не в том, чтобы гнаться за идеальной прозрачностью, ведь генеративное мышление

00:14:43.340 --> 00:14:47.300
всегда будет частично непрозрачным. Смысл в том, чтобы иметь достаточно поверхностных данных для

00:14:47.300 --> 00:14:50.580
отслеживания паттернов, обнаружения аномалий и обеспечения подотчетности до того,

00:14:50.580 --> 00:14:54.500
как проблемы станут неуправляемыми. Без этих мер вы в итоге отвечаете за невидимые решения,

00:14:54.660 --> 00:14:58.640
которые никогда не одобряли, пока ваши агенты продолжают выдавать результаты на высокой скорости,

00:14:58.820 --> 00:15:02.920
что подводит нас к реальному выбору, который стоит перед вами. Вы можете либо оставить эти системы

00:15:02.920 --> 00:15:07.080
без контроля и надеяться, что ничего не сгорит, либо начать относиться к их поведению как в групповой

00:15:07.080 --> 00:15:11.640
политике, с правилами, лимитами и эскалацией, встроенными с первого дня. Потому что, если пропустить

00:15:11.640 --> 00:15:15.700
уровень управления, хаос не просто случится когда-нибудь потом. Он наступит в первый же момент,

00:15:15.940 --> 00:15:19.180
когда ваш цифровой коллега отправится выполнять задачу, которую вы не одобряли.

00:15:19.180 --> 00:15:23.620
Предотвращение агентагидона. Предотвращение того, что я называю агентагидоном,

00:15:23.760 --> 00:15:27.840
это не паранойя. Это настройка механизмов, которые не дадут вашему парку и превратиться в

00:15:27.840 --> 00:15:32.200
источник опасности. Это тактический уровень, где встречаются управления, риски и инфраструктура.

00:15:32.360 --> 00:15:36.340
PWC излагает это предельно ясно. Если вы хотите, чтобы агенты масштабировались,

00:15:36.520 --> 00:15:39.780
не разрушая вашу среду, вам нужны пять быстрых тактик. Адаптируйте управление,

00:15:39.780 --> 00:15:43.460
обновите систему оценки рисков, создайте инфраструктуру, внедрите тестирование и мониторинг,

00:15:43.480 --> 00:15:46.860
и всегда оставляйте человека в контуре принятия критических решений. Начните с управления.

00:15:46.860 --> 00:15:49.640
Текущие программы ответственного использования и создавались для моделей,

00:15:49.840 --> 00:15:52.940
а не для автономных агентов. Вам необходимо адаптировать надзор так, чтобы комитеты по рискам

00:15:52.940 --> 00:15:56.460
на уровне совета директоров четко учитывали риски от и-агентов. В агентов должны быть встроены

00:15:56.460 --> 00:16:00.620
правила эскалации. Когда ставки достигают определенного уровня, работа приостанавливается

00:16:00.620 --> 00:16:04.540
до одобрения человеком. Представьте это как дерево эскалации в вашей системе поддержки.

00:16:04.660 --> 00:16:08.540
При штатной ситуации агент может закрывать тикеты весь день напролет. При возникновении проблем

00:16:08.540 --> 00:16:11.480
он должен мгновенно остановиться и запросить подтверждение, прежде чем затрагивать

00:16:11.480 --> 00:16:14.840
зарплатные ведомости или важные внешние коммуникации. Регуляторные инициативы,

00:16:15.020 --> 00:16:19.060
такие как Акт ЕСАБИ, лишь усиливают эту потребность. Они формализуют требования к тому,

00:16:19.260 --> 00:16:23.200
что надзор должен быть доказуемым, а вы должны документировать, кто, что и когда одобрил.

00:16:23.340 --> 00:16:27.240
Затем управление рисками. Агенты различаются по уровню риска, поэтому ранжируйте их так же,

00:16:27.360 --> 00:16:30.540
как вы ранжируете системы. Низкорисковые боты, работающие в узких сегментах,

00:16:30.680 --> 00:16:34.380
могут действовать быстро. Агенты с высокой автономией, работающие с данными клиентов или финансовыми

00:16:34.380 --> 00:16:38.160
записями, требуют более тщательной проверки. Здесь прагматична методология PwC.

00:16:38.160 --> 00:16:41.480
Очлеживайте использование, соизмерите автономию с потенциальным воздействием и проводите

00:16:41.480 --> 00:16:44.400
высокоуровневых агентов через более строгие циклы согласования и тестирования.

00:16:44.540 --> 00:16:48.660
Если бот создает календарные напоминания, достаточно минимального надзора. Если бот отправляет

00:16:48.660 --> 00:16:52.060
платежи контрагентам, это должно сопровождаться красными флажками и логированием, которое выдержит

00:16:52.060 --> 00:16:55.980
аудит. Инфраструктура — следующий блок. Эти инструменты не появляются из ниоткуда.

00:16:56.180 --> 00:17:01.820
Вам нужен RBA для ограничения доступа агентов, MFA при повышении привилегий, DLP для предотвращения

00:17:01.820 --> 00:17:06.040
утечек и анонимизация, чтобы логи не содержали персональные данные пользователей.

00:17:06.040 --> 00:17:09.240
Относитесь к каждой учетной записи агента как к учетной записи человека.

00:17:09.380 --> 00:17:11.880
Принцип минимальных привилегий с регистрацией и проверкой.

00:17:12.020 --> 00:17:14.680
Предоставление агенту неограниченных прав для ускорения тестирования — это

00:17:14.680 --> 00:17:17.680
автоматизированный эквивалент выдачи прав администратора домена временному сотруднику.

00:17:17.800 --> 00:17:20.840
Это не инновация, это заявка на инцидент безопасности, которая ждет своего часа.

00:17:20.920 --> 00:17:24.520
Теперь тестирование и мониторинг. Исходите из того, что результат рано или поздно окажется ошибочным.

00:17:24.520 --> 00:17:26.860
Ваша задача — обнаружить ошибку до того, как она нанесет ущерб.

00:17:26.960 --> 00:17:30.820
Это означает использование детекторов аномалий в реальном времени для фиксации странных отклонений в поведении.

00:17:30.980 --> 00:17:33.720
Это означает RedTiming для ваших агентов, а не только для Firewall.

00:17:33.880 --> 00:17:36.960
Используйте необычные входные данные, чтобы найти уязвимости, пока ставки невелики.

00:17:37.100 --> 00:17:38.620
Постоянный мониторинг также важен.

00:17:38.780 --> 00:17:42.880
Логи доступа к данным, предпринятых действий и частоты высокорисковых операций должны регулярно проверяться.

00:17:43.040 --> 00:17:47.740
PwC и Microsoft подчеркивают журналы аудита и регулярные проверки — это ваша машина времени.

00:17:47.740 --> 00:17:50.440
Без них вы слепы к тому, что на самом деле сделал агент.

00:17:50.560 --> 00:17:53.360
И пятая тактика — надзор со стороны человека остается необходимым всегда.

00:17:53.560 --> 00:17:57.620
Даже при самой совершенной оркестрации и защитных механизмах критические решения требуют участия человека.

00:17:57.820 --> 00:17:59.480
Установите четкие пороговые значения.

00:18:00.820 --> 00:18:10.780
Система Копайлот от Microsoft имеет встроенный подобный подход.

00:18:10.920 --> 00:18:14.440
И может составить черновик письма, но кнопку «Отправить» нажимает человек.

00:18:14.440 --> 00:18:18.640
Этот финальный штрих — предохранитель между продуктивностью и рисками нарушения нормативных требований.

00:18:18.760 --> 00:18:21.300
При масштабировании агентов это превращается в оркестрацию.

00:18:21.460 --> 00:18:22.540
Один бот — это просто.

00:18:22.740 --> 00:18:27.040
Раи могут привести к неожиданным странностям, повторяя друг друга или попадая в бесконечные циклы.

00:18:27.200 --> 00:18:30.560
Беспорядка — это похоже на немодерируемую ветку вслеп, вышедшую из-под контроля.

00:18:30.820 --> 00:18:35.040
Противоядие — это оркестратор, будь то координирующий агент или центральная группа проверки людьми.

00:18:35.160 --> 00:18:38.300
Представьте это как дирижера, который не дает инструментам фальшивить.

00:18:38.440 --> 00:18:44.480
Один практический шаг для начала — используйте подтерн с одним оркестратором, прежде чем открывать шлюзы для мультиагентных райов.

00:18:44.600 --> 00:18:51.220
Этот уровень может координировать специалистов, подавлять циклы обратной связи и выравнивать их с бизнес-целями, не позволяя им импровизировать свои правила.

00:18:51.400 --> 00:18:54.380
Ни один из этих элементов контроля не существует для того, чтобы вас замедлить.

00:18:54.380 --> 00:18:57.220
При правильном подходе именно они позволяют вам безопасно масштабироваться.

00:18:57.340 --> 00:19:00.380
PwC, BCG, McKinsey — все они сходятся в одном.

00:19:00.580 --> 00:19:03.500
Управляемые и оркестрованные агенты становятся множителем силы.

00:19:03.620 --> 00:19:09.540
Они устраняют рутину, связывают разрозненные отделы и позволяют вашей команде сосредоточиться на более ценных стратегических задачах.

00:19:09.620 --> 00:19:14.580
При идеальном раскладе это означает большую пропускную способность, меньше ручного труда и соблюдение требований, встроенная в процесс.

00:19:14.880 --> 00:19:20.220
Предотвращение ошибок агентов — это не паранойя, а установка ограждений, чтобы получить реальную выгоду без худших последствий.

00:19:20.380 --> 00:19:23.780
Контролируйте право доступа к памяти и инструментам, и вы снизите скрытые риски.

00:19:23.980 --> 00:19:29.220
Адаптируйте управление, контроль рисков, инфраструктуру, мониторинг и надзор, чтобы сохранить прозрачность управления.

00:19:29.440 --> 00:19:34.300
Сделайте все это, и то, что казалось хаосом, станет фундаментом для более быстрой, дешевой и соответствующей стандартам работы.

00:19:34.420 --> 00:19:37.260
И в конечном счете, эта ответственность возвращается к вам.

00:19:37.400 --> 00:19:40.820
Это не безликие инструменты, а коллеги без личных дел в отделе кадров.

00:19:40.820 --> 00:19:50.060
А значит, настоящее испытание не в том, заменят ли вас агенты, а в том, сможете ли вы направлять их автономность с тем же надзором, что и у людей, не допуская нарушения баланса стимулов.

00:19:50.180 --> 00:19:51.800
Итак, вот заключительная мысль.

00:19:51.960 --> 00:19:54.820
Агенты не заменяют менеджеров, они заставляют вас совершенствовать самоуправление.

00:19:55.600 --> 00:19:58.880
Исследования ясны, это просто проблема принципала агента в худе.

00:19:59.000 --> 00:20:00.760
У них данные, у вас ответственность.

00:20:00.920 --> 00:20:04.520
И единственное реальное решение — это управляемая автономия плюс постоянный надзор.

00:20:04.680 --> 00:20:06.060
Вот ваши первые три шага.

00:20:06.060 --> 00:20:15.000
Проведите инвентаризацию агентов, классифицируйте их по риску и автономности, установите пороги эскалации для обязательного участия человека и проведите один тест на критическом агенте.

00:20:15.120 --> 00:20:16.340
Это ваш стартовый квест.

00:20:16.480 --> 00:20:20.800
Если этот чек-лист был полезен, подпишитесь и напишите в комментариях, какого агента вы проверите первым.

00:20:20.920 --> 00:20:23.880
При выпадении естественной двадцатки вы предотвратите хаос еще до его появления.

00:20:24.040 --> 00:20:27.140
При выпадении единицы, что ж, по крайней мере вы будете знать, где начался пожар.

00:20:27.140 --> 00:20:57.120
Спасибо за субтитры Алексею Дубровскому!