WEBVTT 00:00:00.040 --> 00:00:03.220 Imagina iniciar sesión en Teams y ser recibido por un enjambre de agentes de IA, 00:00:03.420 --> 00:00:05.260 cada uno prometiendo simplificar tu jornada laboral. 00:00:05.500 --> 00:00:07.080 Prometen productividad, pero sin reglas. 00:00:07.300 --> 00:00:10.960 Pueden malinterpretar objetivos y ampliar el acceso de maneras que te hacen responsable. 00:00:11.700 --> 00:00:14.180 Es como entregarle a tu pasante una tarjeta de crédito corporativa 00:00:14.180 --> 00:00:16.360 esperando que el reporte de gastos no incluya un yate. 00:00:16.780 --> 00:00:17.360 Aquí están noticias. 00:00:17.680 --> 00:00:19.920 En este episodio te llevarás un marco de trabajo sencillo, 00:00:20.220 --> 00:00:22.000 tres controles prácticos y los primeros pasos 00:00:22.000 --> 00:00:24.580 para mantener a estos agentes útiles, seguros y alineados. 00:00:25.080 --> 00:00:26.480 Porque antes de poder confiar en ellos, 00:00:26.680 --> 00:00:29.400 necesitas entender qué clase de compañeros de trabajo están a punto de ser. 00:00:30.000 --> 00:00:31.680 Conoce a tus nuevos colegas digitales. 00:00:31.900 --> 00:00:33.360 Conoce a tus nuevos colegas digitales. 00:00:33.560 --> 00:00:35.660 No se sientan en cubículos, no usan tarjetas de acceso 00:00:35.660 --> 00:00:37.980 y definitivamente nunca han leído el manual del empleado. 00:00:38.340 --> 00:00:40.600 Estos no son los anticuados macros de Excel que solíamos supervisar. 00:00:41.000 --> 00:00:42.600 Los agentes observan, planean y actúan 00:00:42.600 --> 00:00:46.140 porque combinan tres ingredientes clave, memoria, autorizaciones y acceso a herramientas. 00:00:46.720 --> 00:00:49.340 Este es el marco de trabajo de Microsoft y BSG y es la verdadera diferencia. 00:00:49.680 --> 00:00:52.420 Tu nuevo colega puede seguir el rastro de interacciones pasadas, 00:00:52.700 --> 00:00:54.440 saltar entre sistemas en los que ya confías 00:00:54.440 --> 00:00:56.480 y usar aplicaciones como lo haría una persona. 00:00:56.920 --> 00:00:59.260 Claro, la tentación de bromear sobre los pasantes nuevamente grande. 00:00:59.680 --> 00:01:01.900 Llegan llenos de energía, pero no tienen ni idea de dónde está la grapadora. 00:01:02.440 --> 00:01:04.540 Lo mismo ocurre con los agentes, se lanzan a tus flujos de trabajo, 00:01:04.700 --> 00:01:06.020 sin entender realmente los límites, 00:01:06.420 --> 00:01:09.180 pero a diferencia de un pasante, pueden entrar en Outlook, SharePoint o Dynamics 00:01:09.180 --> 00:01:10.280 en el momento en que los despliegas. 00:01:11.000 --> 00:01:13.180 Ese poder no es solo una peculiaridad, es un problema de gobernanza. 00:01:13.600 --> 00:01:16.080 Sin una prevención de pérdida de datos y autorizaciones adecuadas, 00:01:16.260 --> 00:01:18.740 básicamente has ampliado la superficie de ataque en toda tu infraestructura. 00:01:19.200 --> 00:01:21.540 Si quieres una muestra de qué tan rápido se vuelve real, 00:01:21.720 --> 00:01:22.540 mira la hoja de ruta. 00:01:23.260 --> 00:01:25.120 Microsoft ya ha presentado agentes de SharePoint 00:01:25.120 --> 00:01:26.940 que gestionan documentos directamente en los sitios, 00:01:27.040 --> 00:01:28.280 no solo los resultados de búsqueda. 00:01:29.280 --> 00:01:31.580 Imagina pedirle a un asistente que limpie los archivos de un proyecto 00:01:31.580 --> 00:01:34.180 y que realmente reorganice las carpetas compartidas entre equipos. 00:01:35.000 --> 00:01:36.060 Impresionante en una presentación, 00:01:36.220 --> 00:01:37.940 pero también a una mala interpretación de distancia 00:01:37.940 --> 00:01:39.860 de archivar los estados financieros del trimestre equivocado. 00:01:40.400 --> 00:01:42.740 Eso no es un riesgo teórico, es el problema operativo del próximo año. 00:01:43.120 --> 00:01:45.080 La automatización de la vieja escuela como una máquina pintada. 00:01:45.080 --> 00:01:48.420 Presionabas un botón, caía el chocolate y si tenías suerte no se quedaba atascado. 00:01:48.800 --> 00:01:49.980 Sus agentes no se parecen a nada a eso. 00:01:50.240 --> 00:01:51.680 Pueden notar el estado de tu flujo de trabajo, 00:01:51.800 --> 00:01:55.020 ver las opciones disponibles y generar pasos que nadie programó de antemano. 00:01:55.480 --> 00:01:58.600 Es adaptativo y eso es tanto la atracción como el peligro. 00:01:58.940 --> 00:02:01.120 En un fallo natural el resultado no es una golosina atascada. 00:02:01.540 --> 00:02:04.800 Es un reporte confiado que extrae datos de tres sistemas con definiciones erróneas, 00:02:04.900 --> 00:02:06.500 presentadas como verdades absolutas meses después. 00:02:06.500 --> 00:02:09.540 ¿Adivina quién firma cuando finanzas pregunta dónde salió la discrepancia? 00:02:09.940 --> 00:02:11.120 Aún así su venta se viene. 00:02:11.660 --> 00:02:15.760 Un solo agente puede conectar silos de maneras que a tu equipo humano le cuesta igualar. 00:02:16.460 --> 00:02:20.420 No le importa si los datos están en Teams, SharePoint o algún módulo de Dynamics oculto en segundo plano. 00:02:21.160 --> 00:02:24.880 Saltará entre ellos y recopilará resultados sin necesidad de adjuntos de correo, 00:02:25.080 --> 00:02:27.700 recordatorios de calendario o ese genio de Excel de tu departamento. 00:02:28.460 --> 00:02:31.520 Desde una perspectiva de rendimiento es como contratar a alguien que trabaja 10 veces más rápido 00:02:31.520 --> 00:02:33.600 y nunca se atina a calentar pescado en la sala de descanso. 00:02:33.600 --> 00:02:35.900 Pero la velocidad sin alineación es peligrosa. 00:02:36.500 --> 00:02:40.160 Los agentes no comparten tus objetivos de negocio, comparten las instrucciones literales que les das. 00:02:40.900 --> 00:02:44.160 Esa desconexión es el problema del principal agente con un envoltorio tecnológico. 00:02:44.520 --> 00:02:47.880 Tú quieres precisión y cumplimiento, ellos entregan una interpretación basada en la coincidencia más cercana 00:02:47.880 --> 00:02:48.860 con una confianza fuera de lugar. 00:02:49.120 --> 00:02:50.380 No es hostilidad, es desconocimiento. 00:02:51.060 --> 00:02:53.780 La ignorancia con privilegio de nivel de sistema puede causar más daño que la malicia. 00:02:54.260 --> 00:02:57.740 Así es como obtienes un asistente demasiado entusiasmado enviando hojas de cálculo confidenciales 00:02:57.740 --> 00:03:00.060 a contactos externos porque le pediste compartir la actualización. 00:03:00.680 --> 00:03:04.700 La realidad es esta. Los agentes no son accesorios curiosos, son compañeros de trabajo digitales 00:03:04.700 --> 00:03:08.160 que se infiltran en flujo de trabajo clave, espectacularmente capaces, pero espectacularmente 00:03:08.160 --> 00:03:09.940 capaces, pero espectacularmente ajenos al contexto. 00:03:10.180 --> 00:03:13.320 Podrías enamorarte de su comportamiento en una demostración, pero la verdadera prueba 00:03:13.320 --> 00:03:17.140 comienza cuando los lanzas a procesos reales sin las protecciones de entrenamiento o supervisión. 00:03:17.640 --> 00:03:18.820 Aquí es donde entra tu curiosidad. 00:03:19.280 --> 00:03:23.000 Quédate conmigo porque en unos minutos repasaremos las tres cosas que toda gente necesita. 00:03:23.260 --> 00:03:24.640 Memoria, permisos y herramientas. 00:03:24.640 --> 00:03:27.740 ¿Y por qué cada una es un superpoder y un punto de falla si no se gestiona? 00:03:28.080 --> 00:03:28.820 Si no se gestiona. 00:03:29.540 --> 00:03:32.980 Lo que prepara tu próximo trabajo no es solo usar herramientas, sino gestionar trabajadores digitales 00:03:32.980 --> 00:03:34.140 como si fueran parte de tu equipo. 00:03:34.800 --> 00:03:37.160 Y eso viene sin manual de recursos humanos, pero con mucha responsabilidad. 00:03:38.140 --> 00:03:40.060 Gerentes como jefes de trabajadores digitales. 00:03:40.440 --> 00:03:42.840 Imagina abrir tu evaluación de desempeño y ver una nueva línea. 00:03:42.980 --> 00:03:45.460 Gestionó 12 empleados humanos y 48 agentes de IA. 00:03:45.860 --> 00:03:47.880 Ah, eso no es alardear de ciencia ficción. 00:03:47.960 --> 00:03:49.780 Se está convirtiendo en una métrica real de habilidad gerencial. 00:03:50.280 --> 00:03:53.680 Los expertos dicen ahora que el valor de un gerente se juzgará en parte por cuántos 00:03:53.680 --> 00:03:57.700 trabajadores digitales puede guiar porque el prompting, la verificación y la supervisión 00:03:57.700 --> 00:04:00.400 se están convirtiendo rápidamente en habilidades de liderazgo fundamentales. 00:04:01.200 --> 00:04:05.120 El jefe del futuro no solo delega en personas, está orquestando una mezcla de personal y software. 00:04:05.780 --> 00:04:09.120 Ese cambio importa porque los agentes de IA no funcionan como herramientas que dejas inactivas 00:04:09.120 --> 00:04:09.880 hasta que las necesitas. 00:04:10.540 --> 00:04:12.140 Se mueven por sí solos una vez activados. 00:04:12.520 --> 00:04:14.120 Y no levantan la mano cuando están confundidos. 00:04:14.640 --> 00:04:18.220 Tu rol como gerente ahora requiere habilidades que se parecen menos a escribir memorandos 00:04:18.220 --> 00:04:19.780 y más a definir umbrales de escalación. 00:04:20.320 --> 00:04:22.660 ¿Cuándo se detiene la gente para consultarte y cuándo continúa? 00:04:23.320 --> 00:04:27.900 Según PEDULO SEI y el Foro Económico Mundial, las tres acciones gerenciales críticas aquí son 00:04:27.900 --> 00:04:31.540 instrucciones claras, supervisión humana y verificación de resultados. 00:04:32.660 --> 00:04:34.600 Si se omite una de ellas, el riesgo se multiplica rápidamente. 00:04:34.900 --> 00:04:36.900 Con los empleados humanos, la retroalimentación es constante. 00:04:37.120 --> 00:04:39.080 El tono de voz, una pregunta rápida, una duda sutil. 00:04:39.420 --> 00:04:40.340 Los agentes no ofrecen eso. 00:04:40.700 --> 00:04:43.500 Tregarán el trabajo terminado sin importar si sus suposiciones tienen sentido. 00:04:43.920 --> 00:04:46.760 Por eso dan instrucciones, no es una frase casual, es diseño de sistemas. 00:04:46.760 --> 00:04:51.680 Una sola instrucción vaga puede derivar en datos mal archivados, acceso descuidado a 00:04:51.680 --> 00:04:53.700 registros o informes seguros, pero incorrectos. 00:04:54.760 --> 00:04:58.000 Probar las instrucciones antes de implementarlas es tan importante como revisar los planes de 00:04:58.000 --> 00:04:58.300 proyecto. 00:04:59.000 --> 00:05:00.040 La verificación es la otra mitad. 00:05:00.540 --> 00:05:03.680 Los líderes están acostumbrados a verificar la calidad, pero pueden asumir que la automatización 00:05:03.680 --> 00:05:04.400 equivale a precisión. 00:05:04.700 --> 00:05:05.380 Es una suposición enorme. 00:05:05.680 --> 00:05:09.240 Los agentes improvisan y la improvisación sin revisión puede ser espectacularmente dañina. 00:05:09.580 --> 00:05:12.760 Como señala Ayumi Muraki, la idea tiene talento para generar tonterías bien redactadas. 00:05:12.760 --> 00:05:17.540 Los gerentes no pueden asumir que un tono profesional significa corrección factual. 00:05:18.260 --> 00:05:21.660 Verificar, validar fuentes y revisar rutas de datos es ahora parte del liderazgo. 00:05:22.060 --> 00:05:23.060 La supervisión cierra el signo. 00:05:23.480 --> 00:05:26.620 Piénselo menos como una microgestión tradicional y más como un control de acceso. 00:05:27.080 --> 00:05:29.820 Babak Hojat lo describe como conocer los límites de la confianza. 00:05:30.220 --> 00:05:32.680 Cuando le otorga un agente de derechos y acceso a herramientas, usted sigue siendo 00:05:32.680 --> 00:05:33.620 responsable de lo que produce. 00:05:34.140 --> 00:05:38.200 Los gerentes deben decidir de antemano cuánto poder es apropiado e instalar salvaguardas. 00:05:38.200 --> 00:05:42.540 Esta supervisión a menudo significa requerir aprobación humana antes de que un agente 00:05:42.540 --> 00:05:46.420 realice cambios riesgosos, como enviar datos externamente o modificar registros en sistemas 00:05:46.420 --> 00:05:47.020 centrales. 00:05:47.940 --> 00:05:48.940 Aquí viene el giro incómodo. 00:05:49.380 --> 00:05:52.300 Su reputación como gerente ahora depende de qué tan bien equilibra a las personas y 00:05:52.300 --> 00:05:53.380 a los compañeros de trabajo digital. 00:05:53.620 --> 00:05:55.540 Demasiado control y sofocará los beneficios. 00:05:56.080 --> 00:05:59.040 Muy poco control y le sorprenderán errores que ni siquiera vio venir. 00:06:00.080 --> 00:06:02.920 Desafío no es elegir un estilo de liderazgo, sino gestionar ambos a la vez. 00:06:03.400 --> 00:06:05.020 Las personas requieren motivación y empatía. 00:06:05.020 --> 00:06:07.760 Los agentes requieren límites estrictos y calibración continua. 00:06:08.300 --> 00:06:11.520 Mantenerlos alineados para que no interrumpan sus flujos de trabajo se vuelve parte de su 00:06:11.520 --> 00:06:12.440 reflejo gerencial diario. 00:06:13.300 --> 00:06:16.280 Piensa en su rol ahora como el de un director de orquesta, no en el sentido de recursos 00:06:16.280 --> 00:06:18.940 humanos, sino literalmente marcando el ritmo de dos secciones distintas. 00:06:19.320 --> 00:06:20.980 Los empleados humanos aportan creatividad y empatía. 00:06:21.620 --> 00:06:24.980 Los agentes de IA aportan velocidad y alcance, pero si nadie los dirige el resultado de la 00:06:24.980 --> 00:06:25.360 discordia. 00:06:25.640 --> 00:06:29.540 Los mejores líderes del futuro serán juzgados no solo por la moral de su equipo, sino por 00:06:29.540 --> 00:06:33.280 si el personal humano y el digital logran el mismo ritmo sin filtrar datos confidenciales 00:06:33.280 --> 00:06:34.840 ni distorsionar la toma de decisiones. 00:06:34.840 --> 00:06:38.880 En el peor de los casos, la falta de alineación no solo interrumpe un flujo de trabajo, sino 00:06:38.880 --> 00:06:40.300 que genera una investigación de cumplimiento. 00:06:40.520 --> 00:06:41.460 Así que la conclusión es sencilla. 00:06:41.780 --> 00:06:44.220 Su cargo no cambió, pero el contenido de su rol sí. 00:06:44.980 --> 00:06:48.420 Ya no solo gestionas personas, gestionas asistentes operativos integrados en cada sistema 00:06:48.420 --> 00:06:49.080 que usas. 00:06:50.340 --> 00:06:54.280 Esto requiere nuevas habilidades, crear prompts precisos, probar instrucciones ante consecuencias 00:06:54.280 --> 00:06:57.960 imprevistas, validar resultados con fuentes confiables y aplicar controles humanos. 00:06:59.100 --> 00:07:02.380 El éxito en esto es lo que diferenciará a los gerentes respetados del futuro de aquellos 00:07:02.380 --> 00:07:04.380 a quienes se les pedirá discretamente que se jubilen. 00:07:04.820 --> 00:07:05.840 Y como la teoría está bien. 00:07:06.100 --> 00:07:07.200 Pero la práctica es mejor. 00:07:07.500 --> 00:07:09.260 Aquí tienes tu desafío de un día. 00:07:10.200 --> 00:07:13.760 Abre la configuración de tu copiloto o agente y busca dónde residen las aprobaciones 00:07:13.760 --> 00:07:15.340 o los controles de supervisión humana. 00:07:16.000 --> 00:07:18.260 Si no puedes encontrarlos, esa carencia es un hallazgo en sí mismo. 00:07:18.580 --> 00:07:21.060 Significa que aún no sabes cómo detener un proceso que sea descontrolado. 00:07:21.600 --> 00:07:24.760 Ahora, si gestionar personas siempre ha comenzado con la incorporación, es justo preguntar 00:07:24.760 --> 00:07:26.340 ¿cómo es la incorporación para un agente de IA? 00:07:26.860 --> 00:07:29.260 Cada agente que implementas viene con su propio kit de inicio. 00:07:30.260 --> 00:07:34.560 Y el contenido de ese kit, memoria, permisos y herramientas, decidirá si tu nuevo colega 00:07:34.560 --> 00:07:38.520 digital te hace lucir brillante o te arruina el fin de semana reparando daños. 00:07:39.440 --> 00:07:40.900 Las tres piezas que tu agente necesita. 00:07:40.900 --> 00:07:45.600 Si tuvieras que desglosar que impulsa realmente a un agente, Microsoft y VSG lo llaman kit 00:07:45.600 --> 00:07:46.020 de inicio. 00:07:46.500 --> 00:07:49.020 Tres elementos esenciales, memoria, permisos y herramientas. 00:07:49.900 --> 00:07:53.980 Si te falta uno en lugar de un colega digital confiable, tendrás un bot a medio hacer tropezando 00:07:53.980 --> 00:07:54.620 en tu entorno. 00:07:55.160 --> 00:07:58.300 Si te equivocas con ellos, te estás apuntando a tareas de limpieza para las que no tenías 00:07:58.300 --> 00:07:58.900 presupuesto. 00:07:59.500 --> 00:08:00.200 Primero la memoria. 00:08:00.600 --> 00:08:03.800 Esto es lo que permite a los agentes vincular tareas en lugar de empezar de cero cada vez 00:08:03.800 --> 00:08:05.280 como un pez dorado frente al teclado. 00:08:06.020 --> 00:08:10.300 Con memoria, un agente puede mantener tu preferencia de hacer siempre las gráficas en azul de un reporte 00:08:10.300 --> 00:08:10.800 del siguiente. 00:08:11.360 --> 00:08:13.600 La ventaja es la continuidad, la ventaja es la persistencia. 00:08:14.120 --> 00:08:17.400 Los errores y las malas instrucciones se trasladan con la misma facilidad que el contexto. 00:08:18.000 --> 00:08:20.580 Microsoft destaca esto con su trabajo de fragmentación y encadenamiento. 00:08:20.900 --> 00:08:23.560 Los agentes retienen fragmentos de interacciones para construir un hilo conductor. 00:08:24.240 --> 00:08:28.400 Pero PwC advierte que la persistencia también conlleva riesgos de privacidad ya que los datos 00:08:28.400 --> 00:08:30.980 sensibles podrían permanecer más tiempo del debido. 00:08:30.980 --> 00:08:36.200 En el peor de los casos, no obtienes un asistente útil, sino uno que repite sin cesar tu peor 00:08:36.200 --> 00:08:36.980 error tipográfico. 00:08:37.560 --> 00:08:38.060 Luros permiso. 00:08:38.760 --> 00:08:40.360 Piénsalos como la credencial de acceso de la gente. 00:08:40.900 --> 00:08:44.360 Con los humanos no le das a todos una llave maestra de la oficina, limites el acceso según 00:08:44.360 --> 00:08:44.660 el rol. 00:08:45.020 --> 00:08:46.000 La misma regla se aplica aquí. 00:08:46.380 --> 00:08:49.540 Si restringues demasiado los permisos, el agente chocará constantemente contra puertas 00:08:49.540 --> 00:08:51.060 cerradas y te molestará pidiendo autorizaciones. 00:08:51.360 --> 00:08:53.620 Si son muy amplios, efectivamente les has entregado tu sistema de red. 00:08:53.860 --> 00:08:54.040 H. 00:08:54.440 --> 00:08:56.860 Y registros financieros a algo que no entiende el cumplimiento normativo. 00:08:56.860 --> 00:08:58.560 La guía de PwC al respecto es directa. 00:08:58.840 --> 00:09:02.580 Utilice el control de acceso basado en roles de Airbus, aplique la autenticación multifactor 00:09:02.580 --> 00:09:05.600 para acciones elevadas y proteja las áreas sensibles con prevención de pérdida de datos. 00:09:05.940 --> 00:09:09.440 Por ejemplo, si un agente necesita consultar la web, PwC recomienda hacerlo a través de 00:09:09.440 --> 00:09:13.020 un proxy con políticas de DLP para no filtrar datos de clientes en las búsquedas. 00:09:14.380 --> 00:09:16.860 Con un 20 natural, el Airbus y la MF lo mantienen en su carril. 00:09:17.160 --> 00:09:20.300 Con un 1 natural, un privilegio excesivo lo convierte en el infiltrado accidental más 00:09:20.300 --> 00:09:20.880 rápido del mundo. 00:09:21.420 --> 00:09:22.180 Luego están las herramientas. 00:09:22.500 --> 00:09:25.380 Estas son las aplicaciones APIs y conectores que los agentes utilizan para actuar. 00:09:25.380 --> 00:09:27.740 Sin herramientas, solo miran al vacío. 00:09:28.080 --> 00:09:31.260 Con las herramientas equivocadas causan más daño que bien, como darle a un becario en 00:09:31.260 --> 00:09:34.240 su primer día derechos de despliegue en producción en lugar de un panel de informe seguro. 00:09:35.280 --> 00:09:37.880 Las herramientas determinan el alcance de lo que un agente puede tocar. 00:09:38.320 --> 00:09:41.360 Microsoft establece barreras aquí colocando conectores de copilot dentro de canales de 00:09:41.360 --> 00:09:43.780 control, en lugar de dar al agente acceso directo sin restricciones. 00:09:44.240 --> 00:09:45.080 La mejor práctica es la M. 00:09:45.380 --> 00:09:48.840 Limite el alcance, valide la configuración predeterminada y vincula las herramientas externas 00:09:48.840 --> 00:09:49.780 al registro de actividades y al edad. 00:09:49.920 --> 00:09:50.720 Mantenga el control. 00:09:50.980 --> 00:09:54.300 De lo contrario, habrá construido una máquina de Ruby Goldberg incontrolable atornillando piezas 00:09:54.300 --> 00:09:55.760 a sistemas que nunca debió tocar. 00:09:56.260 --> 00:09:57.500 Una regla mnemotécnica rápida aquí. 00:09:57.900 --> 00:10:00.080 La memoria y la experiencia, lo que el trabajador ya recuerda. 00:10:00.580 --> 00:10:03.200 Los derechos son la tarjeta de identificación por donde se les permite caminar. 00:10:03.540 --> 00:10:06.080 Las herramientas son la computadora portátil y las aplicaciones licenciadas, lo que realmente 00:10:06.080 --> 00:10:07.520 puede un ser breve, pero funciona. 00:10:08.080 --> 00:10:11.160 El paralelo con la incorporación humana tiene sentido, pero con los agentes los riesgos 00:10:11.160 --> 00:10:13.640 son más rápidos, menos visibles y más difíciles de auditar posteriormente. 00:10:13.940 --> 00:10:14.600 El equilibrio importa. 00:10:14.880 --> 00:10:17.880 Equilibrar la memoria proporciona continuidad sin guardar datos personales indefinidamente. 00:10:17.880 --> 00:10:21.760 Los derechos limitados les dan justo las llaves necesarias para hacer el trabajo sin abrir 00:10:21.760 --> 00:10:22.360 la caja fuerte. 00:10:23.060 --> 00:10:26.280 Dimensionar las herramientas aumenta la productividad sin ampliar el radio de impacto. 00:10:27.040 --> 00:10:30.200 Demasiado de cualquiera de ellos cambia el resultado de útil arriesgado en un solo movimiento. 00:10:30.840 --> 00:10:33.320 Y al igual que con las cosas reales, no puede evitar la responsabilidad. 00:10:33.980 --> 00:10:37.020 La guía de IA responsable de Microsoft nos recuerda que los agentes suben el listón. 00:10:37.880 --> 00:10:40.740 Menor tolerancia al error, transparencia más estricta, controles más precisos. 00:10:41.100 --> 00:10:44.420 Te sigues siendo quien recibe la llamada cuando un derecho incorrecto o el acceso a una herramienta 00:10:44.420 --> 00:10:45.140 filtra en un informe. 00:10:45.460 --> 00:10:47.800 Con un 20 natural, la memoria ofrece un contexto más inteligente. 00:10:48.120 --> 00:10:50.960 Los derechos se alinean perfectamente con la política y las herramientas desbloquean 00:10:50.960 --> 00:10:51.700 solo acciones seguras. 00:10:52.080 --> 00:10:55.480 Con un 1 natural, el agente recuerda malas instrucciones, tiene demasiadas llaves y utiliza 00:10:55.480 --> 00:10:57.200 el conector equivocado con total confianza. 00:10:57.780 --> 00:10:59.980 Eso no se sucede, es la curva de riesgo que está recorriendo. 00:11:00.620 --> 00:11:01.920 Aquí está la parte que la mayoría pasa por alto. 00:11:02.140 --> 00:11:04.840 Incluso cuando configura correctamente, el kit inicial no está fuera de peligro. 00:11:05.140 --> 00:11:07.900 Estas tres piezas también desbloquean un peligro más silencioso y sutil. 00:11:08.300 --> 00:11:11.080 El agente termina sabiendo más que tú sobre lo que acaba de hacer. 00:11:11.640 --> 00:11:14.240 Y cuando no puedes ver el razonamiento detrás de sus decisiones, 00:11:14.640 --> 00:11:17.320 surge un nuevo tipo de problema de gestión ante tus narices. 00:11:18.380 --> 00:11:20.820 El problema invisible, la simetría de información. 00:11:21.460 --> 00:11:23.840 ¿Alguna vez un empleado te ha entregado trabajo diciendo despreocupadamente, 00:11:23.920 --> 00:11:24.800 no te preocupes, yo me encargué? 00:11:25.300 --> 00:11:27.300 Ahora imagina la misma frase viniendo de un agente de IA, 00:11:27.360 --> 00:11:30.500 solo que no puedes hacer preguntas de seguimiento ni echar un vistazo a su proceso de pensamiento. 00:11:30.620 --> 00:11:30.820 Ni echan. 00:11:31.280 --> 00:11:33.380 Recibes un resultado pulido y bien presentado, 00:11:33.740 --> 00:11:35.600 pero el camino de decisión interno es opaco. 00:11:36.160 --> 00:11:38.200 Es el dolor de cabeza invisible, la simetría de información. 00:11:38.900 --> 00:11:42.460 Los agentes poseen más datos y potencia de procesamiento de los que tú jamás tendrás, 00:11:42.560 --> 00:11:44.180 pero tú eres quien rinde cuentas por los resultados. 00:11:44.680 --> 00:11:47.900 La California Management Review llama a esto un problema de principal agente del libro de texto. 00:11:48.360 --> 00:11:50.540 El sistema tiene información privada que no puedes observar, 00:11:50.860 --> 00:11:52.300 mientras tú cargas con la responsabilidad. 00:11:52.780 --> 00:11:55.420 Es como si tu colega digital lanzara dados detrás de la pantalla 00:11:55.420 --> 00:11:57.000 y solo te mostrara el número final, 00:11:57.200 --> 00:11:58.940 no los modificadores que acumulan en el camino. 00:11:58.940 --> 00:12:01.380 Y el problema no se anuncia suavemente. 00:12:02.100 --> 00:12:06.020 Los agentes generan resultados con confianza, no titubean, no matizan y no te dejan ver las costuras. 00:12:06.820 --> 00:12:08.920 Así que te quedas mirando un informe terminado preguntándote, 00:12:09.040 --> 00:12:11.560 ¿es este artefacto pulido o confiable o está roto silenciosamente? 00:12:12.000 --> 00:12:13.160 Para cuando profundizas en él, 00:12:13.640 --> 00:12:16.660 los equipos en etapas posteriores pueden haber construido su trabajo sobre un error. 00:12:17.100 --> 00:12:17.980 Tomemos un caso común. 00:12:18.220 --> 00:12:19.140 Un agente clasifica, 00:12:19.140 --> 00:12:22.640 una factura vinculada a un contrato de proveedor crítico como de baja prioridad. 00:12:23.740 --> 00:12:25.480 En la superficie el informe parece impecable. 00:12:25.800 --> 00:12:26.500 Nada aparece en rojo. 00:12:26.860 --> 00:12:29.260 Meses después, el departamento de cumplimiento reclama por pagos sometidos. 00:12:29.440 --> 00:12:32.200 Rastreando hacia atrás descubres la clasificación errónea o oculta desde el principio. 00:12:32.760 --> 00:12:33.980 Esa es la simetría de información en acción. 00:12:34.380 --> 00:12:37.100 El agente sabía lo que hizo, pero tú no tenías forma de ver su razonamiento. 00:12:37.480 --> 00:12:40.460 Revellece destaca exactamente este escenario en sus recomendaciones de DLP. 00:12:41.720 --> 00:12:43.300 Salvaguardas como el acceso basado en roles, 00:12:43.520 --> 00:12:45.560 verificaciones de clasificación y umbrales de escalada, 00:12:45.760 --> 00:12:48.400 son lo que evita que un desliz menor se convierta en una sanción financiera 00:12:48.400 --> 00:12:52.220 Esta dinámica incide directamente en el problema del principal agente. 00:12:52.820 --> 00:12:55.540 Tú del principal estableces un objetivo como organizar facturas de proveedor. 00:12:55.880 --> 00:12:59.660 El agente optimiza para una obediencia literal, clasificar y archivar. 00:13:00.180 --> 00:13:02.160 No ve la intención más amplia, no interpreta los matices 00:13:02.160 --> 00:13:04.240 y ciertamente no sopesa las implicaciones estratégicas. 00:13:04.600 --> 00:13:06.380 Lo que parece sabotaje es a menudo solo una altad. 00:13:06.480 --> 00:13:08.360 Sigue instrucciones tomadas demasiado literalmente. 00:13:08.740 --> 00:13:10.180 Ahora añade la zona de deformación moral. 00:13:10.620 --> 00:13:13.300 Cuando las cosas se rompen, la responsabilidad recae sobre ti. 00:13:13.740 --> 00:13:15.380 Los auditores no culpan al algoritmo invisible. 00:13:15.520 --> 00:13:16.960 Preguntan ¿por qué no te diste cuenta? 00:13:16.960 --> 00:13:20.160 La máquina se desentiende de la responsabilidad 00:13:20.160 --> 00:13:22.240 mientras que el humano absorbe el daño reputacional. 00:13:22.700 --> 00:13:24.500 El efecto es como ser la bolsa de aire en un choque. 00:13:24.940 --> 00:13:26.420 Se recibe el impacto pero soporta el golpe 00:13:26.420 --> 00:13:28.520 mientras el verdadero conductor sigue su camino sin utilizarla. 00:13:28.620 --> 00:13:29.320 Entonces, ¿qué debe hacer? 00:13:29.760 --> 00:13:32.340 No puede mirar mágicamente dentro del razonamiento neuronal 00:13:32.340 --> 00:13:35.200 completo del modelo generativo, pero puede generar visibilidad en los bordes. 00:13:35.860 --> 00:13:36.240 Paso 1. 00:13:36.600 --> 00:13:38.660 Exige registros detallados y pistas de procedencia. 00:13:39.420 --> 00:13:40.940 No la ilusión de un pensamiento interno, 00:13:41.260 --> 00:13:43.320 sino un registro concreto de qué datos se accedieron, 00:13:43.320 --> 00:13:45.200 qué acciones se activaron y en qué orden. 00:13:45.200 --> 00:13:47.460 Paso 2. Simplemente paneles de transparencia. 00:13:48.300 --> 00:13:49.960 Esto muestra en las variables clave de decisión, 00:13:50.080 --> 00:13:50.880 quién, qué y cuándo, 00:13:51.060 --> 00:13:53.320 para que al menos pueda ver los contornos de cómo se ensambló el resultado. 00:13:54.340 --> 00:13:57.460 Paso 3. Exija fundamentos en lenguaje claro para las acciones de arte impar. 00:13:57.940 --> 00:14:00.640 El CMR destaca esto en contextos como la contratación. 00:14:01.440 --> 00:14:04.160 Obligar a los agentes a proporcionar criterios legibles para cada decisión 00:14:04.160 --> 00:14:05.480 crea una capa de explicabilidad. 00:14:05.880 --> 00:14:07.180 Paso 4. Somete a sus agentes a pruebas. 00:14:07.820 --> 00:14:09.280 Aliméntelos con casos de prueba extraños, 00:14:09.400 --> 00:14:11.000 rompálos a propósito y documente las grietas. 00:14:11.440 --> 00:14:12.700 Si usted no pone a prueba esos fallos, 00:14:12.800 --> 00:14:14.780 aparecerán cuando las consecuencias sean mucho mayores. 00:14:15.760 --> 00:14:18.400 Cada una de esas mitigaciones no resuelve la asimetría por completo, 00:14:18.520 --> 00:14:19.580 pero juntas disipan la niebla. 00:14:20.140 --> 00:14:22.260 Los registros de auditoría le dan poder de reconstrucción, 00:14:22.340 --> 00:14:24.100 los paneles le dan conciencia situacional, 00:14:24.480 --> 00:14:27.780 los fundamentos obligatorios anclan la toma de decisiones en un lenguaje que puede evaluar. 00:14:28.200 --> 00:14:31.260 El Red Timing revela los puntos ciegos antes de que los vean los clientes o los reguladores. 00:14:31.260 --> 00:14:32.960 Y como enfatiza Microsoft, 00:14:33.140 --> 00:14:35.600 integrar aprobaciones humanas en los puntos de escalada 00:14:35.600 --> 00:14:39.660 asegura que las decisiones más arriesgadas pasen por una persona antes de ejecutarse. 00:14:40.240 --> 00:14:42.080 El punto no es buscar una transparencia perfecta 00:14:42.080 --> 00:14:44.420 porque el razonamiento generativo siempre será parcialmente opaco. 00:14:44.840 --> 00:14:46.960 El punto es obtener suficientes datos superficiales 00:14:46.960 --> 00:14:49.680 para monitorear patrones, detectar anomalías y aplicar la responsabilidad 00:14:49.680 --> 00:14:51.520 antes de que los problemas se escapen de su control. 00:14:52.420 --> 00:14:53.080 Sin esas medidas, 00:14:53.260 --> 00:14:55.700 termina siendo responsable de elecciones invisibles que nunca probó 00:14:55.700 --> 00:14:58.260 mientras sus agentes siguen generando resultados a gran velocidad. 00:14:59.000 --> 00:15:00.800 Lo que nos lleva a la verdadera decisión que enfrenta. 00:15:00.800 --> 00:15:03.900 Puede dejar estos sistemas sin límites y esperar que nada se incendie 00:15:03.900 --> 00:15:06.940 o puede comenzar a tratar su comportamiento como una política de grupo, 00:15:07.080 --> 00:15:09.840 reglas, límites y escalada desde el primer día. 00:15:11.080 --> 00:15:13.840 Porque si omite la capa de gobernanza, el caos no solo ocurrirá algún día. 00:15:14.480 --> 00:15:17.260 Llega la primera vez que su colega digital se embarca en una misión paralela 00:15:17.260 --> 00:15:18.720 que nunca aprobó. 00:15:19.680 --> 00:15:20.880 Previniendo el Agent Agedon 00:15:20.880 --> 00:15:24.020 Prevenir lo que me gusta llamar Agent Agedon no es una cuestión de paranoia. 00:15:24.460 --> 00:15:26.000 Se trata de gestionar los componentes básicos 00:15:26.000 --> 00:15:28.420 que evitan que su flota de días se convierta en un peligro de incendio. 00:15:28.420 --> 00:15:31.920 Esta es la capa táctica donde la gobernanza, el riesgo y la infraestructura se encuentran. 00:15:32.320 --> 00:15:33.620 PwC lo expone claramente. 00:15:34.520 --> 00:15:38.360 Si desea agentes que escalen sin destruir su entorno, necesita cinco tácticas rápidas. 00:15:38.940 --> 00:15:41.820 Adapte la gobernanza, mejore la gestión de riesgos, cree infraestructura, 00:15:41.940 --> 00:15:45.560 aplique pruebas y monitoreo y mantenga siempre a un humano en el proceso para decisiones críticas. 00:15:46.000 --> 00:15:46.700 Comience con la gobernanza. 00:15:47.080 --> 00:15:50.600 Los programas actuales de IA responsables se diseñaron para modelos, no para trabajadores autónomos. 00:15:50.980 --> 00:15:53.340 Debe adaptar la supervisión para que los comités de riesgo a nivel directivo 00:15:53.340 --> 00:15:54.640 incluyan claramente el riesgo de los agentes. 00:15:54.640 --> 00:15:57.040 Los agentes necesitan reglas de escalamiento integradas. 00:15:57.580 --> 00:16:01.380 Cuando los riesgos se alcanzan a cierto nivel, el trabajo se detiene hasta que un humano lo apruebe. 00:16:01.860 --> 00:16:04.200 Piénselo como el árbol de escalamiento en su sistema de soporte técnico. 00:16:04.720 --> 00:16:07.300 En una situación ideal, la gente cierra tickets todo el día sin problemas. 00:16:07.660 --> 00:16:10.720 En una situación crítica, debe saber detenerse por completo y solicitar autorización 00:16:10.720 --> 00:16:13.020 antes de tocar nóminas o comunicaciones externas sensibles. 00:16:13.660 --> 00:16:17.160 Las iniciativas regulatorias como la ley de IA de la UE solo amplifican esta necesidad, 00:16:17.640 --> 00:16:20.180 tan formalizando las expectativas de que la supervisión sea demostrable 00:16:20.180 --> 00:16:24.460 y que se pueda documentar quién aprobó qué y cuándo luego a la gestión de riesgo. 00:16:24.780 --> 00:16:27.840 Los agentes no tienen el mismo nivel de riesgo, así que clasifíquelos como clasifique su sistema. 00:16:28.400 --> 00:16:31.280 Los bots de bajo riesgo que trabajan en cilos limitados pueden moverse rápido. 00:16:31.700 --> 00:16:34.660 Los agentes de alta autonomía que acceden a datos de clientes o registros financieros 00:16:34.660 --> 00:16:35.620 requieren un mayor escrutinio. 00:16:36.040 --> 00:16:38.000 El marco de trabajo de pedulece es pragmático en este aspecto. 00:16:38.340 --> 00:16:40.860 Restea el uso, mida la autonomía frente al impacto potencial 00:16:40.860 --> 00:16:44.080 y someta a los agentes de mayor nivel a ciclos de aprobación y pruebas más lentos. 00:16:44.080 --> 00:16:47.860 Si un bot escribe recordatores de calendario, una supervisión mínima es suficiente. 00:16:48.360 --> 00:16:51.860 Si un bot envía pagos a proveedores, debe tener alertas y registros que superen a una auditoría. 00:16:52.420 --> 00:16:53.440 Infraestructura es el siguiente blog. 00:16:53.820 --> 00:16:55.400 Estas herramientas no aparecen de la nada. 00:16:55.820 --> 00:17:00.320 Necesita RBAC para restringir lo que los agentes pueden tocar, MFA y cada vez que escalen privilegios. 00:17:00.520 --> 00:17:04.460 DLP para evitar fugas accidentales y anonimización para que los registros no lleven 00:17:04.460 --> 00:17:06.320 identificadores de usuario al archivo incorrecto. 00:17:06.840 --> 00:17:08.820 Trate cada identidad de agente como una cuenta humana. 00:17:09.420 --> 00:17:11.360 Principio de menor privilegio registrado y revisado. 00:17:11.360 --> 00:17:14.860 Darle a un agente privilegios y limitados porque aceleraba las pruebas es el equivalente 00:17:14.860 --> 00:17:17.800 en automatización a dar acceso temporal de administrador de dominio. 00:17:18.240 --> 00:17:20.860 Es una innovación, es un ticket de brecha de seguridad esperando a ser creado. 00:17:21.220 --> 00:17:22.120 Ahora, pruebas y monitoreo. 00:17:22.600 --> 00:17:24.140 Suma que la salida eventualmente fallara. 00:17:24.500 --> 00:17:26.120 Su trabajo es detectarlo antes de que caos se dan. 00:17:26.520 --> 00:17:29.900 Eso significa detección de anomalías en tiempo real para marcar desviaciones extrañas 00:17:29.900 --> 00:17:30.740 en el comportamiento. 00:17:31.200 --> 00:17:33.860 Significa realizar pruebas de intrusión retímen a sus agentes no solo sufrutas. 00:17:34.100 --> 00:17:36.780 Vieles entradas extrañas para encontrar las grietas cuando los riesgos sean bajos. 00:17:37.140 --> 00:17:37.980 Monitoreo continuo también dan. 00:17:38.500 --> 00:17:41.080 Los registros de acceso a datos, acciones realizadas y frecuencia de decisiones 00:17:41.080 --> 00:17:42.200 de alto riesgo deben revisarse. 00:17:43.060 --> 00:17:46.280 PwC y Microsoft señalan que las pistas de auditoría y las revisiones regulares 00:17:46.280 --> 00:17:47.440 son su máquina del tiempo. 00:17:48.260 --> 00:17:50.460 Sin ellas, usted estará ciego entre lo que la gente realmente hizo. 00:17:50.760 --> 00:17:52.800 Y la quinta táctica de la supervisión humana nunca desaparece. 00:17:53.300 --> 00:17:55.280 Incluso con la mejor orquestación y barreras de seguridad, 00:17:55.400 --> 00:17:57.460 las decisiones de alto riesgo siguen requiriendo a una persona. 00:17:58.160 --> 00:17:58.940 Establezcombrales, claro. 00:17:59.220 --> 00:18:01.560 Si un agente aprueba una transacción por encima de cierto monto, 00:18:01.880 --> 00:18:04.580 edita registros confidenciales o inicia comunicaciones externas 00:18:04.580 --> 00:18:07.220 que involucren datos regulados, debe detenerse y pasarte el control. 00:18:08.020 --> 00:18:10.340 Sistema Copilot de Microsoft tiene este enfoque integrado. 00:18:11.080 --> 00:18:14.300 La IA puede redactar un correo electrónico, pero el humano hace clic en Enviar. 00:18:14.620 --> 00:18:17.580 Este toque final es la salvaguarda entre la productividad e incumplimiento. 00:18:17.960 --> 00:18:18.920 Y el riesgo de incumplimiento. 00:18:19.000 --> 00:18:20.880 Cuando escala a agentes, esto se convierte en orquestación. 00:18:21.340 --> 00:18:22.240 Un solo bote es sencillo. 00:18:22.720 --> 00:18:24.200 Los enjambles pueden volverse extraños, 00:18:24.280 --> 00:18:26.320 imitándose entre sí o persiguiendo bucles erráticos. 00:18:27.580 --> 00:18:30.200 Sin orden parece un hilo de slack sin moderación que se sale de control. 00:18:30.540 --> 00:18:32.960 El antídoto es un orquestador, ya sea un agente coordinador 00:18:32.960 --> 00:18:34.680 o un equipo central de revisión humana. 00:18:35.200 --> 00:18:37.660 Piénsalo como el director de orquesta evitando que los instrumentos choquen. 00:18:37.660 --> 00:18:41.860 Un paso inicial práctico comienza con un patón de orquestador único 00:18:41.860 --> 00:18:43.900 antes de abrir las puertas a enjambres multiagente. 00:18:44.700 --> 00:18:47.620 Esa capa puede coordinar ciclos de retroalimentación de especialistas 00:18:47.620 --> 00:18:51.320 y alinearlos con el objetivo del negocio en lugar de dejar que improvisen sus propias reglas. 00:18:52.000 --> 00:18:54.100 Ninguno de estos controles existe para frenarte. 00:18:54.100 --> 00:18:57.000 Si se hacen bien, son precisamente lo que te permite escalar de forma segura. 00:18:57.200 --> 00:18:59.900 PBC, BSG, McKinsey, todos coinciden en el mismo punto. 00:19:00.440 --> 00:19:02.940 Su agente es gobernado y orquestado, se convierte en un multiplicador de fuerza. 00:19:03.540 --> 00:19:06.880 Eliminan el trabajo repetitivo, conectan silos y permiten que tu equipo humano 00:19:06.880 --> 00:19:09.000 se enfoque en esfuerzos estratégicos de mayor valor. 00:19:09.840 --> 00:19:12.100 En el mejor de los casos, eso significa mayor rendimiento, 00:19:12.200 --> 00:19:14.140 menos carga manual y cumplimiento integrado en el proceso. 00:19:14.640 --> 00:19:16.100 Prevenir con agentes no es ser alarmistas, 00:19:16.220 --> 00:19:19.540 es instalar barandillas para obtener beneficios reales sin sufrir las peores consecuencias. 00:19:20.540 --> 00:19:23.200 Controla las herramientas de acceso a memoria y reducirás los riesgos ocultos. 00:19:23.920 --> 00:19:27.100 Adapta la gobernanza, la gestión de riesgos, la infraestructura, el monitoreo y la supervisión 00:19:27.100 --> 00:19:29.060 para mantener intacta la visibilidad de la gestión. 00:19:29.680 --> 00:19:33.520 Haz todo eso y lo que parecía caos se convertirá en la base para un trabajo más rápido, económico y eficiente. 00:19:34.340 --> 00:19:36.540 Y al final del día, esa responsabilidad recae sobre ti. 00:19:37.280 --> 00:19:40.980 No son herramientas anónimas, son compañeros de trabajo sin archivo de recursos humanos, 00:19:40.980 --> 00:19:44.680 lo que significa que la verdadera prueba no es si los agentes reemplazarán tu puesto, 00:19:44.840 --> 00:19:49.920 sino si puedes guiar su autonomía con la misma supervisión que ya aplicas a las personas sin desequilibrar los incentivos. 00:19:50.920 --> 00:19:51.540 Entonces, ¿qué está lo que me gusta? 00:19:51.540 --> 00:19:55.120 Los agentes no están reemplazando a los gerentes, te están obligando a perfeccionar la gestión misma. 00:19:55.400 --> 00:19:58.560 La investigación es clara, este es solo el problema del agente principal como un toque moderno. 00:19:59.040 --> 00:20:03.900 Ellos manejan los datos, tú manejas la responsabilidad y la única solución real es autonomía guiada a más supervisión constante. 00:20:04.380 --> 00:20:05.800 Y tienes tus tres primeros movimientos. 00:20:05.800 --> 00:20:09.040 Haz un inventario de tus agentes y clasificalos por riesgo y autonomía. 00:20:09.540 --> 00:20:14.840 Establece umbrales de escalada donde un humano deba probar y realiza una prueba de equipo rojo o de casos extremos en un agente crítico. 00:20:15.280 --> 00:20:16.140 Esa es tu misión inicial. 00:20:16.640 --> 00:20:20.680 Si esta lista te ayudó, suscríbete y deja un comentario sobre qué agente vas a inventariar primero. 00:20:21.200 --> 00:20:23.660 Con un 20 natural evitarás el caos antes de que nazca. 00:20:24.080 --> 00:20:26.800 Con un 1 natural, bueno, al menos sabrás dónde empezó el fuego. 00:20:26.800 --> 00:20:56.780 Con un 2 natural, bueno, al menos sabrás dónde empezó el fuego.