WEBVTT 00:00:00.120 --> 00:00:05.180 Wyobraź sobie, że logujesz się do Teams i wita Cię ruj agentów, a i z których każdy obiecuje usprawnić Twój dzień pracy. 00:00:05.380 --> 00:00:11.620 Obiecują wzrost produktywności, ale bez odpowiednich zasad mogą błędnie zinterpretować cele i rozszerzyć dostęp w sposób, który narazi Cię na odpowiedzialność. 00:00:11.740 --> 00:00:16.460 To jak wręczenie starzyście firmowej karty kredytowej w nadziei, że w raporcie wydatków nie pojawi się jacht. 00:00:16.620 --> 00:00:17.720 Oto dobra wiadomość. 00:00:17.860 --> 00:00:25.180 W tym odcinku poznasz prosty schemat, trzy praktyczne mechanizmy kontroli i pierwsze kroki, dzięki którym Ci agenci będą użyteczni, bezpieczni i odpowiednio ukierunkowani. 00:00:25.340 --> 00:00:29.180 Bo zanim im zaufasz, musisz zrozumieć, jakimi współpracownikami się staną. 00:00:29.180 --> 00:00:31.620 Poznaj swoich nowych cyfrowych współpracowników. 00:00:31.720 --> 00:00:33.180 Poznaj swoich nowych cyfrowych współpracowników. 00:00:33.960 --> 00:00:37.920 Nie siedzą w boksach, nie odbijają karty wejścia i na pewno nigdy nie czytali regulaminu pracownika. 00:00:38.100 --> 00:00:40.940 To nie są zakurzone makra w Excelu, którymi musieliśmy się opiekować. 00:00:41.100 --> 00:00:46.420 Agenci obserwują, planują i działają, ponieważ łączą trzy kluczowe składniki, pamięć, uprawnienia i dostęp do narzędzi. 00:00:46.560 --> 00:00:49.660 To schemat Microsoftu i BCG, który stanowi o prawdziwej różnicy. 00:00:49.900 --> 00:00:56.820 Twój nowy kolega może śledzić poprzednie interakcje, przełączać się między systemami, którym już zaufałeś i faktycznie używać aplikacji tak, jak zrobiłby to człowiek. 00:00:56.820 --> 00:00:59.440 Jasne, kuszące jest, by znów zażartować ze starzystów. 00:00:59.560 --> 00:01:02.440 Pojawiają się pełni energii, ale nie mają pojęcia, gdzie leży zszywacz. 00:01:02.580 --> 00:01:06.180 Podobnie jest z agentami wpadają w twoje procesy robocze, nie rozumiejąc do końca granic. 00:01:06.320 --> 00:01:10.820 Ale w przeciwieństwie do starzysty, mogą uzyskać dostęp do Outlooka, SharePointa czy Dynamics w momencie, gdy ich uruchomisz. 00:01:10.940 --> 00:01:13.500 Ta moc to nie tylko ciekawostka, to problem z zarządzaniem. 00:01:13.700 --> 00:01:19.280 Bez właściwej ochrony przed utratą danych i odpowiednich uprawnień, w zasadzie zwiększasz powierzchnię ataku w całym swoim stosie technologicznym. 00:01:19.280 --> 00:01:23.040 Jeśli chcesz poczuć, jak szybko staje się to rzeczywistością, spójrz na plan rozwoju. 00:01:23.220 --> 00:01:28.900 Microsoft zapowiedział już agentów SharePoint, którzy zarządzają dokumentami bezpośrednio w witrynach, a nie tylko w wynikach wyszukiwania. 00:01:29.120 --> 00:01:34.680 Wyobraź sobie, że prosisz asystenta o uporządkowanie plików projektu, a on faktycznie reorganizuje udostępnione foldery w wielu zespołach. 00:01:34.840 --> 00:01:39.820 Imponujące na slajdach, ale dzieli go tylko jedna błędna interpretacja od zarchiwizowania finansów z niewłaściwego kwartału. 00:01:39.960 --> 00:01:42.860 To nie jest ryzyko teoretyczne, to zgłoszenie operacyjne na przyszły rok. 00:01:43.040 --> 00:01:45.360 Staromodna automatyzacja przypominała automat z przekąskami. 00:01:45.360 --> 00:01:48.600 Naciskałeś jeden przycisk, baton wypadał, a jeśli miałeś szczęście, nie zacinał się. 00:01:48.760 --> 00:01:50.340 Agenci nie przypominają tego w niczym. 00:01:50.540 --> 00:01:55.300 Potrafią dostrzec stan twojego procesu, sprawdzić dostępne opcje i wygenerować kroki, których nikt wcześniej nie zakodował. 00:01:55.520 --> 00:01:58.600 Jest to adaptacyjne, co stanowi jednocześnie zaletę i zagrożenie. 00:01:58.820 --> 00:02:01.400 Przy niefortunnym wyniku nie skończy się na zablokowanym batonie. 00:02:01.660 --> 00:02:06.500 Skończy się na pewnym siebie raporcie, pobierającym dane z trzech systemów, w którym błędne definicje będą po miesiącach prezentowane jako pewnik. 00:02:06.660 --> 00:02:09.680 Zgadnij, kto składa podpis, gdy dział finansowy pyta, skąd wzięły się rozbieżności. 00:02:09.680 --> 00:02:11.900 Mimo to, płynące z nich korzyści są oczywiste. 00:02:12.060 --> 00:02:16.480 Pojedynczy agent potrafi łączyć odizolowane dane w sposób, któremu twój zespół nie jest w stanie dorównać. 00:02:16.640 --> 00:02:20.900 Nie obchodzi go, czy dane są w Teams SharePoint, czy w jakimś module Dynamics ukrytym w tle. 00:02:21.160 --> 00:02:27.880 Będzie przeskakiwać między nimi i zestawiać wyniki bez potrzeby używania załączników, przypomnień w kalendarzu czy tego jednego eksperta od Excela w dziale. 00:02:28.100 --> 00:02:33.800 Jeśli chodzi o wydajność, to tak, jakby zatrudnić kogoś, kto pracuje 10 razy szybciej i nigdy nie podgrzewa ryby w mikrofalówce w pokoju socjalnym. 00:02:33.800 --> 00:02:35.800 Ale szybkość bez spójności celów jest niebezpieczna. 00:02:36.520 --> 00:02:40.680 Agenci nie podzielają twoich celów biznesowych, podzielają jedynie dosłowne instrukcje, które im przekazujesz. 00:02:40.800 --> 00:02:44.260 To rozbieżność, którą można nazwać problemem pryncypał agent w technologicznym wydaniu. 00:02:44.440 --> 00:02:48.880 Ty oczekujesz dokładności i zgodności, oni dostarczają interpretację najbliższego dopasowania z błędną pewnością siebie. 00:02:49.040 --> 00:02:50.880 To nie wrogość, to zwykła nieświadomość. 00:02:50.980 --> 00:02:54.460 A nieświadomość z uprawnieniami na poziomie systemu może być groźniejsza niż złe intencje. 00:02:54.460 --> 00:03:00.920 W ten sposób nadgorliwy asystent wysyła poufne arkusze kalkulacyjne do osób z zewnątrz, bo poprosiłeś go o udostępnienie aktualizacji. 00:03:01.260 --> 00:03:09.920 Rzeczywistość jest taka, agenci to niedziwaczny dodatek, to cyfrowi współpracownicy wkraczający w kluczowe procesy, niezwykle zdolni, a jednocześnie całkowicie nieświadomi kontekstu. 00:03:10.140 --> 00:03:17.320 Możesz zachwycić się ich działaniem w wersji demo, ale prawdziwy test zaczyna się, gdy wdrożysz je w żywe procesy bez zabezpieczeń w postaci szkoleń czy nadzoru. 00:03:17.320 --> 00:03:28.840 I tu pojawia się luka w Twojej wiedzy. Zostań ze mną, bo za chwilę przejdziemy przez trzy rzeczy, których potrzebuje każdy agent, pamięć, uprawnienia i narzędzia, oraz dlaczego każda z nich jest supermocą, ale i punktem awarii, jeśli nie jest zarządzana. 00:03:29.000 --> 00:03:34.480 To wyznacza Twoje kolejne zadanie, nie tylko używanie narzędzi, ale zarządzanie cyfrowymi pracownikami, jakby byli częścią Twojego zespołu. 00:03:34.620 --> 00:03:37.700 A do tego nie ma instrukcji HR, za to jest ogromna odpowiedzialność. 00:03:38.080 --> 00:03:46.160 Menedżerowie jako szefowie cyfrowych pracowników, wyobraź sobie, że otwierasz ocenę roczną i widzisz nowy punkt zarządzanie 12 pracownikami ludzkimi i 48 agentami AI. 00:03:46.160 --> 00:03:50.480 I to nie jest przechwałka z science fiction, to staje się prawdziwym miernikiem umiejętności menedżerskich. 00:03:50.660 --> 00:04:00.580 Eksperci twierdzą, że wartość menedżera będzie częściowo oceniana przez pryzmat tego, iloma cyfrowymi pracownikami potrafi kierować, ponieważ promptowanie, weryfikacja i nadzór stają się kluczowymi kompetencjami przywódczymi. 00:04:00.760 --> 00:04:05.340 Przyszły szef nie tylko deleguje zadania ludziom, on koordynuje współpracę między personelem a oprogramowaniem. 00:04:05.520 --> 00:04:10.440 Ta zmiana jest istotna, ponieważ agenci AI nie działają jak narzędzia, które zostawiasz w stanie spoczynku do czasu, gdy będą potrzebne. 00:04:10.440 --> 00:04:14.400 Gdy dostaną instrukcję, działają samodzielnie i nie podnoszą ręki, gdy czegoś nie rozumieją. 00:04:14.540 --> 00:04:20.000 Twoja rola jako menedżera wymaga teraz umiejętności, które mniej przypominają pisanie notatek, a bardziej definiowanie progów eskalacji. 00:04:20.180 --> 00:04:23.400 Kiedy agent ma się zatrzymać i skonsultować z tobą, a kiedy ma działać dalej? 00:04:23.660 --> 00:04:32.020 Według PUC oraz Światowego Forum Ekonomicznego, trzema kluczowymi działaniami menedżerskimi są jasne wydawanie poleceń, nadzór człowieka oraz weryfikacja wyników. 00:04:32.020 --> 00:04:34.440 Jeśli pominiesz któryś z nich, ryzyko szybko rośnie. 00:04:34.640 --> 00:04:36.960 W przypadku ludzkich pracowników informacje zwrotne są stałe. 00:04:37.100 --> 00:04:39.240 Ton głosu, szybkie pytanie, subtelne zawahanie. 00:04:39.440 --> 00:04:40.620 Agenci tego nie zapewniają. 00:04:40.920 --> 00:04:43.900 Dostarczą gotową pracę bez względu na to, czy ich założenia miały sens. 00:04:44.100 --> 00:04:47.680 Dlatego promptowanie to nieswobodne formułowanie zdań, to projektowanie systemów. 00:04:47.860 --> 00:04:54.260 Jedna niejasna instrukcja może prowadzić do błędów w danych, nieostrożnego dostępu do rejestrów czy pewnych siebie, lecz błędnych raportów. 00:04:54.420 --> 00:04:58.400 Testowanie poleceń przed ich wdrożeniem staje się tak ważne, jak przeglądanie planów projektowych. 00:04:58.700 --> 00:05:00.400 Weryfikacja to druga połowa sukcesu. 00:05:00.400 --> 00:05:04.580 Liderzy są przyzwyczajeni do wyrywkowej kontroli jakości, ale mogą zakładać, że automatyzacja równa się precyzji. 00:05:04.780 --> 00:05:05.660 Błędne założenie. 00:05:05.900 --> 00:05:09.620 Agenci improwizują, a improwizacja bez kontroli może być spektakularnie szkodliwa. 00:05:09.800 --> 00:05:13.400 Jak zauważa Ayumi Mur Aoki, Aima talent do generowania wygładzonego nonsensu. 00:05:14.160 --> 00:05:18.080 Menedżerowie nie mogą zakładać, że profesjonalny ton oznacza faktyczną poprawność. 00:05:18.400 --> 00:05:21.600 Weryfikacja, sprawdzanie źródeł i ścieżek danych to dziś przywództwo. 00:05:21.840 --> 00:05:23.260 Nadzór zamyka cały proces. 00:05:23.540 --> 00:05:26.980 Myśl o tym nie jak o mikrozarządzaniu w starym stylu, lecz jak o kontroli dostępu. 00:05:26.980 --> 00:05:29.940 Babak Hodiad określa to jako znajomość granic zaufania. 00:05:30.160 --> 00:05:33.980 Gdy dajesz agentowi uprawnienia i dostęp do narzędzi, nadal odpowiadasz za to, co on wygeneruje. 00:05:34.220 --> 00:05:38.720 Menedżerowie muszą z góry zdecydować, jaki zakres uprawnień jest właściwy i wprowadzić odpowiednie zabezpieczenia. 00:05:38.960 --> 00:05:43.700 Nadzór ten często oznacza konieczność uzyskania zgody człowieka, zanim agent wprowadzi ryzykowne zmiany, 00:05:43.820 --> 00:05:47.500 takie jak wysyłanie danych na zewnątrz czy modyfikacja rekordów w kluczowych systemach. 00:05:47.640 --> 00:05:49.000 Oto niewygodny zwrot akcji. 00:05:49.200 --> 00:05:52.980 Twoja reputacja menedżera zależy teraz od tego, jak dobrze równoważysz pracę ludzi i cyfrowych współpracowników. 00:05:52.980 --> 00:05:55.620 Zbyt duża kontrola tłumi korzyści. 00:05:55.880 --> 00:05:59.660 Zbyt mała kontrola sprawia, że zaskoczą cię błędy, o których istnieniu nawet nie wiedziałeś. 00:05:59.840 --> 00:06:03.320 Wyzwanie polega nie na wyborze jednego stylu przywództwa, lecz na jednoczesnym prowadzeniu obu. 00:06:03.500 --> 00:06:05.240 Ludzie wymagają motywacji i empatii. 00:06:05.440 --> 00:06:08.000 Agenci wymagają ścisłych granic i ciągłej kalibracji. 00:06:08.260 --> 00:06:13.100 Dbanie o ich zgodność, by nie zakłócali swoich przepływów pracy, staje się częścią twojego codziennego odruchu menedżerskiego. 00:06:13.360 --> 00:06:18.840 Pomyśl o swojej roli jak o dyrygencie nie w sensie działu HR, ale dosłownie utrzymującym tempo dla dwóch różnych sekcji. 00:06:18.840 --> 00:06:21.460 Ludzcy pracownicy wnoszą kreatywność i empatię. 00:06:21.620 --> 00:06:25.800 Agenci AI wnoszą szybkość i zasięg, ale jeśli nikt nimi nie kieruje, wynikiem jest dysonans. 00:06:26.000 --> 00:06:34.900 Najlepsi liderzy przyszłości będą oceniani nie tylko po morale zespołu, ale po tym, czy ludzie i cyfrowi pracownicy trzymają to samo tempo, nie wyciekając przy tym danych i nie wypaczając procesu decyzyjnego. 00:06:35.100 --> 00:06:40.220 W sytuacjach krytycznych brak synchronizacji nie tylko przerywa pracę, ale prowadzi do dochodzenia w sprawie zgodności z przepisami. 00:06:40.220 --> 00:06:50.000 Wniosek jest więc prosty. Twój tytuł zawodowy się nie zmienił, ale treść twojej roli tak. Nie zarządzasz już tylko ludźmi, zarządzasz operatorami pomocniczymi wbudowanymi w każdy system, którego używasz. 00:06:50.200 --> 00:06:58.940 Wymaga to nowych umiejętności tworzenia precyzyjnych poleceń, testowania instrukcji pod kątem niepożądanych skutków, weryfikacji wyników z zaufanymi źródłami i egzekwowania nadzoru człowieka. 00:06:59.180 --> 00:07:04.820 Sukces w tym obszarze odróżnia szanowanych menedżerów przyszłości od tych, którzy po cichu odchodzą na wcześniejszą emeryturę. 00:07:04.820 --> 00:07:15.420 A ponieważ teoria jest dobra, ale praktyka lepsza, oto wyzwanie na jeden dzień. Otwórz ustawienia swojego kopilota lub agenta i sprawdź, gdzie znajdują się opcje zatwierdzania przez człowieka lub kontroli nadzorczej. 00:07:15.500 --> 00:07:21.800 A jeśli nie możesz ich znaleźć, sam ten brak jest już ważnym wnioskiem. Oznacza to, że nie wiesz jeszcze, jak zatrzymać proces, który wymknął się spod kontroli. 00:07:22.020 --> 00:07:26.700 Skoro zarządzanie ludźmi zawsze zaczynało się od onboardingu, warto zapytać, jak wygląda wdrażanie agenta AI. 00:07:26.700 --> 00:07:39.160 Każdy wdrażany przez Ciebie agent posiada własny zestaw startowy. Zawartość tego zestawu pamięć, uprawnienia i narzędzia decyduje o tym, czy Twój nowy cyfrowy współpracownik sprawi, że będziesz wyglądać na geniusza, czy zepsuje Ci weekend naprawianiem szkód. 00:07:39.300 --> 00:07:49.140 Trzy elementy, których potrzebuje każdy agent. Jeśli chcesz sprawdzić, co napędza agenta Microsoft i BCG, nazywają to zestawem startowym trzy podstawy – pamięć, uprawnienia i narzędzia. 00:07:49.140 --> 00:07:55.060 Pominj jeden z nich, a zamiast godnego zaufania cyfrowego współpracownika, otrzymasz niedopracowanego bota, który błąka się po Twoim środowisku. 00:07:55.280 --> 00:07:59.120 Jeśli zrobisz to źle, skazujesz się na porządki, na które nie przeznaczyłeś budżetu. 00:07:59.300 --> 00:08:05.380 Po pierwsze – pamięć. To dzięki niej agenci mogą łączyć zadania, zamiast zaczynać od nowa za każdym razem, jak złota rybka przy klawiaturze. 00:08:05.600 --> 00:08:11.540 Dzięki pamięci agent może zapamiętać Twoje preferencje, na przykład tworzenie wykresów na niebiesko, przenosząc je z jednego raportu do drugiego. 00:08:11.800 --> 00:08:17.500 Zaletą jest ciągłość, wadą trwałość. Błędy i złe instrukcje są przenoszone równie łatwo, co przydatny kontekst. 00:08:17.500 --> 00:08:21.020 Microsoft podkreśla to w swojej pracy nad dzieleniem na fragmenty i łańcuchowaniem danych. 00:08:21.220 --> 00:08:24.180 Agenci przechowują wycinki interakcji, aby budować wątek. 00:08:24.340 --> 00:08:31.640 Jednak Puc ostrzega, że ta trwałość niesie ze sobą ryzyko dla prywatności, ponieważ wrażliwe dane mogą pozostać w systemie dłużej niż powinny. 00:08:31.960 --> 00:08:37.020 W efekcie nie otrzymujesz pomocnego asystenta, lecz kogoś, kto bez końca powtarza Twoją najgorszą literówkę. 00:08:37.200 --> 00:08:40.800 Po drugie – uprawnienia. Pomyśl o nich jak o identyfikatorze dostępu dla agenta. 00:08:41.000 --> 00:08:44.820 W przypadku ludzi nie dajesz każdemu głównego klucza do centrali, lecz ograniczasz dostęp według roli. 00:08:44.820 --> 00:08:51.240 Ta sama zasada obowiązuje tutaj. Jeśli zbyt mocno ograniczysz uprawnienia, agent będzie odbijał się od zamkniętych drzwi i nękał Cię prośbami o dostęp. 00:08:51.500 --> 00:08:56.620 Jeśli będą zbyt luźne, w efekcie powierzysz swój system kadrowy i dane finansowe komuś, kto nie rozumie zasad zgodności z przepisami. 00:08:56.820 --> 00:08:58.840 Wskazówki Puc w tej kwestii są bardzo dosadne. 00:08:59.060 --> 00:09:05.960 Stosuj kontrolę dostępu opartą na rolach RBAC, wymuszaj uwierzytelnianie wieloskładnikowe dla działań podwyższonego ryzyka i zabezpieczaj wrażliwe obszary za pomocą systemów DLP. 00:09:05.960 --> 00:09:12.960 Na przykład, jeśli agent musi przeszukać sieć, Puc zaleca użycie proxy z polityką DLP, aby zapobiec wyciekowi danych klientów do wyszukiwarek. 00:09:13.580 --> 00:09:17.040 Przy wyrzuceniu naturalnej dwudziestki RBAC i MFA utrzymują go w ryzach. 00:09:17.180 --> 00:09:21.180 Przy wyrzuceniu jedynki nadmierne uprawnienia zmieniają go w najszybszego nieumyślnego insajdera na świecie. 00:09:21.420 --> 00:09:25.900 Są jeszcze narzędzia. To aplikacje API i konektory, których agenci faktycznie używają do działania. 00:09:26.140 --> 00:09:27.840 Bez narzędzi tylko patrzą w próżnie. 00:09:27.840 --> 00:09:35.000 Z niewłaściwymi narzędziami wyrządzają więcej szkód niż pożytku, jak starzysta w pierwszy dzień z dostępem do środowiska produkcyjnego zamiast bezpiecznego pulpitu raportowego. 00:09:35.240 --> 00:09:38.040 Narzędzia określają zakres tego, czego agent może dotknąć. 00:09:38.220 --> 00:09:43.820 Microsoft tworzy tu zabezpieczenia, umieszczając konektory kopilota w kanałach kontrolnych, zamiast dawać agentowi bezpośredni dostęp. 00:09:44.100 --> 00:09:45.500 Dobra praktyka jest taka sama. 00:09:45.720 --> 00:09:49.720 Ogranicz zakres, sprawdź ustawienia domyślne i powiąż narzędzia zewnętrzne z logowaniem oraz DLP. 00:09:49.720 --> 00:09:56.020 Trzymaj zestaw narzędzi pod kontrolą, inaczej zbudujesz maszynę Ruba Goldberga, która bezmyślnie przykręca części do systemów, których nie powinna dotykać. 00:09:56.100 --> 00:09:57.540 Pomoże tu prosta mnemotechnika. 00:09:57.740 --> 00:10:00.440 Pamięć to doświadczenie, czyli to, co pracownik już zapamiętał. 00:10:00.600 --> 00:10:03.280 Uprawnienia to identyfikator określający, gdzie może się poruszać. 00:10:03.480 --> 00:10:06.600 Narzędzia to laptop i licencjonowane aplikacje, czyli to, czego może faktycznie użyć. 00:10:06.800 --> 00:10:08.240 Kompaktowe, ale zapada w pamięć. 00:10:08.400 --> 00:10:11.440 Analogia do wdrażania ludzi ma sens, ale w przypadku agentów stawka jest wyższa. 00:10:11.540 --> 00:10:13.600 Działania mniej widoczne i trudniejsze do późniejszego audytu. 00:10:13.780 --> 00:10:14.820 Równowaga ma znaczenie. 00:10:14.820 --> 00:10:18.440 Zrównoważona pamięć zapewnia ciągłość bez bez końca zapisywanych danych osobowych. 00:10:18.580 --> 00:10:22.640 Ograniczone uprawnienia dają im klucze potrzebne do pracy, nie otwierając przy tym całego skarbca. 00:10:22.840 --> 00:10:26.780 Odpowiednio dobrane narzędzia zwiększają produktywność bez zwiększania potencjalnego pola rażenia. 00:10:27.020 --> 00:10:30.660 Przesada, w którymkolwiek z tych obszarów jednym rzutem kości zmienia korzyść w ryzyko. 00:10:30.800 --> 00:10:33.360 I tak jak w prawdziwym życiu, nie unikniesz odpowiedzialności. 00:10:33.600 --> 00:10:37.660 Wytyczne Microsoftu dotyczące odpowiedzialnej sztucznej inteligencji przypominają, że agenci podnoszą poprzeczkę. 00:10:37.660 --> 00:10:41.120 Mniejsza tolerancja na błędy, bardziej rygorystyczna przejrzystość, ostrzejsza kontrola. 00:10:41.220 --> 00:10:45.180 To wciąż Ty odbierasz telefon, gdy błędne uprawnienie lub dostęp do narzędzia powoduje wyciek raportu. 00:10:45.320 --> 00:10:48.180 Przy naturalnej dwudziestce pamięć dostarcza inteligentniejszy kontekst. 00:10:48.320 --> 00:10:52.020 Uprawnienia są zgodne z polityką, a narzędzia odblokowują tylko bezpieczne działania. 00:10:52.240 --> 00:10:57.260 Przy jedynce agent pamięta złe instrukcje, ma za dużo kluczy i z pełną pewnością używa niewłaściwego konektora. 00:10:57.420 --> 00:11:00.020 To nie kwestia, czy to krzywa ryzyka, po której się poruszasz. 00:11:00.160 --> 00:11:02.120 I tu pojawia się część, którą większość pomija. 00:11:02.120 --> 00:11:05.200 Nawet jeśli poprawnie skonfigurujesz zestaw startowy, nie jesteś jeszcze bezpieczny. 00:11:05.320 --> 00:11:08.120 Te trzy elementy odsłaniają również cichsze, bardziej subtelne niebezpieczeństwo. 00:11:08.820 --> 00:11:11.720 Agent ostatecznie wie więcej od Ciebie o tym, co właśnie zrobił. 00:11:11.840 --> 00:11:17.940 A gdy nie widzisz uzasadnienia stojącego za jego wyborami, nowy rodzaj problemu zarządczego pojawia się tuż pod Twoim nosem. 00:11:18.760 --> 00:11:20.900 Niewidzialny problem, asymetria informacji. 00:11:21.100 --> 00:11:23.780 Czy zdarzyło Ci się, że pracownik wręczył Ci pracę z beztroskim? 00:11:23.880 --> 00:11:25.100 Nie martw się, zająłem się tym. 00:11:25.100 --> 00:11:31.140 Wyobraź sobie teraz to samo zdanie wypowiedziane przez agenta, a i tyle, że nie możesz zadać pytań uzupełniających ani podejrzeć procesu myślowego. 00:11:31.300 --> 00:11:35.880 Otrzymujesz wygładzony wynik, ładnie zapakowany, ale ścieżka decyzyjna wewnątrz jest nieprzejrzysta. 00:11:36.040 --> 00:11:38.700 To właśnie niewidzialny ból głowy, asymetria informacji. 00:11:38.900 --> 00:11:44.420 Agenci dysponują większą ilością danych i mocy obliczeniowej niż Ty kiedykolwiek, ale to Ty ponosisz odpowiedzialność za wyniki. 00:11:44.640 --> 00:11:48.140 California Management Review nazywa to podręcznikowym problemem pryncypał agent. 00:11:48.380 --> 00:11:52.700 System posiada prywatne informacje, których nie widzisz, podczas gdy Ty bierzesz na siebie odpowiedzialność. 00:11:52.700 --> 00:11:59.600 To tak, jakby Twój cyfrowy współpracownik rzucał kostką za ekranem i pokazywał Ci tylko ostateczny wynik, a nie modyfikatory, które dodał po drodze. 00:11:59.760 --> 00:12:01.640 A ten problem nie ogłasza się delikatnie. 00:12:01.840 --> 00:12:06.620 Agenci działają z pewnością siebie, nie asekurują się, nie stosują zastrzeżeń, nie pozwalają zobaczyć swoich szwów. 00:12:06.760 --> 00:12:12.140 Więc zostajesz, patrząc na gotowy raport, zastanawiając się, czy ten wygładzony artefakt jest wiarygodny, czy po cichu uszkodzony? 00:12:12.320 --> 00:12:16.880 Zanim się w to zagłębisz, zespoły na dalszym etapie mogą już budować pracę w oparciu o błąd. 00:12:16.880 --> 00:12:23.040 Weźmy częsty przypadek, agent błędnie klasyfikuje fakturę powiązaną z kluczowym kontraktem dostawcy jako priorytet niskiego rzędu. 00:12:23.220 --> 00:12:26.380 Na pierwszy rzut oka raport wygląda bezbłędnie, nic nie świeci się na czerwono. 00:12:26.600 --> 00:12:29.240 Miesiące później audyt puka do drzwi w sprawie nieuregulowanych płatności. 00:12:29.500 --> 00:12:32.360 Śledzisz to wstecz i odkrywasz błędną klasyfikację ukrytą na samym początku. 00:12:32.580 --> 00:12:34.460 To właśnie asymetria informacji w praktyce. 00:12:34.640 --> 00:12:37.440 Agent wiedział, co zrobił, ale Ty nie miałeś wglądu w jego rozumowanie. 00:12:37.660 --> 00:12:41.060 PUC podkreśla ten właśnie scenariusz w swoich rekomendacjach DLP. 00:12:41.060 --> 00:12:48.980 Zabezpieczenia takie jak dostęp oparty na rolach, kontrola klasyfikacji i progi eskalacji zapobiegają przerodzeniu się drobnego potknięcia w karę finansową. 00:12:49.220 --> 00:12:52.440 Ta dynamika bezpośrednio wpisuje się w problem pryncypał-agent. 00:12:52.600 --> 00:12:55.700 Ty, pryncypał, wyznaczasz cel, zorganizuj faktury dostawców. 00:12:55.880 --> 00:12:59.880 Agent optymalizuje pod kątem dosłownego posłuszeństwa, sklasyfikuj i zarchiwizuj. 00:13:00.040 --> 00:13:04.260 Nie widzi szerszej intencji, nie interpretuje niuansów i z pewnością nie rozważa implikacji strategicznych. 00:13:04.400 --> 00:13:08.660 To, co wydaje się sabotażem, jest często tylko ślepą lojalnością wobec instrukcji traktowanych zbyt dosłownie. 00:13:08.660 --> 00:13:13.500 Teraz dodajmy moralną strefę zgniotu. Gdy coś się psuje, odpowiedzialność spada na ciebie. 00:13:13.740 --> 00:13:17.560 Audytorzy nie winią niewidzialnego algorytmu, pytają, dlaczego tego nie wyłapałeś. 00:13:17.780 --> 00:13:22.140 Maszyna uchyla się od odpowiedzialności, podczas gdy człowiek przyjmuje na siebie uszczerbek na reputacji. 00:13:22.380 --> 00:13:24.760 Efekt jest jak bycie poduszką powietrzną w trakcie wypadku. 00:13:24.960 --> 00:13:28.740 Odczuwasz skutki i ponosisz konsekwencje, podczas gdy prawdziwy sprawca jedzie dalej, nieświadomy niczego. 00:13:28.920 --> 00:13:29.660 Co więc robisz? 00:13:29.840 --> 00:13:35.600 Nie możesz magicznie zajrzeć w głąb pełnego rozumowania modelu generatywnego, ale możesz zapewnić widoczność na jego obrzeżach. 00:13:35.600 --> 00:13:39.020 Krok pierwszy. Wymagaj szczegółowych logów i ścieżek pochodzenia danych. 00:13:39.240 --> 00:13:45.520 Nie iluzji wewnętrznych przemyśleń, lecz konkretnego zapisu tego, do jakich danych uzyskano dostęp, jakie akcje wywołano i w jakiej kolejności. 00:13:45.760 --> 00:13:47.900 Krok drugi. Wdrażaj panele przejrzystości. 00:13:48.120 --> 00:13:53.940 Ujawniają one kluczowe zmienne decyzyjne kto, co, kiedy, dzięki czemu możesz przynajmniej dostrzec zarys tego, jak powstał wynik. 00:13:54.100 --> 00:13:57.840 Krok trzeci. Wymagaj uzasadnień prostym językiem dla działań o dużym wpływie. 00:13:57.840 --> 00:14:00.860 CMR podkreśla to w kontekstach takich jak rekrutacja. 00:14:01.100 --> 00:14:05.300 Zmuszanie agentów do podawania czytelnych dla człowieka kryteriów każdej decyzji tworzy warstwę wyjaśnialności. 00:14:05.520 --> 00:14:07.880 Krok czwarty. Przetestuj swoich agentów metodą red teaming. 00:14:08.000 --> 00:14:11.360 Podsuwaj im dziwaczne przypadki testowe, celowo je psuj i dokumentuj wszystkie luki. 00:14:11.600 --> 00:14:15.420 Jeśli sam nie sprawdzisz tych błędów, ujawnią się one, gdy stawka będzie znacznie wyższa. 00:14:15.620 --> 00:14:20.080 Każde z tych działań mitygacyjnych nie rozwiązuje problemu asymetrii w całości, ale razem rozrzedzają mgłę. 00:14:20.080 --> 00:14:27.840 Dzienniki audytu dają moc rekonstrukcji, panele świadomość sytuacyjną, a obowiązkowe uzasadnienia zakotwiczają decyzje w języku, który możesz ocenić. 00:14:28.020 --> 00:14:31.820 Red teaming ujawnia martwe punkty, zanim zrobią to klienci lub organy regulacyjne. 00:14:31.980 --> 00:14:39.740 I jak podkreśla Microsoft, wprowadzenie zatwierdzeń przez człowieka w punktach eskalacji gwarantuje, że najryzykowniejsze decyzje trafią na biurko przed realizacją. 00:14:39.980 --> 00:14:44.720 Nie chodzi o dążenie do doskonałej przejrzystości, ponieważ rozumowanie generatywne zawsze będzie częściowo nieprzejrzyste. 00:14:44.720 --> 00:14:52.080 Chodzi o to, by mieć wystarczająco dużo danych powierzchniowych, aby monitorować wzorce, wyłapywać anomalie i egzekwować odpowiedzialność, zanim problemy wymkną się spod kontroli. 00:14:52.260 --> 00:14:58.540 Bez tych środków kończysz jako odpowiedzialny za niewidzialne wybory, których nigdy nie zatwierdziłeś, podczas gdy agenci szybko generują kolejne wyniki. 00:14:58.780 --> 00:15:01.360 Co prowadzi nas do prawdziwej decyzji, przed którą stoisz. 00:15:01.560 --> 00:15:10.460 Możesz zostawić te systemy bez ograniczeń i mieć nadzieję, że nic nie spłonie, albo zacząć traktować ich zachowanie jak politykę grupową, z zasadami, limitami i eskalacją od pierwszego dnia. 00:15:10.460 --> 00:15:14.200 Bo jeśli pominiesz warstwę zarządzania, chaos nie wydarzy się dopiero kiedyś. 00:15:14.200 --> 00:15:19.240 Pojawi się, gdy twój cyfrowy współpracownik po raz pierwszy ruszy na misję poboczną, której nigdy nie zatwierdziłeś. 00:15:19.540 --> 00:15:20.900 Zapobieganie agent o kalipsie. 00:15:21.120 --> 00:15:24.360 Zapobieganie temu, co lubię nazywać agent o kalipsą, nie wynika z paranoi. 00:15:24.540 --> 00:15:28.740 Chodzi o zadbanie o podstawy, które powstrzymają twoją flotę, a i przed zamianą w zagrożenie pożarowe. 00:15:28.900 --> 00:15:32.380 To warstwa taktyczna, w której spotykają się zarządzanie, ryzyko i infrastruktura. 00:15:32.540 --> 00:15:34.040 PWC przedstawia to jasno. 00:15:34.040 --> 00:15:38.860 Jeśli chcesz agentów, którzy skalują się, nie niszcząc twojego środowiska, potrzebujesz pięciu szybkich taktyk. 00:15:38.860 --> 00:15:45.460 Dostosuj nadzór, zaktualizuj zarządzanie ryzykiem, zbuduj infrastrukturę, wprowadź testy i monitoring oraz zawsze utrzymuj człowieka w pętli przy krytycznych decyzjach. 00:15:45.680 --> 00:15:46.980 Zacznij od ładu korporacyjnego. 00:15:47.200 --> 00:15:50.860 Obecne programy odpowiedzialnej sztucznej inteligencji zostały stworzone dla modeli, a nie dla autonomicznych pracowników. 00:15:51.040 --> 00:15:54.980 Musisz dostosować nadzór tak, aby komitety ryzyka szczebla zarządczego wyraźnie uwzględniały ryzyko związane z agentami. 00:15:54.980 --> 00:15:57.340 Agenci muszą mieć wbudowane reguły eskalacji. 00:15:57.580 --> 00:16:01.540 Gdy stawka osiągnie określony poziom, praca zostaje wstrzymana do momentu uzyskania zgody człowieka. 00:16:01.700 --> 00:16:04.580 Pomyśl o tym, jak odrzewie eskalacji w swoim systemie obsługi zgłoszeń. 00:16:04.800 --> 00:16:07.680 Przy naturalnym dwudziestka agent zamyka zgłoszenia przez cały dzień. 00:16:07.880 --> 00:16:13.280 Przy naturalnej jedynce wie, że musi się zatrzymać i poprosić o akceptację przed dotknięciem płac lub wrażliwej komunikacji zewnętrznej. 00:16:13.480 --> 00:16:17.720 Regulacje, takie jak Unijny Akt o sztucznej inteligencji EUA i ACT, tylko wzmacniają tę potrzebę. 00:16:17.940 --> 00:16:22.960 Formalizują one oczekiwania, że nadzór musi być wykazywalny, a ty musisz udokumentować, kto zatwierdził co i kiedy. 00:16:23.220 --> 00:16:24.580 Następnie zarządzanie ryzykiem. 00:16:24.780 --> 00:16:28.300 Agenci nie są równi pod względem ryzyka, więc przypisuj ich do poziomów, tak jak robisz to z systemami. 00:16:28.500 --> 00:16:31.460 Boty niskiego ryzyka, pracujące w wąskich siłosach, mogą działać szybko. 00:16:31.640 --> 00:16:35.960 Agenci o wysokiej autonomii, którzy mają dostęp do danych klientów lub rejestrów finansowych, wymagają dokładniejszej kontroli. 00:16:36.140 --> 00:16:38.340 Ramy operacyjne PWC są tutaj pragmatyczne. 00:16:38.540 --> 00:16:44.300 Monitoruj użycie, mierz autonomię względem potencjalnego wpływu i kieruj agentów wyższego szczebla przez wolniejsze cykle zatwierdzania i testowania. 00:16:47.720 --> 00:16:52.160 Jeśli bot wysyła płatności do dostawców, powinien posiadać zabezpieczenia i logowanie odporne na audyt. 00:16:52.520 --> 00:16:53.840 Infrastruktura to kolejny blok. 00:16:53.960 --> 00:16:55.740 Te narzędzia nie pojawiają się z powietrza. 00:16:55.920 --> 00:17:00.660 Potrzebujesz kontroli dostępu opartej na rolach RBAC, aby ograniczyć zakres działań agentów, uwierzytelniania wieloskładnikowego MFA, 00:17:00.820 --> 00:17:06.460 przy podnoszeniu uprawnień ochrony przed wyciekiem danych DLP oraz anonimizacji, aby logi nie przenosiły identyfikatorów użytkowników do niewłaściwego archiwum. 00:17:06.600 --> 00:17:08.940 Traktuj każdą tożsamość agenta jak konto ludzkie. 00:17:09.180 --> 00:17:11.840 Zasada minimalnych uprawnień musi być rejestrowana i weryfikowana. 00:17:11.840 --> 00:17:17.720 Przyznanie agentowi nieograniczonych uprawnień tylko dlatego, że przyspieszyło to testy to w automatyzacji odpowiednik nadania tymczasowych praw administratora domeny. 00:17:17.860 --> 00:17:20.840 To nie jest innowacja, to zgłoszenie naruszenia, które tylko czeka na realizację. 00:17:21.020 --> 00:17:22.420 Teraz testowanie i monitorowanie. 00:17:22.680 --> 00:17:24.340 Załóż, że wyniki w końcu będą błędne. 00:17:24.520 --> 00:17:26.720 Twoim zadaniem jest wyłapanie ich, zanim wyrządzą szkody. 00:17:26.940 --> 00:17:30.660 Oznacza to wykrywanie anomalii w czasie rzeczywistym, aby sygnalizować dziwne odchylenia w zachowaniu. 00:17:30.860 --> 00:17:33.780 Oznacza to testy penetracyjne red teaming Twoich agentów, a nie tylko firewali. 00:17:33.780 --> 00:17:36.820 Testuj ich dziwnymi danymi wejściowymi, aby znaleźć luki, gdy stawka jest niska. 00:17:37.000 --> 00:17:38.600 Ciągłe monitorowanie również ma znaczenie. 00:17:38.820 --> 00:17:43.000 Logi dostępu do danych, podjęte działania i częstotliwość operacji wysokiego ryzyka powinny być regularnie przeglądane. 00:17:43.200 --> 00:17:47.980 Zarówno PUC, jak i Microsoft wskazują, że ścieżki audytu i regularne przeglądy to Twój wehikuł czasu. 00:17:48.260 --> 00:17:50.520 Bez nich nie wiesz, co agent faktycznie zrobił. 00:17:50.640 --> 00:17:53.060 A piąta taktyka – nadzór ludzki nigdy nie znika. 00:17:53.320 --> 00:17:57.840 Nawet przy najlepszej orkiestracji i zabezpieczeniach, decyzje o wysokiej stawce nadal wymagają człowieka. 00:17:57.840 --> 00:17:59.080 Ustal wyraźne progi. 00:17:59.260 --> 00:18:07.540 Jeśli agent zatwierdza transakcję powyżej określonej kwoty, edytuje wrażliwe rekordy lub inicjuje komunikację zewnętrzną dotyczącą danych regulowanych, musi się zatrzymać i przekazać kontrolę Tobie. 00:18:07.740 --> 00:18:10.700 System Kopilot firmy Microsoft ma wbudowane takie podejście. 00:18:10.920 --> 00:18:14.600 Sztuczna inteligencja może przygotować projekt wiadomości, ale to człowiek klika – wyślij. 00:18:14.740 --> 00:18:18.520 Ten ostatni ruch to zabezpieczenie między produktywnością a ryzykiem naruszenia przepisów. 00:18:18.640 --> 00:18:21.080 Kiedy skalujesz liczbę agentów, staje się to orkiestracją. 00:18:21.320 --> 00:18:22.620 Jeden bot to nic trudnego. 00:18:22.620 --> 00:18:27.120 Rój agentów może prowadzić do nieprzewidzianych dziwnych zachowań, naśladowania się nawzajem czy zapętlania w dziwnych procesach. 00:18:27.280 --> 00:18:30.560 Bez kontroli wygląda to jak niezarządzany, wymykający się spod kontroli wątek na slaku. 00:18:30.760 --> 00:18:34.960 Antidotum jest orkiestrator, jeden koordynujący agent lub centralny zespół ludzkich recenzentów. 00:18:35.120 --> 00:18:38.480 Pomyśl o tym jak o dyrygencie, który dba, by instrumenty ze sobą nie kolidowały. 00:18:38.660 --> 00:18:44.300 Praktyczny pierwszy krok zacznij od wzorca pojedynczego orkiestratora, zanim otworzysz śluzy dla wieloagentowych rojów. 00:18:44.300 --> 00:18:51.480 Ta warstwa potrafi koordynować specjalistów, płumić pętle zwrotne i dostosowywać je do celów biznesowych, zamiast pozwalać im improwizować własne zasady. 00:18:51.740 --> 00:18:54.320 Żadna z tych kontroli nie istnieje po to, by cię spowalniać. 00:18:54.480 --> 00:18:57.100 Wdrożone właściwie pozwalają bezpiecznie skalować działania. 00:18:57.280 --> 00:19:00.300 PUC, BCG, McKinsey, wszyscy zgadzają się w tym jednym punkcie. 00:19:00.540 --> 00:19:03.320 Zarządzań i orkiestrowani agenci stają się mnożnikiem siły. 00:19:03.520 --> 00:19:09.420 Usuwają powtarzalną pracę, łączą silosy i pozwalają twojemu ludzkiemu zespołowi skupić się na bardziej wartościowych działaniach strategicznych. 00:19:09.420 --> 00:19:14.560 Przy idealnym wykonaniu oznacza to większą przepustowość, mniejszy nakład pracy ręcznej i pełną zgodność z przepisami wbudowaną w proces. 00:19:14.760 --> 00:19:20.300 Ograniczanie agentów to nieczarnowictwo, to instalowanie barier, dzięki którym czerpiesz realne korzyści, unikając najgorszych scenariuszy. 00:19:20.460 --> 00:19:23.660 Kontroluj uprawnienia do pamięci i narzędzi, a zmniejszysz ukryte ryzyko. 00:19:23.860 --> 00:19:29.300 Dostosuj ład korporacyjny, zarządzanie ryzykiem, infrastrukturę, monitoring i nadzór, a zachowasz pełną przejrzystość zarządzania. 00:19:29.540 --> 00:19:34.200 Zrób to wszystko, a to, co wyglądało na chaos, stanie się fundamentem szybszej, tańszej i bardziej zgodnej z przepisami pracy. 00:19:34.200 --> 00:19:37.200 I ostatecznie, cała ta odpowiedzialność spoczywa na tobie. 00:19:37.360 --> 00:19:44.560 To nie bezosobowe narzędzia, to współpracownicy bez akt osobowych, co oznacza, że prawdziwym testem nie jest to, czy agenci zastąpią twoją rolę, 00:19:44.660 --> 00:19:50.380 ale czy potrafisz pokierować ich autonomią z takim samym nadzorem, jaki stosujesz wobec ludzi, dbając o równowagę zachęt. 00:19:50.520 --> 00:19:51.420 Oto podsumowanie. 00:19:51.680 --> 00:19:55.300 Agenci nie zastępują menedżerów, zmuszają cię do udoskonalenia samego zarządzania. 00:19:55.540 --> 00:19:58.780 Badania są jasne, to po prostu problem pryncypał agent w nowym wydaniu. 00:19:58.780 --> 00:20:04.400 Oni mają dane, ty masz odpowiedzialność, a jedynym realnym rozwiązaniem jest kierowana autonomia plus stały nadzór. 00:20:04.560 --> 00:20:05.960 Oto twoje pierwsze trzy ruchy. 00:20:06.180 --> 00:20:10.920 Zrób inwentaryzację agentów, podziel ich według ryzyka i autonomii, ustaw progi eskalacji wymagające zgody człowieka 00:20:10.920 --> 00:20:14.900 i przeprowadź jeden test typu Red Team lub analizę przypadku brzekowego na krytycznym agencie. 00:20:15.060 --> 00:20:16.260 To twoje zadanie startowe. 00:20:16.480 --> 00:20:20.880 Jeśli ta lista była pomocna, zasubskrybuj kanał i daj znać w komentarzu, którego agenta sprawdzisz w pierwszej kolejności. 00:20:21.100 --> 00:20:23.860 Przy naturalnej dwudziestce zapobiegniesz Chaosowi, zanim jeszcze powstanie. 00:20:24.020 --> 00:20:27.100 Przy naturalnej jedynce, cóż, przynajmniej będziesz wiedzieć, gdzie wybuchł pożar.