WEBVTT

00:00:00.000 --> 00:00:03.420
Stellen Sie sich vor, Sie melden sich bei Teams an und werden von einem Schwarm K.I. Agenten begrüßt,

00:00:03.500 --> 00:00:05.180
und Ihnen jeder verspricht, Ihren Arbeitstag zu optimieren.

00:00:05.460 --> 00:00:08.820
Sie versprechen Produktivität, doch ohne Regeln können Sie Ziele falsch interpretieren

00:00:08.820 --> 00:00:11.080
und den Zugriff auf eine Weise erweitern, die Sie haftbar macht.

00:00:11.660 --> 00:00:14.140
Das ist, als würden Sie Ihren Praktikanten eine Firmenkreditkarte geben

00:00:14.140 --> 00:00:16.220
und hoffen, dass auf der Abrechnung am Ende keine Yacht steht.

00:00:16.800 --> 00:00:17.420
Ist die gute Nachricht.

00:00:17.720 --> 00:00:20.940
In dieser Folge erhalten Sie ein einfaches Framework, drei praktische Kontrollmechanismen

00:00:20.940 --> 00:00:24.300
und erste Schritte, um diese Agenten nützlich sicher und auf Ihre Ziele ausgerichtet zu halten.

00:00:25.140 --> 00:00:29.040
Denn bevor Sie ihnen vertrauen können, müssen Sie verstehen, was für Mitarbeiter Sie eigentlich werden.

00:00:30.000 --> 00:00:31.500
Lernen Sie Ihre neuen digitalen Kollegen kennen.

00:00:31.840 --> 00:00:33.220
Lernen Sie Ihre neuen digitalen Kollegen kennen.

00:00:33.560 --> 00:00:35.760
Sie setzen nicht in Bürokabinen, Sie stempeln nicht ein und Sie haben

00:00:35.760 --> 00:00:37.900
definitiv niemals das Mitarbeiterhandbuch gelesen.

00:00:38.320 --> 00:00:40.560
Das sind nicht die verstaubten Excel-Makros, um die wir uns früher kümmern mussten.

00:00:41.000 --> 00:00:44.100
Agenten beobachten Planen und Handeln, weil sie drei Kernkomponenten kombinieren,

00:00:44.220 --> 00:00:46.080
Gedächtnis, Berechtigungen und Toolzugriff.

00:00:46.600 --> 00:00:49.220
Das ist das Framework von Microsoft und BCG und das ist der entscheidende Unterschied.

00:00:49.640 --> 00:00:52.340
Ihr neuer Kollege kann frühere Interaktionen nachverfolgen,

00:00:52.560 --> 00:00:56.580
zwischen Systemen wechseln, denen Sie bereits vertrauen und Apps tatsächlich so nutzen wie ein Mensch.

00:00:57.140 --> 00:00:59.240
Sicher, die Versuchung ist groß, wieder Witze über Praktikanten zu machen.

00:00:59.240 --> 00:01:01.880
Sie erscheinen voller Energie, haben aber keine Ahnung, wo der Tacker liegt.

00:01:02.340 --> 00:01:06.040
Genauso ist es mit Agenten, Sie stürmen Ihre Workflows, ohne die Grenzen wirklich zu verstehen.

00:01:06.400 --> 00:01:09.680
Aber im Gegensatz zu einem Praktikanten können Sie auf Outlook, SharePoint oder Dynamics zugreifen,

00:01:09.760 --> 00:01:10.540
sobald Sie sie einsetzen.

00:01:10.960 --> 00:01:13.080
Diese Macht ist nicht nur skurril, sie ist ein Governance-Problem.

00:01:13.560 --> 00:01:16.880
Ohne angemessene Datensicherung und Berechtigungen haben Sie im Grunde die Angriffsfläche

00:01:16.880 --> 00:01:18.580
über Ihren gesamten Stack hinweg erweitert.

00:01:19.420 --> 00:01:22.740
Wenn Sie einen Vorgeschmack darauf wollen, wie schnell das Realität wird, schauen Sie sich die Roadmap an.

00:01:22.740 --> 00:01:26.800
Microsoft hat bereits SharePoint-Agenten angekündigt, die Dokumente direkt in Sites verwalten,

00:01:26.920 --> 00:01:28.840
nicht nur Suchergebnisse, nicht nur Suchergebnisse.

00:01:29.200 --> 00:01:31.860
Stellen Sie sich vor, Sie bitten einen Assistenten, Projektdateien aufzuräumen

00:01:31.860 --> 00:01:34.320
und er ordnet tatsächlich freigegebene Ordner über Teams-Hinweg neu.

00:01:34.980 --> 00:01:38.080
Beeindruckend auf einer Folie, aber auch nur eine Fehlinterpretation davon entfernt,

00:01:38.120 --> 00:01:39.860
die Finanzdaten des falschen Quartals zu archivieren.

00:01:40.220 --> 00:01:42.800
Das ist kein theoretisches Risiko, das ist das Betriebsproblem für das nächste Jahr.

00:01:43.380 --> 00:01:45.320
Automatisierung der alten Schule war wie ein wahren Automat.

00:01:45.320 --> 00:01:48.340
Man drückte einen Knopf, der Riegel fiel heraus und mit etwas Glück blieb er nicht stecken.

00:01:48.760 --> 00:01:49.760
Agenten sind ganz anders.

00:01:50.160 --> 00:01:53.740
Sie können den Status Ihres Workflows erkennen, verfügbare Optionen prüfen und Schritte generieren,

00:01:53.820 --> 00:01:55.200
die niemand im Voraus fest programmiert hat.

00:01:55.460 --> 00:01:58.640
Es ist adaptiv und genau das ist sowohl der Reiz als auch die Gefahr.

00:01:58.900 --> 00:02:01.120
Bei einem Fehler ist das Ergebnis kein steckengebliebener Schokorie.

00:02:01.480 --> 00:02:04.840
Es ist ein überzeugender Bericht, der Daten aus drei Systemen zieht mit falsch definierten Zeilen,

00:02:04.920 --> 00:02:06.840
die Monate später als unumstößliche Wahrheit präsentiert werden.

00:02:06.960 --> 00:02:09.480
Warten Sie mal, wer unterschreiben muss, wenn die Buchhaltung fragt, wo die Differenz kommt.

00:02:09.880 --> 00:02:11.080
Dennoch ist Ihr Vorteil offensichtlich.

00:02:11.320 --> 00:02:15.840
Ein einziger Agent kann Verbindungen über Daten silus hinwegknüpfen, die Ihr menschliches Team kaum erreicht.

00:02:15.840 --> 00:02:20.900
Ihm ist es egal, ob die Daten in Teams, SharePoint oder einem Dynamics-Modul im Hintergrund liegen, Hintergrund liegen.

00:02:21.180 --> 00:02:24.760
Er springt dazwischen hin und her und erstellt Ergebnisse ganz ohne E-Mail-Anhänge,

00:02:24.880 --> 00:02:27.600
Kalendererinnerungen oder den einen Excel-Experten in Ihrer Abteilung.

00:02:28.300 --> 00:02:30.700
Was den Durchsatz angeht, ist es, als würden Sie jemanden einstellen,

00:02:30.780 --> 00:02:33.740
der zehnmal schneller arbeitet und nie eine Pause macht, um Fisch in der Mikrowelle aufzuwärmen.

00:02:34.080 --> 00:02:35.800
Aber Geschwindigkeit ohne Ausrichtung ist gefährlich.

00:02:36.640 --> 00:02:40.120
Agenten teilen nicht Ihre Geschäftsziele, sie teilen die wörtlichen Anweisungen, die Sie ihnen geben.

00:02:40.120 --> 00:02:43.940
Diese Diskrepanz ist das Prinzipal-Argent-Problem in technischer Verpackung.

00:02:44.500 --> 00:02:48.620
Sie wollen Genauigkeit und Compliance, Sie liefern eine bestmögliche Interpretation mit fehlgeleitetem Selbstvertrauen.

00:02:49.060 --> 00:02:50.660
Es ist keine Feindseligkeit, es ist Ahnungslosigkeit.

00:02:51.040 --> 00:02:53.820
Und Ahnungslosigkeit mit Systemberechtigungen kann verheerender sein als Bosheiten.

00:02:54.500 --> 00:02:58.040
So kommt es, dass ein übereifriger Assistent vertrauliche Tabellen an externe Kontakte verschickt,

00:02:58.140 --> 00:02:59.980
nur weil sie ihn gebeten haben, das Update zu teilen.

00:03:01.060 --> 00:03:02.180
Die Realität sieht also so aus.

00:03:02.240 --> 00:03:04.980
Agenten sind keine skurrilen Randerscheinungen, sondern digitale Mitarbeiter,

00:03:04.980 --> 00:03:06.340
die in zentrale Abläufe vordringen.

00:03:06.400 --> 00:03:09.120
Spektakulär fähig, aber völlig ahnungslos, was den Kontext betrifft.

00:03:10.120 --> 00:03:12.380
Vielleicht sind Sie von Ihrer Demo-Performance begeistert,

00:03:12.460 --> 00:03:16.940
aber der wahre Test beginnt, wenn Sie sie ohne die Leitplanken von Training oder Aufsicht in Live-Prozesse einsetzen.

00:03:17.620 --> 00:03:18.900
Und hier kommt Ihre Wissenslücke ins Spiel.

00:03:19.280 --> 00:03:22.880
Bleiben Sie dran, denn in wenigen Minuten gehen wir die drei Dinge durch, die jeder Agent braucht.

00:03:23.080 --> 00:03:27.340
Speicher, Berechtigungen und Tools und warum jedes davon sowohl eine Superkraft als auch eine Fehlerquelle ist,

00:03:27.380 --> 00:03:28.320
wenn es nicht verwaltet wird.

00:03:29.420 --> 00:03:31.880
Das bereitet Sie auf Ihre nächste Aufgabe vor, nicht nur Tools zu nutzen,

00:03:31.980 --> 00:03:34.360
sondern digitale Mitarbeiter zu verwalten, als wären Sie Teil Ihres.

00:03:34.460 --> 00:03:37.020
Und das kommt ganz ohne HR-Handbuch, aber mit jeder Menge Verantwortung.

00:03:38.100 --> 00:03:39.760
Manager als Vorgesetzte digitaler Mitarbeiter.

00:03:40.460 --> 00:03:42.380
Stellen Sie sich vor, Sie öffnen Ihre Leistungsbeurteilung

00:03:42.380 --> 00:03:46.040
und sehen eine neue Zeile, Verwaltung von zwölf menschlichen Mitarbeitern und 48 KI-Agenten.

00:03:46.520 --> 00:03:49.820
Das ist kein Science-Fiction-Gerede, sondern entwickelt sich zu einem echten Maßstab für Managementfähigkeit.

00:03:50.400 --> 00:03:53.580
Experten sagen heute, dass der Wert eines Managers teilweise daran gemessen wird,

00:03:53.640 --> 00:03:55.380
wie viele digitale Arbeiter er anleiten kann.

00:03:55.820 --> 00:03:59.580
Denn Prompting, Verifizierung und Aufsicht werden schnell zu zentralen Führungskompetenzen.

00:03:59.580 --> 00:04:05.080
Der Chef der Zukunft delegiert nicht nur an Menschen, er orchestriert eine Mischung aus Personal und Software.

00:04:05.740 --> 00:04:09.900
Dieser Wandel ist wichtig, weil KI-Agenten nicht wie Werkzeuge funktionieren, die man bei Nichtgebrauch einfach liegen lässt.

00:04:10.520 --> 00:04:12.280
Sie agieren dann selbst, sobald sie den Anstoß erhalten.

00:04:12.420 --> 00:04:13.900
Und sie melden sich nicht, wenn sie verwirrt sind.

00:04:14.620 --> 00:04:18.100
Ihre Rolle als Manager erfordert nun Fähigkeiten, die weniger wie das Schreiben von Notizen aussehen

00:04:18.100 --> 00:04:19.780
und mehr wie das Definieren von Eskalationsschwellen.

00:04:19.780 --> 00:04:22.660
Wann soll der Agent anhalten und bei ihnen nachfragen, wann soll er weitermachen?

00:04:23.240 --> 00:04:27.600
Laut PwC und dem Weltwirtschaftsforum sind die drei entscheidenden Managementmaßnahmen hier.

00:04:27.700 --> 00:04:31.920
Klare Instruktionen, Prompting, menschliche Überwachung und die Überprüfung der Ergebnisse.

00:04:32.600 --> 00:04:34.640
Vernachlässigen Sie einen dieser Punkte, vervielfragen sich die Risiken.

00:04:35.000 --> 00:04:36.780
Bei menschlichen Mitarbeitern gibt es ständig Feedback.

00:04:37.080 --> 00:04:38.920
Tonfall eine kurze Frage, ein feines Zögern.

00:04:39.400 --> 00:04:40.180
Agenten liefern das nicht.

00:04:40.620 --> 00:04:43.360
Sie liefern fertige Arbeit ab, egal ob ihre Annahmen sinnvoll waren oder nicht.

00:04:43.940 --> 00:04:46.880
Deshalb ist Prompting keine beiläufige Formulierung, sondern Systemdesign.

00:04:46.880 --> 00:04:53.740
Eine einzige vage Anweisung kann zu falsch abgelegten Daten, leichtfertigem Zugriff auf Unterlagen oder selbstbewussten, aber falschen Berichten führen.

00:04:54.780 --> 00:04:58.300
Das Testen von Prompts vor ihrem Einsatz wird genauso wichtig wie die Überprüfung von Projektplänen.

00:04:58.940 --> 00:05:00.020
Überprüfung ist die andere Hälfte.

00:05:00.420 --> 00:05:03.340
Führungskräfte sind Stichproben zur Qualitätssicherung gewohnt, könnten aber annehmen.

00:05:03.420 --> 00:05:04.480
Automatisierung bedeutet präzis.

00:05:04.800 --> 00:05:05.280
Ein Irrtum.

00:05:05.620 --> 00:05:09.260
Agenten improvisieren und Improvisation ohne Kontrolle kann spektakuläre Schäden anrichten.

00:05:09.560 --> 00:05:13.460
Wie Ayumi Moaoki betont, hat KI ein Talent dafür, wohlklingenden Unsinn zu produzieren.

00:05:13.460 --> 00:05:17.540
Manager dürfen nicht annehmen, dass ein professioneller Ton auch faktische Richtigkeit bedeutet.

00:05:18.260 --> 00:05:21.660
Verifizierung, Quellenvalidierung und die Prüfung von Datenfaden gehören heute zur Führung.

00:05:22.000 --> 00:05:22.940
Überwachung schließt den Kreis.

00:05:23.460 --> 00:05:26.820
Betrachten Sie es weniger als klassisches Mikromanagement, sondern eher als Zugriffskontrolle.

00:05:27.120 --> 00:05:29.780
Baba Kochat nennt es das Kennen der Grenzen des Vertrauens.

00:05:30.140 --> 00:05:33.820
Wenn Sie einem Agenten Befugnisse und Werkzeugzugriffe erteilen, bleiben Sie für das Ergebnis verantwortlich.

00:05:34.200 --> 00:05:38.020
Manager müssen vorab entscheiden, wie viel Autonomie angemessen ist und entsprechende Leitplanken setzen.

00:05:38.020 --> 00:05:43.700
Diese Überwachung bedeutet oft, menschliche Zustimmung einzuholen, bevor ein Agent risikoreiche Änderungen vornimmt,

00:05:43.800 --> 00:05:47.040
wie das Senden externer Daten oder das Ändern von Datensätzen in Kernsystemen.

00:05:47.880 --> 00:05:48.860
Hier kommt die unangenehme Bindung.

00:05:49.380 --> 00:05:53.000
Ihr Ruf als Führungskraft hängt nun davon ab, wie gut Sie Menschen und digitale Kollegen in Einklang bringen.

00:05:53.580 --> 00:05:55.140
Zu viel Kontrolle erstickt den Nutzen.

00:05:56.080 --> 00:05:59.200
Zu wenig Kontrolle führt zu Fehlern, die Sie nicht einmal kommen, sahen.

00:05:59.960 --> 00:06:03.040
Die Herausforderung besteht nicht darin, ein Führungsstil zu werden, sondern beide gleichzeitig anzuwenden.

00:06:03.420 --> 00:06:04.960
Menschen brauchen Motivation und Empathie.

00:06:04.960 --> 00:06:07.860
Agenten brauchen klare Grenzen und ständige Kalibrierung.

00:06:08.080 --> 00:06:11.140
Sie so aufeinander abzustimmen, dass sie sich nicht gegenseitig in ihren Arbeitsabläufen stören,

00:06:11.220 --> 00:06:12.520
wird zu ihrem täglichen Managementreflex.

00:06:13.240 --> 00:06:16.020
Betrachten Sie Ihre Rolle wie die eines Dirigenten nicht, im personellen Sinne,

00:06:16.140 --> 00:06:18.860
sondern indem Sie buchstäblich den Takt für zwei verschiedene Gruppen angeben.

00:06:19.240 --> 00:06:21.180
Menschliche Mitarbeiter bringen Kreativität und Empathie ein.

00:06:21.620 --> 00:06:25.360
KI-Agenten bringen Geschwindigkeit und Reichweite, doch wenn sie niemand steuert, entsteht Disharmonie.

00:06:25.660 --> 00:06:28.840
Die besten Führungskräfte der Zukunft werden nicht nur an der Moral Ihres Teams gemessen,

00:06:28.840 --> 00:06:32.080
sondern daran, ob menschliche und digitale Mitarbeiter im gleichen Takt arbeiten,

00:06:32.220 --> 00:06:34.720
ohne sensible Daten preiszugeben oder Entscheidungen zu verzerren.

00:06:35.500 --> 00:06:38.380
Im schlimmsten Fall zerstört mangelnde Abstimmung nicht nur einen Arbeitsablauf,

00:06:38.580 --> 00:06:40.060
sondern führt zu Compliance-Untersuchungen.

00:06:40.440 --> 00:06:41.440
Die wichtigste Erkenntnis ist einfach.

00:06:41.760 --> 00:06:44.120
Ihr Jobtitel hat sich nicht geändert, aber der Inhalt Ihrer Rolle schon.

00:06:45.060 --> 00:06:47.160
Sie führen nicht mehr nur Mitarbeiter, sie führen Assistenzsysteme,

00:06:47.180 --> 00:06:49.300
die in jede von Ihnen genutzte Anwendung eingebettet sind.

00:06:50.140 --> 00:06:52.600
Das erfordert neue Fähigkeiten, präzise Prompts erstellen,

00:06:52.740 --> 00:06:55.600
Anweisungen auf unbeabsichtigte Folgen testen, Ergebnisse validieren

00:06:55.600 --> 00:06:57.980
und Human-in-the-Loop-Sicherheitsmechanismen durchsetzen.

00:06:59.060 --> 00:07:01.920
Erfolg in diesem Bereich unterscheidet die Führungskräfte von morgen von jenen,

00:07:02.020 --> 00:07:03.920
die man diskret in den vorzeitigen Ruhestand schickt.

00:07:03.920 --> 00:07:09.020
Und da Theorie zwar gut ist, Praxis aber besser, hier Ihre Tagesaufgabe.

00:07:10.020 --> 00:07:12.200
Öffnen Sie die Einstellungen Ihres Co-Piloten oder Agents

00:07:12.200 --> 00:07:15.380
und suchen Sie nach den Kontrollfunktionen für manuelle Freigaben oder menschliche Aufsicht.

00:07:15.880 --> 00:07:18.200
Falls Sie diese nicht finden, ist allein diese Lücke bereits ein wichtiges Erkenntnis ergibt.

00:07:18.200 --> 00:07:21.160
Es bedeutet, dass Sie noch nicht wissen, wie man einen Außerkontrollegraden im Prozess stoppt.

00:07:21.500 --> 00:07:24.580
Wenn die Personalführung schon immer mit dem Onboarding begann, ist die Frage berechtigt,

00:07:24.640 --> 00:07:26.460
wie sieht das Onboarding für einen KI-Agenten aus.

00:07:27.080 --> 00:07:29.320
Jeder Agent, den Sie einsetzen, bringt sein eigenes Starter-Kit mit.

00:07:30.020 --> 00:07:33.520
Der Inhalt dieses Kits, Speicher, Berechtigungen und Werkzeuge entscheidet,

00:07:33.840 --> 00:07:38.680
ob Ihr neuer digitaler Kollege Sie glänzen lässt oder Sie Ihr Wochenende damit verbringen, Schäden zu beheben.

00:07:39.480 --> 00:07:40.980
Die drei Elemente, die jeder Agent benötigt.

00:07:40.980 --> 00:07:43.840
Wenn man analysiert, was einen Agenten wirklich antreibt,

00:07:43.960 --> 00:07:48.760
nennen Microsoft und BCG ist das Starter-Kit mit drei Essentials, Speicherberechtigungen und Werkzeuge.

00:07:49.800 --> 00:07:52.380
Fehlt eines davon, haben Sie statt eines vertrauenswürdigen digitalen Kollegen

00:07:52.380 --> 00:07:54.860
einen unausgereiften Bolt der Planlos in Ihrer Umgebung herumstoppert.

00:07:55.160 --> 00:07:58.740
Machen Sie hier Fehler, buchen Sie sich direkte Aufräumarbeiten, für die Sie kein Budget eingeplant haben.

00:07:59.380 --> 00:08:00.120
Als erstes der Speicher.

00:08:00.540 --> 00:08:03.020
Dies ermöglicht es, Agenten Aufgaben miteinander zu verknüpfen,

00:08:03.020 --> 00:08:05.340
statt jedes Mal bei Null anzufangen wie ein Goldfisch am Computer.

00:08:06.020 --> 00:08:09.140
Dank Speicher kann ein Agent ihre Vorliebe, Diagramme immer in blau zu erstellen,

00:08:09.140 --> 00:08:10.700
von einem Bericht auf den nächsten übertragen.

00:08:11.340 --> 00:08:13.600
Der Vorteil ist Kontinuität, der Nachteil ist Persistenz.

00:08:14.240 --> 00:08:17.500
Fehler und schlechte Anweisungen werden genauso einfach mitgeschleift wie nützlicher Kontext.

00:08:17.960 --> 00:08:20.380
Microsoft hebt dies durch ihre Arbeit an Chunking und Chaining hervor.

00:08:20.860 --> 00:08:23.520
Agenten speichern Interaktionsabschnitte, um an logischen Farben zu bilden.

00:08:24.200 --> 00:08:27.880
PwC warnt jedoch, dass diese Dauerhaftigkeit auch Datenschutzrisiken birgt,

00:08:27.880 --> 00:08:31.220
da sensible Daten länger verbleiben könnten, als sie sollten, als sie sollten.

00:08:32.440 --> 00:08:34.760
Im schlimmsten Falle halten Sie nicht nur einen hilfreichen Assistenten,

00:08:34.820 --> 00:08:36.940
sondern einen, der ihren schlimmsten Tippfehler unendlich oft wiederholt.

00:08:37.340 --> 00:08:38.280
Als nächster ist die Berechtigung.

00:08:38.280 --> 00:08:40.540
Betrachten Sie diese als den Mitarbeiterausweis des Agenten.

00:08:40.860 --> 00:08:43.240
Bei Menschen geben Sie auch nicht jedem einen Generalschlüssel für das Hauptquartier,

00:08:43.320 --> 00:08:44.620
sondern begrenzen den Zugriff rollenbasiert.

00:08:44.960 --> 00:08:46.000
Dieselbe Regel gilt auch hier.

00:08:46.500 --> 00:08:47.620
Sind die Berechtigungen zu streng,

00:08:47.800 --> 00:08:51.080
prallt der Agent ständig gegen verschlossene Türen und nervt Sie mit Anfragen nach Zugriffen.

00:08:51.560 --> 00:08:55.140
Sind Sie zu freizügig, haben Sie HR-System und Ihre Finanzdaten effektiv etwas überlassen,

00:08:55.140 --> 00:08:56.500
das Compliance-Regeln nicht versteht.

00:08:56.840 --> 00:08:58.480
Die Empfehlung von PwC hierzu ist missverständlich.

00:08:58.740 --> 00:09:01.160
Nutzen Sie rollenbasierte Zugriffskontrolle, RBRC,

00:09:01.380 --> 00:09:03.900
erzwingen Sie Multifaktor-Authentifizierung für erweiterte Aktionen

00:09:03.900 --> 00:09:05.760
und schützen Sie sensible Bereiche durch Data Loss Prevention.

00:09:05.900 --> 00:09:08.060
Wenn ein Agent beispielsweise das Internet abfragen muss,

00:09:08.180 --> 00:09:10.920
empfiehlt PwC, dies über einen Proxy mit DLP-Richtlinie zu leiten,

00:09:11.000 --> 00:09:12.820
damit keine Kundendaten in Suchanfragen gelangen.

00:09:13.060 --> 00:09:13.420
Damit kann.

00:09:14.140 --> 00:09:16.780
Bei einer natürlichen 20 halten RBRC und MFA in sich händisch.

00:09:17.140 --> 00:09:19.500
Bei einer natürlichen 1 verwandeln übermäßige Berechtigungen

00:09:19.500 --> 00:09:21.060
in den weltweit schnellsten versehentlichen Insight.

00:09:21.320 --> 00:09:22.040
Dann gibt es noch die Tools.

00:09:22.440 --> 00:09:23.960
Das sind die Apps, APIs und Konnektoren,

00:09:24.040 --> 00:09:25.460
die Agenten tatsächlich für ihre Aktion nutzen.

00:09:25.460 --> 00:09:27.480
Ohne Tools starren Sie nur ins Leere.

00:09:28.020 --> 00:09:30.260
Mit den falschen Tools richten Sie mehr Schaden als Nutzen an,

00:09:30.440 --> 00:09:32.700
als würde man einem Praktikanten am ersten Tag Produktionsrechte

00:09:32.700 --> 00:09:34.440
statt eines sicheren Reporting-Dashboards geben.

00:09:35.280 --> 00:09:37.820
Tools bestimmen den Umfang dessen, was ein Agent berühren kann.

00:09:38.280 --> 00:09:39.660
Microsoft baut hier Leitplanken ein,

00:09:39.820 --> 00:09:42.100
indem Co-Pilot-Konnektoren in Kontrollkanäle eingebettet werden,

00:09:42.180 --> 00:09:43.800
statt dem Agenten einfach hohen Zugriff zu gewähren.

00:09:44.200 --> 00:09:45.320
Die bewährte Methode ist dieselbe.

00:09:45.480 --> 00:09:47.660
Begrenzen Sie den Umfang, validieren Sie Standardeinstellungen

00:09:47.660 --> 00:09:49.660
und koppeln Sie externe Tools an Protokollierung und DLP.

00:09:49.900 --> 00:09:51.260
Halten Sie das Werkzeug-Set im Griff,

00:09:51.260 --> 00:09:53.960
sonst bauen Sie eine außer Kontrolle geratene Rube Goldberg-Maschine

00:09:53.960 --> 00:09:55.880
mit die Teile an Systeme Schraub, die Sie nie berühren durfte.

00:09:56.360 --> 00:09:57.300
Eine kurze Jesusbrücke weiter.

00:09:57.800 --> 00:10:00.080
Gedächtnis ist Erfahrung, das, woran der Mitarbeiter bereits erinnert.

00:10:00.880 --> 00:10:02.960
Berechtigungen sind der Ausweis, wo Sie sich bewegen dürfen.

00:10:03.560 --> 00:10:05.240
Tools sind der Laptop und lizenzierte Apps das,

00:10:05.320 --> 00:10:06.260
was Sie tatsächlich nutzen können.

00:10:06.700 --> 00:10:07.360
Kurz und prägneim.

00:10:08.080 --> 00:10:09.940
Der Vergleich mit dem menschlichen Onboarding ist sinnvoll,

00:10:10.140 --> 00:10:11.500
aber bei Agenten ist das Risiko schneller,

00:10:11.720 --> 00:10:13.440
weniger sichtbar und im Nachhinein schwerer zu prüfen.

00:10:13.960 --> 00:10:14.600
Ausgewogenheit ist nicht.

00:10:14.860 --> 00:10:16.760
Ein ausgewogenes Gedächtnis bietet Kontinuität,

00:10:16.760 --> 00:10:18.120
ohne endlos persönliche Daten zu speichern.

00:10:18.560 --> 00:10:21.200
Begrenzte Berechtigungen geben Ihnen gerade genug Schlüssel für die Arbeit,

00:10:21.280 --> 00:10:22.260
ohne den Tresor zu öffnen.

00:10:22.260 --> 00:10:24.620
Passende Tools steigern die Produktivität,

00:10:24.720 --> 00:10:26.280
ohne den Schadensradius zu vergrößern.

00:10:27.060 --> 00:10:28.960
Zu viel von alledem lässt das Ergebnis mit einem Wurf

00:10:28.960 --> 00:10:30.220
von nützlich zu riskant umschlagen.

00:10:30.820 --> 00:10:33.340
Und genau wie bei echten Dingen können Sie sich der Verantwortung nicht entziehen.

00:10:33.860 --> 00:10:35.920
Microsofts eigene Leitlinien für verantwortungsvolle KI

00:10:35.920 --> 00:10:37.380
erinnern uns daran, dass Agenten die Anforderungen.

00:10:37.840 --> 00:10:40.820
Eine geringere Fehlertoleranz, strengere Transparenz, schärfere Kontrollen.

00:10:41.080 --> 00:10:42.720
Sie sind immer noch derjenige, der den Anruf entgegennimmt,

00:10:42.720 --> 00:10:44.440
wenn eine falsche Berechtigung oder ein falscher Toolzugriff

00:10:44.440 --> 00:10:45.160
einen Bericht weit preisgt.

00:10:45.360 --> 00:10:47.720
Bei einer natürlichen 20 liefert das Gedächtnis intelligenteren Rand.

00:10:48.220 --> 00:10:50.220
Berechtigungen stimmen genau mit den Richtlinien überein

00:10:50.220 --> 00:10:51.960
und Tools ermöglichen nur sichere Aktionen.

00:10:52.080 --> 00:10:54.440
Bei einer natürlichen Ein merkt sich der Agent schlechte Anweisungen,

00:10:54.680 --> 00:10:56.520
hat zu viele Schlüssel und nutzt den falschen Connector

00:10:56.520 --> 00:10:57.360
mit völliger Überzeugung.

00:10:57.760 --> 00:11:00.020
Das ist kein Ob, das ist die Risikokurve, auf der Sie sich bewegen.

00:11:00.580 --> 00:11:01.880
Und hier ist der Teil, den die meisten übersehen.

00:11:02.180 --> 00:11:03.640
Selbst wenn Sie das Starterkit korrekt einrichten,

00:11:03.740 --> 00:11:04.620
sind Sie noch nicht aus dem Schneider.

00:11:05.120 --> 00:11:07.840
Diese drei Komponenten eröffnen auch eine leisere, subtilere Gefahr.

00:11:08.520 --> 00:11:10.160
Der Agent weiß am Ende mehr, als Sie darüber,

00:11:10.160 --> 00:11:11.180
was er gerade getan hat.

00:11:11.700 --> 00:11:13.980
Und wenn Sie die Gründe hinter seinen Entscheidungen nicht sehen können,

00:11:14.320 --> 00:11:15.600
schleicht sich direkt unter Ihrer Nase

00:11:15.600 --> 00:11:17.400
eine neue Art von Managementproblem ein.

00:11:17.400 --> 00:11:20.900
Das unsichtbare Problem, Informationsasymmetrie.

00:11:21.460 --> 00:11:22.560
Hatten Sie schon einmal einen Mitarbeiter,

00:11:22.680 --> 00:11:23.620
der Ihnen arbeitet mit einem Lockern?

00:11:23.680 --> 00:11:24.720
Keine Sorge, ich habe das erledigt.

00:11:25.140 --> 00:11:27.700
Stellen Sie sich nun denselben Satz von einem KI-Agenten vor,

00:11:28.000 --> 00:11:28.900
nur dass Sie nicht nachhaken

00:11:28.900 --> 00:11:30.420
und nicht in den Denkprozess blicken können.

00:11:30.980 --> 00:11:33.480
Sie erhalten ein poliertes, ordentlich verpacktes Ergebnis.

00:11:33.840 --> 00:11:35.440
Doch der Entscheidungsweg bleibt undurchsichtig.

00:11:36.040 --> 00:11:38.260
Das ist das unsichtbare Kopfzerbrechen, Informationsasymmetrie.

00:11:39.140 --> 00:11:41.120
Agenten verfügen über mehr Daten und Rechenleistung,

00:11:41.180 --> 00:11:42.020
als sie je haben werden,

00:11:42.140 --> 00:11:44.320
aber sie sind die Person, die für die Ergebnisse gerade stehen muss.

00:11:44.320 --> 00:11:47.740
Die California Management Review nennt dies ein klassisches Prinzipal-Agent-Problem.

00:11:48.240 --> 00:11:49.880
Das System besitzt private Informationen,

00:11:49.980 --> 00:11:52.160
die Sie nicht einsehen können, während Sie die Verantwortung tragen.

00:11:52.940 --> 00:11:55.800
Es ist, als würde Ihr digitaler Kollege hinter dem Bildschirm würfeln

00:11:55.800 --> 00:11:58.860
und Ihnen nur die Endzahl zeigen, nicht die Faktoren, die er dabei angesammelt hat.

00:11:59.820 --> 00:12:01.540
Und das Problem kündigt sich nicht behutsam an.

00:12:02.040 --> 00:12:03.700
Agenten geben Ergebnisse mit Überzeugung aus,

00:12:03.760 --> 00:12:04.920
Sie zögern nicht, Sie schränken nicht ein,

00:12:04.980 --> 00:12:06.060
Sie lassen sich nicht hinter die Kulissen blicken.

00:12:06.800 --> 00:12:08.800
Also starren Sie auf einen fertigen Bericht und fragen sich,

00:12:08.860 --> 00:12:11.500
ist dieses polierte Artefakt zuverlässig oder still und leise fehlerhaft?

00:12:11.500 --> 00:12:13.240
Bis Sie der Sache auf den Grund gehen,

00:12:13.660 --> 00:12:16.600
bauen nachgelagerte Teams möglicherweise bereits auf einem Fehler auf.

00:12:17.060 --> 00:12:17.960
Nehmen wir einen häufigen Fall.

00:12:18.160 --> 00:12:19.300
Ein Agent stuft eine Rechnung,

00:12:19.340 --> 00:12:20.960
die mit einem wichtigen Lieferantenvertrag verknüpft ist,

00:12:21.000 --> 00:12:22.580
fälschlicherweise als niedrig priorisiert, ein.

00:12:23.720 --> 00:12:25.660
Oberflächlich betrachtet sieht der Bericht makellos aus,

00:12:25.740 --> 00:12:26.500
nichts leuchtet rot auf.

00:12:26.860 --> 00:12:29.220
Monate später kloppt die Compliance wegen versäumter Zahlungen an.

00:12:29.340 --> 00:12:30.120
Sie verfolgen es zurück

00:12:30.120 --> 00:12:31.320
und entdecken die falsche Klassifizierung,

00:12:31.400 --> 00:12:32.180
die ganz am Anfang verborgen.

00:12:32.680 --> 00:12:34.000
Das sind die Informationsasymmetrien-Axel.

00:12:34.360 --> 00:12:35.380
Der Agent wusste, was er tat,

00:12:35.380 --> 00:12:36.940
aber sie hatten keinen Einblick in die Begründung.

00:12:36.940 --> 00:12:40.560
PwC hebt genau dieses Szenario in ihren DLP-Empfehlungen hervor.

00:12:41.540 --> 00:12:43.220
Leitplanken wie rollenbasierter Zugriff,

00:12:43.300 --> 00:12:45.660
Klassifizierungsprüfungen und Eskalationsschwellen verhindern,

00:12:45.860 --> 00:12:48.300
dass aus einem kleinen Ausrutscher eine finanzielle Strafe wird.

00:12:49.600 --> 00:12:52.160
Diese Dynamik spielt direkt in das Prinzipal-Agent-Problem hinein.

00:12:52.880 --> 00:12:54.040
Sie der Prinzipal setzen ein Ziel,

00:12:54.120 --> 00:12:55.480
etwa Lieferantenrechnungen zu organisieren.

00:12:55.860 --> 00:12:57.920
Der Agent optimiert auf buchstäblichen Gehorsam,

00:12:58.000 --> 00:12:59.500
klassifizieren und ablegen.

00:13:00.040 --> 00:13:01.500
Er erkennt die übergeordnete Absicht nicht,

00:13:01.500 --> 00:13:02.580
interpretiert keine Nuancen

00:13:02.580 --> 00:13:04.280
und wägt schon gar keine strategischen Auswirkungen ab.

00:13:04.500 --> 00:13:05.660
Was sie wie Sabotage anfühlt,

00:13:05.720 --> 00:13:06.980
ist doft nur blinde Loyalität

00:13:06.980 --> 00:13:08.580
gegenüber allzuwörtlich genommenen Anweisern.

00:13:08.780 --> 00:13:10.240
Fügen wir nun die moralische Knautschzone zu.

00:13:10.620 --> 00:13:11.560
Wenn etwas schief geht,

00:13:11.760 --> 00:13:13.160
landet die Verantwortung immer bei ihnen.

00:13:13.700 --> 00:13:15.580
Prüfer beschuldigen nicht den unsichtbaren Algorithmus,

00:13:15.640 --> 00:13:17.120
sie fragen, warum sie es nicht bemerkt haben.

00:13:18.120 --> 00:13:19.740
Die Maschine wälzt die Verantwortung ab,

00:13:19.980 --> 00:13:21.860
während der Mensch den Reputationsschaden trägt.

00:13:22.600 --> 00:13:23.140
Der Effekt ist,

00:13:23.220 --> 00:13:24.520
als wäre man der Airbag bei einem Unfall.

00:13:24.980 --> 00:13:26.640
Sie spüren die Auswirkungen und tragen die Last,

00:13:26.640 --> 00:13:28.400
während der eigentliche Verursacher unbeirrt weiterzieht.

00:13:28.620 --> 00:13:29.300
Was tun sie also?

00:13:29.780 --> 00:13:30.740
Man kann zwar nicht magisch

00:13:30.740 --> 00:13:32.860
in das neuronale Denken eines generativen Modells blicken,

00:13:32.980 --> 00:13:34.840
aber man kann Transparenz an den Schnittstellen schaffen.

00:13:35.700 --> 00:13:36.200
Erster Schritt.

00:13:36.400 --> 00:13:38.640
Bestehen Sie auf detaillierte Protokolle und Herkunftsnachweise.

00:13:39.380 --> 00:13:40.740
Nicht die Illusion von internen Gedanken,

00:13:41.180 --> 00:13:42.340
sondern eine konkrete Aufzeichnung,

00:13:42.400 --> 00:13:43.240
welche Daten abgerufen,

00:13:43.360 --> 00:13:44.260
welche Aktionen ausgelöst

00:13:44.260 --> 00:13:45.480
und welcher Reihenfolge dies geschah.

00:13:45.620 --> 00:13:46.100
Zweiter Schritt.

00:13:46.200 --> 00:13:47.480
Setzen Sie Transparenz der Sports ein.

00:13:48.300 --> 00:13:50.000
Diese zeigen die wichtigsten Entscheidungsvariablen

00:13:50.000 --> 00:13:50.700
auf Weres, wann,

00:13:50.800 --> 00:13:52.040
sodass Sie zumindest die Konturen erkennen,

00:13:52.120 --> 00:13:53.280
wie Ergebnisse zusammengesetzt wurden.

00:13:54.320 --> 00:13:54.860
Dritter Schritt.

00:13:54.860 --> 00:13:56.700
Verlangen Sie für weitreichende Aktionenbegründungen

00:13:56.700 --> 00:13:57.520
in verständlicher Sprache.

00:13:57.960 --> 00:13:59.280
Das CMR hebt dies in Bereichen

00:13:59.280 --> 00:14:00.680
wie dem Einstellungsprozess hervor.

00:14:01.200 --> 00:14:01.980
Agenten zu zwingen.

00:14:02.060 --> 00:14:03.820
Für jede Entscheidung menschenlesbare Kriterien

00:14:03.820 --> 00:14:05.480
zu liefern, schafft eine Ebene der Erklärbarkeit.

00:14:05.880 --> 00:14:07.580
Dritter Schritt unterziehen Sie Ihre Agenten im Rhythmus.

00:14:07.620 --> 00:14:09.040
Füttern Sie sie mit ungewöhnlichen Testfällen,

00:14:09.140 --> 00:14:10.300
bringen Sie sie absichtlich zum Absturz

00:14:10.300 --> 00:14:11.280
und dokumentieren Sie die Schwachstellen.

00:14:11.500 --> 00:14:13.160
Wenn Sie diese Fehler nicht selbst provozieren,

00:14:13.260 --> 00:14:14.840
werden Sie auftreten, wenn es um weit mehr geht.

00:14:15.760 --> 00:14:18.100
Jede dieser Maßnahmen löst die Asymmetrie nicht vollständig,

00:14:18.160 --> 00:14:19.520
aber gemeinsam lichten Sie den Nebel.

00:14:20.200 --> 00:14:22.140
Auditlogs bieten Ihnen Rekonstruktionskraft,

00:14:22.400 --> 00:14:24.280
Dashboards geben Ihnen Situationsbewusstsein

00:14:24.280 --> 00:14:25.460
und verpflichtende Begründungen

00:14:25.460 --> 00:14:27.580
verankern Entscheidungen in bewertbarer Sprache.

00:14:27.580 --> 00:14:29.620
Red Teaming deckt die blinden Flecken auf,

00:14:29.700 --> 00:14:31.300
bevor es Kunden- oder Regulierungsbehörden tut.

00:14:31.820 --> 00:14:33.060
Und wie Microsoft betont,

00:14:33.200 --> 00:14:35.500
sorgt die Einbindung von menschlichen Freigaben

00:14:35.500 --> 00:14:36.680
an kritischen Punkten dafür,

00:14:36.920 --> 00:14:39.320
dass riskante Entscheidungen vor der Ausführung gestoppt werden.

00:14:40.180 --> 00:14:42.160
Es geht nicht darum, perfekte Transparenz zu jagen,

00:14:42.260 --> 00:14:44.460
da generatives Denken immer teilweise undurchsichtig bleiben wird.

00:14:44.760 --> 00:14:46.780
Es geht darum, genügend Oberflächendaten zu haben,

00:14:46.860 --> 00:14:48.600
um Muster zu überwachen, Anomalien zu erkennen

00:14:48.600 --> 00:14:49.860
und Verantwortlichkeit einzufordern,

00:14:50.000 --> 00:14:51.500
bevor Probleme außer Kontrolle geraten.

00:14:52.100 --> 00:14:54.400
Ohne diese Maßnahmen sind Sie für unsichtbare Entscheidungen

00:14:54.400 --> 00:14:56.000
verantwortlich, die Sie nie genehmigt haben,

00:14:56.000 --> 00:14:58.440
während Ihre Agenten in hoher Geschwindigkeit Ergebnisse liefern.

00:14:58.960 --> 00:15:00.260
Was uns zu der eigentlichen Entscheidung führt,

00:15:00.320 --> 00:15:00.760
vor der Sie stehen.

00:15:01.140 --> 00:15:03.140
Sie können diese Systeme entweder unbegrenzt lassen

00:15:03.140 --> 00:15:04.220
und hoffen, dass nichts passiert,

00:15:04.400 --> 00:15:06.560
oder Sie behandeln Ihr Verhalten wie eine Gruppenrichtlinie

00:15:06.560 --> 00:15:08.340
mit Regeln, Limits und Eskalationsstufen

00:15:08.340 --> 00:15:09.340
ab dem ersten Tag.

00:15:09.780 --> 00:15:10.060
Äh, d.

00:15:10.860 --> 00:15:12.580
Denn wenn Sie die Governance-Ebene überspringen,

00:15:12.740 --> 00:15:13.880
passiert das Chaos nicht irgendwann.

00:15:14.380 --> 00:15:15.220
Es tritt beim ersten Mal auf,

00:15:15.260 --> 00:15:16.260
wenn Ihr digitaler Mitarbeiter

00:15:16.260 --> 00:15:17.640
eine eigenmächtige Aktion ausführt,

00:15:17.700 --> 00:15:18.560
die Sie nie genehmigt haben.

00:15:19.660 --> 00:15:20.800
Agent Agedon verhindern.

00:15:21.380 --> 00:15:22.900
Das zu verhindern, was ich gerne Agent Agedon nenne,

00:15:22.960 --> 00:15:24.000
hat nichts mit Paranoia zu tun.

00:15:24.000 --> 00:15:25.920
Es geht darum, die Grundlagen zu schaffen,

00:15:26.000 --> 00:15:27.180
die verhindern, dass Ihre KI-Flotte

00:15:27.180 --> 00:15:28.380
zu einem Sicherheitsrisiko wird.

00:15:29.120 --> 00:15:30.020
Dies ist die taktische Ebene

00:15:30.020 --> 00:15:31.880
auf der Governance-Risiko- und Infrastruktur aufeinandertreffen.

00:15:32.260 --> 00:15:33.500
PwC bringt es auf den Punkt.

00:15:34.420 --> 00:15:35.720
Wenn Sie Agenten skalieren wollen,

00:15:35.780 --> 00:15:36.940
ohne Ihre Umgebung zu ruinieren,

00:15:37.020 --> 00:15:38.440
brauchen Sie diese fünf schnellen Taktiken.

00:15:38.860 --> 00:15:39.940
Passen Sie die Governance an,

00:15:40.040 --> 00:15:41.300
verbessern Sie das Risikomanagement,

00:15:41.440 --> 00:15:42.460
bauen Sie Infrastruktur auf,

00:15:42.540 --> 00:15:43.700
erzwingen Sie Tests und Überwachung

00:15:43.700 --> 00:15:44.920
und lassen Sie bei kritischen Entscheidungen

00:15:44.920 --> 00:15:45.800
immer einen Menschen im Prozess.

00:15:45.940 --> 00:15:46.860
Beginnen Sie bei der Governance.

00:15:47.040 --> 00:15:48.700
Aktuelle Programme für verantwortungsvolle KI

00:15:48.700 --> 00:15:49.620
wurden für Modelle entwickelt,

00:15:49.720 --> 00:15:50.700
nicht für autonom agierender Arzt.

00:15:50.700 --> 00:15:52.060
Sie müssen die Aufsicht so anpassen,

00:15:52.220 --> 00:15:53.580
dass Risikoausschüsse auf Vorstandsebene

00:15:53.580 --> 00:15:54.780
des Agentenrisikokleinwitz.

00:15:55.020 --> 00:15:57.080
Agenten benötigen festintegrierte Eskalationsregeln.

00:15:57.640 --> 00:15:59.360
Wenn das Risiko ein bestimmtes Maß erreicht,

00:15:59.560 --> 00:16:01.280
stoppt die Arbeit, bis ein Mensch zustimmt.

00:16:01.820 --> 00:16:02.700
Betrachten Sie es wie eine Eskalationspfade

00:16:03.400 --> 00:16:04.200
in Ihrem Helpdesystem.

00:16:04.720 --> 00:16:06.360
Bei einem Natural 20 arbeitet der Agent

00:16:06.360 --> 00:16:07.260
den ganzen Tag Tickets ab.

00:16:07.680 --> 00:16:09.100
Bei einer 1 weiß er, dass er sofort stoppen

00:16:09.100 --> 00:16:10.260
und eine Freigabe anfordern muss,

00:16:10.340 --> 00:16:11.200
bevor er Gehaltsabrechnungen

00:16:11.200 --> 00:16:12.980
oder sensible externe Kommunikation berührt.

00:16:13.840 --> 00:16:15.640
Regulatorische Vorstöße wie der EUAI-Act

00:16:15.640 --> 00:16:16.940
verstärken diesen Bedarf nur noch.

00:16:17.520 --> 00:16:18.580
Sie formalisieren die Erwartung,

00:16:18.580 --> 00:16:19.900
dass Aufsicht nachweisbar sein muss

00:16:19.900 --> 00:16:20.900
und man dokumentieren kann,

00:16:21.500 --> 00:16:22.620
wer wann was genehmigt hat,

00:16:22.820 --> 00:16:23.320
wer nämlich hat.

00:16:23.520 --> 00:16:24.340
Dann das Risikomanagement.

00:16:24.860 --> 00:16:26.260
Agenten haben kein gleiches Risikoniveau,

00:16:26.360 --> 00:16:27.080
also stufen Sie so ein,

00:16:27.160 --> 00:16:27.860
wie Sie es bei System tun.

00:16:28.560 --> 00:16:30.260
Risikoarme Bots, die in engen Silos arbeiten,

00:16:30.380 --> 00:16:31.120
können schnell agieren.

00:16:31.840 --> 00:16:32.640
Hochautonome Agenten,

00:16:32.700 --> 00:16:34.500
die Kundendaten oder Finanzunterlagen berühren,

00:16:34.600 --> 00:16:35.740
benötigen eine strengere Prüfung.

00:16:36.080 --> 00:16:37.740
Das Rahmenwerk von PwC ist hier pragmatisch.

00:16:38.200 --> 00:16:39.140
Verfolgen Sie die Nutzung,

00:16:39.220 --> 00:16:41.100
messen Sie Autonomie gegen potenzielle Auswirkungen

00:16:41.100 --> 00:16:42.460
und führen Sie höherstufige Agenten

00:16:42.460 --> 00:16:44.000
durch langsamere Freigabe- und Testzykler.

00:16:44.380 --> 00:16:46.000
Wenn ein Bot-Kalender Erinnerungen schreibt,

00:16:46.000 --> 00:16:47.780
reicht minimale Aufsicht aus.

00:16:47.780 --> 00:16:49.760
Wenn ein Bot Zahlungen an Anbieter leistet,

00:16:49.820 --> 00:16:50.500
sollte er Warnsignal

00:16:50.500 --> 00:16:52.020
und eine revisionssichere Protokollierung aufweisen.

00:16:52.320 --> 00:16:53.500
Infrastruktur ist der nächste Baustein.

00:16:53.820 --> 00:16:55.460
Diese Tools entstehen nicht einfach aus dem Nichts.

00:16:55.780 --> 00:16:57.860
Sie benötigen rollenbasierte Zugriffskontrolle,

00:16:58.100 --> 00:16:59.080
RBA, MFA,

00:16:59.380 --> 00:17:00.340
bei Rechterausweitung,

00:17:00.640 --> 00:17:02.960
DLP zur Vermeidung von LEX und Anonymisierung,

00:17:03.520 --> 00:17:05.120
damit Protokolle keine Nutzerkennungen

00:17:05.120 --> 00:17:06.360
in falsche Archive übertragen.

00:17:06.740 --> 00:17:07.980
Behandeln Sie jede Agentenidentität,

00:17:08.060 --> 00:17:08.900
wer ein menschliches Benutzer kommt.

00:17:09.300 --> 00:17:10.380
Das Prinzip der geringsten Rechte

00:17:10.380 --> 00:17:11.480
muss protokolliert und überprüft.

00:17:11.880 --> 00:17:13.540
Einem Agenten unbegrenzte Rechte zu geben,

00:17:13.540 --> 00:17:14.780
nur weil Tests dann schneller gehen,

00:17:14.780 --> 00:17:16.240
ist das Automatisierungsäquivalent

00:17:16.240 --> 00:17:17.760
zum temporären Domain-Admin-Status.

00:17:18.140 --> 00:17:18.920
Das ist keine Innovation,

00:17:19.100 --> 00:17:19.760
das ist ein Sicherheitsvorfall,

00:17:19.820 --> 00:17:20.720
der nur darauf wartet, zu passieren.

00:17:21.140 --> 00:17:22.040
Nun zu Tests und Überwachung.

00:17:22.480 --> 00:17:23.000
Gehen Sie davon aus,

00:17:23.040 --> 00:17:24.220
dass die Ausgabe irgendwann fehlschlagen wird.

00:17:24.640 --> 00:17:25.360
Ihre Aufgabe ist es,

00:17:25.380 --> 00:17:26.040
dies zu erkennen, steht.

00:17:26.520 --> 00:17:28.280
Das bedeutet Echtzeitanomalieerkennung,

00:17:28.360 --> 00:17:30.440
um ungewöhnliche Verhaltensabweichungen zu markieren.

00:17:31.120 --> 00:17:31.500
Es bedeutet,

00:17:31.580 --> 00:17:32.980
Ihre Agenten einem Redteaming zu unterziehen,

00:17:33.060 --> 00:17:33.800
nicht nur Ihre Firewalls.

00:17:34.000 --> 00:17:35.400
Testen Sie sie mit ungewöhnlichen Eingaben,

00:17:35.480 --> 00:17:36.760
um Schwachstellen bei geringem Risiko zu finden.

00:17:37.040 --> 00:17:38.200
Kontinuierliche Überwachung ist entscheidend.

00:17:38.540 --> 00:17:39.620
Protokoll über Datenzugriffe,

00:17:39.620 --> 00:17:40.480
durchgefüllte Aktionen

00:17:40.480 --> 00:17:41.800
und die Häufigkeit hochriskanter Entscheidungen

00:17:41.800 --> 00:17:42.500
sollten überprüft werden.

00:17:43.040 --> 00:17:44.820
PwC und Microsoft weisen darauf hin,

00:17:44.920 --> 00:17:45.660
dass Audit-Trails

00:17:45.660 --> 00:17:46.780
und regelmäßige Überprüfungen

00:17:46.780 --> 00:17:47.620
in Ihrer Zeitmaschine sind.

00:17:48.200 --> 00:17:49.380
Ohne Sie sind Sie blind gegenüber dem,

00:17:49.440 --> 00:17:50.520
was der Agent tatsächlich getan hat.

00:17:50.800 --> 00:17:51.560
Und die fünfte Taktik,

00:17:51.620 --> 00:17:52.720
die menschliche Aufsicht, entfällt nie.

00:17:53.220 --> 00:17:54.840
Selbst mit der ausgefeiltesten Orchestrierung

00:17:54.840 --> 00:17:56.040
und den besten Sicherheitsvorkehrungen

00:17:56.040 --> 00:17:57.540
erfordern Entscheidungen mit hohem Risikomanagement.

00:17:58.080 --> 00:17:58.980
Setzen Sie klare Schwellenwerte.

00:17:59.200 --> 00:18:00.380
Wenn ein Agent eine Transaktion

00:18:00.380 --> 00:18:01.640
über einen bestimmten Betrag freigibt,

00:18:01.700 --> 00:18:02.920
vertrauliche Datensätze bearbeitet

00:18:02.920 --> 00:18:04.200
oder eine externe Kommunikation

00:18:04.200 --> 00:18:05.400
mit regulierten Daten einleitet,

00:18:05.480 --> 00:18:05.980
muss er anhalten,

00:18:09.620 --> 00:18:10.500
den Ansatz bereits integriert.

00:18:11.120 --> 00:18:12.840
Die KI entwirft vielleicht eine E-Mail,

00:18:13.180 --> 00:18:14.180
aber der Mensch klickt auf Senden.

00:18:14.720 --> 00:18:16.120
Dieser letzte Schritt ist das Sicherheitsnetz

00:18:16.120 --> 00:18:17.860
zwischen Produktivität und Compliance-Risiken.

00:18:19.000 --> 00:18:19.760
Wenn Sie Agenten skalieren,

00:18:19.840 --> 00:18:20.860
wirkt daraus eine Orchestrierung.

00:18:21.340 --> 00:18:22.180
Ein einzelner Boot ist einfach.

00:18:22.600 --> 00:18:24.400
Schwärme können zu unvorhersehbarem Verhalten führen,

00:18:24.480 --> 00:18:25.380
sich gegenseitig imitieren

00:18:25.380 --> 00:18:26.640
oder in seltsamem Schleifen gefangen sein.

00:18:27.580 --> 00:18:28.400
Ohne Ordnung sieht es aus

00:18:28.400 --> 00:18:29.420
wie ein unmoderierter Slack-Thread,

00:18:29.500 --> 00:18:30.100
der aus dem Ruder läuft.

00:18:30.480 --> 00:18:31.800
Das Gegenmittel ist ein Orchestrator,

00:18:31.940 --> 00:18:33.160
entweder ein koordinierender Agent

00:18:33.160 --> 00:18:34.700
oder ein zentrales menschliches Prüfteam.

00:18:35.060 --> 00:18:36.280
Stellen Sie es sich wie einen Dirigenten vor,

00:18:36.340 --> 00:18:36.720
der verhindert,

00:18:36.720 --> 00:18:37.960
dass die Instrumente sich gegenseitig stören.

00:18:38.540 --> 00:18:39.700
Ein konkreter erster Schritt.

00:18:40.100 --> 00:18:41.920
Beginnen Sie mit einem einzelnen Orchestratormuster,

00:18:42.020 --> 00:18:43.900
bevor Sie die Tore für Multiagentenschwärme öffnen.

00:18:44.660 --> 00:18:46.460
Diese Ebene kann Spezialisten koordinieren,

00:18:46.560 --> 00:18:47.520
Feedback-Schleifen unterdrücken

00:18:47.520 --> 00:18:48.980
und Sie auf Geschäftsziele ausrichten,

00:18:49.140 --> 00:18:51.160
anstatt Sie Ihre eigenen Regeln improvisieren zu lassen.

00:18:51.960 --> 00:18:53.340
Keine dieser Kontrollen existiert,

00:18:53.400 --> 00:18:54.140
um Sie auszubremsen.

00:18:54.520 --> 00:18:55.700
Richtig umgesetzt sind Sie genau das,

00:18:55.760 --> 00:18:56.900
was Ihnen sicheres Skalieren ermöglicht.

00:18:57.220 --> 00:18:58.500
PwC, BCG, McKinsey,

00:18:58.580 --> 00:18:59.880
Sie alle kommen zum gleichen Schluss.

00:19:00.420 --> 00:19:01.780
Gesteuerte und orchestrierte Agenten

00:19:01.780 --> 00:19:03.000
werden zu einem Kraftmultiplikator.

00:19:03.480 --> 00:19:04.980
Sie erledigen repetitive Aufgaben,

00:19:04.980 --> 00:19:06.240
verbinden isolierte Bereiche

00:19:06.240 --> 00:19:06.960
und lassen Ihr Team

00:19:06.960 --> 00:19:09.000
sich auf strategisch wertvollere Arbeit konzentrieren.

00:19:09.700 --> 00:19:11.440
Im besten Fall bedeutet das Höherendurchsatz,

00:19:11.520 --> 00:19:12.500
weniger manuellen Aufwand

00:19:12.500 --> 00:19:14.200
und eine fest im Prozess verankerte Compliance.

00:19:14.580 --> 00:19:16.580
Agenten zu bändigen ist kein Weltuntergangsszenario,

00:19:16.700 --> 00:19:17.960
sondern das Einrichten von Leitplanken,

00:19:18.040 --> 00:19:19.340
damit Sie die echten Vorteile nutzen können,

00:19:19.400 --> 00:19:20.200
nutzen können, nutzen können.

00:19:20.460 --> 00:19:22.160
Kontrollieren Sie Speicherberechtigungen und Tools,

00:19:22.260 --> 00:19:23.420
um versteckte Risiken zu reduzieren.

00:19:23.900 --> 00:19:25.380
Passen Sie Governance, Risikomanagement,

00:19:25.540 --> 00:19:27.240
Infrastruktur, Monitoring und Aufsicht an,

00:19:27.540 --> 00:19:29.060
um den Überblick des Managements zu bewahren.

00:19:29.600 --> 00:19:30.340
Wenn Sie all das tun,

00:19:30.400 --> 00:19:31.360
wird aus dem vermeintlichen Chaos

00:19:31.360 --> 00:19:33.680
die Grundlage für schnellere, kostengünstigere und konformere Arbeit.

00:19:33.680 --> 00:19:36.680
Und am Ende des Tages liegt die Verantwortung wieder bei Ihnen.

00:19:37.220 --> 00:19:38.780
Das sind keine gesichtslosen Werkzeuge,

00:19:38.860 --> 00:19:40.180
sondern Mitarbeiter ohne Personalrat.

00:19:40.800 --> 00:19:41.920
Der wahre Test ist also nicht,

00:19:42.060 --> 00:19:43.260
ob Agenten ihre Rolle ersetzen,

00:19:43.740 --> 00:19:44.900
sondern ob sie deren Autonomie

00:19:44.900 --> 00:19:46.280
mit der gleichen Aufsicht führen können,

00:19:46.360 --> 00:19:47.780
die sie bereits bei Menschen anwenden,

00:19:47.960 --> 00:19:49.780
ohne die Anreize aus dem Gleichgewicht zu bringen.

00:19:50.900 --> 00:19:51.540
Hier ist also das Wahnsinn.

00:19:51.880 --> 00:19:53.100
Agenten ersetzen keine Manager,

00:19:53.220 --> 00:19:53.760
sie zwingen Sie dazu,

00:19:53.820 --> 00:19:54.920
das Management selbst zu schärfen.

00:19:55.320 --> 00:19:56.300
Die Forschung ist eindeutig,

00:19:56.360 --> 00:19:57.720
das ist nur das Prinzipal-Agent-Problem,

00:19:57.820 --> 00:19:58.340
Kapuzenpullover.

00:19:58.340 --> 00:19:59.980
Sie verwalten die Daten,

00:20:00.180 --> 00:20:00.940
sie tragen die Haftung

00:20:00.940 --> 00:20:02.000
und die einzige echte Lösung

00:20:02.000 --> 00:20:03.800
ist geführte Autonomie bei ständiger Aufsicht.

00:20:04.560 --> 00:20:05.600
Hier sind Ihre ersten drei Schritte.

00:20:06.220 --> 00:20:07.860
Erstellen Sie ein Inventar Ihrer Agenten,

00:20:07.940 --> 00:20:09.960
stufen Sie sie nach Risiko und Autonomie ein,

00:20:10.060 --> 00:20:11.000
legen Sie Eskalationsschwellen

00:20:11.000 --> 00:20:12.040
für menschliche Freigaben fest

00:20:12.040 --> 00:20:12.920
und führen Sie ein Red Team

00:20:12.920 --> 00:20:13.680
oder Edge-Case-Test

00:20:13.680 --> 00:20:14.720
für einen kritischen Agenten durch.

00:20:15.180 --> 00:20:16.040
Das ist Ihre Einstiegsquest.

00:20:16.500 --> 00:20:17.680
Wenn diese Checkliste geholfen hat,

00:20:17.780 --> 00:20:18.380
abonniere den Kanal

00:20:18.380 --> 00:20:19.260
und schreibe in die Kommentare,

00:20:19.380 --> 00:20:20.800
welchen Agenten du zuerst inventarisierst.

00:20:21.100 --> 00:20:22.120
Bei einer natürlichen 20

00:20:22.120 --> 00:20:22.940
verhinderst du das Chaos,

00:20:23.040 --> 00:20:23.580
bevor es entsteht.

00:20:24.020 --> 00:20:25.060
Bei einer natürlichen 1

00:20:25.060 --> 00:20:25.860
weißt du wenigstens,