WEBVTT 00:00:00.370 --> 00:00:06.810 Bereit für 10 Tage Microsoft 365, Co-Pilot KI Azure und die Menschen, die die Zukunft der Arbeit gestalten. 00:00:07.870 --> 00:00:12.190 Diesen Januar ist die M365-Con zurück und zwar noch größer, noch größer. 00:00:12.510 --> 00:00:18.050 Seien Sie dabei bei Live-Sessions, Demos aus der Praxis und erfahren Sie praktisches Wissen von MVPs und Branchenexperten aus aller Welt. 00:00:18.810 --> 00:00:21.030 Keine generischen Folien, keine endlosen Schlagworte. 00:00:22.010 --> 00:00:23.650 Wir stellen uns den echten Herausforderungen. 00:00:23.790 --> 00:00:28.690 Co-Pilot Studio, KI Agents, Fabric, Sicherheit, Governance und Automatisierung. 00:00:28.690 --> 00:00:34.390 Ganz gleich, ob Sie IT-Experte, Entwickler oder Führungskraft sind, es gibt speziell aus Sie zugeschnittene Sessions. 00:00:35.470 --> 00:00:40.130 An 10 vollen Tagen können Sie verschiedene Technologien kennenlernen und sich mit einer globalen Community vernetzen. 00:00:40.930 --> 00:00:44.330 Sehen Sie sich die Live-Übertragung an und nehmen Sie praktische Einblicke mit nach Hause in Ihr Unternehmen. 00:00:45.170 --> 00:00:48.810 Januar 2027, 10 Tage, eine Microsoft-Community. 00:00:49.410 --> 00:00:50.650 Die Registrierung ist ab sofort möglich. 00:00:52.270 --> 00:00:54.610 Gehen Sie noch heute an Ihren Platz. 00:00:54.610 --> 00:00:58.610 Das ist m360con.net. 00:01:00.190 --> 00:01:03.950 Melden Sie sich jetzt auf m360con.net an und wir sehen uns im Januar live. 00:01:04.130 --> 00:01:04.670 Haben Sie sich! 00:01:06.170 --> 00:01:12.190 Jemals gefragt, warum so viele KI-gestützte Power-Plattform-Demos bei Chatbots aufhören und sich nicht in einem echten Geschäftsworkflow bewähren? 00:01:12.190 --> 00:01:24.410 Dieses Video zeigt, was nicht der Fall ist, wie Sie Azure Open AI mit Power-Apps und Dynamics 365 verknüpfen und dabei alle Sicherheits-, Leistungs- und Governance-Funktionen nutzen, die für professionelle Bereitstellungen erforderlich sind. 00:01:25.190 --> 00:01:28.050 Wenn Sie sich weniger Magie und mehr Wissen gewünscht haben, sind Sie hier genau richtig. 00:01:28.230 --> 00:01:28.690 So ist sie! 00:01:28.690 --> 00:01:33.170 Abgesehen vom Connector beginnt die eigentliche Anatomie der KI in der Power-Plattform. 00:01:33.470 --> 00:01:34.430 Immer auf die gleiche Weise. 00:01:36.270 --> 00:01:43.290 Geschäftsanwender sehen eine raffinierte Demo, vielleicht einen Vertriebs-Chatbot, der innerhalb von Sekunden antworten kann, oder eine Kundendienst-App, die Tickets wie von Zauberhand sortiert. 00:01:44.490 --> 00:01:47.070 Und Sie denken großartig, das lasse ich gleich in Power-Apps implementieren. 00:01:47.070 --> 00:01:52.030 Der Connector ist da, die Bildschirme leuchten auf und die Leute stellen sich vor, wie KI-Routineaufgaben erledigt. 00:01:52.530 --> 00:01:53.490 Doch die Realität holt sich schneller. 00:01:53.990 --> 00:02:05.070 Der Connector funktioniert für zwei Personen in einer Demo und dann, gerade wenn man denkt, man entwickelt das nächste große Ding, tauchen Leistungsprobleme auf, Chatbots fangen an, Unsinn zu murmeln oder sensible Kundendaten werden aus Versehen herausgelangt. 00:02:06.270 --> 00:02:08.330 Hier scheitern die meisten KI-Integrationen. 00:02:08.990 --> 00:02:15.850 Schuld daran ist der Mythos, dass das Hinzufügen von KI zu Power-Plattformen durch Klicken auf Plus und Hinzufügen eines Connectors sowie dessen Verknüpfung eines Connectors sowie dessen Verknüpfung mit Azure umher erfolgt. 00:02:15.850 --> 00:02:21.270 Diese Denkweise hält sich hartnäckig, denn auf dem Papier sehen diese Tools fast so einfach aus, wenn das doch nur der schwierige Teil wäre. 00:02:21.670 --> 00:02:24.530 Also was steckt wirklich im Hintergrund, wenn man mehr als nur ein Spielzeugprojekt möchte? 00:02:25.170 --> 00:02:30.490 Zu verstehen, wo die KI-Magie wirklich stattfindet, macht den Unterschied zwischen dem Scheitern einer Demo und der tatsächlichen Unterstützung eines Geschäftsprozesses. 00:02:31.730 --> 00:02:34.970 In so ziemlich jedem seriösen Power-Plattform-KI-Setup gibt es vier Akteure. 00:02:35.710 --> 00:02:43.030 Erstens haben Sie Power-Apps oder Dynamics 365 selbst, mit denen die Endbenutzer interagieren und Sie sind der eigentliche Auslöser für jede KI-Anforderung. 00:02:43.030 --> 00:02:49.190 Sie sammeln Daten, vielleicht eine Kundennachricht, ein Umfrageergebnis, eine Produktbewertung oder welche Eingaben auch immer Sie benötigen. 00:02:50.410 --> 00:02:52.710 Power-Apps kommunizieren jedoch nicht direkt mit Azure Open AI. 00:02:53.370 --> 00:02:55.650 Hier kommt Power Automate ins Spiel und orchestriert das Ganze. 00:02:56.370 --> 00:03:03.550 Jedes Mal, wenn ein Benutzer auf eine Schaltfläche klickt oder ein Formular absendet, erfasst der Power Automate Flow die Daten, bringt sie in das richtige Format und sendet sie an die gewünschte Stelle. 00:03:03.550 --> 00:03:06.870 An dritter Stelle steht der Azure Open AI Endpunkt. 00:03:07.490 --> 00:03:13.130 Dies ist das eigentliche Gehirn, das Funktionen wie Stimmungsanalysen, Textzusammenfassungen oder sogar das Generieren von Kundenantworten bereitstellt. 00:03:14.730 --> 00:03:19.970 Und versteckt im Stapel befindet sich Azure API Management, das sträflich übersehen wird, bis etwas explodiert. 00:03:20.850 --> 00:03:25.170 Das ist der Sicherheits- und Drosselungsaspekt, der den Unterschied zwischen einem gleichmäßigen Datenfluss und einer Überflutung der Leitungen auslöst. 00:03:25.170 --> 00:03:28.090 Lassen Sie uns aufschlüsseln, wie diese Puzzleteile aufeinander aufbauen. 00:03:28.670 --> 00:03:33.430 Nehmen wir den Trigger in dem Moment, in dem ein Benutzer in Dynamics 365 beispielsweise ein Verkaufsgespräch protokolliert. 00:03:34.250 --> 00:03:35.830 Das löst ein Power Automate Flow aus. 00:03:37.450 --> 00:03:39.070 Der Flow verschiebt nicht nur Daten von A nach B. 00:03:39.070 --> 00:03:46.230 Er kann auch Text bereinigen, Kontext aus anderen Quellen zusammenführen oder Felder aus Datenschutzkunden maskieren, bevor die Anfrage an Azure Open AI weitergeleitet wird. 00:03:47.630 --> 00:03:48.510 Dieser Prozess ist wichtig. 00:03:48.510 --> 00:03:55.030 Wenn der Flow langsam ist, weil eine andere Automatisierung Ressourcen verbraucht, kommt es in Ihre App zu akkumulierten Latenzen. 00:03:55.490 --> 00:03:55.630 How? 00:03:56.430 --> 00:03:58.530 Wenn Power Automate die Nutzlast nicht richtig vorbereitet. 00:03:58.930 --> 00:03:59.630 Zum B. 00:03:59.730 --> 00:04:03.290 Wenn bei einer Produktbewertung der Kontext fehlt oder sie mit einer seltsamen Formatierung eingeht. 00:04:03.370 --> 00:04:07.470 Gebt Ihr Open AI-N-Punkt seltsame Ergebnisse zurück oder schlimmer noch, halluzinierte Antworten. 00:04:07.690 --> 00:04:08.050 Schlimmer noch. 00:04:08.570 --> 00:04:11.570 Es findet also keine Intelligenz statt, wenn die vorgelagerte Verkabelung unübersichtlich ist. 00:04:12.210 --> 00:04:14.730 Mit Azure API Management wird dies noch interessanter. 00:04:14.730 --> 00:04:20.790 Während alle von der Intelligenz begeistert sind, denken nicht genügend Leute darüber nach, wer wie oft Zugriff haben sollte. 00:04:21.790 --> 00:04:23.450 API Management fungiert wie ein Türöffner. 00:04:24.150 --> 00:04:28.150 Es überprüft jede Anforderung, wendet die Authentifizierung an und stellt sicher, dass die Nutzung nicht außer Kontrolle gerät. 00:04:28.790 --> 00:04:39.410 Wenn Sie keine Drosselungsrichtlinien einrichten, kann eine defekte App tausende von Anforderungen pro Stunde ausführen und plötzlich Ihre Open AI-Instants überlasten oder, was eben so lustig ist, eine horrende Azure-Rechnung verursachen. 00:04:39.630 --> 00:04:39.910 100. 00:04:40.910 --> 00:04:42.130 Außerdem wird protokolliert, was getan hat. 00:04:42.130 --> 00:04:46.610 Wenn also etwas kaputt geht oder jemand Abstrich macht, haben Sie tatsächlich einen Prüffahrt, dem Sie folgen können. 00:04:47.190 --> 00:04:48.850 In Demos werden diese Probleme nie wirklich gezahlt. 00:04:49.550 --> 00:04:55.230 In diesen kurzen exemplarischen Vorgehensweisen ist alles für eine Handvoll Benutzer und nahezu perfekte Netzwerkbedingungen optimiert. 00:04:56.430 --> 00:05:01.990 In einem echten Unternehmen gibt es jedoch tatsächliche SLAs, Datenschutzbedenken und Leistungsschwellenwerte, die nicht einfach ignoriert werden können. 00:05:02.570 --> 00:05:06.350 Nehmen wir beispielsweise an, Sie starten eine Power-App für Vertriebsfeedback mit integrierter Stimmungsanalyse. 00:05:06.350 --> 00:05:11.430 Mit nur 10 Personen läuft der Ablauf reibungslos und Sie erhalten in weniger als einer Sekunde nützliche Ergebnisse. 00:05:11.830 --> 00:05:20.830 Doch sobald die Zahl auf 10.000 ansteigt, vielleicht nach einer E-Mail-Kampagne oder einer Fusion, treten Wartezeiten von 30 Sekunden oder Fehler auf, weil Ihr Endpunkt nicht mit den Anforderungen Schritt halten kann. 00:05:20.830 --> 00:05:31.990 Schlimmer noch, es kann vorkommen, dass die Hälfte der Feedback-Daten plötzlich nicht mehr verarbeitet werden kann, weil Ihre Nutzlastgröße die Grenzwerte von Azure überschreitet oder die Sicherheitsrichtlinien für API-Management nie verschärft wurden. 00:05:33.350 --> 00:05:37.610 Anstatt dem Vertrieb nun zu helfen, blockiert Ihre KI-Pipeline ihn und der Helpdesk ist nicht begeistert. 00:05:38.550 --> 00:05:39.250 Das ist der Weckrupp. 00:05:39.630 --> 00:05:43.110 Das Einrichten eines Connectors ist nichts weiter als die Einladung zur Architektur-Party. 00:05:43.110 --> 00:05:50.990 Das eigentliche Ereignis besteht darin, herauszufinden, wie die einzelnen Ebenen interagieren und wie fragil die Dinge werden, wenn sie versuchen zu skalieren. 00:05:52.610 --> 00:06:04.950 Zu wissen, wie Power-Apps Orchestrierung auslösen, wie Flows Daten verarbeiten und sichern, wie KI-Endpunkte sie interpretieren und wie API-Management als Leitplanke fungiert, ist es, was einen Bot, der in einer Sandbox feststeckt, von einer unternehmensfähigen Lösung unterscheidet. 00:06:05.890 --> 00:06:09.930 Wenn Sie nur den Connector verstehen, setzen Sie immer die Stabilität und Sicherheit aufs Spiel. 00:06:09.930 --> 00:06:13.310 Jeder kann per Drag & Drop eine neue KI-Demo in Power-Apps erstellen. 00:06:14.210 --> 00:06:20.730 Um etwas zu entwickeln, das den Kontakt mit echten Benutzern und echten Daten übersteht, müssen Sie sich in die Details vertiefen und sich nicht nur an Connectoren orientieren. 00:06:21.570 --> 00:06:28.070 Wenn sich also die Anfrage von diesen Echotexterstellen in ein Geschäftsproblem tatsächlich lösen ändert, muss die Intelligenz um einiges intelligenter werden. 00:06:29.010 --> 00:06:31.190 So werden die Gehirne für geschäftliche Auswirkungen verkabelt. 00:06:32.270 --> 00:06:35.070 Optimieren von KI für Unternehmensstimmung, Zusammenfassung und mehr. 00:06:35.070 --> 00:06:40.890 Wenn Sie schon einmal mit Azure Open AI in Power-Plattform herumgespielt haben, ist Ihnen wahrscheinlich etwas Merkwürdiges aufgefallen. 00:06:42.430 --> 00:06:49.930 Ein Endpunkt kann negative Stimmungen in einem Satz erkennen, eine komplette E-Mail-Kette zusammenfassen oder eine neue Produktbeschreibung verfassen, manchmal sogar an nur einem Tag. 00:06:50.290 --> 00:06:52.090 Und das alles mit derselben KI-Box. 00:06:52.090 --> 00:06:58.850 Das ist aber keine Zauberei und es gibt einen Grund, warum nicht wenige Projekte in dem Moment scheitern, indem man versucht, etwas wirklich Nützliches zu tun. 00:06:59.670 --> 00:07:01.990 Oft wird angenommen, man könne einfach die Eingabeaufforderungen austauschen und fertig. 00:07:02.450 --> 00:07:03.310 Wie sieht die Realität aus? 00:07:04.010 --> 00:07:08.830 Jeder geschäftliche Anwendungsfall erfordert einen anderen Ansatz und hier scheitert die Vorstellung von Plug-and-Play, Shine-Play. 00:07:09.850 --> 00:07:12.670 Sprechen wir über den Unterschied zwischen Stimmungsanalyse und Textgenerierung. 00:07:12.670 --> 00:07:16.490 Angenommen, Sie möchten, dass Ihre Dynamics 365 Erdkundenbeschwerden kennzeichnet. 00:07:17.190 --> 00:07:19.530 Die Stimmungsanalyse ist der naheliegende erste Anwendungsfall. 00:07:19.810 --> 00:07:22.930 Kurze Eingaben, schnelle Antworten, geringe Kosten und kaum Kontext. 00:07:23.390 --> 00:07:24.430 Danach verfolgt werden muss. 00:07:25.650 --> 00:07:29.570 Das funktioniert, weil Power Automate nur die grundlegendsten Daten an den Open AI Endpunkt übergeben muss. 00:07:29.570 --> 00:07:34.190 Das ist ein oder zwei Sätze zusammen mit der richtigen Eingabeaufforderung, die dem Modell mitteilt, wonach es suchen soll. 00:07:35.510 --> 00:07:40.350 Sie können Dutzende von Datensätzen durchgehen, ohne dass das Modell außer Kontrolle gerät oder Ihr Budget auffrisst. 00:07:41.290 --> 00:07:42.630 Diese Abläufe sind einfach zu verwalten. 00:07:42.750 --> 00:07:44.630 Leicht zu drosseln und müssen fast nie neu geschrieben werden. 00:07:45.530 --> 00:07:48.790 Fahren wir nun mit der Zusammenfassungsgenerierung fort, die bereits an die Grenzen stößt. 00:07:49.410 --> 00:07:54.950 Wenn Ihre Power App es Managern ermöglicht, detaillierte Besprechungsnotizen einzufügen und innerhalb von Sekunden zusammenhängende Zusammenfassungen zu erwarten, 00:07:54.950 --> 00:07:58.870 muss die Eingabeaufforderung, die Sie an Open AI senden, prägnant formuliert und auf den richtigen Ton abgestimmt sein. 00:08:01.170 --> 00:08:03.310 Selbst dann sind nicht alle Zusammenfassungen gleich. 00:08:04.270 --> 00:08:10.410 Wenn Ihre Nutzlast zu umfangreich oder der Quelltext zu unstrukturiert ist, kann das Modell aus der Rolle fallen und mit Paraphrasen beginnen, 00:08:10.410 --> 00:08:16.730 anstatt zusammenzufassen oder sogar Details halluzinieren, die nie stattgefunden haben, bekommt die Konfiguration wieder ins Spiel. 00:08:17.270 --> 00:08:23.230 Power Automate muss die Eingabeformen und Signaturen entfernen, die Formatierung beseitigen und das Dokument möglicherweise in Abschnitte aufteilen, wenn es zu lang ist. 00:08:23.590 --> 00:08:25.070 Und das alles, bevor die Karriere Arbeit tut. 00:08:25.070 --> 00:08:29.550 Richtig haarig wird es jedoch bei der vollständigen Textgenerierung oder Klassifizierung in großem Umfang. 00:08:30.290 --> 00:08:35.430 Nehmen wir an, Ihr Vertriebsziel möchte Benutzer definierte E-Mail-Antworten im Handumdrehen erstellen oder Ihre Support-Mitarbeiter möchten, 00:08:35.830 --> 00:08:37.990 dass jedes Ticket nach Problemtyp kategorisiert wird. 00:08:38.570 --> 00:08:43.510 Die meisten Leute wissen nicht, dass die Ausführung dieser KI-gestützten Flows mit tausend von Eingaben nichts mit der rosigen Demo zu tun hat. 00:08:43.750 --> 00:08:44.870 Nichts mit der rosigen Demo zu tun hat. 00:08:44.970 --> 00:08:47.610 Der Power Automate Flow muss riesige Datensätze durchlaufen. 00:08:47.610 --> 00:08:54.650 Der OpenAI-Endpunkt wird mit Anforderungen überflutet und plötzlich sinkt Ihr Durchsatz und Ihre Azure-Rechnung steigt an, 00:08:54.890 --> 00:08:57.650 manchmal so schnell, dass die Buchhaltung eingeschaltet werden muss. 00:08:59.130 --> 00:09:02.870 Der große Knackpunkt dabei ist, dass diese KI-Prozesse als austauschbar behandelt werden. 00:09:03.930 --> 00:09:07.890 Die Stimmungsanalyse kostet möglicherweise nur ein paar Bruchteile eines Cents pro Anforderung. 00:09:07.890 --> 00:09:14.450 Aber die Generierung umfangreicher Formulare erhöht die Komplexität des Modells, verarbeitet hunderte von Token und benötigt mehr Zeit für die Reaktion. 00:09:15.290 --> 00:09:20.730 Hinzu kommt die Notwendigkeit benutzerdefinierter Anweisungen, möglicherweise eines anderen Torens oder einer anderen Formulierung für einen anderen Kunden 00:09:20.730 --> 00:09:22.990 und jede Optimierung erfordert ein präzises Prompt Engineering. 00:09:23.410 --> 00:09:28.830 Die Leute hören diesen Ausdruck Prompt Engineering und denken, es geht dabei nur darum, bessere Anweisungen zu tippen, aber es ist eher wie das Optimieren eines Suchalgorithmus. 00:09:29.530 --> 00:09:31.470 Sie testen, erhalten bizarre Ergebnisse und schreiben neu. 00:09:31.650 --> 00:09:38.490 Und jede Variation, die Sie herausgeben, wirkt sich nicht nur auf die Ausgabe, sondern auch auf den Zeit-, Kosten- und Sicherheitsprofil Ihres Workflows aus. 00:09:38.990 --> 00:09:42.530 Das ist keine Theorie. Es gibt zu viele Beispiele aus der Praxis, um sie zu ignorieren. 00:09:42.530 --> 00:09:52.470 Ein Unternehmen hat einmal einen Power-Plattform-Flow erstellt, der OpenAI verwendete, um Kundendienst-Tickets zu priorisieren, nach Stimmung zu klassifizieren und eine vorgefertigte Antwort vorzuschlagen und eine vorzuschlagen. 00:09:52.650 --> 00:09:54.010 In der Staging-Phase sah alles perfekt aus. 00:09:54.750 --> 00:10:00.890 Das Problem trat auf, als das Team den Flow für alle Support-Mitarbeiter freigab und der Endpunkt plötzlich jede Minute Anfragen für jedes Ticket erhielt. 00:10:02.210 --> 00:10:05.590 Das Modell war auf die allgemeine Textgenerierung ausgelegt, nicht nur auf die einfache Klassifizierung. 00:10:05.590 --> 00:10:10.350 Daher analysierte es den gesamten Ticketverlauf und schrieb jedes Mal Entwürfe mit mehreren Absätzen. 00:10:11.150 --> 00:10:17.010 Die Kosten stiegen über Nacht in die Höhe, die Workflows wurden immer langsamer und die KI begann, in ihren Vorschlägen Informationen zu erfinden. 00:10:17.870 --> 00:10:25.070 Niemand stellte die Frage, warum für eine einfache Priorisierungsaufgabe der Endpunkt auf die Textgenerierung anstatt auf eine kurze Klassifizierung optimiert werden musste. 00:10:25.070 --> 00:10:31.890 Es dauerte Stunden der Untersuchung, bis jemand erkannte, dass einige Einstellungen Power Automate und die Endpunkt-Konfiguration das ganze Chaos verursachten. 00:10:33.270 --> 00:10:41.570 Wenn Sie etwas Kontrolle wünschen, legen Sie zunächst Nutzungskontingente für Power Automate Flows fest und überwachen Sie die Anforderungs- und Token-Nutzung immer über das Azure-Portal. 00:10:42.410 --> 00:10:48.970 Richten Sie für schnelle Aufgaben wie Klassifizierung oder Stimmungsanalyse parallele Abläufe ein und verwenden Sie das kleinste Modell, das die Aufgabe erledigt. 00:10:48.970 --> 00:10:56.550 Begrenzen Sie für die Generierung umfangreicher Formulare die maximale Token-Anzahl und drosseln Sie, wie oft Benutzer auf diese Funktionen zugreifen können. 00:10:57.690 --> 00:10:58.890 Überprüfen Sie regelmäßig die Produkte. 00:10:59.310 --> 00:11:01.290 Erkennen Sie Spitzen oder Ausreißer so früh wie möglich. 00:11:01.850 --> 00:11:08.590 Wenn Sie diese Schritte überspringen, wird die Plattform dies mit einer verspäteten Rechnung oder Schlimmerem kennzeichnen und die Benutzer werden dies durch eine träge App-Leistung zu spüren bekommen. 00:11:09.350 --> 00:11:12.710 Bei der richtigen KI-Konfiguration geht es also nicht nur darum, dass die Lösung funktioniert. 00:11:13.410 --> 00:11:17.410 Es geht darum, die Geschäftsbetriebe am Laufen zu halten, die Kosten vorhersehbar zu machen und die Ergebnisse vernünftig zu gestalten. 00:11:17.410 --> 00:11:21.630 Mit der falschen Einrichtung wird KI-Rekordzeit von einem Verbündeten zu einer Belastung. 00:11:22.530 --> 00:11:30.270 Nachdem Sie nun Ihre Apps mit intelligenter Intelligenz ausgestattet haben, müssen Sie herausfinden, wer Sie verwenden darf und wie Sie Ihre Endpunkte und Daten in großem Umfang schützen. 00:11:31.730 --> 00:11:32.470 Sichern des Ablaufs? 00:11:32.930 --> 00:11:34.970 Warum Azure API Management Ihr Schutzschild ist? 00:11:35.850 --> 00:11:41.750 Sie haben sicherlich bemerkt, dass die meisten KI-Demos der Power-Plattformen das Thema Sicherheit beim Seite wischen, als wäre es nur ein weiteres Kontrollkästchen am Ende. 00:11:41.750 --> 00:11:47.590 Wenn Pilotprojekte jedoch von internen Spielwiesen in die Live-Produktion übergehen, zeigen sich schnell neue Risiken. 00:11:48.530 --> 00:11:51.750 Plötzlich beantwortet dieser Open-AI-Endpunkt nicht nur harmlose Testaufforderungen. 00:11:53.290 --> 00:11:56.230 Er ist ein potenzielles Fenster zu allem, was Ihre App offenlegt. 00:11:56.790 --> 00:12:01.530 Stellen Sie sich einen Kundenservice-Workflow vor, der Kundendaten still und heimlich über eine ungesicherte API leitet, 00:12:01.530 --> 00:12:05.230 oder einen Chatbot, der mit einem Schlüssel betrieben wird, der offen herumgereicht wird. 00:12:05.850 --> 00:12:12.330 Eine Handvoll Fehltritte kann ein Unternehmen anfällig für unbefugten Zugriff, Datenlecks oder eine Flut von API-Aufrufen von den falschen Leuten machen. 00:12:12.910 --> 00:12:14.410 Ei, das ist keine Hypothese? 00:12:14.910 --> 00:12:20.770 Sobald Sie Azure Open-AI-Endpunkte mit Power-Apps oder Dynamics 365 verbinden, setzen Sie eine große Bedrohung frei. 00:12:21.250 --> 00:12:25.670 Wenn die falsche Person ihren API-Schlüssel abgreift, vielleicht in einem Skript oder versteckt in einem Testablauf, kann sie damit beginnen, 00:12:25.830 --> 00:12:29.630 Aufforderungen zu senden, Antworten abzurufen und die Nutzung zu steigern, Antworten abzurufen und steigern. 00:12:29.630 --> 00:12:31.190 Die DOS-Angriffe werden zum echten Problem. 00:12:32.050 --> 00:12:38.050 Selbst ohne böswillige Akteure könnte eine falsch konfigurierte App, die den falschen Datensatz wiederholt, ihren Endpunkt ununterbrochen angreifen. 00:12:38.650 --> 00:12:42.910 In beiden Fällen entstehen nicht nur Governance-Probleme, sondern es können auch explodierende Kosten entstehen. 00:12:43.570 --> 00:12:47.230 Je nachdem, welche Daten über die Leitung übertragen werden, können auch echte Compliance-Risiken auftreten. 00:12:47.750 --> 00:12:50.150 Hier kommt Azure API Management als heimlicher Held ins Spiel. 00:12:50.850 --> 00:12:56.630 Die meisten Leute sehen es als eine weitere zu konfigurierende Azure-Ressource, aber in Wirklichkeit ist es der Unterschied zwischen Ordnung und Chaos und Chaos. 00:12:56.630 --> 00:13:00.410 API Management leistet Dinge, die Power Automate und die Connectors selbst nicht können. 00:13:01.350 --> 00:13:06.370 Es erzwingt die Authentifizierung und Autorisierung jedes Mal, wenn eine Anforderung gestellt wird und nicht nur, wenn sie daran denken, sie zu kodieren. 00:13:07.050 --> 00:13:14.770 Es begrenzt die Anzahl der Anforderungen, die ihren Endpunkt erreichen, was bedeutet, dass ein einzelner Entwicklerfehler oder ein außer Kontrolle geratenes Skript ihr Budget oder ihren Ruf nicht gefährdet. 00:13:14.770 --> 00:13:20.950 Außerdem werden detaillierte Protokolle geführt, sodass sie bei Fragen dazu, wer wann auf was zugegriffen hat, nachverfolgen können, nachverfolgen können. 00:13:21.290 --> 00:13:22.350 Sprechen wir über einen realen Vorfall. 00:13:23.030 --> 00:13:29.850 Eine Organisation hat einen KI-Klassifizierungsfloor für Kunden-E-Mails in Dynamics 365 eingeführt und den API-Schlüssel an Power Automate übergeben. 00:13:30.890 --> 00:13:37.870 Der Schlüssel gelangt in einen freigegebenen Dokumentationsordner und ein eifriges, aber ungeschultes Teammitglied hat versehentlich eine rekursive Schleife in seine Test-App eingebaut. 00:13:37.870 --> 00:13:44.090 Innerhalb weniger Stunden erreichten tausende API-Aufrufe den OpenAI-Endpunkt, viele davon wiederholten sich mit denselben wenigen Datensätzen. 00:13:44.730 --> 00:13:49.170 Die Azure-Rechnung stieg unerwartet stark an und erst nach dem Durchforsten der Protokolle erkannte das Team, was passiert war. 00:13:49.870 --> 00:13:55.070 Das Schlimmste war nicht nur die Rechnung, sondern auch die Ungewissheit, ob sensible Informationen an der falschen Stelle gelandet waren. 00:13:56.570 --> 00:14:02.830 Wäre API-Management vorhanden gewesen, hätte die Schleife lange vor dem Eskalieren der Situation einen Fehler bei der Ratenbegrenzung ausgelöst 00:14:02.830 --> 00:14:05.550 und eine bessere Protokollierung hätte die Flut sofort erkannt. 00:14:05.550 --> 00:14:09.010 API-Management-Richtlinien sind das eigentliche Sicherheitsnetz. 00:14:09.230 --> 00:14:13.350 Sie können Ratenbegrenzung einrichten, wie eine maximale Anzahl von Zugriffen pro Minute und Benutzer. 00:14:14.230 --> 00:14:19.490 Sie können Aufrufe nach IP-Bereich beschränken, sodass nur Anforderungen von bekannten Power-Plattformen-Gateways zulässig sind. 00:14:20.750 --> 00:14:24.390 Für Organisationen mit strengen Compliance-Richtlinien können Sie Header oder Token anfordern, 00:14:24.390 --> 00:14:29.850 die für Ihren Geschäftsprozess eindeutig sind, wodurch wahlfreier Zugriff von außen sowohl störend als auch leicht zu blockieren ist. 00:14:30.990 --> 00:14:34.750 Alle diese Kontrollen wurden speziell entwickelt, um Endbenutzer nicht zu frustrieren, 00:14:34.750 --> 00:14:41.530 sondern um sicherzustellen, dass eine schnell wachsende, KI-gestützte App Ihren Betrieb nicht lahmlegt oder, schlimmer noch, Kundendaten gefährdet. 00:14:42.590 --> 00:14:43.570 Hier ist es wichtig an den Richtgewicht. 00:14:44.230 --> 00:14:48.070 Sicherheitsrichtlinien müssen stark genug sein, um Missbrauch zu verhindern, dürfen aber den normalen Geschäftsbetrieb nicht verlangsamen. 00:14:48.730 --> 00:14:54.070 Wenn die Drosselung zu stark festgelegt wird, schlagen legitime Anforderungen fehl und Benutzer beginnen mit Umgehungsversuchen, 00:14:54.210 --> 00:14:57.630 indem sie beispielsweise immer wieder dieselben Daten übermitteln, bis sie durchgehen. 00:14:58.810 --> 00:15:01.750 Hier werden Überwachung und Analyse in API-Management entscheidend entscheiden. 00:15:01.750 --> 00:15:07.290 Sie erkennen Nutzungsmuster im Zeitverlauf, erkennen fehlgeschlagene Aufrufe und optimieren Richtlinien, 00:15:07.390 --> 00:15:09.630 bevor Benutzer dies überhaupt bemerken, bemerken. 00:15:10.690 --> 00:15:15.790 Sie möchten also, dass alle im Unternehmen mit KI-gestützten Funktionen in Power-Apps und Dynamics 365 experimentieren, 00:15:15.870 --> 00:15:19.870 benötigen jedoch einen Puffer, um sowohl die Daten als auch die Kosten vor dem Aus dem Ruder laufen zu lassen. 00:15:21.310 --> 00:15:24.150 Wenn API-Management das Gatekeeping übernimmt, erhalten sie mehr als nur Schutz. 00:15:24.830 --> 00:15:28.490 Sie können die Akzeptanz tatsächlich verfolgen, erkennen, welche Workflows einen echten Mehrwert generieren 00:15:28.490 --> 00:15:30.150 und welche grundlos Kapazitäten verbrauchen. 00:15:30.670 --> 00:15:33.530 Wenn die Geschäftsleitung fragt, wer, was, wann und wie, wird alles aufgezeichnet. 00:15:34.370 --> 00:15:40.110 Wenn die Nutzung von fünf Personen einem Proof-of-Concept auf tausende Personen mit einer Live-Vertriebs- oder Support-App ansteigt, 00:15:40.570 --> 00:15:43.930 stellt API-Management sicher, dass sie nicht einfach die Schleusen öffnen und auf das Beste hoffen. 00:15:44.710 --> 00:15:46.030 Sie leiten den Datenverkehr vorhersehbar. 00:15:46.470 --> 00:15:51.310 Das schmutzige Geheimnis ist, dass die meisten produktionsreifen Integrationen beim ersten unerwarteten Ereignis zusammenbrechen, 00:15:51.310 --> 00:15:54.930 wenn keine ordnungsgemäße Verwaltung dieser KI-Entpunkte erfolgt, erfolgt. 00:15:54.930 --> 00:15:58.870 API-Management ermöglicht den Übergang von der Idee zur unternehmensweiten Umsetzung, 00:15:59.050 --> 00:16:00.930 ohne dass versteckte Risiken entstehen, entstehen. 00:16:01.510 --> 00:16:04.450 Betrachten Sie es also weniger als eine Art Installation, sondern vielmehr als Ihr Eingangsportal. 00:16:04.810 --> 00:16:07.710 Natürlich kümmert sich selbst der beste Pförtner nur um das, was ihm gegeben wird. 00:16:08.370 --> 00:16:10.310 Die Sicherung von Endpunkten ist eine Seite der Medaille. 00:16:10.710 --> 00:16:11.950 Darüber hinaus gibt es ein größeres Bild. 00:16:12.090 --> 00:16:14.470 Die Nutzung mit Nachverfolg, die Budgets werden eingehalten und es wird sichergestellt, 00:16:14.530 --> 00:16:16.690 dass die Compliance-Regeln nicht vernachlässigt werden, wenn sich Apps weiterentwickeln, 00:16:16.750 --> 00:16:19.050 nicht vernachlässigt werden, wenn sich Apps weiterentwickeln oder Richtigen ändern. 00:16:19.050 --> 00:16:23.030 Genau hier ist Governance nicht länger nur eine Option, sondern wird zum Motor des gesamten Systems. 00:16:23.030 --> 00:16:27.610 Governance ist das Bindemittel, die Einhaltung von Kosten und die Kontrolle der KI. 00:16:28.170 --> 00:16:31.150 Wenn Sie schon einmal erlebt haben, dass eine Power-App über Nacht von einem Nebenprojekt 00:16:31.150 --> 00:16:34.190 zum neuen Lieblingstool aller geworden ist, haben Sie wahrscheinlich den plötzlichen Ruck gespürt, 00:16:34.210 --> 00:16:36.970 wenn die Kosten steigen und niemand mehr so recht weiß, wer dafür verantwortlich ist, 00:16:37.010 --> 00:16:38.630 wer dafür verantwortlich ist, dass alles auf Kurs bleibt. 00:16:39.450 --> 00:16:41.870 Es ist einfach, einen erfolgreichen KI-Roller zu feiern. 00:16:42.370 --> 00:16:45.990 Die Stimmungsanalyse läuft leise im Hintergrund, Textzusammenfassung und sparen Stunden, 00:16:45.990 --> 00:16:47.530 bei den Berichten, äh. 00:16:48.210 --> 00:16:52.930 Doch irgendwann wirft jemand einen Blick auf die Azure-Rechnung oder erhält eine Nachricht von Infosec und es wird still. 00:16:53.510 --> 00:16:54.590 Im Raum, äh. 00:16:55.670 --> 00:16:57.370 Das ist das erste Anzeichen für eine Governance-Look. 00:16:58.310 --> 00:17:02.190 Sie zeigt sich fast jedes Mal, wenn eine App tatsächlich so gut funktioniert, dass die Leute sie weiterhin verwenden. 00:17:02.850 --> 00:17:04.150 Das Muster ist nahezu universell. 00:17:04.670 --> 00:17:07.350 KI-Funktionen werden implementiert, Endpunkte werden gesichert und 00:17:07.350 --> 00:17:09.450 die Geschäftsleitung genehmigt den Business Case. 00:17:10.290 --> 00:17:13.890 Dann kommen echte Benutzer dazu und alles an der Umgebung wird immer komplizierter. 00:17:13.890 --> 00:17:17.730 Wer kontrolliert den Zugriff auf die Azure OpenAI Endpunkte? 00:17:17.730 --> 00:17:22.510 Wie viele Anforderungen kommen von jeder Power-App und sind diese überhaupt notwendig, äh? 00:17:23.550 --> 00:17:26.910 Wo verläuft die Grenze zwischen Experimenten und Automatisierung, die das Budget auffrisst? 00:17:27.510 --> 00:17:30.670 Und je mehr Mitarbeiter ihre eigenen Automatisierung erstellen oder optimieren, 00:17:30.970 --> 00:17:34.150 desto schwieriger wird es, den Überblick zu behalten, was hinter den Kulissen passiert. 00:17:34.150 --> 00:17:37.450 Ausufernde Kosten sind oft der erste Kontrollpunkt für Governance-Maßnahmen. 00:17:38.130 --> 00:17:43.670 Azure zählt jeden Token, jeden API-Aufruf und jedes Gigabyte an Daten, die über OpenAI Endpunkte übertragen werden. 00:17:43.810 --> 00:17:47.710 Aber wenn diese Zahlen nicht nachverfolgt werden, können die Kosten im Hintergrund in die Höhe schnellen. 00:17:49.050 --> 00:17:54.130 Sie zahlen nach Nutzung und die Nutzung wird heikel, wenn Citizen-Developer wirklich Innovationen vorantreiben wollen, 00:17:54.130 --> 00:17:59.830 aber nicht immer wissen, dass ihr Power-Automate-Flow den KI-Endpunkt tausendmal am Tag aufruft. 00:17:59.830 --> 00:18:04.750 Die meisten Leute stellen dies auf die gleiche Weise fest, eine Budgetwarnung wird ausgelöst 00:18:04.750 --> 00:18:07.330 oder jemand aus der Finanzabteilung vermutet einen Abrechnungsfehler. 00:18:08.110 --> 00:18:10.350 Wenn sie dies ignorieren, müssen sie nicht nur höhere Schecks ausstellen, 00:18:10.450 --> 00:18:13.170 sondern riskieren auch, dass jemand das Projekt einstellt, um den Schaden zu stoppen 00:18:13.170 --> 00:18:15.570 oder schlimmer noch, dass die Geschäftsleitung das Vertrauen in das Vertrauen ist, 00:18:15.610 --> 00:18:16.730 Vertrauen in das Gesamtakademie informiert. 00:18:16.830 --> 00:18:17.850 Es geht jedoch nicht nur ums Geld. 00:18:18.330 --> 00:18:19.730 Als nächstes kommen Compliance-Fragen auf den Plan. 00:18:19.850 --> 00:18:23.030 Selbst wenn das API-Management die Eingangstür überwacht, gibt es immer noch Fragen dazu, 00:18:23.090 --> 00:18:27.290 welche Daten gesendet werden, wie lange sie gespeichert werden und wo Kopien möglicherweise landen. 00:18:27.290 --> 00:18:31.230 Hat der Entwickler personenbezogene Daten maskiert, 00:18:31.330 --> 00:18:34.730 bevor er den Support-Ticket-Text an Azure OpenAI gesendet hat? 00:18:35.890 --> 00:18:39.210 Gibt es Aufzeichnungen darüber, welche Benutzer auf welche Inhalte zugegriffen haben 00:18:39.210 --> 00:18:41.030 und entspricht dies den Richtlinien ihres Unternehmens? 00:18:41.690 --> 00:18:43.410 Prüfer sind davon nicht beeindruckt, wir glauben das. 00:18:43.830 --> 00:18:46.190 In regulierten Branchen kann ein einziger Compliance-Verstoß, 00:18:46.190 --> 00:18:50.370 vielleicht hat jemand vertrauliche Daten, für eine Textzusammenfassung ohne ordnungsgemäße Filterung gesendet, 00:18:50.470 --> 00:18:53.690 Projekte wochenlang zum Stillstand bringen oder das Unternehmen in Schwierigkeiten bringen. 00:18:54.030 --> 00:18:55.670 Oder das Unternehmen in Schwierigkeiten bringen. 00:18:55.670 --> 00:18:59.250 Selbst in weniger regulierten Umgebungen wird die IT-Abteilung nervös, 00:18:59.450 --> 00:19:02.070 wenn es so aussieht, als würden unkontrollierte Daten in der Cloud herumschwirren. 00:19:02.610 --> 00:19:04.990 Microsoft versucht, das Leben an diesen Fronten zu vereinfachen. 00:19:05.810 --> 00:19:08.770 Azure Cost Management bietet ihnen Dashboards, Warnungen und Ausgaben obergrenzen. 00:19:09.450 --> 00:19:11.470 Es liegt immer noch an jemandem, Schwellenwerte festzulegen, 00:19:11.550 --> 00:19:13.570 wöchentliche Nutzungsspitzen zu überwachen und zu pausieren, 00:19:13.570 --> 00:19:15.110 bevor sie eskalieren, bevor sie eskalieren. 00:19:15.430 --> 00:19:19.550 Das Markieren jeder Ressource, jedes KI-Endpunkts, jedes Flows und sogar einzelner Power-Apps 00:19:19.550 --> 00:19:21.350 ist eine einfache, aber effektive Möglichkeit, 00:19:21.470 --> 00:19:24.130 die Ausgaben für jedes Team oder jeden Geschäftsbereich nachzuverfolgen. 00:19:24.130 --> 00:19:26.570 Es hilft auch bei der Bereinigung und Berichterstellung. 00:19:27.030 --> 00:19:29.850 Wenn eine Automatisierung nach dem Ende eines Pilotprojekts weiterläuft, 00:19:29.950 --> 00:19:33.690 fallen markierte Ressourcen auf und sie vermeiden das Szenario einer mysteriösen Workload, 00:19:33.770 --> 00:19:36.050 das bei einer Integritätsprüfung immer wieder aufzutauchen scheint. 00:19:36.450 --> 00:19:37.390 Immer wieder aufzutauchen scheint. 00:19:37.390 --> 00:19:40.790 Auf Seiten der Power-Plattform kommt das Center of Excellence Starter Kit, 00:19:40.910 --> 00:19:42.950 einer KI-Kommandozentrale so nah wie nur möglich. 00:19:44.010 --> 00:19:45.910 Es durchsucht ihren Mandanten nach jedem Flow, 00:19:46.030 --> 00:19:48.290 benutzerdefinierten Connector, jeder App und jedem Bot 00:19:48.290 --> 00:19:51.110 und erstellt ein Inventar, auf das sie reagieren können. 00:19:51.110 --> 00:19:54.530 Die IT-Abteilung kann Nutzungsanalysen einrichten, 00:19:54.910 --> 00:19:57.230 Warnungen senden, wenn verdächtige Muster auftauchen 00:19:57.230 --> 00:20:00.610 und Citizen-Developer mit Erinnerungen an interne Best Practices anstoßen. 00:20:01.890 --> 00:20:04.810 Einige Organisationen verwenden es, um regelmäßige Berichte über die API-Nutzung, 00:20:04.890 --> 00:20:07.790 über Flows, die heiß laufen und sogar darüber zu generieren, wer was entwickelt. 00:20:08.330 --> 00:20:10.050 Das QE-Toolkit dient nicht nur der Transparenz. 00:20:10.570 --> 00:20:12.730 Es bietet auch Vorlagen für die eingeschränkte Bereitstellung, 00:20:12.990 --> 00:20:15.110 löst Überprüfungen für Apps mit hohem Risiko aus 00:20:15.110 --> 00:20:16.790 und kann sogar Geschäftsrichtlinien durchsetzen, 00:20:16.890 --> 00:20:19.430 in dem Flows außerhalb der Compliance-Schutzmaßnahmen heruntergefahren 00:20:19.430 --> 00:20:20.710 oder angehalten werden, werden. 00:20:21.790 --> 00:20:24.170 Für eine schnell wachsende Organisation mit Dutzenden von Power-Usern 00:20:24.170 --> 00:20:26.670 verhindern diese Schutzmaßnahmen, dass die Dinge außer Kontrolle geraten. 00:20:27.830 --> 00:20:31.110 Es ist erwähnenswert, dass Governance-Probleme normalerweise nach dem Erfolg auftreten. 00:20:31.970 --> 00:20:33.670 Nehmen wir den Fall einer Kunden-Feedback-App, 00:20:33.750 --> 00:20:36.110 die sich viel schneller als erwartet durchgesetzt hat. 00:20:36.950 --> 00:20:39.050 Die Nutzung verdoppelte sich in der Woche und verdreifachte sich dann. 00:20:39.310 --> 00:20:40.890 Innerhalb eines Monats stiegen die Kosten sprunghaft an. 00:20:41.150 --> 00:20:43.010 Das Azure-Gesetz erzwang eine Neuprognose 00:20:43.010 --> 00:20:47.870 und es stellte sich heraus, dass dieselbe App vertrauliche Daten ohne Genehmigung in den KI-Endpunkt verschob. 00:20:48.510 --> 00:20:49.970 Ad-Hoc-Skripte und Flickschüster reinkamen, 00:20:50.050 --> 00:20:51.830 hinzu aber zu diesem Zeitpunkt herrschte bereits großes Sicherung. 00:20:52.130 --> 00:20:55.510 Ein Kompetenzzentrum hätte das Wachstum frühzeitig erkennen und eine Überprüfung erzwingen können. 00:20:56.070 --> 00:20:57.430 Best Practices lassen Sie schnell umsetzen. 00:20:57.850 --> 00:20:59.010 Kennzeichnen Sie Ressourcen immer. 00:20:59.610 --> 00:21:02.430 Legen Sie Budgets oder weiche Obergrenzen-Facesteps für Machbarkeitsstudien. 00:21:02.890 --> 00:21:04.730 Überprüfen und auditieren Sie den Zugriff auf Endpunkt. 00:21:04.870 --> 00:21:07.150 Die Liste der Personen, die sich mit welchen Daten verbinden können, 00:21:07.290 --> 00:21:09.390 ändert sich, wenn sich Teams verschieben und Rollen weiterentwickeln. 00:21:09.390 --> 00:21:12.110 Dokumentieren Sie, welche Datenflüsse welche Daten senden und warum. 00:21:13.030 --> 00:21:14.870 Das ist keine Schreibarbeit nur um der Schreibarbeit willen. 00:21:15.410 --> 00:21:18.370 Es bedeutet, dass jemand Wochen oder Monate später beantworten kann, 00:21:18.430 --> 00:21:20.150 wie das System funktioniert und wo die Grenzen liegen. 00:21:21.370 --> 00:21:22.930 Seien Sie sich bewusst, dass Governance kein Schritt ist, 00:21:22.930 --> 00:21:24.370 den man einfach einrichten und dann vergessen kann. 00:21:24.650 --> 00:21:26.410 Modelle ändern sich, die Geschäftslogik wandelt sich 00:21:26.410 --> 00:21:28.130 und die Datenschutzregeln entwickeln sich ständig weiter. 00:21:28.690 --> 00:21:30.650 Überprüfungen und Aktualisierungen müssen regelmäßig erfolgen. 00:21:31.050 --> 00:21:33.710 Eine solide Governance macht den Unterschied zwischen einer KI-Funktion, 00:21:33.790 --> 00:21:36.690 die unter Druck versagt und einer, die nachhaltig wächst, 00:21:36.770 --> 00:21:38.330 wenn das Unternehmen darauf angewiesen ist 00:21:38.330 --> 00:21:41.670 und mit den eingerichteten Kontrollen gewinnen IT- und Unternehmensleiter 00:21:41.670 --> 00:21:43.570 das Vertrauen zu expandieren, zu experimentieren 00:21:43.570 --> 00:21:45.810 und Innovationen zu entwickeln und Innovationsentwickeln.