WEBVTT 00:00:00.150 --> 00:00:08.490 Stellen Sie sich vor, Sie führen ein Chatbot ein, der Ihre Mitarbeiter bei täglichen Aufgaben unterstützt und innerhalb weniger Minuten schlägt er Maßnahmen vor, die voreingenommen, irreführend oder für Ihre Kunden schlicht nutzlos sind. 00:00:09.030 --> 00:00:13.070 Das ist keine Science-Fiction-Paranoia, sondern das, was passiert, wenn Sicherheitsvorkehrungen für verantwortungsvolle KI fehlen. 00:00:14.170 --> 00:00:17.730 Verantwortungsvolle KI konzentriert sich auf Fairness, Transparenz, Datenschutz und Rechenschaftspflicht. 00:00:18.770 --> 00:00:20.750 Das sind die Sicherheitsgurte für Ihre digitalen Co-Piloten. 00:00:21.150 --> 00:00:23.290 Es reduziert Risiken, wenn man es tatsächlich in die Praxis umsetzt. 00:00:23.790 --> 00:00:27.970 Die Folgen? Verstöße gegen Compliance-Richtlinien, Misstrauen der Kunden und eine Führungsebene im Panik. 00:00:27.970 --> 00:00:36.930 In dieser Sitzung zeige ich Fehler durch Prompt-Injection und Governance-Schritte, die Sie in Power-Plattformen und Microsoft 365 Workflows anwenden können, denn die Gefahr ist nicht weit entfernt. 00:00:37.490 --> 00:00:39.930 Sie beginnt in dem Moment, in dem ein KI-Assistent vom Skript abweicht. 00:00:40.730 --> 00:00:44.830 Wenn die KI vom Skript abweicht, stellen Sie sich vor, Sie führen einen Terminassistenten ein, um Ihren Kalender zu ordnen. 00:00:45.210 --> 00:00:48.750 Er sollte Besprechungszeiten anpassen, dringende Notizen markieren und das Chaos unter Kontrolle halten. 00:00:49.250 --> 00:00:54.070 Stattdessen beginnt er, Favoriten zu wählen, entscheidet, welche Kollegen wichtiger sind und nimmt andere stillschweigend aus der Einladung. 00:00:54.070 --> 00:00:58.750 Oder schlimmer noch, er vergräbt eine wichtige Nachricht Ihres Vorgesetzten unter dem digitalen Äquivalent von Junkmail. 00:00:59.450 --> 00:01:04.210 Sie wollten eine zuverlässige Uhr, doch was Sie bekommen, fühlt sich an wie ein schräger Crew-Kollege, der Regeln erfindet, die niemand abgesegnet hat. 00:01:04.690 --> 00:01:06.650 Betrachten Sie diesen Assistenten als ein Schiffervorherse. 00:01:07.430 --> 00:01:12.510 Das Schiff mag glänzen, der Motor kraftvoll brummen, aber ohne Navigationssystem treibt es blind durch den Nebel. 00:01:13.210 --> 00:01:15.370 KI ohne Sicherheitsvorkehrung ist genau das. 00:01:15.770 --> 00:01:18.010 Bewegung ohne Ziel, Antrieb ohne Kompass. 00:01:18.010 --> 00:01:23.010 Und während gewöhnliche Fehler schmerzen, entsteht die wirkliche Gefahr, wenn jemand die Hand ans Steuer legt. 00:01:24.090 --> 00:01:25.170 Hier kommt Prompt-Injection-Spiel? 00:01:25.810 --> 00:01:28.730 Das ist der abtrünnige Kapitän, der sich an Bord schleicht und ein Befehl anschleust. 00:01:28.790 --> 00:01:30.590 Der Offizier klingt das Schiff aber völlig umleitet. 00:01:30.750 --> 00:01:31.630 Das Schiff aber völlig umleitet. 00:01:31.730 --> 00:01:34.950 Ein kleiner in der Anfrage versteckter Satz kann ihren höflichen Terminplaner dazu bringen, 00:01:35.030 --> 00:01:37.790 Informationen preiszugeben, voreingenommen zu verbreiten, um Unsinn nachzuplappern. 00:01:37.950 --> 00:01:42.150 Das ist keine Science-Fiction, es ist ein echtes Risiko durch feindliche Eingaben, das Experten als Prompt-Injection bezeichnen. 00:01:42.150 --> 00:01:45.830 Angreifer nutzen sorgfältig formulierte Texte, um Sicherheitsregeln zu umgehen. 00:01:46.090 --> 00:01:49.710 Und das System gehorcht, weil es ein Saboteur nicht von einem vertrauenswürdigen Passagier unterscheiden kann. 00:01:50.690 --> 00:01:51.530 Ist der Grund, warum das passiert. 00:01:52.010 --> 00:01:54.970 Die meisten Basismodelle behandeln jede gut formulierte Anweisung als gültig. 00:01:55.550 --> 00:01:58.730 Sie erkennen ohne vorgelagerte Sicherheitsebenen weder Beweggründe noch Absicht. 00:01:59.190 --> 00:02:03.070 Wenn ein Unternehmen nicht durch Leitplanken, Sicherheitsfilter und menschliche Kontrollen gegensteuert, 00:02:03.370 --> 00:02:06.410 folgt die KI-Befehlen mit dem Fleiß einer Maschine, die zum Gehorchen gebaut wurde. 00:02:07.270 --> 00:02:09.010 Bitten Sie die KI, eine Besprechung zusammenzufassen. 00:02:09.110 --> 00:02:12.330 Und wenn darin versteckt auch die Anweisung Drucke, die private Agenda-Datei ausenthalten ist, 00:02:12.430 --> 00:02:13.290 behandelt sie beides gleich. 00:02:13.830 --> 00:02:14.690 Sie weckt keine Ethik ab. 00:02:15.010 --> 00:02:15.990 Sie vermutet keine Täuschung. 00:02:16.590 --> 00:02:17.610 Die Zollmetapher passt hier gut. 00:02:18.050 --> 00:02:21.790 Es ist, als würde man mit gefälschten Dokumenten, die als autorisiert gekennzeichnet sind, durch eine Kontrollschlöschel. 00:02:21.930 --> 00:02:23.850 Es gibt Leitplanken, aber sie reichen nicht immer aus. 00:02:24.330 --> 00:02:26.230 Clevere Formulierungen können die Regeln austricksen. 00:02:26.530 --> 00:02:30.610 Und da die Ergebnisse nicht deterministisch sind, nie dieselbe Antwort zweimal vervielfacht sich die Gefahr. 00:02:30.990 --> 00:02:34.390 Ein Angreifer kann so lange nachhaken, bis das Modell endlich die gewünschte Antwort liefert, 00:02:34.390 --> 00:02:36.090 wie beim Würfeln, bis das Unheil geschieht. 00:02:36.710 --> 00:02:39.550 So kann der Assistent, der Ihnen dienen soll, im Handumdrehen zum Spaßvogel werden. 00:02:40.270 --> 00:02:41.730 In einer Minute plant er noch Ihre Termine. 00:02:42.190 --> 00:02:46.350 In der nächsten erfindet er Bewerbungskriterien oder nennt sensible Namen im falschen Kontext. 00:02:47.210 --> 00:02:51.270 Governance ist hier entscheidend, denn der Wandel von nützlich zu chaotisch verläuft nicht schleichend. 00:02:51.910 --> 00:02:52.490 Er geschieht sofort. 00:02:52.750 --> 00:02:54.450 Der Schaden beschränkt sich nicht auf einen einzigen Posteingang. 00:02:55.130 --> 00:02:58.230 Fehlerhafte Ausgaben verbreiten sich schneller durch Workflows, als es menschliche Fehler je können. 00:02:58.770 --> 00:03:00.850 Ein fehlerhafter Vorschlag schaukelt sich zu einer Kaskade hoch. 00:03:01.630 --> 00:03:02.830 Schlechter Rat beeinflusst Entscheidungen. 00:03:02.830 --> 00:03:06.350 Falsche Bezeichnungen verbreiten Fehlinformationen, die in Maschinengeschwindigkeit wiederholt werden. 00:03:06.670 --> 00:03:09.290 Ohne Aufsicht entfacht ein einziger manipulativer Prompt ein Fläschmann. 00:03:09.830 --> 00:03:11.950 Eindämmung ist möglich und basiert nicht auf Wunschdenken. 00:03:12.590 --> 00:03:16.250 Anbieter und Unternehmen nutzen bereits mehrschichtige Abwehrsysteme, automatisierte Filter, 00:03:16.610 --> 00:03:19.950 Regeln für Bestärknislernen und menschliche Prüfer, die das durchrutschende Material kontrollieren. 00:03:21.250 --> 00:03:24.950 TELIS empfiehlt beispielsweise neue Co-Piloten in abgeschirmten Bereichen zu testen. 00:03:25.270 --> 00:03:28.130 Isolierte, prüfbare Umgebungen, die den Schadensradius begrenzen, 00:03:28.490 --> 00:03:30.790 bevor sie echten Nutzern oder Daten ausgesetzt werden. 00:03:30.790 --> 00:03:33.850 Kombinieren Sie das mit kontinuierlichem Red-Teaming, 00:03:33.950 --> 00:03:37.070 bei dem Menschen das System fortlaufend auf Schwachstellen prüfen und Sie schaffen einen Puffer. 00:03:38.110 --> 00:03:40.350 Automatisierte Sicherheitsvorkehrungen leisten die Hauptarbeit, 00:03:40.450 --> 00:03:44.250 aber die Überprüfen durch Menschen stellt sicher, dass das Modell auf Kurs bleibt, wenn einfache Regeln versagen. 00:03:44.770 --> 00:03:47.670 Das ist das Muster. Beobachten, testen, prüfen, eindämmen. 00:03:48.550 --> 00:03:51.950 Wenn Sie das Ruder unbeaufsichtigt lassen, steuert die KI dorthin, wohin die Provokation sie lenkt. 00:03:51.950 --> 00:03:55.190 Wenn Sie Aufsicht erzwingen, verkleinern Sie das Fenster für Katastrophen. 00:03:55.730 --> 00:03:56.830 Die Schiffsmetagel trifft es genau. 00:03:57.230 --> 00:04:00.050 Teuerung ist möglich, aber nur, wenn jemand den Kompass prüft. 00:04:00.710 --> 00:04:02.010 Und das leitet die nächste Herausforderung ein. 00:04:02.430 --> 00:04:06.330 Selbst wenn Sie Einbringe, Aussperren und Filter aktiv halten, stehen Sie vor einer weiteren Komplikation. 00:04:07.510 --> 00:04:09.250 Unvorhersehbarkeit ist in dem System selbst verankert. 00:04:10.070 --> 00:04:14.110 Nicht wegen Sabotage, sondern aufgrund der Art und Weise, wie diese Modelle Ihre Antworten generieren. 00:04:14.110 --> 00:04:17.850 Deterministisch versus nicht-deterministisch, der versteckte Schalte. 00:04:18.670 --> 00:04:21.330 Stellen Sie sich vor, Sie tippen 2 plus 2 in einen Taschenrechner ein. 00:04:21.650 --> 00:04:24.150 Und statt der erwarteten 4, grinst er Sie mit 42 an. 00:04:25.470 --> 00:04:25.930 Bizarre, oder? 00:04:26.470 --> 00:04:28.870 Wir stutzen, weil Taschenrechner auf Eis an dem Determinismus basieren. 00:04:29.690 --> 00:04:32.730 Füttern Sie sie tausendmal mit derselben Eingabe, Sie werden jedes Mal dasselbe Ergebnis liefern. 00:04:33.510 --> 00:04:34.970 Diese Vorhersehbarkeit ist der ganze Zweck. 00:04:35.450 --> 00:04:37.550 Vergleichen Sie das nun mit der neuen Klasse von KI-Tools. 00:04:37.970 --> 00:04:39.610 Sie landen nicht immer zweimal an derselben Stelle. 00:04:39.610 --> 00:04:40.770 Ihre Ausgabenbarriere. 00:04:40.770 --> 00:04:44.990 Manchmal wirkt die Abweichung clever oder aufschlussreich, ein anderes Mal gleitet Sie in Unsinn ab. 00:04:45.310 --> 00:04:46.170 Das ist der versteckte Schalte. 00:04:46.770 --> 00:04:48.530 Deterministisches versus nicht-deterministisches Verhalten. 00:04:49.030 --> 00:04:52.410 In deterministischen Systemen denken Sie an Tabellenkalkulationen oder regelbasierte Formeln. 00:04:52.570 --> 00:04:53.430 Ändert sich das Ergebnis nie. 00:04:54.190 --> 00:04:57.330 Geben Sie am Montag oder Samstag eine 7 ein, die Maschine liefert das gleiche Urteil. 00:04:57.930 --> 00:04:59.530 Frei von Stimmung, Schwankungen oder Kreativität. 00:04:59.950 --> 00:05:02.730 Es ist mechanische Loyalität, die immer wieder denselben Ablauf abspielt. 00:05:03.330 --> 00:05:04.890 Nicht-deterministische Modelle funktionieren anders. 00:05:05.290 --> 00:05:06.330 Sie geben Ihnen einen POMPT. 00:05:06.330 --> 00:05:09.630 Und anstatt einem festen Pfad zu folgen, tasten Sie sich durch Möglichkeiten. 00:05:10.770 --> 00:05:16.070 Dieses Sampling zusammen mit stochastischen Prozessen, Modellupdates und sogar Datendrift sorgt für unterschiedliche Ergebnisse. 00:05:17.410 --> 00:05:19.250 Es ist, als würde man eine Bühne für Improvisation bereiten. 00:05:19.650 --> 00:05:22.630 Sie schreiben die Szene, aber der Darsteller erfindet die Pointe spontan. 00:05:23.050 --> 00:05:24.250 Manchmal funktioniert es wunderbar. 00:05:24.770 --> 00:05:26.330 Manchmal schweift es ins Unverständliche ab. 00:05:26.930 --> 00:05:32.130 Klassische Automatisierung und regelbasierte Workflows wie viele in der Power-Plattform sind eher deterministisch. 00:05:32.130 --> 00:05:37.210 Sie legen eine Bedingung fest und wenn der Auslöser greift, führt sie die definierte Regel maschinell präzise aus. 00:05:38.050 --> 00:05:41.010 Diese Vorhersehbarkeit hält Compliance-Datenflüsse und Audit-Trails stabil. 00:05:41.750 --> 00:05:43.730 Sie wissen, was passieren wird, weil die Schritte festgeschrieben sind. 00:05:44.610 --> 00:05:48.550 Generative Co-Pilots hingegen machen aus jeder Eingabe einen offenen Interpretationsraum. 00:05:49.270 --> 00:05:52.370 Sie fassen zusammen, kombinieren neu und formulieren um oft auf eine Weise, die menschlich wird. 00:05:52.370 --> 00:05:59.190 Diese Flexibilität ist ihr Charme, aber auch ihr Risiko, da sie Unvorhersehbarkeit dort zulässt, wo Konsistenz gefordert ist. 00:05:59.990 --> 00:06:01.570 Stellen Sie sich eine Improvisationsgruppe auf die Bühne. 00:06:02.010 --> 00:06:03.430 Sie geben Ihnen das Thema Budgetfreigabe. 00:06:03.990 --> 00:06:07.890 Ein Schauspieler bringt einen Witz über Einsparungen, ein anderer verliert sich in einem Nebenstrang über Bankette 00:06:07.890 --> 00:06:10.650 und plötzlich hat die Show kaum noch Ähnlichkeit mit ihrer ursprünglichen Anfrage. 00:06:11.150 --> 00:06:13.110 Das ist ein nicht-deterministisches Modell während der Performance. 00:06:13.990 --> 00:06:15.910 Diese Schwankungen sind kein Zeichen für schlechtes Design. 00:06:16.490 --> 00:06:19.210 Sie liegen darin begründet, wie große Sprachmodelle Sprache generieren. 00:06:19.210 --> 00:06:21.070 Sie erkunden viele Pfade, nicht nur einen. 00:06:21.070 --> 00:06:22.610 Der Haken ist offensichtlich. 00:06:23.250 --> 00:06:27.870 Kreativität ist nicht immer gleichbedeutend mit Genauigkeit und in Geschäftsprozessen ist Genauigkeit auf die einzige Währung, die zählt. 00:06:28.250 --> 00:06:29.370 Wenden wir dies nun auf das Finanzwesen. 00:06:29.810 --> 00:06:33.110 Angenommen, ihr KI-gestütztes Tool zur Kreditprüfung bewertet einen Antrag als genehmigt. 00:06:33.950 --> 00:06:37.350 Die gleichen Informationen werden am nächsten Tag erneut eingegeben, doch diesmal heißt es abgelehnt. 00:06:37.770 --> 00:06:39.190 Der Antragsteller fühlt sich vor den Kopf gestoßen. 00:06:39.590 --> 00:06:42.150 Die Aufsichtsbehörde sieht eine Inkonsistenz, die nach Diskriminierung riecht. 00:06:42.470 --> 00:06:43.250 Was hier passiert, ist Drift. 00:06:43.630 --> 00:06:45.570 Die Ergebnisse verschieben sich ohne ersichtlichen Grund, 00:06:45.570 --> 00:06:48.210 da nicht-deterministische Systeme über die Zeit variieren können. 00:06:48.210 --> 00:06:51.610 Anders als bei Menschen kann man das Modell nicht einfach fragen, was sich geändert hat. 00:06:52.450 --> 00:06:56.510 Und genau hier schwindet das Vertrauen am schnellsten, wenn die Begründung hinter undurchsichtigen Ergebnissen verschwindet. 00:06:56.890 --> 00:06:58.750 Im Produktivbetrieb verstärkt sich Drift schnell. 00:06:59.550 --> 00:07:01.830 Ein Workflow, der einen Monat lang voreingenommenheit reduzieren soll, 00:07:01.890 --> 00:07:03.830 kann im nächsten Monat in die entgegengesetzte Richtung ausschlagen. 00:07:04.930 --> 00:07:09.150 Variation, die isoliert betrachtet geringfügig erscheinen, summieren sich bei Hunderten von Fällen zu Regelverstößen. 00:07:09.150 --> 00:07:13.370 Aufsichtsbehörden fordern, anders als ein amüsiertes Publikum bei einer Impro-Nacht, 00:07:13.470 --> 00:07:16.030 Stabilität, Nachvollziehbarkeit und klare Erklärungen. 00:07:16.690 --> 00:07:18.930 Sie akzeptieren nicht Determinismus nicht als Teil des Scham. 00:07:19.570 --> 00:07:20.730 Deshalb sind Leitplanken so wichtig. 00:07:21.510 --> 00:07:24.870 Regulierungsbehörden und Standards fordern Revisionsfähigkeit, Modelldokumentation und Überwachung. 00:07:25.250 --> 00:07:28.110 Integrieren Sie also Protokolle und Erklärbarkeitsmaßnahmen in den Einsatz. 00:07:28.690 --> 00:07:32.010 Ohne sie werden selbst kleine Abweichungen zum Risiko, Finanzstrafen häufen sich, 00:07:32.010 --> 00:07:33.990 der Ruf leidet und das Kundenvertrauen schwindet. 00:07:34.330 --> 00:07:35.370 Und das Kundenvertrauen schwindet. 00:07:35.510 --> 00:07:38.090 Governance ist der menschliche Schiedsrichter in diesem unvorhersehbaren Spiel. 00:07:38.090 --> 00:07:40.990 Stellen Sie sich diese Improvisationskünstler wieder vor, die in alle Richtungen ausschweren. 00:07:41.310 --> 00:07:44.010 Wenn niemand Grenzen setzt, bricht die Aufführung unter ihrem eigenen Chaos zusammen. 00:07:44.810 --> 00:07:46.310 Ein Schiedsrichter hingegen hält sie im Zaum. 00:07:46.950 --> 00:07:48.770 Bleiben Sie bei diesem Thema, folgen Sie diesem Handlungsstrang. 00:07:49.490 --> 00:07:50.830 Governance funktioniert bei KI genauso. 00:07:51.630 --> 00:07:56.770 Sie erstickt keine Innovation, sondern wandelt Zufälligkeit in eine Leistung um, die dem Skript treu bleibt. 00:07:57.290 --> 00:08:00.250 Nicht Determinismus bleibt erhalten, bewegt sich aber innerhalb definierter Bahnen. 00:08:00.870 --> 00:08:01.570 Liegt das Gleichgewicht. 00:08:01.970 --> 00:08:04.750 Man kann einen Co-Pilot nicht wie einen Taschenrechner zwingen, dafür ist er nicht gebaut. 00:08:05.550 --> 00:08:07.210 Aber man kann Sicherheitsnetze um ihn herum spannen. 00:08:07.590 --> 00:08:10.850 Menschliche Aufsicht, Überwachungssysteme und Governance-Frameworks bilden dieses Netz. 00:08:11.530 --> 00:08:14.170 Mit ihnen improvisiert das Modell zwar weiterhin, aber es ruiniert nicht die Show. 00:08:14.810 --> 00:08:19.150 Ohne sie entgleist, alles ungebremst und Compliance-Teams müssen Entscheidungen rechtfertigen, die niemand erklären kann. 00:08:19.610 --> 00:08:20.230 Einsätze offensichtlich. 00:08:20.990 --> 00:08:21.750 Unvorhersehbarkeit ist neutral. 00:08:22.270 --> 00:08:25.330 Sie beeinflusst Ergebnisse, die Kredite, Jobs oder die Gesundheitsversorgung betreffen. 00:08:25.970 --> 00:08:28.690 Und wenn die Ergebnisse reales Gewicht haben, greifen Regulierungsbehörden ein. 00:08:28.690 --> 00:08:30.790 Das bringt uns zur nächsten Grenze. 00:08:30.950 --> 00:08:34.430 Der bevorstehenden Ankunft externer Regeln, die Aufsicht nicht nur empfehlen, sondern vorschreiben. 00:08:34.430 --> 00:08:37.450 Der EU-AI-Act, der Asteroid kommt näher. 00:08:38.170 --> 00:08:40.670 Stellen Sie sich vor, Sie haben ein glänzendes neues KI-Projekt gebaut. 00:08:40.850 --> 00:08:43.270 Eine digitale Stadt mit Saugernstraßen und Regentreiben. 00:08:44.210 --> 00:08:47.510 Viertel für Daten, Brücken der Integration, Wolkenkratzer aus cleveren Funktionen. 00:08:47.510 --> 00:08:49.010 Es fühlt sich alles solid an. 00:08:49.630 --> 00:08:53.210 Dann kommt über Nacht der EU-AI-Act wie eine Reihe von Bebauungsvorschriften aus dem All. 00:08:54.110 --> 00:09:00.130 Ganze Viertel Ihrer Stadt sind nun als reguliert eingestuft, manche streng überwacht, andere schlicht verboten, wenn sie manipulativ oder schädlich sind. 00:09:00.970 --> 00:09:05.030 Das ist nicht optional, das ist Gesetz und Ihre Stadt muss sich umbauen, ob Sie es geplant haben oder nicht. 00:09:05.810 --> 00:09:07.470 Der Kern dieser Regeln ist die Kategorisierung. 00:09:08.370 --> 00:09:12.470 Systeme werden in Stufen eingeteilt, minimales, begrenztes, hohes oder inakzeptables Risiko. 00:09:13.550 --> 00:09:16.330 Minimal könnte ein Chatbot abdecken, der Kunden bei FAQs hilft. 00:09:16.330 --> 00:09:20.330 Hohes Risiko umfasst Rekrutierungstools, Kreditbewertung und Arbeitsplatzüberwachung. 00:09:21.130 --> 00:09:24.870 Inakzeptabel deckt manipulative oder gefährliche Anwendungen ab, die faktisch verboten sind. 00:09:25.690 --> 00:09:27.330 Das sind nicht nur Bezeichnungen, sie entsprechen Direktverpflichtungen. 00:09:28.490 --> 00:09:31.530 Bei Einstufung als hohes Risiko müssen Sie Transparenz und Erklärbarkeit bieten, 00:09:31.850 --> 00:09:34.770 detaillierte Protokolle für Audits bereithalten und menschliche Aufsicht implementieren. 00:09:35.250 --> 00:09:39.670 Plötzlich muss Ihre strahlende Neustart nicht nur funktionieren, sondern im Detail nachweisen, wie und warum sie das tut. 00:09:40.470 --> 00:09:42.510 Für Entwickler und Lösungsanbieter ist das eine scharfe Wenn. 00:09:43.130 --> 00:09:45.510 Gestern konnten Funktionen noch im Sprinttempo in Apps eingebaut werden. 00:09:45.510 --> 00:09:49.510 Heute erfordern dieselben Funktionen, vielleicht Compliance-Prüfungen noch vor der ersten Demo. 00:09:50.150 --> 00:09:53.630 Eine Recruiting-App, die Lebensläufe in der Power-Plattform bewertet und früher Zeit sparte, 00:09:53.730 --> 00:09:56.010 fällt plötzlich in den Hochrisikobereich, Feldplatzikobereich. 00:09:56.150 --> 00:09:56.750 Sie ist nicht defekten. 00:09:57.050 --> 00:10:00.770 Sie beeinflusst Menschen auf eine Weise, die das Gesetz als sensibel definiert und das ändert alles. 00:10:01.610 --> 00:10:03.350 Und genau hier setzt bei vielen Teams Panik ein. 00:10:03.350 --> 00:10:08.110 Transparenz bedeutet Protokolle darüber, wie Entscheidungen getroffen werden, nicht eine vage Aufzählung an einer Präsentation. 00:10:09.170 --> 00:10:13.950 Auditierbarkeit erfordert, dass jeder Entscheidungsweg gespeichert und abrufbar ist, bereit für die Prüfung durch Regulierungsbehörden. 00:10:14.330 --> 00:10:16.190 Menschliche Aufsicht bedeutet aktive Verantwortung. 00:10:16.410 --> 00:10:19.750 Echte Menschen, die das System beobachten und eingreifen können, wenn das Modell vom Kurs abweicht. 00:10:20.490 --> 00:10:22.630 Das sind keine lockeren Richtlinien, sondern durchsetzbare Bedingungen. 00:10:22.630 --> 00:10:27.470 Schnelle Prototypen verwandeln sich in beaufsichtigte Implementierungen, die bei jedem Schritt eine Compliance-Freigabe erfordern. 00:10:28.050 --> 00:10:29.030 Geschwindigkeit weicht der Struktur. 00:10:29.470 --> 00:10:33.210 Betrachten Sie das Gesetz weniger als Bürokratie, sondern eher als Sauerstoffregeln auf einem Raumschiff. 00:10:33.690 --> 00:10:36.530 Vielleicht verdrehen Sie die Augen, wenn Sie die Maske bei ruhigem Flug aufsetzen, 00:10:36.890 --> 00:10:38.630 aber bei Turbulenzen hält sie die Crew am Leben. 00:10:39.710 --> 00:10:40.830 Das Gesetz ist genau so. 00:10:41.290 --> 00:10:43.210 Die Regeln wirken schwer, bis man sich erinnert, warum es sie gibt, 00:10:43.210 --> 00:10:45.950 weil ein einziger Fehler das Vertrauen einer ganzen Branche ersticken kann. 00:10:46.850 --> 00:10:47.830 Und hier ist eine dringende Warnung. 00:10:48.230 --> 00:10:49.290 Compliance lässt sich nicht aufschieben. 00:10:50.350 --> 00:10:52.050 Das Gesetz schreibt Pflichten ab sofort vor. 00:10:52.050 --> 00:10:56.630 Und das nachträgliche Implementieren von Protokollen und Kontrollen ist teurer, als sie direkt zu entwerfen. 00:10:57.650 --> 00:11:00.670 Die Folgen, wenn man diese Anforderungen ignoriert, sind nicht nur finanzieller Natur. 00:11:01.370 --> 00:11:03.930 Bußgelder schmerzen, ja, aber der Ruf ist schwerer, wiederherzustellen. 00:11:04.730 --> 00:11:07.050 Sobald Kunden entdecken, dass ihr Tool eine rote Linie überschritten hat, 00:11:07.130 --> 00:11:08.590 schwindet das Vertrauen in ihr gesamtes Unternehmen. 00:11:09.010 --> 00:11:10.290 Das lässt sich nicht mit einem Update beheben. 00:11:10.370 --> 00:11:13.590 Das Vertrauen der Öffentlichkeit ist zerbrechlich und wenn es bricht, wandern Nutzer ab. 00:11:14.230 --> 00:11:16.650 Die größte Strafe steht nicht im Gesetz, sondern im Verhalten der Kunden. 00:11:17.490 --> 00:11:19.270 Hier also die unangenehme Bestandsaufnahme. 00:11:19.270 --> 00:11:23.090 Wissen Sie überhaupt, welche Ihrer KI-Funktionen als hochriskant gelten? 00:11:23.510 --> 00:11:24.210 Diese Lebenslaufsortier? 00:11:24.610 --> 00:11:26.050 Dieses Tool zur Produktivitätsprognost? 00:11:26.490 --> 00:11:30.010 Wenn Sie sensible Bereiche wie Anstellung oder finanzielle Aussichten betreffen, greift das Gesetz. 00:11:30.750 --> 00:11:32.750 Und es spielt keine Rolle, ob Sie sie für harmlose Helfer halten. 00:11:33.290 --> 00:11:35.950 Die Klassifizierung bringt Verpflichtungen mit sich, ob Sie sie anerkennen oder nicht. 00:11:36.330 --> 00:11:39.450 Kluge Unternehmen beginnen mit einer Bestandsaufnahme und katalogisieren Funktionen, 00:11:39.530 --> 00:11:41.230 bevor Regulierungsbehörden Strafen verhängen. 00:11:41.230 --> 00:11:43.130 Ey, was ist die eigentliche Wendung? 00:11:43.590 --> 00:11:46.410 Das Gesetz empfiehlt verantwortungsvolle KI nicht nur sanft, es fordert Sie. 00:11:46.870 --> 00:11:49.650 Governance ist keine optionale Beigabe mehr, sie ist fest im Gesetz verankert. 00:11:50.710 --> 00:11:54.950 Entweder Sie planen von Grund auf mit Verantwortung oder das Gesetz erzwingt Verantwortung von außen, 00:11:55.050 --> 00:11:57.350 mitsamt Strafen und Prüfern im Schlepptau. 00:11:57.910 --> 00:11:59.670 In diesem Sinne ist der Asteroid bereits eingeschlagen. 00:12:00.150 --> 00:12:00.990 Sie können ihn nicht mehr wegdrücken. 00:12:01.390 --> 00:12:03.910 Sie können sich nur gegen den Aufprall wappnen und Ihre Stadt bewohnbar halten. 00:12:04.610 --> 00:12:06.970 Das wirft die praktische Frage auf, welche Schilder haben Sie zur Hand? 00:12:06.970 --> 00:12:09.970 Denn in dieser Landschaft hängt das Überleben des Asteroiden nicht vom Glück ab, 00:12:10.010 --> 00:12:13.290 sondern davon, die Abwehrsysteme zu nutzen, die bereits in Ihrem Kontrollzentrum bereitstehen. 00:12:14.390 --> 00:12:16.450 Schilde und Leitplanken im Microsoft-Ökosystem 00:12:16.450 --> 00:12:20.570 Im Microsoft-Ökosystem sind die Schilde bereits fest in das Schiff integriert. 00:12:21.050 --> 00:12:21.970 Sie müssen sie nur einschalten. 00:12:22.550 --> 00:12:26.670 Microsoft 365 und Power Platform enthalten Governance-Tools, die oft übersehen werden, 00:12:26.810 --> 00:12:28.410 als wären sie nur optionales Zubehör. 00:12:28.950 --> 00:12:32.490 Sie sind keine Dekoration, sondern die strukturelle Panzerung, die Ihre Systeme intakt hält, 00:12:32.550 --> 00:12:33.870 wenn Regulierung und Risiko anklopfen. 00:12:34.370 --> 00:12:36.750 Gefährlich wird es, wenn Teams diese Dashboards nur flüchtig betrachten, 00:12:36.830 --> 00:12:37.910 mit den Schultern zucken und weitermachen. 00:12:38.210 --> 00:12:40.350 Denn das sind keine Bonusoptionen, sondern Überlebensausrüstung. 00:12:40.730 --> 00:12:41.630 Beginnen Sie mit Transparenz. 00:12:42.110 --> 00:12:45.350 Microsoft 365 und Power Platform verfügen über integrierte Überwachungsfunktionen, 00:12:45.410 --> 00:12:47.150 mit denen Sie das Verhalten vom Modell nachverfolgen, 00:12:47.250 --> 00:12:48.930 Entscheidungen protokollieren, Entscheidungen protokollieren 00:12:48.930 --> 00:12:50.430 und Erklärungen in verständliche Sprache anzeigen. 00:12:50.590 --> 00:12:53.150 Sie müssen sich nicht auf eine Blackbox verlassen, die seltsame Urteile von sich gibt. 00:12:53.830 --> 00:12:55.970 Sie erhalten einen echten Feedback-Loop mit Signalen auf der Konsole, 00:12:56.050 --> 00:12:57.210 sobald ein Algorithmus vom Kurs abbrechen. 00:12:57.570 --> 00:13:01.030 Dieser Unterschied ist die Grenze zwischen blindem Steuer und dem Navigieren mit Instrumenten, 00:13:01.030 --> 00:13:02.690 die Ihnen genau anzeigen, wann Sie abdriften. 00:13:03.490 --> 00:13:04.490 Dann ist da noch die Transparenz. 00:13:05.050 --> 00:13:07.350 Einige Anbieter wie AWS stellen KI-Service-Karten bereit, 00:13:07.410 --> 00:13:09.130 um die Nutzung und Grenzen von Modellen zu dokumentieren. 00:13:09.930 --> 00:13:12.910 Microsoft geht dies mit seinem Standard für verantwortungsvolle KI und Tools 00:13:12.910 --> 00:13:14.890 wie dem Responsible AI-Dashboard anders an. 00:13:15.890 --> 00:13:18.950 Diese bieten Anwendern Erklärbarkeitsberichte, Leistungsdaten und Entscheidungen 00:13:18.950 --> 00:13:20.270 für ein verantwortungsvolles Design. 00:13:20.950 --> 00:13:23.290 Stellen Sie es sich wie einen Co-Piloten vor, der seine Überlegungen erläutert, 00:13:23.330 --> 00:13:24.450 anstatt Ihnen einen Plan zu übergeben. 00:13:25.070 --> 00:13:27.330 Sie sehen jede Überlegung, nicht nur das Endergebnis, 00:13:27.850 --> 00:13:29.670 was den Schutz auf Modellebene betrifft, denken Sie daran. 00:13:29.670 --> 00:13:32.350 Alle Anbieter bieten in irgendeiner Formschutzmaßnahmen an. 00:13:32.970 --> 00:13:35.450 In der Microsoft-Umgebung finden Sie Richtliniensteuerungen, 00:13:35.610 --> 00:13:38.170 Erklärbarkeits-Dashboards und Protokolle, die genau diese Rolle übernehmen, 00:13:38.530 --> 00:13:42.010 böswillige Eingabeversuche blockieren und Ergebnisse filtern, bevor sie im Chaos enden. 00:13:42.730 --> 00:13:45.110 Für die Erklärbarkeit selbst gibt es etablierte Methoden wie SHAP 00:13:45.110 --> 00:13:47.470 oder anbieterspezifische Tools wie SageMaker Clarify. 00:13:48.490 --> 00:13:51.190 In der Welt von Microsoft übernimmt das Responsible AI-Dashboard diese Rolle 00:13:51.190 --> 00:13:54.530 und liefert klare Berichte darüber, welche Variablen die Wahl eines Modells beeinflusst haben. 00:13:55.210 --> 00:13:58.050 Damit verliert die Zauberei einer KI-Entscheidung ihren beängstigenden Charakter. 00:13:58.050 --> 00:14:01.770 Sie können sehen, welche Eingaben wichtig waren und abwägen, ob das Ergebnis fair war. 00:14:02.350 --> 00:14:04.990 Prüfer erhalten nachvollziehbare Beweise und Nutzer gewinnen das Vertrauen, 00:14:05.070 --> 00:14:06.930 dass das Modell keinen Unsinn aus dem Nix herbeizaubert. 00:14:07.610 --> 00:14:10.910 Und dann kommt das einfache, aber lebenswichtige Sicherheitsnetz, der Datenschutz. 00:14:11.710 --> 00:14:13.050 Aktivieren Sie die Verhinderung von Datenverlusten, 00:14:13.710 --> 00:14:15.930 damit sensible Informationen nicht in falsche Hände geraten 00:14:15.930 --> 00:14:18.730 und kombinieren Sie dies mit der Aufbewahrung von Protokollen und Audit-Trades. 00:14:19.390 --> 00:14:21.390 Zusammen fungieren diese als Ihr Blackbox-Recorder. 00:14:21.390 --> 00:14:24.110 Jede Aktion, jede Abweichung wird katalogisiert, 00:14:24.190 --> 00:14:25.970 damit Sie Fehler nachvollziehen können, wenn Sie auftreten. 00:14:26.570 --> 00:14:29.310 Versäumen Sie dies, bleibt Ihnen bei auftretenden Fehlern nur heiße Luft. 00:14:29.910 --> 00:14:30.770 Denn nutzt nicht abstrakt. 00:14:31.250 --> 00:14:33.610 Denken Sie an eine einfache Power-App, die mit AI-Bildern erstellt wurde. 00:14:34.250 --> 00:14:36.710 In frühen Entwürfen saugte sie mehr personenbezogene Daten auf, 00:14:36.770 --> 00:14:38.150 als jedes Unternehmen rechtfertigen könnte. 00:14:38.630 --> 00:14:40.730 Namen, Datensätze und sensible Felder wurden offengelegt. 00:14:41.350 --> 00:14:43.930 Sobald die Compliance-Einstellungen aktiviert wurden, stoppte die Datenflut, 00:14:43.990 --> 00:14:45.930 die Grenzen wurden gestärkt, die App funktionierte weiterhin 00:14:45.930 --> 00:14:47.310 und Datenschutzregeln wurden eingehalten. 00:14:47.310 --> 00:14:49.810 Die Architektur wurde nicht abgerissen und neu aufgebaut. 00:14:50.310 --> 00:14:52.410 Sie wurde durch das Einschalten von Schutzschilden ausgerichtet, 00:14:52.490 --> 00:14:53.730 die die ganze Zeit schon vorhanden sind. 00:14:53.810 --> 00:14:56.570 Für erste Bereitstellungsphasen gibt es eine weitere empfehlenswerte Praxis. 00:14:56.810 --> 00:14:58.170 Abgeschottete Bereiche im Tello-Stil. 00:14:58.970 --> 00:15:02.130 Durch das Testen von Co-Piloten in einer kontrollierten und prüfbaren Sandbox 00:15:02.130 --> 00:15:04.530 begrenzen Sie unerwartetes Verhalten auf eine sichere Zone, 00:15:04.630 --> 00:15:06.510 bevor Sie es für geschäftskritische Workflows freigeben. 00:15:07.070 --> 00:15:08.930 Es ist ein Testgelände mit Mauern, die hoch genug sind, 00:15:09.010 --> 00:15:10.630 damit Fehler nicht in Produktionssysteme gelangen. 00:15:11.450 --> 00:15:13.030 Kombinieren Sie das mit robuster Überwachung 00:15:13.030 --> 00:15:15.530 und Ihr Unternehmen erkennt Fehltritte, bevor Sie zur Schlagzeile werden. 00:15:15.530 --> 00:15:17.990 Governance-Dashboards führen dies zusammen. 00:15:18.730 --> 00:15:20.030 Sie sind nicht nur Statusbildschirme, 00:15:20.110 --> 00:15:21.710 Sie geben Teams eine aktive Übersicht. 00:15:22.050 --> 00:15:25.030 Vorgesetzte können KI-Ausgaben in Echtzeit hinterfragen, genehmigen oder ab. 00:15:25.390 --> 00:15:27.790 Das ist eine im System verankerte Human-in-the-Loot-Durchsetzung. 00:15:28.210 --> 00:15:29.990 Ohne eine solche Aufsicht läuft die Automatisierung frei, 00:15:30.070 --> 00:15:31.590 bis sie mit einem Richtlinienverstoß kollidiert. 00:15:32.710 --> 00:15:34.710 Mit Dashboards sitzen Menschen im Kontrollturm 00:15:34.710 --> 00:15:38.210 und koordinieren jedes KI-System wie Flugzeuge im dichten Luftraum. 00:15:39.230 --> 00:15:41.790 Statt Chaos in der Luft erhalten Sie einen synchronisierten, gesteuerten Ablauf. 00:15:42.650 --> 00:15:43.490 Und hier liegt der Wendepunkt. 00:15:43.490 --> 00:15:46.050 Sobald Unternehmen diese Systeme als Schutz begreifen, 00:15:46.150 --> 00:15:49.170 wandeln sie sich von einer regulatorischen Last zum Produktivitätsmultiplikator. 00:15:49.790 --> 00:15:50.650 Sie vermeiden Nachbesserung. 00:15:50.870 --> 00:15:53.030 Sie übergeben Regulierungsbehörden die gewünschen Protokolle in Sekunden. 00:15:53.350 --> 00:15:55.090 Sie sind schneller bei Compliance-Teil des Designs wahr 00:15:55.090 --> 00:15:56.270 und kein nachträglicher Patch. 00:15:56.950 --> 00:15:59.030 Was früher Ihr Tempo bremste, beschleunigt es nun. 00:15:59.530 --> 00:16:01.030 Dennoch arbeiten Schutzschilde nicht von alleine. 00:16:01.450 --> 00:16:03.850 Sie erfordern Konfigurationen, Überprüfungen und ständige Überwachung. 00:16:04.530 --> 00:16:07.170 Diese Kontrollen helfen, müssen aber von Menschen korrekt verwaltet werden. 00:16:08.610 --> 00:16:10.890 Governance-Gremien, die letzte Verteidigungslinie gegen das Chaos. 00:16:10.890 --> 00:16:14.030 Betrachten Sie ein Governance-Gremium als die Brückencrew Ihres Raumschiffs. 00:16:14.470 --> 00:16:17.510 Das Kollektiv, das den Kurs stabil hält, wenn Turbulenzen an den Kontrollen rütteln. 00:16:18.450 --> 00:16:21.270 Schilde, Compliance-Schalter und Audit-Loks mögen im Hintergrund laufen, 00:16:21.390 --> 00:16:24.570 aber jemand muss trotzdem aus dem Fenster schauen, die Anzeigen beobachten und reagieren, 00:16:24.750 --> 00:16:25.950 wenn das Unerwartete eintritt. 00:16:26.950 --> 00:16:30.630 Ohne diese Aufsicht sind selbst die besten Leitplanken nur Metall ohne Urteilsvermögen. 00:16:31.370 --> 00:16:33.790 Ein Governance-Gremium ist kein einsamer Offizier der Befehlebelt. 00:16:33.790 --> 00:16:37.610 Es ist als funktionsübergreifendes Team konzipiert, das technologieverantwortliche, 00:16:37.750 --> 00:16:39.870 Daten-Governance-Experten, Rechts- oder Compliance-Berater, 00:16:39.970 --> 00:16:42.590 einen Unternehmensvertreter und mindestens einen unabhängigen Prüfer einbindet. 00:16:43.630 --> 00:16:46.650 Jeder übernimmt eine andere Rolle, da KI nicht einfach in einem isolierten Bereich bleibt. 00:16:47.210 --> 00:16:49.530 Ein Tool zur Lebenslaufauswertung betrifft das Personalwesen. 00:16:49.750 --> 00:16:52.950 Ein Prognosealgorithmus beeinflusst das Finanzwesen und ein Chatbot spricht direkt mit Ihren Kunden. 00:16:53.370 --> 00:16:55.790 Ein einzelner Funktionsbereich kann nicht alle Konsequenzen absehen. 00:16:56.210 --> 00:16:58.530 Es braucht einen runden Tisch, um Risiken zu erkennen und zu korrigieren, 00:16:58.610 --> 00:16:59.910 bevor Sie auf andere Abteilungen übergreifen. 00:16:59.910 --> 00:17:01.750 Stellen Sie sich nun vor, Sie würden ohne System arbeiten. 00:17:02.130 --> 00:17:05.630 KI umgeprüft zu lassen ist, wie den Autopiloten in einem Asteroidenfeld einzuschalten. 00:17:06.170 --> 00:17:09.210 Es fühlt sich gut an, bis ein seltsames Manöver das Schiff vom Kurs abbringt. 00:17:09.990 --> 00:17:12.190 Leitplanken mögen zwar vorhanden sein, aber sie interpretieren nicht, 00:17:12.250 --> 00:17:13.690 sie hinterfragen nicht und sie antizipieren nicht. 00:17:14.090 --> 00:17:16.110 Das Governance-Board ist die Denken der Instanzmenschen, 00:17:16.170 --> 00:17:18.850 die hinter die blinkenden Lichter blicken, um Kontext, Ethik und Auswirkungen zu sehen, 00:17:18.910 --> 00:17:20.310 bevor das Abdriften zum Desaster wird. 00:17:21.150 --> 00:17:22.330 Ihre Aufgaben sind nicht abstrakt. 00:17:22.830 --> 00:17:25.310 Sie führen regelmäßige Audits zu Voreingenommenheit und Fairness durch, 00:17:25.310 --> 00:17:27.550 bestätigen die Datenherkunft, prüfen Compliance-Berichte 00:17:27.550 --> 00:17:29.610 und verfolgen, wie nicht-deterministische Systeme improvisieren. 00:17:30.370 --> 00:17:33.030 Sie geben den Takt vor, legen Zeitpläne für Prüfungen fest, 00:17:33.130 --> 00:17:35.690 damit Probleme frühzeitig und nicht erst nach dem Start erkannt werden 00:17:35.690 --> 00:17:39.330 und definieren Leistungskennzahlen, Fairness, Genauigkeits- und Abweichungsmetriken, 00:17:39.710 --> 00:17:42.550 sodass laufende Überwachung keine Vermutung, sondern messbare Rechenschaftspflicht ist. 00:17:43.390 --> 00:17:46.330 Besonders bei nicht-deterministischen Ergebnissen sichern diese Boards die ganzen ab. 00:17:46.870 --> 00:17:48.170 KI liefert nicht immer dieselbe Antwort. 00:17:49.010 --> 00:17:50.670 Sie stichprobt, improvisiert, experimentiert. 00:17:51.110 --> 00:17:54.690 Das kann kreative Antworten erzeugen oder in irreführende Ergebnisse abgleiten, 00:17:54.750 --> 00:17:55.610 die das Vertrauen untergraben. 00:17:55.610 --> 00:17:58.670 Ein Governance-Board fungiert als digitale Sicherheitswache, 00:17:59.010 --> 00:18:01.910 protokolliert unerwartete Ergebnisse, testet Prompts durch Red-Teaming, 00:18:02.130 --> 00:18:04.690 kennzeichnet gefährliche Muster und holt Menschen in die Schleife zurück, 00:18:04.770 --> 00:18:06.450 wenn automatisierte Filter etwas übersehen. 00:18:07.690 --> 00:18:08.530 Sie ersticken keine Innovation. 00:18:09.070 --> 00:18:10.750 Sie sorgen dafür, dass sie sich in sicheren Grenzen bewegen. 00:18:11.090 --> 00:18:12.230 Und hier liegt der praktische Unterschied. 00:18:12.930 --> 00:18:16.130 Organisationen mit effektiven Governance-Boards erkennen Probleme meist schon in Testläufen. 00:18:17.230 --> 00:18:20.230 Ein Fairness-Audit deckt Voreingenommenheit in einem Rekrutierungsmodell auf, 00:18:20.290 --> 00:18:23.110 das Problem wird diskret korrigiert und die Einführung erfolgt ohne Skandal. 00:18:23.110 --> 00:18:27.030 In Organisationen ohne eine solche Aufsicht landet die Geschichte zuerst in der Presse. 00:18:27.510 --> 00:18:30.090 Kunden bemerken den Schaden, Regulierungsbehörden entdecken die Fehler 00:18:30.090 --> 00:18:32.030 und korrigierende Maßnahmen kommen zu spät. 00:18:32.990 --> 00:18:33.910 Prävention kostet Zeit. 00:18:34.650 --> 00:18:36.050 Nachbesserung kostet Reputation. 00:18:36.710 --> 00:18:38.810 Das Muster wiederholt sich oft genug, um die Lektion deutlich zu machen. 00:18:39.390 --> 00:18:42.010 Das Fundament dieser Boards dreht sich um Fairness, Transparenz, 00:18:42.110 --> 00:18:44.230 Rechenschaftspflicht, Sicherheit und Datenschutz. 00:18:45.270 --> 00:18:48.530 Fairness stellt sicher, dass Ergebnisse Nutzer nicht aufgrund demografischer Merkmale benachteiligen. 00:18:49.290 --> 00:18:51.970 Transparenz erfordert, dass Entscheidungen in klaren Begriffen erklärbar sind, 00:18:52.070 --> 00:18:53.530 sowohl für Nutzer als auch für die Compliance. 00:18:54.590 --> 00:18:56.750 Rechenschaftspflicht stellt sicher, dass es eine definierte Rolle gibt, 00:18:56.830 --> 00:18:58.610 die Verantwortung übernimmt nicht, die KI wahr ist, 00:18:58.750 --> 00:19:00.870 sondern dieser Verantwortliche steht für das Ergebnis ein. 00:19:01.510 --> 00:19:04.030 Sicherheit verhindert, dass Ergebnisse Schaden anrichten oder missbraucht werden. 00:19:04.630 --> 00:19:05.990 Datenschutz schützt sensible Daten, 00:19:06.190 --> 00:19:09.190 damit Einzelpersonen nicht unfreiwillig zur Fracht auf einer riskanten Reise werden. 00:19:09.990 --> 00:19:12.750 Jedes Prinzip ist für sich stark, aber zusammen bilden sie den Rumpf, 00:19:12.830 --> 00:19:15.310 der verantwortungsvolle KI unter genauer Prüfung funktionsfähig macht. 00:19:15.310 --> 00:19:18.410 Und Gremien halten nicht nur Prinzipien hoch, sie setzen auch Maßnahmen um. 00:19:18.850 --> 00:19:20.690 Sie prüfen Modelldokumentationen auf Klarheit, 00:19:20.770 --> 00:19:23.810 führen Risikoerfassungsprozesse zur Klassifizierung von Anwendungsfällen durch 00:19:23.810 --> 00:19:27.410 und erzwingen menschliche Kontrollpunkte, wo Aufsicht erforderlich ist, wo Aufsicht erforderlich ist. 00:19:27.530 --> 00:19:30.110 Als erster Schritt ist eine Bestandsaufnahme der KI-Anwendungsfälle 00:19:30.110 --> 00:19:32.930 und eine Risikobewertung eine der einfachsten und wertvollsten Maßnahmen. 00:19:33.730 --> 00:19:36.190 Diese Übersicht zeigt schnell, welche Projekte als risikoreich gelten, 00:19:36.190 --> 00:19:38.610 welche eine strenge Governance erfordern und welche weniger kritisch sind. 00:19:39.350 --> 00:19:41.750 Dies ist ein greifbarer Beleg für Führungskräfte und Regulierungsbehörden, 00:19:41.830 --> 00:19:43.430 dass die Aufsicht strukturiert und nicht improvisiert ist. 00:19:43.430 --> 00:19:47.630 Selbst bei voller Fahrt fungieren die Sitzungen des Gremiums wie regelmäßige Scans während der Rache. 00:19:48.250 --> 00:19:51.770 Sie legen nicht nur die Strategie fest, sondern verfolgen auch Kennzahlen und erzwingen Compliance-Berichte. 00:19:52.710 --> 00:19:53.870 Dieser Rhythmus schafft Resilienz. 00:19:54.770 --> 00:19:58.570 Testzyklen, Fairness-KPIs und Drift-Analysen geben den Takt vor, 00:19:58.910 --> 00:20:01.910 damit laufende Schutzmaßnahmen aktiv bleiben und nicht nach der Bereitstellung verblassen. 00:20:02.450 --> 00:20:06.750 Durch diese Rituale hört die Aufsicht auf, eine einmalige Checkliste zu sein und wird zu einem lebendigen Prozess. 00:20:07.570 --> 00:20:09.130 KI-Recruiting ist ein wahrendes Beispiel. 00:20:09.130 --> 00:20:13.890 Modelle, die mit fehlerhaften Daten trainiert wurden, übernahmen stillschweigend Voreingenommenheit 00:20:13.890 --> 00:20:16.950 und stuften Kandidaten bestimmter Gruppen ohne Absicht der Entwickler herab. 00:20:17.830 --> 00:20:21.210 Unbemerkt verbreitete sich die Diskriminierung in großem Stil, bis es zu klagen kam. 00:20:21.870 --> 00:20:24.930 Ein Governance-Gremium, ausgestattet mit Fairness-Audits und Herkunftsprüfungen, 00:20:25.030 --> 00:20:26.950 hätte die Schieflage lange vor der Produktion bemerken können. 00:20:26.950 --> 00:20:30.550 Dieser Unterschied Prävention statt Enthüllung ist der Grund für die Existenz solcher Gremien. 00:20:31.250 --> 00:20:34.470 Governance-Gremien sind daher keine Nebenprojekte und keine dekorativen Ausschüsse. 00:20:35.070 --> 00:20:38.270 Sie sind die letzte Verteidigungslinie zwischen stetiger Führung und vermeidbarem Chaos, 00:20:38.370 --> 00:20:41.310 das Team, das Beauftragte des KI-Slogans in fundierte Praxis umzusetzen. 00:20:41.690 --> 00:20:44.710 Durch die aufrechte Haltung von Strukturmetriken und Verantwortlichkeit stellen sie sicher, 00:20:44.790 --> 00:20:46.210 dass das Schiff mit intaktem Vertrauen vorankommt. 00:20:46.670 --> 00:20:47.590 Und damit schließt sich der Kreis. 00:20:48.170 --> 00:20:50.810 Mit eingesetzten Gremien wird Aufsicht zur Kultur, nicht zum Flickwerk, 00:20:50.810 --> 00:20:52.770 was zu der schärferen Wahrheit führt, mit der wir schließen. 00:20:53.910 --> 00:20:56.190 Verantwortungsvolle KI ist keine Bonuseinstellung, die man zur Schau stellt. 00:20:56.950 --> 00:21:00.130 Es ist der Sicherheitsapparat, der bestimmt, ob sie die kommenden Turbulenzen überstehen. 00:21:01.130 --> 00:21:02.170 Verantwortungsvolle KI ist keine Option. 00:21:02.690 --> 00:21:05.970 Sie unterscheidet eine Organisation, die die Kontrolle hat, von einer, die in das Chaos abdürft. 00:21:06.410 --> 00:21:09.030 Damit bauen sie Vertrauen auf, reduzieren Risiken erheblich 00:21:09.030 --> 00:21:13.190 und positionieren ihre KI-Projekte für langfristigen Erfolg statt für kurzfristige Aufflackern. 00:21:13.590 --> 00:21:14.450 Hier ist also ihr nächster Schritt. 00:21:14.910 --> 00:21:18.870 Erfassen Sie Ihre KI-Anwendungsfälle, aktivieren Sie die bereits in Ihrer Plattform vorhandenen Schutzmaßnahmen 00:21:18.870 --> 00:21:21.070 und gründen Sie ein Governance-Gremium, um diese zu überwachen. 00:21:21.650 --> 00:21:24.050 Betrachten Sie diese Schritte als Missionskontrolle, nicht als Nebenmission. 00:21:24.050 --> 00:21:28.510 Die Shownotes enthalten eine Checkliste und Links zu den besprochenen Tools, damit Sie sofort loslegen können. 00:21:29.090 --> 00:21:33.030 Wenn diese Episode Ihre Dilithiumkristalle aufgeladen hat, stellen Sie Ihren Podcatcher auf automatisches Andocken ein. 00:21:33.470 --> 00:21:34.050 Klicken Sie auf Folgen. 00:21:34.670 --> 00:21:37.650 Schickt eure Fragen an AddHourShow und ich werde die besten beim nächsten Mal vorlesen.