Creatios KI-Studio: Ein Leitfaden für Projektleiter zur Verwaltung von KI-Agenten im großen Maßstab

Da sich KI-Agenten von Pilotprojekten in den alltäglichen Einsatz entwickeln, stehen Organisationen vor einer neuen operativen Herausforderung: ihrer Skalierung. Ein einzelner Agent, der Statusaktualisierungen erstellt oder eingehende Anfragen vorsortiert, lässt sich unkompliziert bereitstellen.

Die Schwierigkeit entsteht, wenn sich Agenten über Projektteams, das PMO und das gesamte Unternehmen hinweg vervielfachen – von unterschiedlichen Teams entwickelt, mit Zugriff auf Kunden- und Unternehmensdaten und mit der Fähigkeit, Entscheidungen zu treffen – ohne eine gemeinsame Methode für ihre Entwicklung, Governance und Überwachung. Diese Herausforderung fällt häufig den Projektverantwortlichen zu: PMOs und Bereitstellungsteams sind oft diejenigen, die gebeten werden, Agenten im gesamten Unternehmen auszurollen und dafür einzustehen, wie sich diese Agenten nach ihrer Inbetriebnahme verhalten.

Die Verwaltung von KI-Agenten im großen Maßstab ist daher weniger eine Frage der Modellfähigkeiten als der Betriebsabläufe: wie Agenten entwickelt werden, worauf sie zugreifen und was sie tun dürfen, wie ihre Aktivitäten und Kosten erfasst werden und wie der Mensch die Kontrolle behält. Dieser Leitfaden untersucht diese Anforderungen und beschreibt, wie Creatio AI Studio, eine KI-native Plattform für die Verwaltung des gesamten Agentenlebenszyklus, mit jeder dieser Anforderungen umgeht.

Das Problem: Agenten lassen sich einfach starten, aber nur schwer steuern

Die Lücke zwischen einem erfolgreichen Pilotprojekt und einer verwalteten Flotte ist der Punkt, an dem die meisten KI-Programme ins Stocken geraten. Nur selten ist es das Modell, das versagt; vielmehr fehlt eine operative Ebene, die es umgibt. Wenn die Anzahl der Agenten wächst, treten typischerweise fünf Probleme gleichzeitig auf.

• Wildwuchs. Agenten werden unabhängig voneinander in verschiedenen Teams entwickelt, ohne gemeinsame Standards. Innerhalb eines Quartals kann niemand mehr sagen, wie viele existieren oder worauf sie zugreifen können.
• Schatten-KI. Mitarbeitende entwickeln und nutzen Agenten unabhängig davon, ob die IT sie genehmigt hat, weil sich diese Arbeit auszahlt. Ohne eine verwaltete Plattform bleibt diese Aktivität unsichtbar – und ein Verbot drängt sie nur noch weiter aus dem Blickfeld.
• Lücken in der Governance und Compliance-Risiken. Wenn unklar ist, auf welche Daten ein Agent zugreifen und welche Aktionen er ausführen darf, wird jeder neue Agent zu einem potenziellen Risiko. Da Agenten autonom Entscheidungen treffen und Aktionen ausführen, müssen Organisationen verstehen und erklären können, was sie tun.
• Keine Beobachtbarkeit. Die meisten Teams haben keinen Überblick auf Flottenebene über Agentenaktivitäten, Entscheidungen, Fehler oder Kosten. Eine Organisation kann nichts verwalten, was sie nicht sehen kann.
• Unkontrollierte KI-Kosten. Agenten verbrauchen bei ihrer Arbeit Token und KI-Aktionen, wodurch die Kosten bei zunehmender Nutzung schwerer vorhersehbar werden. Ohne Transparenz über den Verbrauch können die KI-Ausgaben unbemerkt steigen.

Diese fünf Probleme bestimmen, welche Anforderungen eine Verwaltungsebene erfüllen muss. Die folgenden Abschnitte beschreiben, wie AI Studio auf jedes dieser Probleme eingeht.

Wie Creatio AI Studio das Verwaltungsproblem angeht

Eine Umgebung für den gesamten Agentenlebenszyklus

Creatio AI Studio führt den gesamten Agentenlebenszyklus in einer einzigen Umgebung zusammen und hilft Organisationen, die Fragmentierung zu vermeiden, die entstehen kann, wenn sie immer mehr Agenten im gesamten Unternehmen entwickeln und bereitstellen. AI Studio bietet einen zentralen Ort, um Agenten zu entwickeln und mit den richtigen Fähigkeiten und Kenntnissen auszustatten, sie mit Geschäftssystemen und Kommunikationskanälen zu verbinden, sie in verschiedenen Umgebungen bereitzustellen und zu überwachen sowie ihre Aktionen durch Richtlinien, Genehmigungen und Beobachtbarkeit zu steuern.

Da jeder Agent mithilfe derselben verwalteten Bibliothek aus genehmigten Fähigkeiten, APIs, Integrationen, Unternehmenswissen und verbundenen Systemen entwickelt wird, können Teams vertrauenswürdige Komponenten wiederverwenden, anstatt isolierte Einzelagenten zu erstellen, die nur schwer zu verwalten und zu warten sind.

Zwei Entwicklungswege auf einer gemeinsamen Governance-Grundlage

Creatio AI unterstützt zwei Möglichkeiten zur Entwicklung von Agenten und begegnet damit einer weiteren häufigen Ursache für den Wildwuchs bei Agenten: der Tatsache, dass unterschiedliche Teams und Mitarbeitende Agenten außerhalb eines gemeinsamen Governance-Rahmens erstellen.

• AI Studio ermöglicht es Organisationen, geschäftskritische, kundenorientierte Agenten mithilfe natürlicher Sprache, visueller No-Code-Tools und programmierbarer Agenten zu entwickeln. Diese können mit Unternehmensdaten, Wissen und Systemen verbunden, über verschiedene Kanäle bereitgestellt und mithilfe integrierter Beobachtbarkeit und Governance hinsichtlich ihrer Leistung verwaltet werden.
• AI Twin erweitert die Agentenentwicklung auf einzelne Mitarbeitende. Nutzer beschreiben einfach, was ein Agent erreichen soll, und AI Twin stellt die erforderlichen Workflows und Fähigkeiten in einer Sandbox zusammen, in der Mitarbeitende den Agenten im Dialog verfeinern können, bevor sie ihn unter der Governance der IT bereitstellen. Beide Tools greifen auf denselben verwalteten Katalog zurück, sodass nichts außerhalb geprüfter Grenzen entwickelt wird. Dies hilft Organisationen, Schatten-KI unter Kontrolle zu bringen, ohne Innovation einzuschränken: Mitarbeitende können weiterhin Agenten für ihre Anforderungen entwickeln, jedoch innerhalb der von der IT definierten Leitplanken statt außerhalb dieser.

Transparenz auf Flottenebene durch die Betriebsleitstelle

Die Betriebsleitstelle von Creatio AI Studio bietet eine zentrale Ansicht, die das Transparenzproblem löst. Unternehmen können damit die Aktivitäten der Agenten, den Ausführungsverlauf, Auslöser und Ergebnisse überwachen. Die Leitstelle zeigt außerdem, wie viele Agenten online sind, den Durchsatz und den Token-Verbrauch, auf eine Überprüfung wartende Genehmigungen sowie die Aktionen, die die Governance-Ebene an diesem Tag blockiert hat.

Bei Agenten, die mit dem Coding-Agenten erstellt wurden, erfasst die Plattform außerdem Abschlussraten von Ausführungen, Latenz-Perzentile, den Verbrauch von KI-Aktionen und das Volumen von Tool-Aufrufen. Dadurch erhalten Teams Einblick sowohl in die Leistung der Agenten als auch in die Kosten.

In die Plattform integrierte Governance und Vertrauenswürdigkeit

Creatio AI Studio verwendet im Rahmen des Creatio-Vertrauensframeworks vier Arten von Schutzvorkehrungen. Diese sollen Unternehmen dabei unterstützen, KI-Agenten zu skalieren und gleichzeitig Sicherheit, Governance, Transparenz und Kontrolle zu gewährleisten.

• Datenschutz und Sicherheit. LLM-Anfragen werden zusammen mit den Daten innerhalb der Cloud-Umgebung des Unternehmens verarbeitet, anstatt über öffentliche KI-Dienste geleitet zu werden. Daten werden während der Übertragung und im Ruhezustand verschlüsselt, ausschließlich als Kontext für die Interaktion verwendet und niemals in das Modelltraining einbezogen oder tenantübergreifend geteilt. Rollenbasierte Zugriffskontrollen stellen sicher, dass Agenten nur auf die Daten und Ressourcen zugreifen können, zu deren Nutzung sie berechtigt sind.
• Klare Governance und Verantwortlichkeit. Creatio verwaltet Schutzvorkehrungen auf Plattformebene, einschließlich genehmigter Modelle, Tests vor der Bereitstellung und plattformweiter Nutzungssteuerungen. Unternehmen behalten die Kontrolle darüber, wie KI in ihrem Geschäft eingesetzt wird: Sie können Modelle auswählen oder eigene Modelle einbinden, Zugriffs- und Nutzungsrichtlinien festlegen, Budgets und Genehmigungsabläufe definieren sowie Agenten genehmigen, bevor diese in den Produktivbetrieb übergehen.
• Transparenz und menschliche Aufsicht. Die Leitstelle protokolliert, wer wann was und warum verwendet hat; eine Funktion „Erklären“ macht die Überlegungen des Agenten und den Quellenkontext sichtbar, und Genehmigungen mit Einbindung eines Menschen stellen sicher, dass Menschen bei Entscheidungen mit hoher Tragweite die Kontrolle behalten.
• Abruf und Fundierung. Agenten formulieren Antworten auf Grundlage genehmigter Wissensdatenbanken statt des allgemeinen Modellwissens und stellen so eine konkrete Informationsquelle bereit.

Das Framework unterstützt Anforderungen an die Compliance von Unternehmen, einschließlich DSGVO, HIPAA und SOC 2. Da außerdem jeder Agent — einschließlich eines persönlichen KI-Zwillings — die exakten rollenbasierten Zugriffsrechte der Person oder des Teams übernimmt, für die bzw. das er handelt, und jede Entscheidung protokolliert, entstehen durch die Skalierung der Agentenanzahl keine neuen Lücken im Sicherheitsmodell.

Eine praktische Governance-Checkliste für die Skalierung von KI-Agenten

Vor der Erweiterung eines Agentenprogramms können Projekt- und PMO-Verantwortliche die folgende Checkliste verwenden, um zu bestätigen, dass die Grundlagen für eine verantwortungsvolle Skalierung von KI-Agenten vorhanden sind.

• Bestandsaufnahme. Verfügen Sie über eine aktuelle Liste aller betriebenen Agenten, einschließlich derjenigen, die informell erstellt wurden?
• Zugriff. Arbeitet jeder Agent mit definierten Berechtigungen nach dem Prinzip der geringsten Privilegien statt mit weitreichendem Zugriff?
• Verantwortlichkeit. Ist klar, wer für jeden Agenten verantwortlich ist und wer dessen Einsatz genehmigt, bevor er in den Produktivbetrieb übergeht?
• Genehmigungen. Unterliegen Aktionen mit hoher Auswirkung einer Überprüfung mit Einbindung eines Menschen, sei sie selektiv oder verpflichtend?
• Fundierung. Stützen sich die Antworten der Agenten auf eine genehmigte Wissensdatenbank und geben sie ihre Quellen an?
• Transparenz. Können Sie Aktivitäten, Leistung und Kosten der Agenten auf Flottenebene in Echtzeit einsehen?
• Auditierung. Ist die Entscheidung jedes Agenten protokolliert und auf einen Benutzer zurückführbar?
• Budget. Sind Nutzungsbudgets und Ratenbegrenzungen festgelegt und werden Warnungen ausgegeben, bevor Schwellenwerte erreicht werden?
• Datenresidenz. Wissen Sie, wo Ihre Daten und Modelle ausgeführt werden und dass sie nicht an öffentliche Dienste weitergeleitet werden?

Jeder Punkt, den Sie nicht sicher beantworten können, stellt eine Lücke dar, die Sie schließen sollten, bevor Sie weitere Agenten hinzufügen — nicht erst danach.

So führen Sie Agenten in großem Maßstab ein: Ein stufenweises Framework

Die Skalierung von Agenten sollte am besten als operative Disziplin betrachtet werden, mit einer stufenweisen Abfolge, die sicherstellt, dass die Kontrolle dem Wachstum vorausgeht.

1. Governance-Standards zuerst festlegen. Definieren Sie Zugriffsregeln, Genehmigungsprozesse, Budgets und Kontrollmechanismen, solange die Anzahl der Agenten noch überschaubar ist. Die nachträgliche Einführung von Governance in einer weit verzweigten Flotte ist deutlich schwieriger.
2. Auf einer Plattform konsolidieren. Das Erstellen, Ausführen und Überwachen von Agenten in einer einzigen gesteuerten Umgebung verwandelt eine Reihe von Experimenten in ein verwaltetes System. Genau dafür wurde Creatio AI Studio entwickelt — die Bereiche für verwaltete Agenten, Laufzeit und Governance decken jede dieser Phasen an einem Ort ab.
3. Mit unterstützenden Anwendungsfällen beginnen. Beginnen Sie dort, wo der Agent Empfehlungen abgibt und eine Person entscheidet — bei Statusberichten, der Kennzeichnung von Risiken und der Triage eingehender Anfragen — und zwar in gut sichtbaren Projektabläufen. Stellen Sie die Zuverlässigkeit sicher, bevor Sie Autonomie gewähren. Die Freigaben mit Mensch-in-der-Schleife von AI Studio unterstützen diesen unterstützungsorientierten Ansatz.
4. Die Autonomie erweitern, sobald sich Vertrauen gebildet hat. Erweitern Sie den Handlungsspielraum jedes Agenten bewusst und behalten Sie bei Aktionen mit großen Auswirkungen menschliche Kontrollpunkte bei. In AI Studio machen die Vererbung von Berechtigungen und vollständige Entscheidungsprotokolle eine schrittweise Umsetzung sicher.
5. Von Anfang an messen. Sorgen Sie sofort für eine Beobachtung der Leistung und Kosten auf Flottenebene. Die Betriebsleitstelle von Creatio AI Studio bietet diese Übersicht — online befindliche Agenten, Durchsatz, Genehmigungen und Kosten — vom ersten Tag an.

Erkennen, wann Ihre Organisation bereit ist

Ein nützliches Signal dafür, dass es an der Zeit ist, von Ad-hoc-Agenten zu einer Verwaltungsplattform zu wechseln, liegt vor, wenn einer der folgenden Punkte zutrifft: Agenten sind in mehr als einem oder zwei Teams vorhanden, Agenten beginnen, auf regulierte oder sensible Daten zuzugreifen, niemand kann mehr überblicken, was alle Agenten tun, oder KI-Kosten tauchen auf, ohne dass es dafür eine eindeutig verantwortliche Person gibt. Ab diesem Zeitpunkt lautet die Frage nicht mehr, ob eine Plattform eingeführt werden soll, sondern wie schnell die bestehende Ausbreitung unter Kontrolle gebracht werden kann.

Creatio AI Studio ist auf diesen Übergang ausgerichtet und verbindet eine gesteuerte Grundlage, ein durchgängiges Lebenszyklusmanagement und eine Transparenz auf Flottenebene in einer einzigen Umgebung. Für Organisationen, die von einer Handvoll Agenten zu einer verwalteten Flotte übergehen, schafft diese Kombination die Kontrolle, Transparenz und Verantwortlichkeit, die der Betrieb in großem Maßstab erfordert.