Was ist Microsoft Copilot Studio?
Microsoft Copilot Studio ist ein Bestandteil der Microsoft Power Platform und ermöglicht es, KI-gestützte Agenten anzulegen und zu veröffentlichen. Es basiert auf no code / low Code Technologie und ist deshalb auch nützlich für Anwendende mit wenig oder keinen Programmierkenntnissen.
Das Copilot Studio von Microsoft hat sich aus den Power Virtual Agents entwickelt, einem Tool zur Erstellung klassischer Chatbots. Durch die Integration zahlreicher KI-Funktionen vereint es nun das Beste aus beiden Welten: Es bietet die volle Flexibilität eines KI-Agenten, der komplexe Aufgaben versteht und sich anpasst, und erlaubt gleichzeitig eine präzise, nachvollziehbare Orchestrierung für spezifische Themen. Damit stellt es eine leistungsstarke Plattform für die Entwicklung dynamischer, intelligenter Bots bereit, die vielseitig einsetzbar sind.
Was ist ein KI-Agent und wie unterscheidet er sich von einem Chatbot?
Klassischer Chatbot
Ein klassischer Chatbot arbeitet mit festen Regeln und Skripten. Er nutzt Entscheidungsbäume oder Mustererkennung, um Eingaben zu beantworten. Solche Bots sind auf spezifische Aufgaben beschränkt, verstehen Kontexte nur begrenzt und scheitern oft an unerwarteten Anfragen. Sie eignen sich für einfache Aufgaben wie FAQs, wirken jedoch häufig unflexibel auf den Nutzer.
KI-Agent
Ein moderner KI-Agent basiert auf großen Sprachmodellen (LLMs) und ermöglicht intelligente, dynamische Interaktionen. Er versteht Kontext, lernt aus Gesprächen und reagiert flexibel auf neue Szenarien. Solche Agenten führen komplexe Dialoge, integrieren externe Systeme und bieten vielseitige Lösungen.
Terminologie
Der Klarheit halber sprechen wir in diesem Artikel von „Agent“, wenn wir den von Ihnen im Copilot Studio angelegten Copiloten meinen. Mit „Copilot“ verweisen wir auf den im Copilot Studio verfügbaren Copiloten, also die KI, die Sie bei der Erstellung Ihres Agenten unterstützt. Sprechen wir über „Copilot Studio“, ist damit die Microsoft Lösung gemeint, mit der Sie Agenten erstellen.
Microsoft Copilot Studio aufrufen und Agent anlegen
Als Erstes sollten Sie Ihren Browser öffnen und die Seite https://copilotstudio.microsoft.com/ aufrufen. Sie können eine kostenfreie Testversion einrichten, sofern Ihr Unternehmen Sie nicht ohnehin lizenziert hat.
Nun haben Sie drei Möglichkeiten, um einen Agenten zu erstellen:
- Copiloten vom Copilot Studio: Die KI wird Ihnen Fragen stellen und auf Basis Ihrer Antworten den Agenten anlegen.
- Von Microsoft bereitgestellte Vorlagen: Wenn Ihr Anwendungsfall in den Vorlagen vorhanden ist, bietet es sich an, diese als Basis zu nutzen und zu personalisieren.
- Manuelle Anlage: Über den Menüpunkt „⊕ Erstellen“ können Sie direkt mit der Konfiguration Ihres Agenten starten.
Bei der Erstellung des ersten Agenten bietet es sich an, den Copilot vom Copilot Studio zu nutzen: Er wird Sie mit einfach verständlichen Fragen durch die Einrichtung navigieren. Sie finden ihn direkt oben auf dem Startbildschirm („Beschreiben Sie Ihren Agent, um ihn zu erstellen“). Folgende Parameter wird der Copilot abfragen:
- Das Ziel und die Zielgruppe des Agenten: Hier sollten Sie angeben, wer den Agenten nutzen wird und zu welchen Themen oder Prozessen der Agent Auskunft geben soll.
- Tonalität des Agenten: Hier können Sie zum Beispiel angeben, wie ausführlich der Agent antworten soll, dass er seine Antworten als Bullet Points zusammenfassen soll, oder gar, dass er wie ein Pirat sprechen soll.
- Wissensquelle des Agenten: In dieser Phase kann der Copilot nur öffentliche Websites und Sharepoint-Dokumente als Wissensdatenbank aufnehmen. Sollten Sie andere Datenquellen bevorzugen, können Sie diese Frage einfach überspringen.
- Tabus: Hier können Sie Themen und Informationen hinterlegen, zu denen der Agent keine Auskunft geben soll.
Sollten Sie die manuelle Erstellung bevorzugen, werden die gleichen Parameter in einem Formular abgefragt. Bitte beschreiben Sie die Tonalität und die Tabus im Feld Anweisungen. Denken Sie auch daran, Ihrem Agenten einen (an)sprechenden Namen zu geben sowie ein Symbol oder Avatar. Dafür sollten Sie ein Bild im png-Format nutzen.
Wenn Sie die Fragen des Copilots beantwortet haben – oder bei manueller Anlage die Formularfelder ausgefüllt haben –, klicken Sie rechts oben auf „Erstellen“.
Sie möchten mehr über Power Apps in der Power Platform erfahren und überlegen, wie Sie sie für Ihr Unternehmen nutzen können?
In unserem Envisioning Workshop lernt Ihr Team anhand eines Beispiels aus Ihrem Unternehmen, wie Prozesse mit der Power Platform digitalisiert werden – ganz praxisnah und mit Fokus auf Wissensvermittlung. Der Clou: In der Regel übernimmt Microsoft die Kosten des Workshops für Sie.
Wissensquelle hinzufügen
Sobald Ihr Agent erstellt wurde, kommen Sie auf eine Übersichtsseite, auf der die Parameter Ihres Agenten zusammengefasst sind. Diese können Sie in diesem Schritt, wenn gewünscht, über den Stift rechts bearbeiten.
Im Bereich „Wissen“ können Sie nun weitere Informationsquellen hinzufügen. Folgende Wissensquellen sind unter anderen verfügbar:
- Öffentliche Websites
- Sharepoint
- Dataverse
- Datei-Upload (PDF, Word, Excel, PowerPoint, epub…)
- Azure KI-Suche
- Azure SQL
- Salesforce
- ServiceNow Catalog
- ServiceNow Knowledge
- ServiceNow Tickets
Wenn Sie eine Wissensquelle hinzufügen, sollten Sie immer einen möglichst sprechenden Namen hinterlegen sowie eine detaillierte Beschreibung des Inhalts der Wissensquelle. Das hilft der KI die Wissensquelle richtig einzuordnen und zu nutzen – insbesondere, wenn Sie mehrere Wissensquellen hinterlegen.
Bei der Eingabe von Wissensquellen sollten Sie darauf achten, dass das Wissen in natürlicher Sprache vorliegt und möglichst nicht als Bild, Tabelle, Code oder anderes grafisches Format. Die KI im Copilot Studio kann bislang natürliche Sprache am besten verarbeiten.
Wenn Sie auf der Übersichtsseite den Button “Der KI die Verwendung ihres eigenen Allgemeinwissens erlauben“ aktivieren, greift der Agent auf Wissen zurück, das im Zuge der Trainings der darunterliegenden KI angesammelt wurde. Wenn diese Einstellung aktiviert ist, wird Ihr Agent dieses Wissen in seinen Antworten nutzen. Wenn Ihr Agent sich auf einen klar definierten Wissenspool oder internes Wissen beschränken soll, sollten Sie diese Einstellung deaktivieren.
Themen definieren und Dialog orchestrieren
Themen dienen dazu, die Wissenswiedergabe durch den Agenten zu kontrollieren – denn nicht immer soll die KI einfach das Wissen aus ihren Wissensquellen moderieren und mit eigenen Worten wiedergeben. Auf manche Fragen soll der Agent immer mit einem von Ihnen vorgegebenen Textbaustein antworten, oder aber Folgeaktionen auslösen wie zum Beispiel ein Ticket im Microsoft Dynamics 365 Customer Service anlegen oder die Vermittlung des Gesprächs an bestimmte Mitarbeitende oder Abteilungen.
In den Themen gibt es zwei Bereiche:
- Benutzerdefinierte Themen: Hier können Themen hinterlegt werden, auf die der Agent immer auf eine bestimmte Art und Weise antworten soll. Zum Beispiel könnte er auf Buchungsanfragen immer an eine bestimmte Abteilung verweisen, anstatt Ideen aus seiner Wissensbasis zu verarbeiten.
- System Themen: Hier können systemrelevante Parameter für den Agent angelegt werden. Zum Beispiel wie der Agent ein Gespräch starten soll, wie er mit Eskalationen oder Fehler umgehen soll, was seine Fallbackmethode bei Nicht-Wissen sein soll, wie er damit umgehen soll, wenn er in seiner Wissensbasis gegensätzliche Antworten findet oder wie und wann er Feedback von den Nutzer:innen erfragen soll. Hier können feste Textbausteine eingetragen werden, die der Agent in der passenden Situation ausspielt.
Zur Anlage eines benutzerdefinierten Themas klicken Sie auf „Thema hinzufügen“. Hier können Sie zwischen „Ohne Vorlage“ auswählen und händisch arbeiten oder „Aus Beschreibung mit Copilot erstellen“ und den Copilot als Unterstützung nutzen. Themen können auch verzweigte Logiken beinhalten – zum Beispiel bei Reiseanfragen für Bahnfahrten an eine andere Person verweisen als bei Anfragen für Hotelbuchungen.
Zunächst sollten Trigger Ausdrücke angelegt – oder, wenn der Copilot unterstützt hat,– geprüft und überarbeitet werden. Das sind Textbausteine oder Themenbeschreibungen, auf die der Agent mit der im nächsten Schritt angelegten Antwort reagieren soll, anstatt in seiner Wissensbasis nach Antworten zu suchen. Im Baum können Sie anlegen, wie der Agent auf den Trigger reagieren soll. Hier gibt es folgende Möglichkeiten:
- Der Agent reagiert mit einer Antwort, die neben Text auch Bilder, Videos oder sogenannte „Karten“ (siehe Verlauf) beinhalten kann.
- Der Agent reagiert mit einer Rückfrage.
- Der Agent reagiert mit einem Multiple Choice zur weiteren Eingrenzung seiner Antwortmöglichkeiten.
- Der Agent reagiert mit einer Basiskarte. Das ist eine Kompilation aus einem Titel, einem Untertitel, einem Bild aus einer URL, einem Text und ggf. einer Schaltfläche.
- Der Agent reagiert mit einer adaptiven Karte, einer plattformunabhängigen Karte, die als JSON oder in einem extra Designer angelegt wird. Hier können komplexere Informationen wie zum Beispiel Öffnungszeiten hinterlegt werden.
- Der Agent reagiert mit einer Schnellantwort. Sie beinhalten in der Regel Schaltflächen, die dem Fragenden weitere Aktionsmöglichkeiten bieten.
- Der Agent generiert eine Antwort aus einer definierten Teilquelle seiner Wissensbasis. Diese Option „Generative Antwort erstellen“ finden Sie unter „erweitert“.
Bei extern zur Verfügung gestellten Agenten sollten Sie ein großes Augenmerk auf Themen legen und dort möglichst alle Szenarien hinterlegen, die sich auf Ihre Marke beziehen, juristisch relevant oder sicherheitskritisch sein könnten.
In den Einstellungen können Sie die Parameter Ihres Agenten weiter verfeinern. Hier können Sie einstellen, wie der Agent auf Anfragen reagieren soll. Bei deutschen Agenten ist im Moment nur die Variante „klassisch“ verfügbar, die besagt, dass er auf bestimmte Triggerwörter wie in den Themen definiert, reagiert. In Kürze wird auch die Variante „Generativ“ verfügbar sein, die im Moment nur auf Englisch nutzbar ist. Wenn Sie diese auswählen, wird die KI Triggersätze interpretieren und anstatt auf bestimmte Worte zu reagieren, auf beschriebene Situationen reagieren. Hier kann auch im unteren Regler die Genauigkeit der Antwort eingestellt werden – das heißt, ob der Agent möglichst nah am Wortlaut der Quellen bleiben soll oder sie frei umschreiben darf.
Sollte der Agent nach der Umstellung auf „Generativ“ nicht adäquat auf Themen reagieren, sollten Sie die Triggerbeschreibung prüfen und anpassen.
Entitäten und Variablen hinterlegen
In den Einstellungen finden Sie auch den Bereich „Entitäten“. Hier sind standardmäßig eine Serie an Informationsentitäten angelegt, die die KI aus den ihr zur Verfügung stehenden Informationen filtern kann. Hier können Sie auch weitere Entitäten anlegen, nach denen Ihr Agent im Text Ausschau halten soll und nach denen er das Wissen strukturieren soll.
Entitäten können im Bereich „Themen“ genutzt werden, um vorgegebene Antworten zu verfeinern. Legt man zum Beispiel die Entität „Verkehrsmittel“ und einen entsprechenden Trigger an, kann der Agent auf Fragen nach Ticketbuchungen erst einmal mit einem Multiple-Choice der in seinem Wissen verfügbaren Verkehrsmittel antworten oder eine Rückfrage zum gewünschten Verkehrsmittel stellen und den weiteren Gesprächsverlauf anpassen. Entitäten können im Bereich Themen als Variablen angelegt werden. Diese Variablen können entweder global im gesamten Agenten oder nur auf einem Thema angewandt werden.
Die Variable „Verkehrsmittel“ bietet sich bei einem Agenten rund ums Reisemanagement als globale Variable an. Diese könnte auch in weiteren Schritten vom System verarbeitet werden kann, zum Beispiel bei der Ticketanlage in einem Customer Service System. Der Clou: Die KI ist in der Lage, Entitäten aus Text zu extrahieren. Wenn die Antwort lautet „Ich würde dieses Mal lieber Bahn fahren“, findet die KI die richtige Entität in der Antwort.
Sollte die Rückfrage nach der Entität in einem bestimmten Topic nicht notwendig sein, weil diese Informationen im Laufe des Gesprächs bereits erwähnt wurde, kann in den Einstellungen der Rückfrage im Bereich „Themen“ hinterlegt werden, dass die Rückfrage nicht gestellt werden muss, wenn die Information bereits vorhanden ist oder im Gegenteil den Agenten verpflichten, auf ein bestimmtes Topic immer mit einer Rückfrage zu reagieren, unabhängig vom vorhergegangenen Gesprächsverlauf.
Folgeaktionen einrichten
Im Bereich „Aktionen“ können Sie Folgeaktionen einrichten, die der Copilot ausführen soll. Aktionen dienen zum Beispiel dazu, tagesaktuelle Informationen einzuholen wie zum Beispiel der Wetterbericht im Zielort – da dieses Wissen nicht als vorrätiges Textwissen bei der Anlage des Agenten verarbeitet werden kann. Weitere Aktionen könnten zum Beispiel der automatische Versand einer Termineinladung sein, die Anlage eines Tickets im Ticketsystem oder die Aktualisierung von Stammdaten sein.
Ihnen stehen Power Automate Flows, Standardkonnektoren und benutzerdefinierte Konnektoren zur Verfügung. Der Startpunkt für den Power Automate Flow ist ein Input im Agenten. Die für die Ausführung notwendigen Informationen kann die KI aus dem Dialog extrahieren oder sie können im Bereich „Input“ festgelegt werden. Bei der Frage nach der Wettervorhersage zum Beispiel sollte der Ort aus dem Chatverlauf extrahiert werden, die Einheit der Temperaturangaben könnte hingegen fest definiert werden, wenn der Agent zum Beispiel nur in Deutschland zur Verfügung gestellt würde. Im Bereich „Output“ können Sie dann auch noch einstellen, ob der Agent aus den geholten Informationen eine eigene Antwort erstellen soll oder Sie eine definierte Formulierung mit Variablen aus dem Flow bevorzugen.
Wenn Sie externe Systeme wie zum Beispiel Excel Online, Outlook oder Jira an Ihren Copiloten anbinden, tauchen diese mit ihrem Verbindungsstatus auf der Übersichtsseite Ihres Agenten auf.
Agent veröffentlichen
Bevor Sie Ihren Agenten veröffentlichen, sollten Sie im Bereich „Einstellungen“ unter „Sicherheit“ die Authentifizierung einrichten. Standardmäßig ist hinterlegt, dass User sich zur Nutzung Ihres Agenten über einen Microsoft Account authentifizieren müssen. Wenn Sie dies ändern wollen, können Sie die Einstellung „keine Authentifizierung“ auswählen.
Sie können Ihren Agenten in folgende Umgebungen einbetten, die Sie über den Reiter „Kanäle“ aufrufen können:
- Microsoft Teams
- Demowebsite
- Benutzerdefinierte Website
- Mobile App
- Bot den Azure Bot Service Kanälen hinzufügen, einschließlich:
- Skype
- Cortana
- Slack
- Telegram
- Twilio
- Line
- Kik
- GroupMe
- Direct Line Speech
- E‑Mail
Ebenso können Sie Ihren Agenten in Kundenbetreuungssysteme integrieren wie Dynamics 365 Customer Service, Genesys, LivePerson, Salesforce, ServiceNow, ZenDesk oder Customer Engagement Hub.
Wir wünschen Ihnen viel Erfolg mit der Erstellung Ihres Agenten in Microsoft Copilot Studio und stehen Ihnen bei Fragen gerne zur Verfügung!
