Blogs

Der perfekte KI-Assistent: selbst bauen oder kaufen?

Geschrieben von Matthias Verlinde | 30.05.2024 22:00:00

Die fünf Bausteine eines KI-Assistenten

Um diese Frage beantworten zu können, müssen wir zunächst die Bausteine eines KI-Assistenten verstehen:

Wissensdatenbank 
Dies sind die Datenquellen, die der Assistent nutzt, um Wissen zu extrahieren. Der Kontext in dieser Wissensbasis wird von dem großen Sprachmodell verwendet, um seine Antworten auf die Wahrheit zu gründen.

Suche
Die Wissensdatenbank ist indiziert und wird vom Assistenten abgefragt, wenn eine neue Benutzeranfrage eingeht. Die Suche und das Abrufen der richtigen relevanten Informationen in der Wissensdatenbank ist wichtig, um sicherzustellen, dass der Assistent korrekte Antworten liefert.

Chat 
Der Assistent verarbeitet Benutzeranfragen und ruft Informationen aus der Wissensdatenbank ab. Eine Antwort wird automatisch generiert und dem Benutzer über eine Chatbot-Schnittstelle und eine umfangreiche Sprachmodelltechnologie zugestellt.

Aktionen
Je nachdem, was der Benutzer tun möchte, kann der Assistent Aktionen ausführen oder Tools verwenden, wie z. B. verschiedene Softwaretools ausführen, Anfragen senden, Reservierungen buchen, Dokumente erstellen usw.

Front-end 
Die Chat-Funktionalität ist benutzerfreundlich und leicht zugänglich, so dass der Einstieg in den Assistenten einfach ist.

Nachdem wir nun die fünf Bausteine verstanden haben, können wir uns nun die Unterschiede zwischen dem Bau oder dem Kauf eines KI-Assistenten genauer ansehen.

Assistent Marke Eigenbau: Milo, die GenAI Custom-Code-Lösung

Milo ist unsere Custom-Code-Lösung für generative KI. Sie besteht aus den folgenden Bausteinen:

Wissensdatenbank 
Milo ist in der Lage, sich mit jeder Wissensdatenbank zu verbinden, egal ob es sich um eine SQL-Datenbank, SharePoint, eine Website oder eine andere Datenbank handelt. Darüber hinaus unterstützt es eine Vielzahl von Dateiformaten, darunter Video- und Audiodateien, nicht-digitale Dokumente und vieles mehr. Bestimmte Dokumenttypen können auf individuelle Weise verarbeitet werden, z. B. durch den Einsatz von Computer Vision oder optischer Zeichenerkennung (OCR).

Suche
Die Suchfunktion von Milo basiert auf modernsten Such- und Abrufalgorithmen, die auf jeden Anwendungsfall zugeschnitten werden können. Für die Suche werden sowohl die Vektorsuche als auch die Keywordsuche genutzt. Die Vektorsuche versteht Kontexte und Bedeutungen und arbeitet über Sprachen und Synonyme hinweg. Allerdings können damit organisationsspezifische Keywords nicht effektiv erfasst werden, weshalb sie durch eine Keywordsuche ergänzt wird. Die Suchstrategie ist optimiert, um sicherzustellen, dass alle relevanten Dokumentationen gefunden werden.

Chat
Die Chat-Funktionalität von Milo ist sehr vielseitig, da das große Sprachmodell (LLM) austauschbar ist und von OpenAI, Google, Meta, Mistral, Anthropic, Cohere, etc. bezogen werden kann. So können Sie das LLM wählen, das die ideale Balance zwischen Geschwindigkeit, Leistung und Preis für Ihre spezifischen Anwendungsfälle bietet.

Aktionen
Die Aktionen, die Milo ausführen kann, können vollständig auf Ihre Geschäftsprozesse zugeschnitten werden. Ob Sie nun eine Einladung zu einem Meeting oder eine E-Mail versenden, eine Reservierung vornehmen oder eine Rechnung auf der Grundlage einer Vorlage erstellen, all diese Aktionen können in unsere GenAI Custom-Code-Lösung integriert werden.

Front-end 
Die Benutzeroberfläche von Milo kann ebenfalls an Ihre Bedürfnisse angepasst werden. Eine Stadtverwaltung könnte beispielsweise einen Chatbot auf ihrer Website bevorzugen, während ein Essenslieferdienst einen Chatbot auf WhatsApp implementieren könnte, um Bestellungen von Kunden entgegenzunehmen, und ein firmeninterner Chatbot könnte in die Intranetlösung eines Unternehmens integriert werden. Darüber hinaus können die Nutzerzufriedenheit und unbeantwortete Fragen kontinuierlich überwacht werden, um Milo zu verbessern.

Angesichts dieser Bausteine erfordert Milo moderate Vorabinvestitionen und geringe wiederkehrende Kosten. Außerdem ist der Grad der Anpassung hoch.

Demo video:

Das Kauf-Modell: Copilot für Microsoft 365

Copilot für Microsoft 365 ist eine von Microsoft angebotene Standardlösung. Sie umfasst die folgenden Bausteine:

Wissensdatenbank
Copilot für Microsoft 365 bezieht seine Daten standardmäßig aus dem Microsoft Graph, der alle Ihre Interaktionen mit Microsoft-Produkten und -Diensten darstellt. Dazu gehören Gruppenmitgliedschaften, von Ihnen gesendete Teams-Nachrichten, von Ihnen bearbeitete Word-Dokumente, Powerpoint-Präsentationen und von Ihnen erstellte Notizen. Es ist auch möglich, die Wissensbasis von Copilot mit externen Datenquellen anzureichern.

Suche
Microsofts KI-Assistent bietet sowohl einen persönlichen als auch einen tenantbasierten Index. Ersterer ermöglicht den Zugriff auf Ihre persönlichen Dokumente, E-Mails und freigegebenen Dateien, während letzterer alles indiziert, worauf Sie in SharePoint und anderen Verzeichnissen auf Unternehmensebene Zugriff haben.

Chat 
Die Chat-Funktionalität von Copilot basiert auf der GPT-4-Familie von OpenAI mit großen Sprachmodellen (LLMs) in Unternehmensqualität. Diese gehören zu den leistungsstärksten LLMs auf dem Markt, doch das Generieren von Antworten kann einige Zeit in Anspruch nehmen.

Aktionen
Derzeit unterstützt Copilot für Microsoft 365 keine Aktionen, wie das Versenden von Einladungen zu Besprechungen oder E-Mails. Benutzer können den KI-Assistenten auffordern, eine Nachricht zu verfassen, müssen diese aber immer noch manuell versenden.

Front-end
Microsofts KI-Assistent ist in alle Microsoft 365-Tools integriert, darunter Outlook, Word, Excel, PowerPoint, Teams und SharePoint. Die Nutzer müssen sich also nicht mit einem anderen Tool vertraut machen, sondern finden ihren Assistenten bequem in der Software, die sie ohnehin regelmäßig nutzen.

Angesichts dieser Bausteine erfordert Copilot für Microsoft 365 geringe Anfangsinvestitionen, hat aber höhere wiederkehrende Kosten. Außerdem ist der Anpassungsgrad gering.

Ein typischer Anwendungsfall für Microsofts KI-Assistenten sind Büroangestellte, die viel Zeit in ihren M365-Anwendungen verbringen, z. B. beim Verfassen von E-Mails, Erstellen von PowerPoint-Präsentationen und Lesen umfangreicher Besprechungsnotizen. Dank seiner Integration in Microsoft 365-Anwendungen kann Copilot diesen Büroangestellten zu mehr Effizienz verhelfen.

Demo video:

Lessons learned 

Nachdem wir sowohl Copilot für Microsoft 365 als auch unsere individuell programmierten GenAI-Lösungen für verschiedene Kunden implementiert haben, haben wir einige wichtige Lektionen gelernt:

Testen 
Planen Sie ausreichend Zeit für das Testen des KI-Assistenten ein. Nach dieser Testphase haben Sie ein besseres Verständnis für die Leistung des Assistenten und die notwendigen Verbesserungen.

Onboarding von Nutzer 
Innen eine konversationelle Benutzeroberfläche mag einfach zu bedienen sein, aber neue Nutzer benötigen eine Anleitung, um die kritische Kunst zu beherrschen, effektive Eingabeaufforderungen für einen KI-Assistenten zu formulieren.

Datenqualität
wenn ein KI-Assistent Fragen zu Ihren Dokumenten beantwortet, ist die Qualität dieser Antworten deutlich besser, je besser die Datenqualität der Dokumente ist. Achten Sie auf eine einheitliche Datenstrukturierung, um die Leistung Ihres Assistenten zu maximieren.

Gewonnene Zeit effizient nutzen
Ein KI-Assistent steigert Ihre Produktivität. Überlegen Sie also schon im Vorfeld, wie Sie die Zeit, die Sie dadurch sparen, am besten nutzen können. Werden Sie mehr Stunden für die Arbeit an kreativen Lösungen aufwenden, sich auf die berufliche Weiterentwicklung konzentrieren oder eine bessere Work-Life-Balance anstreben?

Wie fangen Sie am besten an?

Cegeka bietet einen KI-Assistenten für jeden Anwendungsfall. Ganz gleich, welche Fragen Sie haben, wir sind hier, um Sie zu unterstützen. Wenn Sie sich auf Ihre KI-Reise begeben, helfen wir Ihnen zunächst bei der Auswahl zwischen Copilot für M365 und Milo, basierend auf Ihren Anwendungsfällen. Anschließend führen wir Sie durch einen Plan, mit dem Sie die Vorteile Ihres KI-Assistenten maximieren können. Nehmen Sie Kontakt mit uns auf, um Ihre Reise zu beginnen.