Künstliche Intelligenz ist längst mehr als nur ein Buzzword – mit Large Language Models (LLMs) und Retrieval-Augmented Generation (RAG) lassen sich heute echte Mehrwerte im Unternehmensalltag schaffen. In diesem Vortrag zeige ich am Beispiel eines realen Projekts, wie wir einen intelligenten Chatbot auf LLM-Basis gebaut haben, der direkt in Microsoft Teams Mitarbeitenden Antworten zu ihren Dokumenten liefert.
Ich erläutere die wichtigsten technischen und konzeptionellen Schritte – von der Datenanbindung über die sichere Indexierung und das Retrieval von Unternehmenswissen bis hin zum Einsatz von GraphRAG zur besseren Kontextualisierung von Dokumenten. Was waren die Herausforderungen, welche Fehler haben wir gemacht, und was würden wir heute anders tun? Natürlich gibt es auch Live-Demos und konkrete Best Practices für alle, die sich selbst auf den Weg machen wollen.
Schwerpunkte
– Wie funktioniert RAG, und warum reicht ein „normales“ LLM oft nicht aus?
– Wie integriert man einen Chatbot nahtlos in Microsoft Teams?
– Was ist GraphRAG, und wie hilft es, Beziehungen und Kontext in Unternehmensdokumenten besser zu verstehen?
– Stolperfallen, Tipps & Learnings aus dem echten Projekt