In Zusammenarbeit mit der Universität Zürich haben wir eine sehr spannende Studie durchgeführt. Die Resultate sind von relevantem Wert für deine Arbeit als Treuhänder:in. Wir sagen nur: RAG’n’Roll!
Du als Treuhänder:in besitzt mit allen klassifizierten Daten, die im DMS-System abgelegt sind, einen enormen Schatz an wertvollen Informationen. Aus diesen Daten kann mit heutigen KI-Modellen einfach Wissen extrahiert werden.
Über die letzten sechs Monate hat unser Mitarbeiter Christof Steiner viel Herzblut investiert, um genau solche Abfragen auf datenschutzkonforme und kosteneffiziente Weise in M‑Files zu ermöglichen. An dieser Stelle auch ein riesiges Dankeschön an die beteiligten Treuhandunternehmen, die durch das Bereitstellen einer grossen Menge an Trainingsdaten einen sehr relevanten Beitrag zur Studienarbeit geleistet haben. Die Universität Zürich hat eine sehr zentrale Rolle mit den essenziellen, fachlichen Inputs eingenommen.
Und wie funktioniert die KI nun?
Schon mal was von RAG (Retrieval-Augmented Generation) gehört? Nein? Wir erklären es dir so einfach wie möglich:
Selbst grosse KI-Modelle wie GPT‑4 haben ein gemeinsames grosses Problem: Es können nicht einfach tausende Dokumente an die KI übermittelt werden, da nur begrenzte Kontextfenster (z. B. 128k Token, was etwa 300 Seiten Text entspricht) zur Verfügung stehen.
Soweit so gut. Und nun brauchen wir genau für diese Problematik eine Lösung. Achtung, jetzt wird es etwas komplexer. Daher haben wir diese Arbeit den Profis und sehr cleveren Leuten der Universität Zürich überlassen. 😊
- Normalerweise wird die gesamte Dokumenten-Datenbank extrahiert und indexiert, abgestimmt auf ein spezifisches KI-Modell (z. B. ChatGPT-4o). Die dafür nötige Rechenleistung ist wirklich enorm! Die initiale Indexierung kann Tage oder Wochen beanspruchen.
- Mit der RAG-Methode wird, sobald eine Frage gestellt wird, im Index zuerst nach den zur Frage passenden Textstücken gesucht.
- Diese Textstücke werden dem KI-Modell nun als Kontext bereitgestellt. So muss das Modell nicht alle Dokumente kennen.
- Das Sprachmodell formuliert auf Basis des gelieferten Kontexts eine präzise und sprachlich hochwertige Antwort.
In der Studie (wir nennen es Proof-of-Concept) konnten wir mit konkreten Treuhand-Daten Folgendes erarbeiten:
Die an der Studie beteiligten Treuhandunternehmen waren von der Qualität absolut begeistert, weil sie wirklichen Mehrwert im Treuhandalltag sehen, wie: B.:
- Automatisierte Auswertung von Kontoblättern
- Erstellung von Periodenvergleichen
- Mietkosten von verschiedenen Immobilien in Sekundenschnelle korrekt identifizieren
Weitere Erkenntnisse:
- In den Tests hat die KI keine einzige falsche Antwort geliefert.
- Die Quellenangaben (Dokumente aus M‑Files) stärkten das Vertrauen in die Antworten enorm.
- Die Wartezeit auf Antworten wurde als gut empfunden.
- Zugriffsrechte können im System korrekt hinterlegt werden – besonders wichtig, wenn die Funktion auch auf dem Treuhand Kundenportal zur Verfügung gestellt wird. Kunde A soll keine Antworten zu Dokumenten von Kunde B erhalten.
- Die besten KI-Modelle sind zurzeit leider nicht in Schweizer Rechenzentren verfügbar, jedoch in DSGVO-konformen Zentren in der EU.
- Die Anmietung der nötigen Cloud-Ressourcen (GPUs) für die Indexierung gestaltet sich aktuell noch schwieriger als gedacht. In Gesprächen mit Microsoft konnten jedoch bezahlbare Möglichkeiten in Schweizer Rechenzentren identifiziert werden. Fazit: Für KMUs ist es aktuell eher komplex, an die nötigen KI-fähigen und gleichzeitig bezahlbaren Cloud-Ressourcen zu kommen –wegen hoher minimalen Abnahmemengen
Meistgenannter Wunsch für zukünftige Versionen: Antworten direkt in MS Word- oder Excel-Dateien abfüllen und ausgeben.
Meistgenannte Bedenken: Nicht jeder beherrscht das Prompten einer KI. Wenn die Frage schlecht gestellt wird, liefert die KI weniger relevante Antworten. Das Team muss sich diesen Skill zuerst aneignen. Das mussten wir auch beim «googeln» tun.
Und wie geht es nun weiter?
In der engen Studienzusammenarbeit mit Treuhändern könnten wir nachweisen, dass der Nutzen für Treuhänder wirklich hoch und relevant ist. Die Schweizer Datenschutzbestimmungen werden eingehalten und die Qualität der Wartezeit und Antworten hat überzeugt.
Daher haben wir die Segel gesetzt, die Funktion direkt in das DMS M‑Files zu integrieren und unseren Treuhandkunden künftig kosteneffizient anzubieten. Unser Fahrplan sieht vor, dass wir Ende Q4 2025 so weit sind, die neue KI-Welt für unsere Kunden zu öffnen.
Damit ist unser Endziel jedoch noch lange nicht erreicht – Automatisieren statt Digitalisieren.
Gratulation unserem AI Wizard Christof Steiner für diesen hervorragenden technischen Output!