KI für Steuerkanzleien: lokal, vertraulich, mit eigenem Kanzleiwissen

1. Warum lokale KI zum Berufsrecht passt

Steuerberater arbeiten mit besonders vertraulichen Daten, und das Berufsrecht schützt diese Vertraulichkeit. Genau deshalb passt lokale KI so gut in die Kanzlei: Viele Anforderungen, die bei Cloud-Diensten zusätzlichen Aufwand bedeuten, stellen sich bei einer KI im eigenen Haus gar nicht erst. Die Übersicht zeigt, was in Österreich und Deutschland gilt und was eine lokale Lösung daran erleichtert.

Was bleibt: Lokale KI nimmt den externen KI-Anbieter aus der Gleichung. Ergebnisse prüfen, Zugriffe regeln, den Einsatz kurz dokumentieren und das Team schulen gehört trotzdem dazu, wie bei jedem neuen Werkzeug in der Kanzlei. Wie Zugriffsrechte in einem lokalen System funktionieren, erklären wir auf der RAG-Seite unter Zugriffsrechte.

Diese Übersicht ersetzt keine Rechtsberatung.

2. Sieben Use Cases für die Steuerkanzlei

Die folgenden Use Cases beschreiben, was eine lokale KI in der Kanzlei konkret leistet. Jeder Abschnitt zeigt einen fiktiven Ablauf, die typischen Unterlagen, was die Kanzlei verlässt, wie sorgfältig geprüft werden sollte und welche Grafikspeicher-Klasse passt. Den Prüfaufwand haben wir an die Risikostufen der Muster-KI-Anwendungsrichtlinie des Deutschen Steuerberaterverbands angelehnt.

1 · Kanzleiwissen auf Knopfdruck

In jeder Kanzlei steckt viel Wissen in Handbüchern, Arbeitsanweisungen, Checklisten und Musterschreiben. Oft ist es schwer zu finden, gerade für neue Mitarbeitende. Eine KI-Wissensdatenbank beantwortet Fragen dazu in Sekunden und verweist auf die Stelle im Dokument. Weil dafür keine Mandantendaten nötig sind, ist das der ideale Einstieg.

• Typische Unterlagen: Kanzleihandbuch und Qualitätsmanagement, Arbeitsanweisungen, Checklisten, Musterschreiben und Textbausteine, interne Fachinformationen, Schulungsunterlagen, Protokolle von Teambesprechungen.
• Was die Kanzlei verlässt: nichts.
• Prüfaufwand: niedrig. Die Antworten stammen aus Ihren eigenen Vorgaben.
• Grafikspeicher: 32 GB.

Mehr zur Technik: Eigene Dokumente · Zerlegen in Abschnitte · Antworten mit Quellenangabe

2 · Fachrecherche in Gesetzen, Richtlinien und Judikatur

Gesetze, Richtlinien und viele Entscheidungen sind in Österreich und Deutschland frei zugänglich. Eine lokale KI kann darin suchen, die passenden Stellen zusammenfassen und mit Link belegen. Für Kommentarliteratur bleiben die Fachverlage die erste Adresse.

Freie Quellen in Österreich:

• RIS (Rechtsinformationssystem des Bundes): Bundesrecht, Landesrecht und Judikatur, über eine offene Schnittstelle abrufbar, Lizenz CC BY 4.0.
• Findok des Finanzministeriums: Richtlinien wie die Einkommensteuerrichtlinien, Erlässe, Informationen sowie Entscheidungen des Bundesfinanzgerichts. Eine offene Schnittstelle wie beim RIS bietet die Findok nach unserem Kenntnisstand nicht; Fundstellen lassen sich aber gezielt verlinken.

Freie Quellen in Deutschland: Gesetze im Internet (Bundesministerium der Justiz), BMF-Schreiben und Entscheidungen des Bundesfinanzhofs auf den Websites von BMF und BFH.

• Exakte Treffer: Paragraphen und Geschäftszahlen findet die KI über die Stichwortsuche zuverlässiger als über die reine Bedeutungssuche. Gute Systeme kombinieren beides.
• Was die Kanzlei verlässt: nur der Suchbegriff, und der geht an die öffentliche Datenbank. Formulieren Sie Suchanfragen ohne Mandantennamen.
• Prüfaufwand: hoch. Zitate von Normen und Entscheidungen sind eine typische Fehlerquelle; öffnen Sie immer die Fundstelle.
• Kommentarliteratur: Sie ist bei den Fachverlagen lizenziert. Eine lokale KI kann sie nur nutzen, wenn Ihre Lizenz die KI-Verarbeitung erlaubt. Mehr dazu in Kapitel 3.
• Grafikspeicher: 32 GB; 48 GB, wenn die KI selbstständig in mehreren Quellen sucht und dafür ein größeres Modell nutzt.

Mehr zur Technik: Fachdatenbanken über Schnittstellen · Stichwort- und Hybridsuche · Agentisches RAG · Qualität prüfen

3 · Mandantenakte befragen und zusammenfassen

Wer einen Mandanten übernimmt oder sich auf ein Gespräch vorbereitet, muss sich oft durch Jahre an Korrespondenz, Bescheiden und Verträgen arbeiten. Die KI fasst eine Akte zusammen und beantwortet gezielte Fragen dazu, jeweils mit Fundstelle. Weil die Akte die Kanzlei dabei nicht verlässt, ist das einer der stärksten Gründe für eine lokale Lösung.

• Mandantentrennung: Für jeden Mandanten oder jede Mandantengruppe gibt es eine eigene Wissensdatenbank, auf die nur das zuständige Team zugreift. Berechtigungen aus Ihrer Dokumentenablage werden nicht automatisch übernommen und werden beim Einrichten nachgebildet.
• Typische Unterlagen: Verträge, Bescheide, Korrespondenz, Prüfberichte und Niederschriften, Jahresabschlüsse, Gesprächsnotizen.
• Was die Kanzlei verlässt: nichts.
• Prüfaufwand: mittel bis hoch, je nachdem, wofür die Antwort verwendet wird.
• Grafikspeicher: 48 GB empfohlen. Lange Akten brauchen viel Kontext: 32.768 Token entsprechen rund 47 Seiten Text.

Mehr zur Technik: Zugriffsrechte · Interne Systeme anbinden · Dokumente vorbereiten · Gleichzeitige Anfragen

4 · Bescheide vorprüfen und Fristen erkennen

Jeder Bescheid muss mit der eingereichten Erklärung abgeglichen werden. Die KI kann Abweichungen vorab markieren und das Ende der Rechtsmittelfrist vorschlagen. Ob ein Rechtsmittel sinnvoll ist, entscheidet weiterhin der Berufsträger.

Fristen: In Österreich beträgt die Frist für eine Beschwerde gegen einen Bescheid in der Regel einen Monat (§ 245 BAO), in Deutschland die Einspruchsfrist ebenfalls einen Monat (§ 355 AO). Maßgeblich bleibt Ihr Fristenbuch; die KI ist eine zusätzliche Kontrolle.

• Voraussetzung: Bescheide als PDF mit Textebene oder nach Texterkennung. Zahlen in Tabellen sind fehleranfällig und sollten immer gegengeprüft werden.
• Was die Kanzlei verlässt: nichts.
• Prüfaufwand: hoch.
• Grafikspeicher: 32 GB, bei vielen Bescheiden gleichzeitig 48 GB.

Mehr zur Technik: Dokumente vorbereiten · Qualität prüfen und Grenzen kennen

5 · Posteingang vorsortieren

Bescheide, Ergänzungsersuchen, Mahnungen, Rechnungen und Mandantenpost landen gemischt im Eingang. Die KI erkennt die Art des Schreibens, ordnet es dem Mandanten zu und markiert Fristen, damit das Dringende zuerst bearbeitet wird.

Ehrlicher Hinweis: Für das Verbuchen von Belegen bringen Kanzleiprogramme eigene KI-Funktionen mit, etwa die Belegerkennung, die BMD gemeinsam mit Finmatics anbietet. Dort ist die Anbindung an die Buchhaltung bereits gelöst. Die lokale KI ergänzt das beim Sortieren und Zuordnen der übrigen Post.

• Was die Kanzlei verlässt: nichts.
• Prüfaufwand: mittel. Zuordnung und Fristen kontrolliert ein Mensch.
• Grafikspeicher: 32 GB.

Mehr zur Technik: Dokumente vorbereiten · Interne Systeme anbinden

6 · Mandantenkommunikation entwerfen

Viele Mandanten verstehen Bescheide oder neue Regelungen nicht auf Anhieb. Die KI entwirft verständliche Erklärungen, Mandantenbriefe und Rundschreiben auf Grundlage Ihrer Unterlagen und Textbausteine. Vor dem Versand prüft ein Berufsträger und gibt frei.

• Was die Kanzlei verlässt: nichts, bis Sie den fertigen Brief selbst versenden.
• Prüfaufwand: mittel; jeder Entwurf wird vor dem Versand freigegeben.
• Grafikspeicher: 32 GB.

Mehr zur Technik: Antworten mit Quellenangabe

7 · Gespräche und Diktate lokal verschriftlichen

Gesprächsnotizen und Diktate kosten viel Schreibzeit. Ein Spracherkennungsmodell wie Whisper verschriftlicht Aufnahmen direkt auf der Workstation, ein Sprachmodell formt daraus einen Aktenvermerk nach Ihrer Vorlage. Die Bundessteuerberaterkammer empfiehlt für Diktier-KI ausdrücklich eine Offline-Lösung.

• Was die Kanzlei verlässt: nichts.
• Prüfaufwand: mittel. Namen, Zahlen und Fachbegriffe im Vermerk kontrollieren.
• Grafikspeicher: 32 GB. Whisper braucht je nach Modellgröße rund 1 bis 10 GB, das häufig genutzte Modell „turbo“ rund 6 GB; daneben bleibt Platz für das Sprachmodell.

Mehr zur Technik: Software-Bausteine · Hardware dimensionieren

Weitere Ideen: Fragen zur Lohnverrechnung aus Kollektivverträgen und internen Abrechnungsregeln beantworten (in Deutschland: Lohnabrechnung und Tarifverträge) oder Unterlagen für eine Betriebsprüfung strukturieren.

3. Fach-KI im Abo oder eigene lokale KI?

Software- und Fachverlage bieten eigene KI-Assistenten für Kanzleien an. Sie laufen beim Anbieter und haben eine Stärke, die eine lokale KI nicht ohne Weiteres hat: lizenzierte Fachliteratur. Eine lokale KI arbeitet dafür mit Ihrem Kanzleiwissen und Ihren Mandantenakten, ohne dass diese das Haus verlassen. Die beiden Wege ergänzen sich.

Beispiele, die beim Anbieter laufen (Cloud):

• DATEV Copilot: bündelt KI-Funktionen wie Textentwürfe, Zusammenfassungen und Dokumentanalyse; laut DATEV werden alle Daten innerhalb der DATEV-Cloud verarbeitet (Stand März 2026).
• Haufe CoPilot Tax: KI-Assistent für Steuerberater mit Antworten aus Haufe-Fachquellen; laut Haufe auf europäischen Servern betrieben (Stand Jänner 2026).
• NWB KIRA: KI-Recherche-Assistent in der Online-Datenbank des NWB Verlags, Teil der NWB-Kanzleipakete (Stand November 2026).
• BMD-Belegerkennung mit Finmatics: liest Eingangsrechnungen aus und erstellt Buchungsvorschläge; Finmatics wird laut Anbieter in einem ISO-27001-zertifizierten Rechenzentrum in Deutschland betrieben (Stand November 2026).

Beispiele, die lokal auf Ihrer Workstation laufen:

• Open WebUI und AnythingLLM: Oberflächen für Chat und Wissensdatenbanken.
• Ollama und LM Studio: führen das Sprachmodell aus.
• Whisper: Spracherkennung für Diktate.

Unser Fazit: Kein Entweder-oder. Für die Recherche in Kommentaren ist die Fach-KI des Verlags oft der beste Weg. Für Kanzleiwissen, Mandantenakten, Bescheide, Posteingang und Diktate spielt die lokale KI ihre Stärke aus: Die Daten bleiben bei Ihnen.

4. Was die Kanzlei verlässt

Bei sechs der sieben Use Cases verlässt nichts die Kanzlei. Nur bei der Fachrecherche geht ein Suchbegriff an eine öffentliche Datenbank.

Zwei Dinge sollten Sie bewusst entscheiden: ob die KI zusätzlich im Internet suchen darf (für vertrauliche Bereiche lässt sich das abschalten) und welcher IT-Partner Zugriff auf die Workstation hat. Mehr dazu: Websuche · Wo die Datenhoheit endet

5. So starten Sie

Sie brauchen kein großes IT-Projekt, um herauszufinden, ob KI Ihrer Kanzlei hilft. Vier Schritte reichen für den Anfang.

1. Mit Kanzleiwissen beginnen: Laden Sie Kanzleihandbuch, Arbeitsanweisungen und Musterschreiben in eine fertige Oberfläche wie Open WebUI oder AnythingLLM. Mandantendaten sind dafür nicht nötig, Programmierkenntnisse auch nicht.
2. Mit eigenen Fragen testen: Sammeln Sie Fragen aus dem Kanzleialltag, etwa 50, und prüfen Sie, ob Antworten und Fundstellen stimmen.
3. Regeln festhalten: Tragen Sie die Lösung in Ihr KI-Tool-Register ein, legen Sie fest, für welche Daten sie freigegeben ist, und schulen Sie das Team. Die Muster-KI-Anwendungsrichtlinie des Deutschen Steuerberaterverbands ist dafür eine gute Vorlage, auch für Kanzleien in Österreich.
4. Ausweiten: Danach folgen Mandantenakten mit Mandantentrennung, Diktat und Posteingang.

HI-TECH liefert die Workstation mit Windows 11 Pro oder nach Vereinbarung mit Linux, mit passenden Treibern und vor der Auslieferung geprüfter Hardware. Die KI-Software richtet Ihre IT oder Ihr IT-Partner ein; für den Pilot genügt oft schon ein fertiges Programm.

Mehr dazu: Einführung in fünf Phasen · Qualität prüfen

6. Hardware für Kanzleien

Wie viel Grafikspeicher eine Kanzlei braucht, hängt vor allem davon ab, wie viele Personen gleichzeitig mit der KI arbeiten und wie lange die Unterlagen sind. Die folgende Übersicht ist eine Orientierung; entscheidend sind am Ende Modell, Kontextlänge und Arbeitsweise.

Zur Einordnung: Gleichzeitige Anfragen sind seltener, als man denkt. In unserem Rechenbeispiel stellen 20 Mitarbeitende je 6 Fragen pro Stunde, und im Durchschnitt läuft trotzdem weniger als eine Anfrage gleichzeitig. Die Rechnung und was die Modellgröße bedeutet, zeigen wir auf der RAG-Seite: Gleichzeitige Anfragen · Was bedeutet „32 Mrd. Parameter“?

Unsere Empfehlung für Kanzleien: NVIDIA. Kanzlei-IT läuft meist unter Windows, wir liefern standardmäßig mit Windows 11 Pro, und unter Windows unterstützen nahezu alle KI-Programme NVIDIA-Grafikkarten. Die Unterstützung für AMD ist unter Linux am breitesten.

Im Büro statt im Serverraum: Die Workstations stehen wie ein normaler Arbeitsplatzrechner im Büro. Die Modelle mit NVIDIA RTX PRO 5000 sind in einem schallgedämmten Gehäuse (be quiet! Silent Base 802) verbaut.

Passende Workstations:

• 32 GB: NVIDIA RTX PRO 4500, für den Pilot und kleine Kanzleien
• 48 GB: NVIDIA RTX PRO 5000 mit 48 GB, für mittlere Kanzleien und lange Mandantenakten
• 72 GB: NVIDIA RTX PRO 5000 mit 72 GB, für größere Kanzleien und große Modelle

Für mehrere Standorte, mehrere Grafikkarten oder eine abweichende Ausstattung stimmen wir eine individuelle Lösung mit Ihnen ab: Beratung anfragen · Alle Modelle vergleichen

Aktuelle Konfigurationen und Preise finden Sie im HI-TECH-Onlineshop.