KI in der Kanzlei
KI-Modelle im Vergleich: Welches Modell in KanzKI antwortet und warum
Fünf KI-Modelle bekamen dieselben Fragen und Unterlagen, hier lesen Sie, wie genau die beiden Modelle in KanzKI antworten und was mit Ihren Daten passiert.

Veröffentlicht am · 20 Minuten Lesezeit
In KanzKI wählt die Kanzlei das KI-Modell, das ihre Fragen beantwortet. Zur Wahl stehen GPT-5.6 Sol und Mistral Large 3. GPT-5.6 Sol ist das Modell von OpenAI, dem Unternehmen hinter ChatGPT. Mistral Large 3 kommt vom europäischen Anbieter Mistral. In unserem Test gehörte GPT-5.6 Sol zu den genauesten Modellen. Es las lange Unterlagen vollständig und zeigte auf die richtige Seite. Es sagte offen, wenn eine Angabe fehlte. Bei Fragen ohne Unterlage kannte es die meisten aktuellen Werte.
KanzKI nutzt OpenAI nur über die Europa-Region, das heißt Ihre Fragen werden in Rechenzentren in Europa beantwortet. Mit der Zusage Zero Data Retention wird nichts davon gespeichert. Somit gewährleistet KanzKI einen kompletten Schutz Ihrer Mandantendaten. Ihre Fragen und Unterlagen sind für Mitarbeiter von OpenAI nicht einsehbar. Sie werden auch nicht zum Training verwendet. Voreingestellt ist Mistral. So kommt der erste Klick beim Anmelden ohne Vertragsergänzung aus. OpenAI wählt die Kanzlei mit einem Klick unter Verwaltung → KI-Modell. Sie kann jederzeit zurückwechseln.
Zero Data Retention bei KanzKI: Mistral ✅ OpenAI ✅
Fünf Modelle bekamen dieselben Fragen und dieselben Unterlagen. Jede Antwort haben wir von Hand nachgeprüft. Vier Leitfäden erklären die Begriffe ausführlicher: was ein KI-Modell ist, was Zero Data Retention zusagt, was die Europa-Region von OpenAI bedeutet und wie die Internetsuche einer KI arbeitet.
Das Ergebnis vorweg
Die fünf Modelle stammen von drei Unternehmen. OpenAI sitzt in den USA und steht hinter ChatGPT. Mistral kommt aus Paris. Anthropic sitzt ebenfalls in den USA und steht hinter Claude. Ein KI-Modell ist der Teil, der die Antwort schreibt. KanzKI hält Ihre Unterlagen auf dem Server Ihrer Kanzlei. KanzKI sucht die passenden Stellen heraus und stellt dem Modell die Frage.
Wir haben zehn Fragen gestellt, wie sie in einer Kanzlei vorkommen. Die Unterlagen dazu hatten null bis 200 Seiten. Jede Frage lief dreimal. Wir haben gezählt, wie viele der 30 Antworten vollständig richtig waren. Dafür muss der Wert stimmen. Wo eine Fundstelle gefragt war, muss sie auf die richtige Seite zeigen.
GPT-5.6 Sol von OpenAI, in KanzKI wählbar
30 von 30
GPT-6.1 Sol von OpenAI, in KanzKI nicht wählbar
30 von 30
GPT-6 Luna von OpenAI, in KanzKI nicht wählbar
30 von 30
Claude Sonnet 5 von Anthropic, in KanzKI nicht wählbar
26 von 30
Mistral Large 3 von Mistral, in KanzKI voreingestellt
22 von 30
Die drei Modelle von OpenAI beantworteten alle 30 Fragen vollständig richtig. Claude Sonnet 5 schaffte 26, Mistral Large 3 schaffte 22.
Was das Modell von Ihren Unterlagen zu sehen bekommt
Ihre Dokumente liegen in KanzKI auf dem Server Ihrer Kanzlei in Deutschland. Das Modell bekommt nur, was es für die eine Antwort braucht. Dazu gehören Ihre Frage und die Anweisungen, nach denen der Assistent antwortet. Dazu gehören die Dokumente, die Sie an den Chat angehängt haben. Wenn sie zur Frage passen, kommen einige kurze Auszüge aus den übrigen Dokumenten der Kanzlei hinzu.
Angehängte Dokumente gehen bis etwa 150 Seiten vollständig an das Modell. Gemessen wird die Menge an Text und nicht die Seitenzahl. Dicht beschriebene Seiten zählen also mehr. Ist es mehr, bekommt das Modell die Seiten, die am besten zur Frage passen. Unter der Antwort steht dann, wie viele Seiten gelesen wurden. Das ganze Archiv der Kanzlei verlässt den Server nie.
Das Lesen gescannter Dokumente erledigt in jedem Fall Mistral. Auch die Suche nach den passenden Stellen erledigt Mistral. Die Wahl des Modells betrifft nur den Schritt, in dem die Antwort geschrieben wird. Genau für diesen Schritt gehen Frage und Unterlagen an den gewählten Anbieter. Deshalb ist die Wahl auch eine Datenschutzfrage.
Wohin Ihre Daten gehen
Die Übersicht zeigt, was die drei Anbieter selbst über ihre Dienste für Geschäftskunden schreiben. Der Stand ist Oktober 2026. Die ersten vier Zeilen zeigen, was ohne besondere Vereinbarung gilt. Die letzte Zeile zeigt, was für KanzKI vereinbart ist.
| OpenAI | Mistral | Anthropic | |
|---|---|---|---|
| Sitz | San Francisco, USA. Für Nutzer im EWR nennt die Datenschutzerklärung OpenAI Ireland | Paris, Frankreich | USA. Vertragspartner für Kunden im EWR ist Anthropic Ireland |
| Wo die Daten liegen | standardmäßig USA. Eine Europa-Region mit Speicherung und Verarbeitung in Europa richtet OpenAI nur nach Freigabe und mit einer Zusatzvereinbarung ein | standardmäßig in der EU | USA oder weltweit. Eine EU-Region bietet Anthropic nicht an |
| Training mit Ihren Daten | standardmäßig nicht, seit 1. März 2023 | beim bezahlten Zugang abschaltbar | standardmäßig nicht |
| Aufbewahrung ohne besondere Vereinbarung | bis zu 30 Tage zur Kontrolle von Missbrauch | 30 Tage zur Kontrolle von Missbrauch | Löschung innerhalb von 30 Tagen. Gemeldete Inhalte bleiben bis zu zwei Jahre |
| Für KanzKI vereinbart | Europa-Region und Zero Data Retention. Nichts wird gespeichert, für Mitarbeiter ist nichts einsehbar, es gibt kein Training. OpenAI richtet das nur nach vorheriger Freigabe ein | Zero Data Retention. Nichts wird gespeichert, es gibt kein Training. Mistral richtet das auf Antrag und nach Ermessen ein | nicht angeboten. Zero Data Retention gäbe es auf Anfrage beim Vertrieb |
Was Zero Data Retention genau zusagt, was es nicht abdeckt und woran eine Kanzlei es im Vertrag erkennt, steht im Leitfaden Zero Data Retention: Was KI-Anbieter mit Ihren Eingaben tun.
Die Europa-Region von OpenAI
Bei OpenAI nutzt KanzKI die Europa-Region. Anfragen gehen an Rechner in Europa und werden dort beantwortet. Was OpenAI dabei ablegt, liegt ebenfalls in Europa. OpenAI richtet diese Region nur für geprüfte Kunden ein. Diese Kunden müssen eine Zusatzvereinbarung unterschrieben haben. Das haben wir getan.
Nach OpenAIs eigener Beschreibung sind Inhalte mit dieser Vereinbarung für Mitarbeiter von OpenAI nicht einsehbar. Sie landen nicht in den Protokollen, die der Anbieter sonst bis zu 30 Tage aufbewahrt. Sie werden auch nicht zum Training verwendet. Der Sitz des Unternehmens bleibt in den USA. Vertragspartner für Europa ist OpenAI Ireland. Was die Europa-Region ändert und was nicht, erklärt der Leitfaden OpenAI mit Datenresidenz in Europa.
Mistral und Anthropic
Für Mistral gilt dasselbe. Die Verwendung zum Training ist für KanzKI ausgeschaltet. Auch hier gilt die Vereinbarung Zero Data Retention. Mistral ist ein europäisches Unternehmen und verarbeitet standardmäßig in der EU. Anthropic bietet KanzKI nicht an. Das Modell von Anthropic steht in diesem Test nur zum Vergleich.
Was das Berufsrecht verlangt
Für Steuerberater kommt das Berufsrecht dazu. Nach § 62a Absatz 4 des Steuerberatungsgesetzes darf ein Dienstleister im Ausland nur dann Zugang zu fremden Geheimnissen bekommen, wenn der Schutz dort dem im Inland vergleichbar ist. Das gilt nicht, wenn der Schutz der Geheimnisse es nicht gebietet.
Die Bundessteuerberaterkammer schreibt in ihrem FAQ zu KI, dass bei Anbietern außerhalb der EU ein Datentransfer in Drittländer stattfindet. Sie empfiehlt, europäische KI-Anbieter zu bevorzugen. Dasselbe gilt für Anbieter mit Rechenzentren in der EU.
Mit der Europa-Region bleibt die Verarbeitung bei OpenAI in Europa. Die Prüfung nach § 62a trifft jede Kanzlei trotzdem selbst. KanzKI lässt OpenAI erst zu, wenn die Kanzlei einer Fassung des Auftragsverarbeitungsvertrags zugestimmt hat. In dieser Fassung steht OpenAI namentlich als Unterauftragsverarbeiter. Die Zustimmung geschieht beim ersten Anmelden oder später unter Verwaltung → KI-Modell, mit einem Klick. Sie lässt sich jederzeit zurücknehmen. Die Vereinbarung ist öffentlich unter kanzki.de/avv nachzulesen.
So haben wir getestet
Die Unterlagen
Die Unterlagen stammen aus unserer Demo-Kanzlei „Adler & Partner“. Alle Angaben darin sind frei erfunden. Jede Seite sagt das.
Es sind vier Dokumente. Das erste ist ein Bescheid über die Feststellung eines Grundbesitzwerts für die Erbschaftsteuer mit 4 Seiten. Das zweite sind die Vergleichsfaktoren des Gutachterausschusses mit 16 Seiten. Auf sie stützt sich der Bescheid. Dazu kommen zwei Grundstücksmarktberichte mit 90 und 200 Seiten. Auf jeder Seite steht ein Stadtteil. Alle Seiten sind fast gleich aufgebaut.
So lässt sich die Menge der Unterlagen in fünf Stufen steigern. Die erste Stufe hat keinen Anhang. Die zweite hat nur den Bescheid. Die dritte hat Bescheid und Vergleichsfaktoren zusammen, das sind 20 Seiten. Die vierte ist der Bericht mit 90 Seiten, die fünfte der mit 200 Seiten. Der lange Bericht ist zu lang, um ganz gelesen zu werden. Das Modell bekam 133 der 200 dicht beschriebenen Seiten. Wir haben ihm gesagt, dass Seiten fehlen.
Feststellungsbescheid
Bescheid des Finanzamts Neumarkt über den Grundbesitzwert eines Einfamilienhauses für die Erbschaftsteuer. Auf Seite 2 steht der Rechenweg mit dem Zuschlag für Eigennutzung. Auf Seite 4 steht die Rechtsbehelfsbelehrung.
Die Fragen
Zu jeder Stufe gab es Fragen, wie sie in einer Kanzlei vorkommen. Insgesamt waren es zehn.
- Ohne Anhang: Wie lange habe ich Zeit für einen Einspruch? Ab wann läuft die Frist, wenn der Bescheid mit der Post kommt?
- Bescheid: Wie hoch ist der festgestellte Grundbesitzwert, und wie wurde er berechnet?
- Bescheid und Vergleichsfaktoren: Ist der Zuschlag für Eigennutzung im Bescheid nach den Vergleichsfaktoren richtig? Und wie hoch ist die Erbschaftsteuer? Diese Angabe steht in keinem der Dokumente.
- 90 Seiten: Gefragt war nach dem Bodenrichtwert eines bestimmten Stadtteils und nach dem Stadtteil mit dem höchsten Wert. Dazu kamen die fünf höchsten Werte. Zuletzt fragten wir nach dem Wert eines Stadtteils, den es im Bericht nicht gibt.
- 200 Seiten: Gefragt war nach dem Bodenrichtwert eines bestimmten Stadtteils und nach dem Stadtteil mit dem höchsten Wert.
Die richtigen Antworten haben wir festgelegt, bevor das erste Modell gefragt wurde. Jede Frage lief dreimal. So bestimmt ein einzelner Ausreißer nicht das Urteil. Das ergibt 30 Antworten je Modell.
Das Modell bekam dieselben Anweisungen wie in KanzKI. Es bekam auch dieselbe Aufbereitung der Unterlagen. Dazu gehören die Nummern, mit denen es seine Fundstellen angibt. Bei diesen Dokumenten ist die Nummer die Seitenzahl.
Wir haben drei Dinge geprüft. Erstens, ob die Antwort stimmt. Zweitens, ob die Fundstelle auf die richtige Seite zeigt. Drittens, ob das Modell offen sagt, wenn eine Angabe fehlt. Eine Prüfung lief automatisch. Zusätzlich haben wir jede Antwort gelesen.
Die Modelle
Wir haben fünf Modelle gemessen. GPT-5.6 Sol von OpenAI kann eine Kanzlei in KanzKI wählen. Es lief über die Europa-Region. Mistral Large 3 ist in KanzKI voreingestellt.
Dazu kamen drei Modelle, die KanzKI nicht anbietet. GPT-6.1 Sol und GPT-6 Luna von OpenAI sind die beiden neueren Modelle. Sie zeigen als Ausblick, ob sich ein Wechsel lohnen könnte. Claude Sonnet 5 von Anthropic dient als Vergleich mit einem dritten großen Anbieter.
Der zweite Teil des Tests: aktuelle Werte
Der zweite Teil hatte neun Fragen ohne Unterlage. Sie betreffen Werte, die 2026 neu sind.
- der Basiszinssatz seit dem 1. Juli 2026
- die Sachbezugswerte für Verpflegung
- Mindestlohn und Minijob-Grenze
- die Entfernungspauschale
- der Umsatzsteuersatz auf Speisen im Restaurant
- die Aktivrente
- das BMF-Schreiben vom Januar 2026 zur Instandsetzung von Gebäuden
- die Verpflegungspauschalen, eine Fangfrage, denn die Beträge sind unverändert
- Grundfreibetrag und Kindergeld
Die richtigen Antworten haben wir vorher nachgesehen. Wir haben sie bei der Bundesbank, in den Gesetzestexten, bei der Bundesregierung und beim Bundesfinanzministerium gefunden. Die Quellen stehen unter diesem Text.
Gefragt wurden dieselben fünf Modelle. GPT-5.6 Sol bekam zusätzlich die Internetsuche, und zwar in zwei Fassungen. Die erste Suche liest nur in dem Verzeichnis des Internets, das OpenAI selbst führt. Sie ruft keine fremde Seite auf. Die zweite Suche ruft die gefundenen Seiten auch auf. Wie eine solche Suche arbeitet, erklärt der Leitfaden Internetsuche in der KI. Dort steht auch, was dabei den Server der Kanzlei verlässt.
Die Ergebnisse im Einzelnen
Das Raster zeigt je Frage, wie viele der drei Antworten vollständig richtig waren. Die Zeile „Widerspruch in der Unterlage bemerkt“ war keine Frage. Sie zählt nicht zum Ergebnis. Sie steht hier, weil sie den größten Unterschied zwischen den Modellen zeigt.
| Frage | GPT-5.6 Sol | GPT-6.1 Sol | GPT-6 Luna | Claude Sonnet 5 | Mistral Large 3 |
|---|---|---|---|---|---|
| Ohne Anhang | |||||
| Beginn der Einspruchsfrist, vierter Tag nach Aufgabe zur Post | 3 von 3 | 3 von 3 | 3 von 3 | 0 von 3 | 0 von 3 |
| Bescheid, 4 Seiten | |||||
| Grundbesitzwert und Rechenweg, mit Fundstelle | 3 von 3 | 3 von 3 | 3 von 3 | 3 von 3 | 3 von 3 |
| Bescheid und Vergleichsfaktoren, 20 Seiten | |||||
| Zuschlag für Eigennutzung prüfen | 3 von 3 | 3 von 3 | 3 von 3 | 3 von 3 | 3 von 3 |
| Erbschaftsteuer, steht nicht in den Unterlagen | 3 von 3 | 3 von 3 | 3 von 3 | 3 von 3 | 3 von 3 |
| Widerspruch in der Unterlage bemerkt, nicht gefragt | 3 von 3 | 3 von 3 | 2 von 3 | 2 von 3 | 0 von 3 |
| Marktbericht, 90 Seiten | |||||
| Bodenrichtwert eines Stadtteils | 3 von 3 | 3 von 3 | 3 von 3 | 3 von 3 | 3 von 3 |
| Stadtteil mit dem höchsten Wert | 3 von 3 | 3 von 3 | 3 von 3 | 3 von 3 | 3 von 3 |
| Die fünf höchsten Werte | 3 von 3 | 3 von 3 | 3 von 3 | 2 von 3 | 0 von 3 |
| Stadtteil, den es nicht gibt | 3 von 3 | 3 von 3 | 3 von 3 | 3 von 3 | 3 von 3 |
| Marktbericht, 200 Seiten, davon 133 gelesen | |||||
| Bodenrichtwert eines Stadtteils | 3 von 3 | 3 von 3 | 3 von 3 | 3 von 3 | 3 von 3 |
| Höchster Wert, mit Hinweis auf die fehlenden Seiten | 3 von 3 | 3 von 3 | 3 von 3 | 3 von 3 | 1 von 3 |
Jeder Punkt ist ein Durchgang: ausgefüllt heißt vollständig richtig, leer heißt nicht.
Wo eine Antwort eine Fundstelle brauchte, zeigte sie bei allen Modellen auf die richtige Seite. Bei drei Fragen steht die Antwort in den Unterlagen nicht oder nicht vollständig. Die Modelle von OpenAI und Anthropic sagten das in allen neun Antworten offen. Mistral Large 3 sagte es in sieben.
Die typische Antwortzeit lag bei GPT-5.6 Sol bei 4 Sekunden. Bei Mistral Large 3 lag sie bei 6, bei Claude Sonnet 5 bei 10. GPT-6 Luna war mit 3 Sekunden am schnellsten. Die Zeit ist der Wert in der Mitte. Die Hälfte der 30 Antworten stand schneller vollständig da, die andere Hälfte langsamer.
Was uns aufgefallen ist
Ohne Unterlagen antwortet das Modell aus dem Gedächtnis
Ein Modell lernt einmal aus Texten bis zu einem Stichtag. Das ist wie bei einem Kommentar mit Redaktionsschluss. Was danach beschlossen wurde, kennt das Modell nicht. Mehr dazu steht im Leitfaden zum KI-Modell. Wir fragten nach der Einspruchsfrist. Mistral Large 3 und Claude Sonnet 5 nannten in allen sechs Antworten den dritten Tag nach Aufgabe zur Post. Nach § 122 Absatz 2 Nummer 1 der Abgabenordnung gilt heute der vierte Tag. Die drei Tage sind die frühere Fassung. Die drei Modelle von OpenAI nannten jedes Mal den vierten Tag. Wo sie die drei Tage erwähnten, nannten sie diese als frühere Regel.
Auch der Umgang mit der fehlenden Unterlage war verschieden. Claude Sonnet 5 schrieb jedes Mal dazu, dass ihm kein Dokument vorliegt. Es antwortete aus allgemeinem Wissen. Mistral Large 3 berief sich dagegen in allen drei Antworten auf eine „interne Kanzleirichtlinie ‚Fristen im Steuerrecht‘“ von Adler & Partner. Diese Richtlinie gibt es nicht. Mistral Large 3 setzte sogar eine Fußnote, obwohl kein Dokument vorlag.
Sobald der Bescheid angehängt war, lasen alle Modelle die vier Tage richtig aus der Rechtsbehelfsbelehrung.
Einzelne Angaben finden alle, Ranglisten nicht jedes
Den Wert eines bestimmten Stadtteils fanden alle fünf Modelle in jeder Antwort. Das galt für 90 Seiten wie für 200 Seiten. Die Seite war immer richtig. Bei der Frage nach den fünf höchsten Werten im Bericht mit 90 Seiten trennten sich die Modelle.
Die drei Modelle von OpenAI nannten in allen neun Antworten die richtigen fünf Stadtteile. Werte und Seiten stimmten ebenfalls. Claude Sonnet 5 tat das auch. Einmal hängte es aber einen sechsten Stadtteil an. Dabei übersprang es fünf Stadtteile mit höherem Wert. Bei Mistral Large 3 fehlten jedes Mal zwei der fünf Stadtteile. In einem Durchgang standen bei zwei Stadtteilen falsche Werte unter richtigen Fußnoten.
Eine Rangliste setzt voraus, dass jede einzelne Seite gelesen und verglichen wird. Bei vielen fast gleichen Seiten gelingt das nicht jedem Modell.
Die größten Unterschiede bei der Prüfung gegen eine zweite Unterlage
Den Zuschlag für Eigennutzung bestätigten alle Modelle in jeder Antwort, mit den richtigen Seiten. Dabei fanden einige Modelle einen Fehler, den wir selbst beim Erstellen der Testunterlagen gemacht hatten.
In den erfundenen Vergleichsfaktoren steht in der Tabelle für das Haus aus dem Bescheid ein anderer Wert als im Lesebeispiel direkt darunter. Der Bescheid rechnet mit dem Wert aus dem Lesebeispiel.
GPT-5.6 Sol und GPT-6.1 Sol wiesen in allen drei Antworten auf diesen Widerspruch hin. Sie ordneten ihn als Widerspruch innerhalb der Unterlage ein. Sie rieten, ihn zu klären. GPT-6.1 Sol rechnete zweimal vor, welcher Wert sich mit der Tabellenzeile ergäbe.
GPT-6 Luna bemerkte die abweichende Tabellenzeile zweimal. Claude Sonnet 5 bemerkte sie ebenfalls zweimal. Es hielt den Bescheid deshalb für fehlerhaft und erwähnte das Lesebeispiel nicht. Mistral Large 3 bemerkte den Widerspruch in keiner Antwort.
Wir haben die Unterlage so gelassen, wie sie war. So hatten alle Modelle dieselbe. Gewertet haben wir nur, wonach gefragt war, nämlich den Zuschlag.
Fehlt eine Angabe, sagen es die Modelle, Mistral Large 3 nicht immer
Wir fragten nach der Erbschaftsteuer. Alle Modelle erklärten in allen Antworten, dass die Unterlagen nur den Grundbesitzwert enthalten. Keines nannte eine tatsächliche Steuer. Mistral Large 3 rechnete einmal ein Beispiel vor. Es bezeichnete das Beispiel ausdrücklich als hypothetisch. Es galt für den Fall, dass die Erbin die Tochter ist.
Den erfundenen Stadtteil wiesen alle als nicht vorhanden aus. Mehrere boten das Hafenviertel an. Sie sagten ausdrücklich, das sei nur eine Vermutung, was gemeint sein könnte.
Beim Bericht mit 200 Seiten sagten die Modelle von OpenAI und Anthropic in allen Antworten, dass ihnen nur ein Teil der Seiten vorlag. Auf den übrigen Seiten könnte ein höherer Wert stehen. Mistral Large 3 nannte dreimal den richtigen Stadtteil. Es sagte aber nur einmal ausdrücklich, dass ihm 67 Seiten nicht vorlagen.
Gründlich heißt nicht schnell
Claude Sonnet 5 schrieb die längsten Antworten. Oft nannte es weitere Werte und Hinweise, um die niemand gebeten hatte. Es brauchte typischerweise 10 Sekunden. Bei der Prüfung gegen die Vergleichsfaktoren brauchte es bis zu 32. GPT-6 Luna war mit 3 Sekunden am schnellsten und antwortete am knappsten. Die übrigen Modelle lagen bei vier bis sechs Sekunden.
Aktuelle Werte: mit und ohne Internetsuche
Hier zählt nur, ob der genannte Wert stimmt. Eine Fundstelle gab es nicht. Als offen gilt eine Antwort, die den Wert nicht kennt und das sagt. Sie nennt dann keinen alten oder erfundenen Wert.
GPT-5.6 Sol von OpenAI mit Internetsuche
27 von 27
GPT-5.6 Sol von OpenAI ohne Internet
23 von 27
GPT-6 Luna von OpenAI, in KanzKI nicht wählbar
19 von 27
GPT-6.1 Sol von OpenAI, in KanzKI nicht wählbar
18 von 27
Mistral Large 3 von Mistral, in KanzKI voreingestellt
7 von 27
Claude Sonnet 5 von Anthropic, in KanzKI nicht wählbar
2 von 27
Ohne Internet weiß das Modell, was bis zu seinem Training beschlossen war
GPT-5.6 Sol nannte in allen Durchgängen richtig die Sachbezugswerte, den Mindestlohn und die Entfernungspauschale. Das Gleiche gilt für die Umsatzsteuer, die Aktivrente mit der richtigen Vorschrift, den Grundfreibetrag und das Kindergeld. Auch die Fangfrage zu den Verpflegungspauschalen beantwortete es richtig.
Nicht wusste es den Basiszinssatz vom Juli 2026. In allen drei Antworten hielt es den 1. Juli 2026 für Zukunft. Es nannte nur die Rechenregel. Einmal erklärte es außerdem ein BMF-Schreiben von 2003 für maßgeblich, ohne Vorbehalt. In 26 von 27 Antworten sagte es, wenn es etwas nicht wusste. Es erfand keine Quelle.
GPT-6.1 Sol und GPT-6 Luna wussten weniger. Sie sagten das aber. GPT-6.1 Sol verweigerte dreimal jede Angabe zum BMF-Schreiben. Es wollte, wie es einmal schrieb, „ein älteres Schreiben irrtümlich als aktuell einzuordnen“ vermeiden. Einmal nannte es den Umsatzsteuersatz von vor 2026. Es wies ausdrücklich darauf hin, dass das keine Bestätigung für 2026 sei.
GPT-6 Luna nannte einmal falsche Einzelwerte bei den Sachbezügen, ohne Vorbehalt.
Claude Sonnet 5 verweigerte 22 von 27 Antworten
„Ich möchte hier keine Zahl erfinden“, schrieb es und bat darum, ein Dokument hochzuladen oder in der amtlichen Quelle nachzusehen. Das ist ehrlich. Bei einem Zinssatz, der in eine Mahnung einfließt, ist es die richtige Haltung. Eine Antwort ist es nicht. Mindestlohn, Kindergeld und Grundfreibetrag waren im Oktober 2026 seit fast einem Jahr beschlossen.
Mistral Large 3 erfand, was es nicht wusste
In 17 von 27 Antworten stand eine Fußnote auf ein Dokument der Kanzlei, das es nicht gibt. Beispiele sind „Zinssätze_2024.pdf“ und „Reisekostenrichtlinie_AdlerPartner_2024.pdf“. Es war keine Unterlage angehängt. Die Aktivrente erklärte Mistral Large 3 dreimal zu einem Begriff der betrieblichen Altersversorgung. Es nannte Paragrafen, die damit nichts zu tun haben.
Zum BMF-Schreiben nannte es ein Schreiben vom 21. November 2023 samt Aktenzeichen. Es nannte auch einen Link auf die Seite des Bundesfinanzministeriums, den es nicht gibt. Bei Umsatzsteuer und Verpflegungspauschalen stimmte die Antwort. Die Begründung stimmte aber nicht. Mistral Large 3 nannte ein erfundenes BMF-Schreiben von 2023. Als Grund für die Senkung nannte es das „Bürokratieentlastungsgesetz III“.
Das ist dasselbe Muster wie bei der Einspruchsfrist im ersten Teil. Es kam nur häufiger vor.
Mit Internetsuche stimmte jede Antwort
Wir fragten nach dem Basiszinssatz vom Juli 2026, und die Antwort nannte die Mitteilung der Bundesbank. Beim BMF-Schreiben nannte sie Datum, Aktenzeichen und die beiden ersetzten Schreiben. Bei den Sachbezugswerten nannte sie die Verordnung. Alle 27 Antworten stimmten, mit und ohne Seitenaufruf.
Das Modell suchte meist einmal je Frage. Bei der Aktivrente suchte es bis zu dreimal. Es verwies vor allem auf gesetze-im-internet.de, das Bundesfinanzministerium, das Bundesarbeitsministerium, die Bundesbank und die Minijob-Zentrale.
Wir verglichen zwei Fassungen. Die erste liest nur im eigenen Verzeichnis von OpenAI. Die zweite ruft die Seiten auf. Es gab keinen Unterschied in der Richtigkeit. Mit Suche brauchte die Antwort zwei Sekunden länger.
Wie KanzKI die Internetsuche anbietet
Deshalb bietet KanzKI die Internetsuche an, aber nur in der Fassung, die keine fremde Seite aufruft. So erfährt keine fremde Internetseite etwas von Ihrer Frage. Die andere Fassung ruft Seiten auf. OpenAI stellt sie selbst nicht unter seine strengste Vertraulichkeitsvereinbarung. Die Suche läuft nie unbemerkt. Die Kanzlei schaltet sie unter Verwaltung → Funktionen frei. Dabei bestätigt sie die Fassung des Auftragsverarbeitungsvertrags, die die Suche nennt.
Danach ist die Suche in jedem neuen Chat aus. Jede Person legt den Schalter nur für die Frage um, bei der sie ihn braucht. Dabei steht der Hinweis, keine Mandantennamen und keine Beträge in die Frage zu schreiben. Die Antwort nennt die Internetquellen getrennt von Ihren Belegen und den amtlichen Quellen.
Die Suche gibt es nur mit dem Modell von OpenAI. Mistral bietet keine vergleichbare Suche mit Verarbeitung in Europa.
Was das für Ihre Kanzlei heißt
Ein einzelner Test sagt nicht, welches Modell in jeder Lage „das beste“ ist. Er gibt Anhaltspunkte für typische Situationen.
- Fragen zu Unterlagen, die Sie anhängen: Hier war das Ergebnis bei allen Modellen am besten. Einzelne Werte stimmten. Der Rechenweg stimmte. Auch die Prüfung eines Zuschlags gegen eine zweite Unterlage stimmte. Die Fundstelle führte zur richtigen Seite. Prüfen Sie die Antwort trotzdem über die Fundstelle. Dafür ist sie da.
- Fragen ohne Unterlagen: Hier antwortet das Modell aus dem, was es beim Training gelernt hat. Das kann vor einer Gesetzesänderung liegen. Bei Mistral Large 3 und Claude Sonnet 5 war das in unserem Test so. Bei den Modellen von OpenAI war es nicht so. Hängen Sie die Unterlage an, um die es geht. Oder fragen Sie nach der Vorschrift selbst.
- Fragen zu Werten, die sich gerade geändert haben: GPT-5.6 Sol wusste im Oktober 2026 die Werte, die Ende 2025 beschlossen wurden. Den Basiszinssatz vom Juli 2026 wusste es nicht. Claude Sonnet 5 verweigerte fast jede Zahl. Mistral Large 3 nannte alte Werte mit erfundenen Quellen. Mit eingeschalteter Internetsuche stimmten alle 27 Antworten.
- Überblicke über lange Dokumente: Ranglisten, Vollständigkeitsfragen und „alle Fälle, in denen …“ sind über viele Seiten die schwächste Disziplin. Die Modelle von OpenAI waren hier in unserem Test deutlich zuverlässiger als Mistral Large 3. Nutzen Sie die Antwort trotzdem als Hinweis, wo Sie nachsehen sollten. Sie ist kein Ergebnis.
- Mandantendaten und Datenschutz: Bei beiden Modellen, die KanzKI anbietet, werden Ihre Fragen und Unterlagen beim Anbieter nicht gespeichert. Sie werden auch nicht zum Training verwendet. Bei OpenAI bleibt die Verarbeitung in Europa. Die Prüfung nach § 62a des Steuerberatungsgesetzes bleibt Sache der Kanzlei. Auch die Zustimmung zur passenden Fassung des Vertrags zur Auftragsverarbeitung bleibt Sache der Kanzlei.
Mistral Large 3, in KanzKI voreingestellt
22 von 30 richtig
- Einzelne Werte und Rechenwege aus einer Unterlage sind ebenso zuverlässig, mit der richtigen Seite.
- Bei Ranglisten über 90 Seiten fehlten jedes Mal zwei von fünf Werten.
- Ohne Unterlage nennt es eine veraltete Regel und erfundene Quellen. Bei aktuellen Werten waren 7 von 27 richtig.
- Es ist ein europäisches Unternehmen. Die Verarbeitung findet in der EU statt. Es gibt keine Speicherung und kein Training.
GPT-5.6 Sol von OpenAI, in KanzKI wählbar
30 von 30 richtig
- Es liest lange Unterlagen am genauesten und findet auch Ranglisten über 90 Seiten vollständig.
- Es sagt in jeder Antwort, wenn eine Angabe fehlt oder Seiten nicht vorlagen. Es bemerkte auch den Fehler in unserer Testunterlage.
- Es kennt die Regeln, die bis zu seinem Training beschlossen wurden. Mit Internetsuche kennt es auch die neuesten Werte.
- Die Verarbeitung findet in Europa statt. Es gibt keine Speicherung und kein Training. Für Mitarbeiter von OpenAI ist nichts einsehbar.
Bei beiden Modellen bleiben Ihre Fragen und Unterlagen beim Anbieter ungespeichert. Den Unterschied macht die Genauigkeit der Antworten.
Warum KanzKI GPT-5.6 Sol anbietet
KanzKI bietet GPT-5.6 Sol an, weil es in unserem Test die wenigsten Fehler machte. Die Antwortzeit war dabei kurz. Die Vereinbarungen mit OpenAI sorgen dafür, dass Ihre Daten weder gespeichert noch gelesen noch zum Training verwendet werden. Die Wahl trifft die Kanzlei selbst, mit einem Klick unter Verwaltung → KI-Modell.
Voreingestellt bleibt Mistral Large 3. So kommt der erste Klick beim Anmelden ohne Vertragsergänzung aus. Es steht auch für Kanzleien bereit, die nur mit einem europäischen Unternehmen arbeiten wollen. Bei einzelnen Werten und Rechenwegen war es in unserem Test so zuverlässig wie die anderen. Schwächer war es bei Ranglisten über viele Seiten. Schwächer war es auch bei Fragen ohne Unterlage und beim Hinweis auf fehlende Seiten.
Claude Sonnet 5 bietet KanzKI nicht an. Es antwortete am ausführlichsten und sagte am deutlichsten, worauf eine Aussage beruht. Es war aber am langsamsten und ohne Unterlage veraltet. GPT-6 Luna war bei den Fragen zu Unterlagen so genau wie GPT-5.6 Sol und schneller. Bei aktuellen Werten ohne Internet war es schwächer.
Ein einzelner Test reicht uns nicht, um ein Modell zu wechseln. Wir messen weiter.
Was wir nicht getestet haben
Dieser Test ist eine Stichprobe. Wir haben zehn Fragen zu Unterlagen und neun zu aktuellen Werten gestellt, je drei Durchgänge. Ein Unterschied von einer oder zwei Antworten zwischen zwei Modellen ist deshalb ein Anhaltspunkt. Eine Rangfolge ist er nicht.
Der Test sagt nichts darüber, wie die Modelle mit gescannten Bescheiden umgehen, deren Text erst erkannt werden muss. Er sagt auch nichts zu Excel-Tabellen oder zu Nachfragen im selben Chat.
Gesetze und Urteile des Bundesfinanzhofs waren nicht eingebunden. KanzKI hält sie auf dem Server der Kanzlei bereit. Mit ihnen hätte die Frage ohne Anhang eine Vorschrift als Grundlage gehabt.
Die neun Fragen zu aktuellen Werten haben wir so gewählt, dass die Antwort in keinem Gesetzestext des Vorjahres steht. Wie viel davon das aktuelle Gesetz auf dem Server abdeckt, haben wir nicht gemessen.
Die Internetsuche haben wir nur mit GPT-5.6 Sol gemessen. Nur OpenAI bietet sie für die Europa-Region an. Wir haben keine Schreiben formulieren lassen. Wir haben nicht bewertet, wie gut eine Antwort klingt. Wir haben nur bewertet, ob sie stimmt.
Die Bewertung haben wir selbst gemacht. Wir haben dafür Antworten genutzt, die wir vor dem ersten Durchgang festgelegt hatten. Eine der Testunterlagen enthielt dabei den oben beschriebenen Fehler.
Die Modelle von OpenAI denken vor der Antwort nach. Wie gründlich, lässt sich einstellen. Wir haben die Voreinstellung des Anbieters verwendet. Auch KanzKI nutzt sie.
Die Anbieter verändern ihre Modelle laufend. Was im Oktober 2026 galt, kann ein paar Monate später anders sein. Wir haben die Fragen, die erwarteten Antworten, jede einzelne Antwort im Wortlaut, unsere Bewertung und unser Messprogramm aufbewahrt. So lässt sich der Test wiederholen. Wir haben Mistral Large 3 in der Fassung genutzt, die Mistral unter dem Namen „mistral-large-latest“ ausliefert. GPT-5.6 Sol lief über die Europa-Region.
Quellen
- Mistral AI: Mistral Large 3 (Modellseite)
- Mistral AI Hilfe: Werden meine Daten zum Training verwendet?
- Mistral AI Hilfe: Wo werden meine Daten gespeichert?
- Mistral AI Hilfe: Zero Data Retention
- Mistral AI: Datenschutzerklärung
- OpenAI: GPT-5.6 Sol (Modellseite)
- OpenAI: GPT-6.1 Sol (Modellseite)
- OpenAI: GPT-6 Luna (Modellseite)
- OpenAI: Data controls in the OpenAI platform
- OpenAI: Datenschutzerklärung für den EWR und die Schweiz
- OpenAI: Web search (Werkzeugbeschreibung, Offline-Modus)
- Anthropic: Claude Sonnet 5 (Modellseite)
- Anthropic: Werden meine Daten zum Training verwendet?
- Anthropic: Wie lange werden die Daten meiner Organisation gespeichert?
- Anthropic: Data residency
- Anthropic: Zero Data Retention
- Anthropic: Commercial Terms of Service
- § 62a StBerG: Inanspruchnahme von Dienstleistungen
- BStBK: FAQ KI im steuerberatenden Berufsstand (Stand 27. Januar 2026)
- § 122 AO: Bekanntgabe des Verwaltungsakts
- § 355 AO: Einspruchsfrist
- Deutsche Bundesbank: Bekanntgabe des Basiszinssatzes zum 1. Juli 2026
- § 2 Sozialversicherungsentgeltverordnung (Sachbezugswerte)
- Bundesregierung: Mindestlohn und Minijob-Grenze 2026
- Bundesregierung: Steueränderungsgesetz 2025 (Pendlerpauschale, Gastronomie)
- § 9 EStG (Entfernungspauschale, Verpflegungspauschalen)
- § 12 UStG (Steuersätze)
- § 3 EStG (steuerfreie Einnahmen, Nr. 21 Aktivrente)
- § 32a EStG (Einkommensteuertarif, Grundfreibetrag)
- Bundesfinanzministerium: Fragen und Antworten zur Aktivrente
- BMF-Schreiben vom 26. Januar 2026: Instandsetzung und Modernisierung von Gebäuden
Dieser Beitrag gibt einen allgemeinen Überblick zum Stand vom 20. Oktober 2026. Er ersetzt keine Prüfung im Einzelfall.
So sieht das in KanzKI aus
Unter Verwaltung → KI-Modell wählt die Kanzlei zwischen Mistral und OpenAI. Mistral ist voreingestellt. Die Tabelle darunter sagt in Worten, was die Wahl bedeutet. Dieselben Unterlagen in KanzKI. Die Antwort prüft den Bescheid gegen die Vergleichsfaktoren. Jede Fundstelle führt zur Seite. Mit eingeschalteter Internetsuche nennt die Antwort die Internetquelle getrennt von Belegen und Gesetzen. Sie ist grau und trägt den Stand der Suche.
Mehr zu KI in der Kanzlei
KI mit Internetsuche in der Steuerkanzlei: Was sie tut und was dabei die Kanzlei verlässt
Was die Internetsuche einer KI tut, was dabei die Kanzlei verlässt und warum eine Internetquelle nie ein Beleg ist: ein Leitfaden für Steuerkanzleien.
Was ist ein KI-Modell? Was es kann, was es nicht weiß und wer es baut
Ein KI-Modell schreibt die Antwort, weiß aber nichts über Ihre Kanzlei: was hinter Namen wie GPT-5.6 Sol steckt, warum Unterlagen helfen und was Training heißt.
DATEV KI-Werkstatt: Was sie kann, was nicht — und was das für Ihre Kanzlei heißt
Die DATEV KI-Werkstatt ist ein Testraum für KI-Prototypen und kein fertiges Produkt: was DATEV selbst dazu sagt und welche Fragen sich für Ihre Kanzlei stellen.
Lieber gleich live sehen statt lesen?
Oder anrufen: 0151 676 23 894 · werktags 9–18 Uhr