Ein Geschäftsführer aus Bielefeld hat mir letztes Jahr 11.000 Euro für eine KI-Lösung gezeigt, die nach drei Monaten in der Schublade lag. Niemand benutzte sie. Das ist kein Einzelfall — ich sehe das Muster regelmäßig. Hier sind die fünf Fehler, die fast alle gescheiterten KI-Projekte im Mittelstand gemeinsam haben.
Warum gerade Mittelstandsprojekte scheitern
Mittelständler haben einen entscheidenden Nachteil gegenüber Konzernen: keine Innovationsabteilung, kein KI-Beauftragter, kein dedizierter Slack-Kanal. Was es dafür gibt: ein volles Tagesgeschäft, einen Geschäftsführer der "mal eben" ChatGPT einführen will, und einen IT-Dienstleister der Stundensätze abrechnet.
Das Ergebnis ist meistens das Gleiche: Ein Tool wird gekauft, drei Mitarbeiter werden geschult, nach acht Wochen nutzt es niemand mehr, und das Geld ist weg. Der Geschäftsführer schließt: „KI funktioniert für uns nicht." In Wahrheit war es nie das Tool — es war das Setup drumherum.
KI-Projekte im Mittelstand scheitern selten an der Technik. Sie scheitern, weil niemand zuständig ist, kein Pilot definiert wurde und der Datenschutz erst auftaucht, wenn es schon zu spät ist.
Fehler 1: Tool kaufen, bevor das Problem klar ist
Der häufigste Fehler. Jemand liest einen Artikel über ChatGPT Enterprise, ist begeistert, kauft Lizenzen für 15 Mitarbeiter — und stellt drei Wochen später fest, dass niemand weiß, wofür er das Tool eigentlich nutzen soll. Das ist die KI-Variante des klassischen „Wir brauchen ein CRM"-Fehlers.
Was stattdessen funktioniert: Erst das Problem benennen, dann das Werkzeug. Konkret: Welche drei Aufgaben fressen aktuell am meisten Zeit, ohne Mehrwert zu liefern? Angebotserstellung? E-Mail-Triage? Recherche im Förderdschungel? Wenn Sie diese Aufgaben nicht aufschreiben können, ist es zu früh für ein Tool.
Bei einem Maschinenbauer in Lippe haben wir mit genau einem Anwendungsfall begonnen: technische Datenblätter aus PDFs in einheitliche Angebotstexte umwandeln. Ein einziger Mitarbeiter, ein klares Problem, ein konkretes Tool. Das Projekt läuft seit fünf Monaten. Die „ChatGPT-Lizenz für alle"-Idee, die parallel im Raum stand, wurde nie umgesetzt — und niemand vermisst sie.
Fehler 2: Kein Pilot, sondern direkt der große Wurf
Der zweithäufigste Fehler ist das Gegenteil von Bescheidenheit: Statt mit einem Anwendungsfall zu starten, soll KI gleich „die Buchhaltung, das Marketing und den Vertrieb gleichzeitig" übernehmen. Das ist der Punkt, an dem Beratungsfirmen drei Workshops verkaufen und am Ende eine 40-seitige PowerPoint liefern, die niemand liest.
Was stattdessen funktioniert: Pilot mit klarer Erfolgsmessung. Zwei Wochen, ein Mitarbeiter, eine Aufgabe. Am Ende eine ehrliche Bilanz: Wieviel Zeit hat es gespart? Wo war es schlechter als vorher? Wer es dann ausweiten will, hat Daten — nicht nur Bauchgefühl.
Mein Standardvorschlag: 14 Tage Pilot, danach Go/No-Go-Meeting, danach Entscheidung über Ausweitung. Wer keine zwei Wochen für einen Pilot hat, hat auch keine sechs Monate für eine Roll-out-Pleite.
Fehler 3: Datenschutz wird erst zum Schluss bedacht
Das ist der teuerste Fehler. Drei Mitarbeiter füttern seit sechs Wochen ChatGPT mit echten Kundendaten, die Geschäftsführerin erfährt davon zufällig im Aufzug, der Datenschutzbeauftragte fällt vom Stuhl, und das Projekt wird über Nacht gestoppt — mit allem, was an Lernkurve schon da war.
Was stattdessen funktioniert: Vor dem ersten Prompt klären, welche Daten das Tool sehen darf. Bei US-Anbietern wie OpenAI ist die Antwort meistens: keine personenbezogenen Daten. Punkt. Wer mit echten Kundendaten arbeiten will, braucht entweder eine Auftragsverarbeitungs- vereinbarung (ChatGPT Enterprise hat eine, die kostenlose Version nicht) oder ein europäisches Modell wie Mistral mit DSGVO-konformem Hosting.
Bei einer Steuerberaterin in Paderborn haben wir das so gelöst: Anonymisierungs-Skript vor dem Prompt, ChatGPT macht die Analyse auf den anonymisierten Daten, am Ende werden die Namen wieder eingesetzt. Kostet 30 Minuten Setup, spart einen halben Tag pro Woche und ist datenschutzrechtlich sauber.
Fehler 4: Niemand ist zuständig — also macht es keiner
„KI sollen jetzt alle nutzen" ist kein Plan. Es ist eine Hoffnung. Und Hoffnung ist im Mittelstand selten genug, um ein Tool durchzusetzen, das mit dem bestehenden Workflow konkurriert. Was passiert: Der eine Kollege probiert es zwei Tage, der andere sagt „ich brauche das nicht", die dritte ist im Urlaub — und nach drei Wochen redet keiner mehr drüber.
Was stattdessen funktioniert: Ein KI-Verantwortlicher mit konkretem Auftrag. Nicht der Geschäftsführer (zu wenig Zeit), nicht der Praktikant (zu wenig Durchsetzungsfähigkeit). Idealerweise jemand aus dem Team, der das Thema selbst spannend findet, mit zwei Stunden pro Woche explizit dafür freigeschaufelt. Klare Aufgabe: in 8 Wochen drei Workflows automatisieren. Zwischenstand wöchentlich an die Geschäftsführung.
Bei einem mittelständischen Logistiker in Herford hat das funktioniert, weil der Junior aus der Disposition den KI-Verantwortlichen-Hut bekommen hat. Er war 24, hatte keine Berührungsängste, hat seine eigenen Arbeitsabläufe automatisiert und damit drei Kollegen mitgezogen. Heute laufen sechs Workflows, die niemand mehr missen will. Kosten: rund 80 Euro im Monat plus die zwei Stunden pro Woche.
Fehler 5: ROI-Erwartung ohne Geduld
„Was bringt mir das in den ersten drei Monaten?" — diese Frage ist legitim, aber falsch gestellt. Die richtige Frage lautet: „Welche fünf Aufgaben werden in zwölf Monaten besser laufen, wenn wir jetzt starten?" KI-Einführung im Mittelstand ist kein Software-Kauf, bei dem man am ersten Tag den vollen Funktionsumfang nutzt. Es ist eher wie Sport: Die ersten zwei Wochen tut alles weh, danach merkt man, dass es funktioniert.
Was stattdessen funktioniert: Realistische ROI-Annahmen. Mein Erfahrungswert: Ein gut gewählter Anwendungsfall amortisiert sich nach 4–8 Wochen. Drei Anwendungsfälle parallel brauchen 3–6 Monate. Eine echte „KI-Kultur" im Unternehmen — also der Punkt, an dem Mitarbeiter von selbst neue Use Cases vorschlagen — entsteht frühestens nach einem Jahr. Wer das beim Start kommuniziert, vermeidet Enttäuschung.
Fazit: Die Reihenfolge entscheidet
Kein einziger dieser fünf Fehler hat mit der Technik zu tun. Sie alle entstehen vor dem ersten Prompt — bei der Frage, wer was wie wofür einführen soll. Wer die Reihenfolge richtig macht, kommt mit erstaunlich wenig Geld weit. Und wer sie falsch macht, verbrennt fünfstellige Beträge an Lizenzen und Beratung.
Die einfache Faustregel, die ich Mittelständlern in OWL gebe: Erst Problem, dann Pilot, dann Person. Wenn diese drei Punkte stehen, ist die Tool-Wahl der einfachste Teil. Welche Tools sich konkret lohnen, habe ich im Artikel KI-Tools für den Mittelstand: 7 Empfehlungen beschrieben — die Liste wird Ihnen erst dann nützen, wenn Sie wissen, wofür Sie sie brauchen.
Konkrete Anwendungsfälle aus echten Mittelstandsprojekten zeige ich im Folgeartikel KI im Mittelstand: 7 Praxis-Beispiele. Und wer wissen will, wo das eigene Unternehmen aktuell steht, findet im Artikel KI-Readiness für lokale Unternehmen den passenden Einstieg.
Wenn Sie für Ihr Unternehmen eine ehrliche Einschätzung möchten — ohne Berater-Pitch, ohne 40-Seiten-PowerPoint — schauen Sie sich meinen KI-Readiness-Check an oder schreiben Sie mir direkt.
