KI-Strategie für KMU: Der 5-Schritte-Fahrplan

Vor zwei Wochen hat mir ein Geschäftsführer gestanden, dass er 35.000 Euro in KI-Tools investiert hat. Drei verschiedene Plattformen. Ein Jahr lang. Ergebnis: Zwei Mitarbeiter nutzen ab und zu ChatGPT. Der Rest macht weiter wie vorher.

„Ich hab einfach losgelegt", sagte er. „Tool gekauft, installiert, nix passiert."

Klingt bekannt? Willkommen im Club der 43%.

Der KI-Index Mittelstand 2026 von Salesforce zeigt: Die KI-Nutzung in deutschen KMU ist zwar um 54 Prozent gestiegen. Aber 43 Prozent der Mittelständler haben keine konkreten KI-Pläne — sie experimentieren, statt zu strategieren. Und genau das unterscheidet die Gewinner von den Verlierern dieser Transformation.

Eine KI-Strategie klingt erstmal nach Großkonzern-Kram. Nach PowerPoint-Folien und Berater-Workshops. Ist es nicht. Eine gute KI-Strategie für den Mittelstand passt auf zwei Seiten, ist pragmatisch und fokussiert sich auf das, was wirklich Geld bringt.

Hier ist mein 5-Schritte-Fahrplan. Kein Bullshit. Nur das, was funktioniert.

Schritt 1: Reifegrad prüfen — ehrlich

Bevor du auch nur ein Tool kaufst: Wo stehst du wirklich?

Der größte Fehler, den ich immer wieder sehe: Unternehmen kaufen KI, bevor sie ihre eigenen Prozesse verstanden haben. Und dann wundern sie sich, dass es nicht funktioniert.

Mach eine ehrliche Bestandsaufnahme:

• Prozesse: Welche Abläufe sind standardisiert? Wo herrscht Chaos?
• Daten: Welche Daten hast du? In welcher Qualität? Sind sie digital oder liegen sie in Papierordnern?
• IT: Kann deine Infrastruktur KI überhaupt abbilden?
• Menschen: Wer hat Ahnung? Wer ist skeptisch? Wer hat Angst?

In meiner Praxis ist der Daten-Check der häufigste Stolperstein. Ein produzierendes Unternehmen mit 80 Mitarbeitern wollte einen KI-Assistenten für die Auftragsannahme einführen. Nach drei Wochen Analyse stellte sich raus: 40 Prozent der Aufträge kommen per Fax rein. Ein Fax. 2026.

Kein KI-Agent der Welt kann ein Fax lesen — es sei denn, du hast einen digitalen Zwischenschritt. Und genau solche Dinge deckt der Reifegrad-Check auf.

Pro-Tipp: Der Reifegrad-Check dauert maximal eine Woche. Setz dich mit jedem Team eine Stunde zusammen. Frag nicht die Geschäftsführung — frag die Leute, die die Arbeit machen. Die wissen, wo es wirklich wehtut.

Schritt 2: Use Cases priorisieren — nur ein Problem auf einmal

Jetzt weißt du, wo du stehst. Aber was machst du zuerst?

Die meisten Unternehmen sammeln 20 Use Cases, priorisieren sie nach Bauchgefühl und fangen dann mit drei parallel an. Ergebnis: Nichts wird fertig.

Meine Regel: Ein Use Case pro Quartal. Maximal.

Aber welcher? Bewerte deine Kandidaten nach zwei Kriterien:

1. Business-Nutzen — Wie viel Zeit/Geld spart es?
2. Machbarkeit — Sind die Daten da? Ist die Technologie reif?

Die Use Cases, die am schnellsten gehen und am meisten bringen, sind die typischen Quick Wins für KMU:

• Kundenservice — E-Mail-Klassifizierung und Standardantworten automatisieren. Spart 15–30 Minuten pro Mitarbeiter pro Tag.
• Angebotserstellung — Dynamische Textbausteine. Angebote in 5 Minuten statt 30.
• Wissensassistent — „Wo war nochmal die Datei von letztem Jahr?" in 3 Sekunden beantwortet.
• Rechnungsprüfung — Belege automatisch lesen, prüfen, verbuchen. Spart 80% der Bearbeitungszeit.

Ein Beispiel aus der Praxis: Ein Handwerksbetrieb mit 25 Mitarbeitern hat einen KI-Agenten für die Angebotserstellung eingeführt. Vorher: 45 Minuten pro Angebot. Nachher: 8 Minuten. Bei 15 Angeboten pro Woche sind das 550 Stunden pro Jahr, die frei werden. Und die Angebote sind besser, weil der KI-Assistent automatisch die passenden Bausteine aus dem Produktkatalog findet.

Schritt 3: Pilot starten — klein, messbar, kontrolliert

Der Pilot ist der wichtigste Schritt. Hier entscheidet sich, ob deine KI-Strategie fliegt oder crasht.

Ein guter Pilot hat:

• Einen klaren Verantwortlichen. Kein „das macht mal der IT-Praktikant". Sondern jemand, der Bock hat und Verantwortung trägt.
• Messbare KPIs. „Bessere Kundenbetreuung" ist kein KPI. „Erstantwortzeit von 4 Stunden auf 15 Minuten reduzieren" ist einer.
• Begrenzten Umfang. Ein Team. Ein Prozess. Kein Big Bang.
• Eine Exit-Entscheidung. Nach 4 Wochen: skalieren, anpassen oder stoppen? Ja, stoppen ist auch okay. Besser ein Pilot fliegt raus, als dass du 50.000 Euro in die falsche Richtung investierst.

Die 100-Tage-Roadmap, die ich KMU empfehle:

Ich weiß, das klingt langsam. Ein ganzes Quartal für einen Pilot? Ja. Und genau das ist der Punkt. Wer zu schnell skaliert, scheitert. Wer einen sauberen Pilot fährt, hat danach eine Blaupause für alles Weitere.

Schritt 4: Daten & Governance aufsetzen — bevor's brennt

Daten sind das Fundament jeder KI. Ohne saubere Daten funktioniert kein Agent. Punkt.

Aber Datenqualität allein reicht nicht. Du brauchst auch Governance — und zwar bevor der erste KI-Agent live geht, nicht danach.

Konkret:

• Datenklassifikation: Welche Daten dürfen in die KI? Welche nicht? Kundendaten? Ja, aber nur pseudonymisiert. Interne Kalkulationen? Vorsicht.
• Zugriffsrechte: Wer darf was sehen? Ein KI-Agent für die Buchhaltung braucht andere Daten als einer für den Vertrieb.
• EU AI Act: Prüf, ob dein Use Case unter die KI-Verordnung fällt. Die meisten internen Assistenten sind unkritisch. Aber wenn du KI für Personalentscheidungen oder Bonitätsprüfungen einsetzen willst, wird's relevant.
• Nutzungsrichtlinie: Wer darf KI wie nutzen? Eine klare Policy verhindert Shadow-KI und gibt deinem Team Sicherheit.

Der KfW-Fokus 2026 betont, dass Daten-Governance die Voraussetzung für nachhaltige KI-Nutzung ist. Und die Bundesregierung hat im Rahmen der Hightech-Agenda 2026 klargestellt: KMU, die jetzt in Datenqualität investieren, haben einen Wettbewerbsvorteil, der in ein paar Jahren nicht mehr aufholbar ist.

Pro-Tipp: Mach dir nicht zu viel Stress mit der perfekten Governance. Starte mit einer einfachen Policy auf einer Seite. „Was darf KI? Was nicht? Wer ist verantwortlich?" Das reicht für den Anfang. Perfektionierung kommt im Laufe der Zeit.

Schritt 5: Skalieren — aber richtig

Der Pilot läuft. Die Zahlen stimmen. Jetzt willst du mehr.

Stopp. Nicht alles auf einmal.

Skalierung bedeutet: Die Lösung in den Betrieb überführen. Nicht: „Jetzt machen wir das in allen Abteilungen gleichzeitig."

Was wirklich funktioniert:

• Betriebsverantwortung klären. Wer kümmert sich um den KI-Agenten, wenn er spinnt? Wer updated die Wissensbasis? Wer schult neue Mitarbeiter?
• Monitoring einführen. Läuft der Agent noch? Liefert er noch richtige Ergebnisse? Wie oft muss er nachjustiert werden?
• Schrittweise erweitern. Erst ein weiteres Team. Dann ein zweiter Use Case. Dann eine dritte Abteilung.
• Erfolge feiern. Klingt kitschig, ist aber wichtig. Wenn das Vertriebsteam 10 Stunden pro Woche spart, mach das sichtbar. Dann wollen die anderen Abteilungen von selbst mitmachen.

Ein Kunde von mir hat nach dem erfolgreichen Pilot im Vertrieb den gleichen Ansatz in der Buchhaltung ausgerollt. Weil die Leute gesehen haben, dass die Kollegen im Vertrieb plötzlich um 16 Uhr Feierabend machen — während sie selbst noch bis 19 Uhr Rechnungen prüfen. Das war der beste Change-Prozess, den ich je erlebt habe. Peer Pressure statt PowerPoint.

Fazit: Strategie ist kein Papier, sondern ein Prozess

Eine KI-Strategie ist kein einmaliges Dokument, das du schreibst und dann im Ordner ablegst. Sie ist ein lebendiger Prozess.

Der Markt verändert sich gerade schneller als je zuvor. Was heute State of the Art ist, kann in sechs Monaten veraltet sein. Wer eine flexible Strategie hat, kann reagieren. Wer nur auf ein Tool setzt, steht bald wieder am Anfang.

Die gute Nachricht: Du musst nicht perfekt sein. Du musst nur anfangen.

Der Unterschied zwischen den Unternehmen, die von KI profitieren, und denen, die Geld verbrennen, ist nicht das Budget oder die Technologie. Es ist der Ansatz. Die einen kaufen Tools und hoffen. Die anderen entwickeln eine Strategie und arbeiten sie ab.

Wohin gehörst du?

Jetzt kostenloses KI-Audit buchen

Du weißt nicht, wo du anfangen sollst? Kein Problem. Wir haben einen KI-Reifegrad-Check entwickelt, der dir in 30 Minuten zeigt, wo dein Unternehmen steht und welche Use Cases sich für dich lohnen. Kein Verkaufsgespräch. Keine PowerPoint. Nur eine ehrliche Analyse.

Jetzt kostenloses KI-Audit buchen →