„Wenn du nur drei Erkenntnisse mitnehmen dürftest – welche wären das?“ Mit dieser Frage begann mein Gespräch im Podcast von Telekom MMS über den ROI-Kompass für KI im Mittelstand. Eine gute Frage, weil sie zwingt, anderthalb Jahre Forschung auf das Wesentliche zu verdichten: die Zukunftsmacher-Studie 2025 mit 55 Tiefeninterviews bei Familienunternehmen und Hidden Champions, eine Befragung von 123 KI-affinen Mittelständlern zu KI-Agenten und daraus, ergänzt um rund 30 externe Studien, den ROI-Kompass.
Bevor ich die drei nenne, der Befund, der mich selbst am meisten überrascht hat. Als ich 2017 mit dieser Interviewreihe Digitale Vorreiter anfing, zeigten mir die Gesprächspartner Absichtserklärungen und Pilotprojekte. Diesmal legten sie Zahlen auf den Tisch: 22 Prozent durchschnittliche Produktivitätssteigerung, 64 Prozent berichten messbare Effizienzgewinne (Zukunftsmacher-Studie 2025), in Einzelfällen bis zu 80 Prozent. Es gibt echte Best-Practice-Fälle – im Regelbetrieb, nicht im Labor.
Genauso überrascht hat mich die Kehrseite: wie wenige davon das sauber verbuchen. Beulco kann den ROI noch nicht beziffern. Der 1. FC Köln sagt, der Nutzen sei nicht immer monetär, aber spürbar. Reifenhäuser erhebt die Kennzahlen gerade erst. Der Nutzen ist da – die Messung hinkt hinterher. Und genau in dieser Lücke entscheidet sich, warum KI bei den einen Rendite bringt und bei den anderen Geld kostet. Woran das liegt, beantworten die drei Erkenntnisse.
Erstens: Reifegrad schlägt Budget
Seit 2017 untersuche ich in der Studienreihe Digitale Vorreiter führende Mittelständler – die Zukunftsmacher-Studie 2025 ist die fünfte Welle, kumuliert über 250 Tiefeninterviews. Der konsistenteste Befund über alle Wellen hinweg: Erfolgreiche Unternehmen investieren nicht mehr, sie investieren wirksamer.
In Zahlen: Die Experten in meiner Stichprobe lenken 33 Prozent ihres IT-Budgets in Digitalisierung und KI, die Fortgeschrittenen 31 Prozent. Praktisch dasselbe Geld. Aber bei den Experten stammen 41 Prozent der Wertschöpfung aus digitalen Produkten, Diensten und datenbasierten Geschäftsmodellen, bei den Fortgeschrittenen 20 Prozent. Rund 37 Prozent des Ertrags aus KI-Investitionen entstehen aus Fortschritten in der digitalen Reife – nicht aus der Höhe des eingesetzten Kapitals.
Wie sehr das gilt, zeigt Internorm, Europas größte Fenstermarke. Der KI-Budgetanteil liegt dort bei etwa 0,03 Prozent vom Umsatz. Nicht drei Prozent – null Komma null drei. Trotzdem erzielt das Unternehmen rund 30 Prozent Effizienzgewinn in der Content- und Videoproduktion, dazu Opportunity Scoring, Forecast- und Lageroptimierung. Der Grund liegt 30 Jahre zurück. Damals führte Internorm einen Produktkonfigurator ein, über den heute 1.300 Vertriebspartner europaweit vollständig digital bestellen. Dazu ein BI-System mit 130 Anwendungen als Datenbasis. Die KI-Transformation läuft seit sieben Jahren – nach eigener Aussage „realistisch, ohne Hype“, mit Human in the Loop als Prinzip. Die Reife war da. Die KI musste nur andocken. Bemerkenswert ist der Gegenbefund im selben Unternehmen: Der Versuch, Angebotsprozesse zu automatisieren, ist an fehlender Datenqualität gescheitert. Reife heißt nicht „überall reif“. Sie ist pro Prozess zu bewerten, nicht pro Unternehmen.
Zweitens: Ohne Datenfundament kein nachhaltiger Erfolg
83 Prozent der kleinen und mittleren Unternehmen haben keine umfassende Datenstrategie (KI-Studie Mittelstand 2025, N=455), 76 Prozent kämpfen mit unzureichender Datenqualität. Und nach Bitkom-Zahlen schöpfen 60 Prozent der Unternehmen das Potenzial ihrer Daten wenig oder gar nicht aus, nur sechs Prozent vollständig.
Gleichzeitig hat sich die KI-Nutzung binnen eines Jahres mehr als verdoppelt, von 17 auf 41 Prozent (Bitkom), während die Investitionen 2025 leicht zurückgingen (Horváth). Das heißt im Klartext: Immer mehr Nutzung trifft auf eine ungehobene Datenbasis – und auf zu knappe Budgets.
Deshalb lautet meine Empfehlung: Datenstrategie vor Plattformwahl. Wer nicht weiß, wie kritisch seine Daten sind, in welcher Regulierungsklasse er steht und wie tief die ERP-Integration reicht, kauft eine Architektur auf Verdacht.
Wie viel Datenreife es zum Start braucht, hängt vom Vorhaben ab. Für einen Wissensassistenten fast keine – ein Company-GPT auf wenigen, gut gewählten Quellen kann in 30 Tagen spürbare Erfolge bringen. Sobald eine KI aber in ein ERP hineinschreibt, brauchen Sie Stammdatenqualität, eine saubere Schnittstelle und definierte Ausnahmeregeln.
Wie weit das tragen kann, zeigt Domcura, Marktführer in der Gebäudeversicherung. Dort reguliert eine KI namens KIM Schadenfälle weitgehend autonom – von der Meldung über Chatbot oder Telefon bis zur Deckungsprüfung. Die Mitarbeitenden bleiben eingebunden und konzentrieren sich auf die anspruchsvollen Sachverhalte. Das ist der Unterschied zwischen Assistent und Agent: nicht eine Frage beantworten, sondern eine Prozesskette über mehrere Kanäle durchlaufen und dabei entscheiden.
Die Wirkung ist nicht mit einer Zeitersparnis belegt, sondern mit einem Marktergebnis: Rückstände wurden in Rekordzeit abgebaut, die Maklerzufriedenheit sprang in der AssCompact Maklerstudie auf Platz 1. Und aus dem internen Agenten ist inzwischen ein Geschäftsmodell geworden – mit „Schaden-as-a-Service“ stellt Domcura die Regulierung auch Dritten zur Verfügung. Das alles in einer regulierten Branche, mit dokumentierter AI-Act-Compliance. Wer sagt, Regulierung mache Agenten unmöglich, sollte sich diesen Fall ansehen.
Auch hier der ehrliche Teil, den das Unternehmen selbst benennt: Kommunikationsschleifen durch fehlerhafte KI-Interpretationen, etwa bei der Bilderkennung. Genau das passiert, wenn die Ausnahmeregeln nicht scharf genug sind – der Agent dreht Schleifen, statt an den Menschen zu übergeben.
Drittens: Wert entsteht durch Skalierung
Der Punkt, an dem 60 Prozent aller KI-Projekte scheitern, liegt bei reifen Unternehmen deutlich später (Gartner). Gescheitert wird selten an der Technik, sondern daran, dass der Sprung in den Regelbetrieb niemandem gehört und nirgends budgetiert ist. Im Pilot ist alles klein: ein Prozess, ein Team, eine Schnittstelle. Im Regelbetrieb vervielfachen sich Schulungen, Governance und Schnittstellen. Meine Faustregel: 10 bis 15 Prozent des laufenden KI-Budgets für das einplanen, was im Pilotbetrieb nicht sichtbar war.
Entscheidend ist nicht, wie viele Projekte laufen, sondern welcher Beitrag messbar ankommt. BCG hat das quantifiziert: Führende Unternehmen konzentrieren sich auf durchschnittlich 3,5 Anwendungsfälle statt 6,1 – und erwarten daraus 2,1-mal mehr ROI als ihre Wettbewerber (BCG AI Radar 2025).
Drees & Sommer zeigt, wie der Zustand jenseits der Pilotphase aussieht. Das Beratungs- und Planungsunternehmen hatte bereits im Februar 2023 seine erste KI-Strategie – Monate bevor viele Wettbewerber verstanden hatten, was ChatGPT ist. Heute laufen über 1.700 Use Cases auf der eigenen Plattform, mit über 3.000 aktiven Nutzern und Effizienzsteigerungen bis 80 Prozent. Die Fallstudie formuliert es so: Die Plattform ist zum Betriebssystem der Organisation geworden.
Getragen wird das nicht von einer Zentralabteilung, sondern von 40 Partnern bei 7.000 Mitarbeitenden. Und ein KI-Arbeitsraum amortisiert sich dort nach rund 60 Nutzungen – oft innerhalb weniger Tage.
Auch dieser Fall hat eine unbequeme Seite, die ihn glaubwürdig macht: Sie haben skaliert, bevor alles fertig war. KI-Richtlinien, AI-Act-Compliance und Entwicklungsstandards sind laut Fallstudie noch „in Arbeit“. Die Governance wächst parallel mit – sie stand nicht vorher.
Was das für KI im Mittelstand in den nächsten zwölf Monaten heißt
Wenn Sie morgen anfangen wollen, sind es drei Schritte.
- Den Standort bestimmen und im selben Zug die Ausgangswerte messen – Bearbeitungszeit, Fehlerquote, Kosten pro Vorgang. Ohne diese Zahlen können Sie später keinen Erfolg nachweisen – nicht umsonst erzielen laut BCG 70 Prozent der Unternehmen trotz Investitionen keinen messbaren Nutzen.
- Ein Problem auswählen, nicht ein Werkzeug: wenige Anwendungsfälle mit klarer Verantwortung und gemessenem Ausgangswert statt vieler paralleler Experimente.
- Governance in der Version 1.0, in 60 Tagen fertig – Schulung nach Artikel 4 des AI Acts, ein KI-Register, definierte Eskalationsregeln.
Das ist die eigentliche Botschaft hinter „Reifegrad schlägt Budget“: Wer Rendite aus KI will, investiert zuerst in Reife – in Daten, Prozesse und klare Zuständigkeiten. Das Budget folgt danach. Und dann wirkt es.
Die Studien zum Download: Die Zukunftsmacher 2025 – 55 Tiefeninterviews mit führenden Familienunternehmen und Hidden Champions und Der ROI-Kompass für KI im Mittelstand.
Zur Datenbasis: Die Zukunftsmacher-Studie 2025 (fünfte Welle, 55 qualitative Tiefeninterviews) ist eine eigene Untersuchungsreihe von mind digital. Die Befragung von 123 KI-affinen Mittelständlern zu KI-Agenten (nicht veröffentlicht) wurde gemeinsam mit Innofact für die Deutsche Telekom durchgeführt. Der ROI-Kompass für KI im Mittelstand verbindet beide mit rund 30 externen Quellen, darunter IDC, McKinsey, BCG, Bitkom und Horváth; er ist im Auftrag von Telekom MMS entstanden, Co-Autor ist Gunnar Sohn.
