Künstliche Intelligenz ist im deutschen Mittelstand angekommen. Die betriebswirtschaftliche Steuerung hinkt hinterher. 41 Prozent der Unternehmen ab 20 Beschäftigten nutzen KI inzwischen aktiv; ein Jahr zuvor waren es 17 Prozent. Gleichzeitig sank die Investitionsquote des Mittelstands von 0,41 auf 0,35 Prozent des Umsatzes. Und 95 Prozent der Organisationen können ihren KI-Erfolg nach den im neuen ROI-Kompass ausgewerteten Untersuchungen nicht belastbar belegen. Diese Zahlen stammen aus unterschiedlichen Studien und beschreiben verschiedene Grundgesamtheiten. Zusammengenommen zeigen sie einen Richtungswechsel: Nach der Phase der Versuche beginnt die Phase der Rechenschaft. Der „ROI-Kompass für KI im Mittelstand“ von Deutsche Telekom MMS und mind digital kommt deshalb zum richtigen Zeitpunkt. Die Publikation bündelt die langjährige Zukunftsmacher-Forschung mit mehr als 100 untersuchten Vorreitern, eine aktuelle Befragung von 123 Entscheidern aus kleinen und mittelgroßen Unternehmen, Praxisfälle der Telekom MMS sowie 32 externe Untersuchungen. Die Autoren versuchen daraus eine Frage zu beantworten, die in vielen Vorstandsrunden 2026 dringlicher geworden ist: Wie wird aus einer beeindruckenden Technologie ein Geschäft, das sich rechnet? Die vollständige Studie steht auf der Website der Telekom MMS kostenlos zum Download bereit. ROI-Kompass für KI im Mittelstand herunterladen
Nutzung steigt, Investitionen sinken
Die gegenläufige Entwicklung fällt zuerst ins Auge. Laut der im Kompass zitierten Bitkom-Erhebung stieg die aktive KI-Nutzung innerhalb eines Jahres von 17 auf 41 Prozent. Befragt wurden 604 Unternehmen ab 20 Beschäftigten. Weitere 48 Prozent planten oder diskutierten den Einsatz. Nur elf Prozent schlossen KI aus. Parallel dazu sank nach einer Horváth-Untersuchung unter 200 Mittelständlern ab 100 Millionen Euro Umsatz die KI-Investitionsquote von 0,41 auf 0,35 Prozent des Umsatzes. Der Gesamtmarkt erhöhte seine Quote im gleichen Zeitraum auf 0,50 Prozent. Der Mittelstand nutzt KI also häufiger und stellt gemessen am Umsatz weniger zusätzliches Kapital bereit.
Dafür nennt der Kompass mehrere Ursachen. Unternehmen kämpfen mit Kostendruck, ersten enttäuschenden Projekten, fehlenden Fachkenntnissen und Sorgen über Datenhoheit. 63 Prozent der kleinen und mittleren Unternehmen berichten in einer der herangezogenen Untersuchungen über Kostenüberschreitungen. Bei fortgeschritteneren Anwendern rückt fehlendes Fachwissen als Bremse weiter nach vorn.
Der Rückgang der Investitionsquote kann deshalb zweierlei bedeuten. Unternehmen prüfen Ausgaben inzwischen kritischer. Gleichzeitig droht ein Investitionsstau bei genau jenen Grundlagen, die wirtschaftliche Wirkung erst ermöglichen: Daten, Integration, Qualifizierung und Umbau von Abläufen.
37 Prozent lenken die Debatte weg vom Modell
Die interessanteste Zahl des Kompasses lautet 37 Prozent. Nach der Zukunftsmacher-Auswertung wird dieser Anteil des KI-Investitionsertrags Fortschritten im digitalen Reifegrad zugerechnet. Starter, Fortgeschrittene und Experten unterscheiden sich wirtschaftlich deutlich. Zwischen den beiden oberen Gruppen steigt der durchschnittliche Investitionsanteil nur von 31 auf 33 Prozent. Der durchschnittliche Monetarisierungsgrad digitaler Geschäftsmodelle springt zugleich von 20 auf 41 Prozent.
Der Befund verändert die Investitionslogik. Mehr Kapital allein löst das Problem kaum. Unternehmen brauchen die Fähigkeit, Kapital in funktionierende Datenbestände, veränderte Abläufe, gute Produkte und zusätzliche Erlöse zu übersetzen. Der Kompass zerlegt diese Fähigkeit in neun Aktionsfelder. Dazu gehören Strategie, Führung und Steuerung, Produkte und Dienstleistungen, Geschäftsprozesse, Beschäftigte sowie Daten und Technik. Das Modell betrachtet damit Technik als Teil einer unternehmerischen Architektur.
Gerade bei KI ist das notwendig. Ein Sprachmodell repariert keine ungeklärten Zuständigkeiten. Es beseitigt keine widersprüchlichen Datenbestände. Es löst auch keine Prozesse, deren einzelne Schritte historisch gewachsen sind und längst keinen klaren Zweck mehr erfüllen. Der ROI-Kompass beschreibt diese Fehleinschätzung offen: Unternehmen überschätzten in den vergangenen Jahren die Fähigkeit von Sprachmodellen, Defizite bei Daten, Abläufen und Verantwortung zu kompensieren.
Walter Jochmann stellt dazu die Machtfrage
Auf der Zukunft Personal Europe formulierte Professor Walter Jochmann von Kienbaum die Herausforderung aus Sicht der Unternehmensorganisation. Viele Personalabteilungen beschäftigten sich bei KI zuerst mit der Automatisierung ihrer eigenen Tätigkeiten. Der wirtschaftliche Hebel liege jedoch im gesamten Unternehmen: bei Produktivität, Fähigkeiten, Personalkosten, Geschäftsmodellen und der Verteilung von Aufgaben zwischen Menschen und KI.
Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von YouTube.
Mehr erfahren
Jochmann verlangt deshalb eine Personalfunktion, die Wertschöpfung versteht und Verantwortung für menschliche und organisatorische Leistungsfähigkeit übernimmt. Sein Modell verbindet Human Capability, wirtschaftlichen Wertbeitrag, eine stärker technisierte Organisationsform der Personalfunktion und messbare Leistung. Er nennt die künftige Rolle einen Wertschöpfungspartner.
Der ROI-Kompass liefert dazu den ökonomischen Unterbau. Wer KI ausschließlich als Technikprojekt führt, trennt genau jene Faktoren, deren Zusammenspiel die Rendite bestimmt. Datenqualität liegt bei der IT, Personalkompetenz bei HR, Prozesswissen im Fachbereich, Kostenrechnung bei Finance und das Geschäftsmodell bei der Unternehmensleitung. Irgendjemand muss daraus eine gemeinsame Investitionsentscheidung formen. Die organisatorische Frage lautet deshalb: Wer trägt Verantwortung für den Wertbeitrag?
95 Prozent haben ein Messproblem
Der ROI-Kompass berichtet, dass 95 Prozent der Organisationen ihren KI-Erfolg derzeit nicht belastbar nachweisen können. Die Ursache wird häufig in fehlenden Bewertungsmethoden gesehen. Auch andere ausgewertete Untersuchungen zeigen eine große Wirkungslücke: 70 Prozent der Unternehmen erzielen trotz Investitionen keinen messbaren Nutzen; 42 Prozent der Projekte erreichen den erwarteten Investitionsertrag nicht.
Das ist eine Managementkrise, keine Modellkrise.
Der Kompass schlägt sieben Bestandteile für eine Investitionsrechnung vor. Unternehmen sollen zuerst festlegen, ob sie Effizienz, höhere Leistungsfähigkeit oder Wachstum anstreben. Danach gehören sämtliche Kosten in die Rechnung: Lizenzen, Rechenleistung, Datenarbeit, Integration, Schulung und organisatorische Veränderung. Kosten je Vorgang, Risiken, Zeitrahmen und ein belastbarer Wirkungsnachweis im Regelbetrieb folgen. Danach wird quartalsweise entschieden, ob ein Vorhaben fortgeführt, verändert oder beendet wird.
Diese Konstruktion räumt mit einer verbreiteten Kostenillusion auf. Die eigentliche Modellnutzung kann preiswert sein. Laut einer Einordnung von Thomas Wächter von Telekom MMS verursacht eine ChatGPT-ähnliche Anwendung für tausend Beschäftigte modellseitig einige Hundert Euro im Monat. Offene Agentensysteme können dagegen ohne klare Grenzen fünfstellige monatliche Kosten erzeugen. Entscheidend sind deshalb Vollkosten und Wirkung. Wer lediglich Token zählt, rechnet am Unternehmen vorbei.
Der Pilot ist noch kein Geschäft
Eine weitere Qualität des ROI-Kompasses liegt in seiner Kritik am Machbarkeitsnachweis. Deutsche Unternehmen lieben Pilotprojekte. Sie sind begrenzt, politisch handhabbar und erzeugen Aktivität. Ihr wirtschaftlicher Nutzen bleibt oft offen. Matthias Kricke von Telekom MMS trennt deshalb zwischen dem technischen Beweis einer Idee und einem einsatzfähigen Mindestprodukt, das bereits Wert zeigen muss. Ein erfolgreicher Test mit Beispieldaten hilft wenig, sobald im Betrieb fünf oder sechs Datenquellen verbunden werden müssen und genau diese Verbindung fehlt.
Tino Mager empfiehlt einen Drei-Monats-Betrieb mit vorher festgelegten Kennzahlen. Zusätzlich sollten Unternehmen Budget für Schulung, organisatorische Anpassung und technische Probleme einkalkulieren. Erst unter realen Bedingungen zeigt sich, ob ein Anwendungsfall trägt. Der Unterschied wirkt banal und verändert dennoch die Steuerung. Ein Pilot fragt: Funktioniert die Technik? Ein Geschäftsvorhaben fragt: Verbessert sich eine Kennzahl, die für Kunden und Ergebnis relevant ist?
KI-Rendite entsteht in drei Etagen
Der Kompass ordnet wirtschaftliche Wirkung in drei Felder. Effizienz bildet häufig den Einstieg. Ein zweites Feld umfasst Qualität, Geschwindigkeit und Serviceniveau. Die dritte Ebene betrifft Wachstum durch neue Produkte, Dienstleistungen und Erlösmodelle. Als Orientierungswerte nennt die zusammengeführte Forschung 22 Prozent Produktivitätssteigerung, 20 Prozent Leistungsverbesserung und zehn Prozent Ergebniswirkung. Die Werte stammen aus unterschiedlichen Untersuchungszusammenhängen und taugen daher als Größenordnungen, nicht als allgemeine Renditeversprechen.
Die Praxisfälle zeigen den Unterschied anschaulicher als jede Prozentzahl. Drees & Sommer erstellt Angebote und Präsentationen in Stunden statt Tagen. MIWE verarbeitet mit zwei digitalen Assistenten täglich mehr als drei Millionen SAP-Datensätze und leitet daraus mehr als tausend Handlungsempfehlungen ab. Domcura hat eine interne KI-gestützte Schadenbearbeitung zu einem Angebot für Dritte entwickelt. Miele, Testo und Reifenhäuser bauen KI in Produkte ein und schaffen damit Möglichkeiten für zusätzliche Dienstleistungen und wiederkehrende Erlöse.
Diese Beispiele stützen Jochmanns Argument. Der wirtschaftliche Wert von KI entsteht nur begrenzt durch eine billigere Verwaltung. Er wächst dort, wo Produkte, Produktion, Vertrieb, Service und Geschäftsmodelle betroffen sind.
Servicegeschwindigkeit gehört in die Rechnung
Einen besonders guten Abschnitt widmet der Kompass der Servicequalität. Ein KI-Agent kann eine hochwertige Antwort auf eine Kundenanfrage in wenigen Minuten erstellen. Der Wettbewerber antwortet zwei Tage später vielleicht fachlich noch genauer. Der Kunde hat seine Entscheidung inzwischen getroffen. Geschwindigkeit wirkt dann auf Abschlussquote und Umsatz. Eine klassische Kostenrechnung sieht diesen Effekt häufig erst spät. Sie kann eingesparte Stunden exakt erfassen und unterschätzt zugleich den Wert einer früheren Antwort. Der Kompass fordert deshalb, Servicequalität und Reaktionszeit als eigene Leistungskennzahlen aufzunehmen.
Diese Erweiterung ist wichtig. KI verändert Prozesse häufig zuerst zeitlich. Eine Anfrage kommt früher zum richtigen Mitarbeiter, ein Angebot liegt früher beim Kunden, eine Störung wird früher erkannt. Der wirtschaftliche Nutzen dieser Zeitvorteile zeigt sich in anderen Kennzahlen als den eingesparten Arbeitsstunden.
Vor der Plattform steht eine ziemlich unmoderne Aufgabe: Daten aufräumen
83 Prozent der kleinen und mittleren Unternehmen verfügen laut einer im Kompass ausgewerteten Untersuchung über keine umfassende Datenstrategie. 76 Prozent kämpfen mit unzureichender Datenqualität. Diese Zahlen erklären wahrscheinlich mehr gescheiterte KI-Projekte als viele Debatten über das jeweils beste Modell. Wer seine Produktions-, Kunden- und Prozessdaten nicht kennt, besitzt auch keine belastbare Grundlage für Agenten. Der Kompass empfiehlt deshalb eine klare Reihenfolge: Datenbestand erfassen, Schutzbedarf klassifizieren, Architektur ableiten und Datenqualität fortlaufend prüfen. Die Plattform folgt danach.
Der RENOLIT-Fall illustriert diese Arbeit. Das Unternehmen begann mit einer Datenstrategie und vereinheitlichte über mehrere Jahre Datenstrukturen aus unterschiedlichen Produktionsstandorten. Heute bildet eine gemeinsame Plattform die Grundlage für weitere datengetriebene und KI-gestützte Verfahren. Vier Jahre an Datenstrukturen zu arbeiten klingt weniger spektakulär als die Einführung eines neuen Agenten. Für die Rendite kann genau diese Arbeit ausschlaggebend sein.
Kompetenz wird Teil der Investitionsrechnung
Der ROI-Kompass behandelt die menschliche Seite erfreulich weit vorne in der ökonomischen Argumentation. 79 Prozent der deutschen Unternehmen fehlen nach einer ausgewerteten Untersuchung die benötigten KI-Kompetenzen. 86 Prozent sehen ungenutztes Potenzial. Gleichzeitig nutzen viele Beschäftigte bereits Systeme, obwohl Unternehmen noch keine tragfähigen Regeln und Lernangebote aufgebaut haben.
In den Zukunftsmacher-Interviews nennen Unternehmen fehlende Ressourcen mit 46 Prozent und Kompetenzmangel mit 31 Prozent als zentrale Engpässe. Nur 21 Prozent der kleinen und mittleren Unternehmen haben strukturierte KI-Schulungen eingeführt; 28 Prozent verfügen über eine systematische Begleitung der organisatorischen Veränderung. Genau hier trifft sich der Kompass mit Jochmann.
Eine Organisation kann eine hervorragende Technologie besitzen und wirtschaftlich wenig daraus machen. Menschen müssen Prozesse verstehen, Fehler erkennen, Arbeitsweisen verändern und ihr Wissen weitergeben. Diese Fähigkeiten gehören in den Investitionsplan, weil ihr Fehlen den Ertrag begrenzt. Damit bekommt Personalentwicklung eine betriebswirtschaftliche Funktion. Ihre Qualität zeigt sich nicht an absolvierten Kursen. Sie zeigt sich daran, ob Beschäftigte mit KI bessere Entscheidungen treffen, Prozesse neu gestalten und wirtschaftliche Wirkung erzeugen.
Der Kompass verlangt sorgfältiges Lesen seiner Prozentzahlen
Als Studie besitzt der ROI-Kompass eine Besonderheit, die Leser kennen sollten. Er verbindet unterschiedliche Forschungsquellen. Die 41 Prozent aktive KI-Nutzung stammen aus einer Bitkom-Befragung. Die sinkende Investitionsquote stammt aus einer Horváth-Untersuchung. Die 37 Prozent zum Reifegrad werden aus der Zukunftsmacher-Forschung abgeleitet. Die Aussage über die fehlende Erfolgsmessung greift wiederum andere internationale Untersuchungen auf. Diese Zahlen gehören deshalb nicht in eine gemeinsame statistische Grundgesamtheit.
Die Publikation weist ihre Quellen im Anhang ausführlich aus. Neben 55 qualitativen Tiefeninterviews der Zukunftsmacher-Studie fließen 123 Entscheider aus der Telekom AI Agent-Studie, Telekom-MMS-Praxisprojekte und 32 externe Untersuchungen ein. Der ROI-Kompass ist deshalb am besten als evidenzgestützte Managementsynthese zu lesen. Er liefert keinen einzelnen repräsentativen Datensatz über den gesamten deutschen Mittelstand. Sein Wert entsteht durch das Zusammenführen von Marktindikatoren, Praxisbeobachtungen und konkreten Verfahren zur Investitionssteuerung. Gerade diese Offenheit erhöht seinen Gebrauchswert. Wer eine Zahl verwendet, kann im Quellenverzeichnis nachsehen, aus welcher Untersuchung und welcher Grundgesamtheit sie stammt.
Jochmann liefert die institutionelle Konsequenz
Der ROI-Kompass beantwortet ausführlich, wie Unternehmen KI wirtschaftlich beurteilen können. Walter Jochmann ergänzt die Frage, wer diese Arbeit organisatorisch zusammenhält. Auf der Zukunft Personal forderte er eine unternehmerische Personal- und Organisationsfunktion, die Fähigkeiten, Führung, Arbeitsorganisation und wirtschaftlichen Wertbeitrag zusammenführt. Sein Ansatz geht über die Automatisierung von HR-Prozessen hinaus. Personalmanagement soll die Veränderung des gesamten Unternehmens begleiten und sich an messbarer Wertschöpfung orientieren.
Der ROI-Kompass zeigt, weshalb diese Forderung wirtschaftlich relevant wird. Reife entsteht an den Übergängen zwischen Geschäft, Daten, Technik, Organisation und Menschen. Eine klassische Abteilungslogik verteilt genau diese Faktoren auf verschiedene Verantwortliche. KI zwingt Unternehmen deshalb zu einer neuen Führungsfrage: Wer besitzt die Gesamtverantwortung für den wirtschaftlichen Nutzen eines Anwendungsfalls? Der Technikchef kennt das System. Finance kennt die Rechnung. Der Fachbereich kennt den Prozess. HR kennt Fähigkeiten und Organisationsfragen. Ein belastbarer Geschäftsnutzen braucht diese Perspektiven in einer gemeinsamen Steuerung.
KI-Rendite ist Organisationsrendite
Der ROI-Kompass dokumentiert den Übergang in eine neue Phase der KI-Wirtschaft. Die Nutzung wächst rasant. Das Geld wird vorsichtiger. Die Frage nach dem messbaren Ertrag wird härter. Die wichtigsten Kennzahlen erzählen deshalb keine Technologiegeschichte. Sie erzählen eine Organisationsgeschichte. 41 Prozent aktive Nutzung zeigen die Verbreitung. 95 Prozent ohne belastbaren Erfolgsnachweis zeigen die Steuerungslücke. Die 37 Prozent Reifegradbeitrag lenken den Blick auf Fähigkeiten, Daten und Prozesse.
Die Managementfrage lautet jetzt: Welcher Geschäftsprozess soll sich verändern? Welche Ausgangsgröße kennen wir? Welche Daten braucht der Prozess? Welche Kosten entstehen vollständig? Wer besitzt die fachliche Verantwortung? Welche Fähigkeiten fehlen? Und nach welchem Zeitraum entscheidet die Geschäftsführung über Ausbau oder Abbruch? Wer diese Fragen beantworten kann, braucht weniger KI-Theater. Er kann investieren. Der ROI-Kompass bietet dafür eine brauchbare Landkarte. Walter Jochmann liefert die passende Organisationsfrage: Wer übernimmt die Verantwortung dafür, dass Menschen, Prozesse und Technologie gemeinsam Wert erzeugen? Die kostenlose Studie steht bei Telekom MMS bereit. ROI-Kompass für KI im Mittelstand – Studie herunterladen.
