KI im Unternehmen: Wo Du wirklich anfängst (ohne Geld zu verbrennen)
Du willst KI einführen, erste Schritte sind aber unklar? Die drei häufigsten Irrwege, ein Weg in fünf Schritten und ehrliche Zahlen zu Kosten, Dauer und dem, was am Ende herauskommt.
"Ich weiß nicht, wo ich anfangen soll" — damit bist Du in guter Gesellschaft
Du hast ChatGPT privat ausprobiert, es hat Dich beeindruckt, und seitdem liegt der Gedanke im Hinterkopf: Da müsste doch bei uns auch etwas gehen. Nur was? Und wer soll das machen? Und was, wenn 15.000 Euro weg sind und nichts passiert ist?
Die Zahlen sagen: Diese Lähmung ist der Normalzustand. Laut Statistik Austria haben 77 % der österreichischen Unternehmen, die keine KI nutzen, das Thema noch gar nicht in Erwägung gezogen. Nur 23 % haben es sich angesehen und dann bewusst abgewunken. In Deutschland sagt laut Bundesnetzagentur ein Drittel aller Betriebe, es gebe im eigenen Unternehmen grundsätzlich keine Anwendungsmöglichkeit für KI.
Gleichzeitig ist der Abstand nach oben stabil messbar: In Deutschland nutzen 57 % der Unternehmen ab 250 Beschäftigten KI, aber nur 23 % der Betriebe mit 10 bis 49 (Destatis, 2025). In Österreich lag das Verhältnis 2024 bei 50 % zu 17,8 %. Faktor 2 bis 3, quellenübergreifend — das ist die belastbarste Aussage der gesamten Datenlage. Der Unterschied liegt nicht in besserer Technik, sondern darin, dass große Häuser jemanden haben, der sich hinsetzt und einen Prozess auseinandernimmt.
Genau das machen wir hier. Als roter Faden dient ein Beispielbetrieb: technischer Fachhandel, 25 Mitarbeitende, 8 davon im Innendienst, Standort Niederösterreich. Ich nenne ihn hier "Berger". Der Betrieb ist erfunden, die Rechenwege sind es nicht.
Die drei Irrwege, die Zeit und Vertrauen kosten
Irrweg 1: Lizenzen für alle verteilen
Der Klassiker. Der Chef liest einen Artikel, kauft 25 Zugänge, schickt eine Mail an alle ("ab sofort verfügbar, viel Spaß") und wartet auf den Produktivitätssprung. Drei Monate später nutzen es vier Leute, zwei davon für Urlaubsanträge.
Die Datenlage dazu ist eindeutig: Laut Bundesnetzagentur bieten 57 % der Unternehmen, die KI nutzen oder planen, keinerlei Kompetenzmaßnahmen an. Bei kleinen Betrieben, die für alle Betroffenen schulen, sind es nur 17 %, bei mittleren 14 % — bei Großunternehmen rund ein Drittel. Das Ergebnis: Ein Drittel der KI-nutzenden Betriebe sagt, die meisten oder fast alle Mitarbeitenden hätten noch Schwierigkeiten mit den Anwendungen. Nur 16 % sagen, ihr Team schöpfe die Möglichkeiten aus.
Ein Werkzeug ohne Anlass und ohne Anleitung ist kein Werkzeug, sondern ein Abo. Welche Werkzeuge für KMU überhaupt in Frage kommen, steht in Die besten KI-Agenten für KMU 2026 — die Auswahl kommt aber erst, nachdem Du weißt, wofür.
Irrweg 2: Mit dem größten Projekt starten
"Wenn wir das machen, dann richtig" klingt nach Entschlossenheit und endet meist im Sand. Die Abbruchgründe sind gut dokumentiert: Bei Betrieben, die KI erprobt und wieder eingestellt haben, waren die Hauptgründe Zeitmangel (59 %), das Nichterreichen der Ziele (58 %) und fehlende Fachkräfte (50 %). Technische Ausstattung war es nur bei 5 %.
Übersetzt: Projekte scheitern nicht an der Technik, sondern daran, dass der Alltag dazwischenkommt. Ein Vorhaben, das sechs Monate braucht, bevor irgendjemand etwas merkt, überlebt in einem 25-Personen-Betrieb keine Grippewelle und keine Inventur. Wie ein Stufenplan in kleinen Schritten aussieht, steht in KI im Mittelstand 2026.
Irrweg 3: Auf den perfekten Zeitpunkt warten
"Wenn die Datenlage besser ist." "Wenn der EU AI Act durch ist." "Wenn das ERP-Projekt fertig ist." Diese Sätze sind vernünftig und trotzdem falsch, weil der Einstiegspunkt heute so niedrig liegt wie nie.
Schau, was Betriebe tatsächlich tun: In Österreich nutzen 65 % der KI-Anwender Texterkennung und -verarbeitung, 41 % Sprachgenerierung, Datenanalyse liegt bei 34 % (Statistik Austria, Erhebungsjahr 2024). Im deutschen Mittelstand nutzen 14 % aller Betriebe Technologien zur Erzeugung natürlicher Sprache, aber nur 3 % Data Analytics (KfW Research, Daten 2022–2024). Selbst bei Unternehmen unter fünf Beschäftigten liegt die Sprachgenerierung bei 13 %. Der reale Einstieg ist Text, nicht Datenwissenschaft. Dafür brauchst Du weder ein sauberes Data Warehouse noch ein fertiges ERP.
Der Weg, der funktioniert: fünf Schritte
Schritt 1: Zwei Wochen messen, statt Ideen sammeln
Widerstehe dem Impuls, eine Ideenliste zu schreiben. Ideenlisten gibt es genug — was fehlt, ist ein Ausgangswert.
Gib den Leuten, deren Arbeit Du verstehen willst, für zwei Wochen ein simples Blatt: Tätigkeit, Startzeit, Endzeit, wie oft am Tag. Kein Werkzeug, keine Software, ein Ausdruck reicht. Bei Berger kam nach zwei Wochen heraus (eigene Kalkulation für den erfundenen Beispielbetrieb):
| Tätigkeit im Innendienst | Häufigkeit | Zeit pro Vorgang | Zeit pro Woche |
|---|---|---|---|
| Angebot aus Anfrage erstellen | 12 / Woche | 55 Min | 11,0 Std |
| Standardanfragen per Mail beantworten | 40 / Woche | 8 Min | 5,3 Std |
| Lieferanten-Rückfragen | 15 / Woche | 12 Min | 3,0 Std |
| Reklamationen dokumentieren | 6 / Woche | 25 Min | 2,5 Std |
Das ist die wichtigste Tabelle im ganzen Prozess. Ohne sie kannst Du später nicht beweisen, dass sich etwas verändert hat — und laut Bitkom messen nur 52 % der KI-nutzenden Unternehmen überhaupt den Beitrag von KI zum Unternehmenserfolg. Die anderen 48 % diskutieren Gefühle.
Schritt 2: Einen Prozess auswählen — nach fünf Kriterien
Aus der Liste wählst Du genau einen Vorgang. Nicht drei. Fünf Fragen entscheiden:
| Kriterium | Frage | Gut geeignet, wenn |
|---|---|---|
| Häufigkeit | Wie oft pro Woche? | mindestens 5× |
| Textanteil | Besteht der Vorgang aus Lesen und Schreiben? | überwiegend ja |
| Fehlertoleranz | Was passiert bei einem Fehler? | ein Mensch sieht es vorher |
| Verantwortung | Wer im Haus besitzt den Prozess? | eine benennbare Person |
| Messbarkeit | Habe ich einen Ausgangswert aus Schritt 1? | ja |
Berger entscheidet sich für die Angebotserstellung: 11 Stunden pro Woche, überwiegend Text, jedes Angebot wird ohnehin vor dem Versand gegengelesen, der Innendienstleiter ist zuständig, der Ausgangswert liegt vor. Die Reklamationsdokumentation wäre auch spannend gewesen, hat aber nur 2,5 Stunden Volumen — zu wenig, um etwas sichtbar zu machen.
Schritt 3: Die Regeln vor das Werkzeug
Bevor der erste Zugang eingerichtet wird, schreibst Du eine Seite. Wirklich nur eine:
- Was nie in ein Werkzeug darf: Personaldaten, Gesundheitsdaten, Kundendaten mit Namen, Preiskalkulationen, Verträge — konkret aufzählen, nicht abstrakt.
- Welche Werkzeuge freigegeben sind: namentlich, mit Tarif. Alles andere ist nicht freigegeben.
- Wer neue Werkzeuge freigibt: eine Person, eine Mailadresse.
- Die Vier-Augen-Regel: Kein Ergebnis geht ohne menschliche Prüfung nach außen.
- Wo Fehler gemeldet werden: damit der zweite nicht denselben macht.
Das ist kein Bürokratie-Selbstzweck. Rechtsunsicherheit ist laut Bundesnetzagentur mit 54 % das drittgrößte Hemmnis; bei Bitkom liegt sie mit 53 % gleichauf mit fehlendem technischem Know-how an der Spitze der KI-spezifischen Hürden. Die Unsicherheit sitzt bei den Mitarbeitenden genauso wie bei Dir. Eine Seite klare Regeln nimmt beiden die Bremse. Was passiert, wenn diese Seite fehlt, steht in Shadow AI im Unternehmen.
Schritt 4: Vier Wochen Pilot mit Abbruchkriterium
Vier Personen, vier Wochen, ein Prozess. Definiere vorher, wann Du abbrichst — zum Beispiel: "Wenn die Bearbeitungszeit pro Angebot nach vier Wochen nicht unter 45 Minuten liegt, stoppen wir." Ein Pilot ohne Abbruchkriterium wird nie beendet, sondern nur irgendwann vergessen.
Woche 1 ist Lernen und wird schlechter, nicht besser. Das IW stellt in seinem Gutachten für die DIHK ausdrücklich fest, dass neue Technologien erst zeitverzögert wertschöpfend wirken, weil Beschäftigte den zielführenden Umgang erst erlernen müssen — zunächst geht Zeit für wertschöpfende Arbeit verloren. Wenn Du das vorher ansagst, ist der Einbruch in Woche 1 kein Argument gegen das Projekt.
Schritt 5: Nachrechnen — und erst dann ausweiten
Nach vier Wochen legst Du die alte Tabelle neben die neue. Bei Berger sieht die Rechnung so aus (eigene Kalkulation, Zahlen aus dem erfundenen Beispielbetrieb, keine erhobenen Daten):
- Vorher: 12 Angebote × 55 Min = 11,0 Std/Woche
- Nachher: 12 Angebote × 38 Min = 7,6 Std/Woche
- Ersparnis: 3,4 Std/Woche × 4,3 Wochen = rund 14,6 Std/Monat
- Bewertet mit 55 €/Std Vollkosten (eigene Annahme): 14,6 × 55 € = rund 800 €/Monat
- Abzüglich 8 Lizenzen × 25 €/Monat = 200 € → rund 600 €/Monat netto
Das ist kein spektakuläres Ergebnis. Es ist ein ehrliches. 600 Euro im Monat sind 7.200 im Jahr, und vor allem: Du hast jetzt einen belegten Wert, mit dem Du den nächsten Schritt begründen kannst — gegenüber Dir selbst, dem Steuerberater und dem Team.
Erst ab hier lohnt sich die Frage, ob aus dem Werkzeug ein digitaler Mitarbeiter wird: also etwas, das den Vorgang selbst anstößt, aus dem Warenwirtschaftssystem liest und den Entwurf fertig vorlegt, statt darauf zu warten, dass ihn jemand hineinkopiert. Den Unterschied erklärt KI-Agenten für KMU in der Praxis, typische automatisierbare Abläufe zeigt KI-Automatisierung von KMU-Prozessen.
Was das realistisch kostet und wie lange es dauert
Die folgende Aufstellung ist eine eigene Kalkulation für den Beispielbetrieb, keine Marktstatistik:
| Posten | Aufwand | Anmerkung |
|---|---|---|
| Zeitfresser-Protokoll (2 Wochen) | 0 € + ca. 3 Std | Papier reicht |
| Nutzungsregeln (1 Seite) | 0 € + ca. 2 Std | einmalig |
| Werkzeug-Lizenzen, 8 Personen | 160–240 €/Monat | 20–30 € je Person |
| Einschulung, 2 Termine à 90 Min | intern: 12 Personenstunden | extern: 1 Tagessatz |
| Pilotbegleitung, 4 Wochen | ca. 8 Std Deine Zeit | wöchentlich 2 Std |
| Summe erste 8 Wochen | unter 1.000 € direkt | Hauptkosten sind Stunden |
Zum Vergleich, damit Du weißt, wo Du stehst: Laut Bundesnetzagentur investieren KI-nutzende Unternehmen im Schnitt rund 2 % ihres Nettoumsatzes in KI — und knapp die Hälfte von ihnen hat im letzten Geschäftsjahr gar nichts investiert, weil sie kostenlose oder bereits vorhandene Werkzeuge nutzt. Gleichzeitig sagt ein Drittel der Bitkom-Befragten 2026, KI sei deutlich teurer geworden als erwartet. Beides ist wahr: Der Einstieg ist billig, das Skalieren nicht. Genau deshalb misst Du zuerst.
Ehrlich bleiben muss man auch beim erwartbaren Effekt. Belastbare Makrozahlen zum Produktivitätsgewinn gibt es nicht: Das IW-Gutachten für die DIHK projiziert 0,9 % Produktivitätswachstum pro Jahr für 2025 bis 2030 und formuliert ausdrücklich, dass es kein Produktivitätswunder erwartet. KfW Research fasst die Studienlage mit einer Bandbreite von 0,05 bis 2,8 Prozentpunkten pro Jahr zusammen — eine Spanne um den Faktor 56. Wer Dir eine Prozentzahl für Deinen Betrieb nennt, bevor er ihn gesehen hat, rät.
Checkliste: Bist Du auf dem richtigen Weg?
- [ ] Ich kann den Prozess benennen, mit dem wir anfangen — in einem Satz.
- [ ] Ich habe einen gemessenen Ausgangswert, keine Schätzung.
- [ ] Eine benannte Person ist für den Prozess verantwortlich.
- [ ] Die Nutzungsregeln passen auf eine Seite und sind verteilt.
- [ ] Es gibt ein Datum, an dem wir auswerten, und ein Abbruchkriterium.
- [ ] Das Team weiß, dass Woche 1 langsamer wird — und warum.
- [ ] Nichts davon hängt an einem Projekt, das erst nächstes Jahr fertig wird.
Wenn Du sechs von sieben Haken setzen kannst, brauchst Du keinen Berater, sondern einen Termin im Kalender. Wenn Du beim ersten Punkt hängst, fang bei Schritt 1 an — zwei Wochen Papier kosten Dich nichts.
Für den größeren Überblick über Ebenen, Anwendungsfälle und Regulierung ist der Leitfaden KI für Unternehmen der richtige nächste Text. Für die Kostenseite im Detail: Was KI-Automatisierung kostet.
Wie es weitergeht
Steht Dein erster Prozess fest, geht es an die Auswahl: Welcher Prozess sich zuerst rechnet beschreibt die drei Zahlen, an denen Du das festmachst. Und ob Du dafür ein fertiges Werkzeug kaufst oder etwas bauen lässt, klärt der Vergleich zwischen KI-Tools und digitalen Mitarbeitern.
Stand und Quellen
Stand: 6. August 2026. Alle externen Zahlen stammen aus den folgenden Primärquellen. Marktzahlen zur KI-Verbreitung streuen je nach Erhebung stark (Stichprobe, Größenschwelle, KI-Definition); die Werte sind deshalb jeweils mit Quelle und Erhebungsjahr genannt. Die Rechenbeispiele zum Beispielbetrieb sind eigene Kalkulationen mit offengelegtem Rechenweg und keine erhobenen Daten.
- Statistik Austria, IKT-Einsatz in Unternehmen 2025 (KI-Nutzung 30 %, 77 % haben KI nie erwogen, Gründe gegen KI): https://www.statistik.at/fileadmin/announcement/2026/06/20260624IKTU2025.pdf
- Statistik Austria, IKT-Einsatz in Unternehmen 2024 (Größenklassen 17,8 % / 29,1 % / 50,0 %, Anwendungsfälle): https://www.statistik.at/fileadmin/announcement/2024/10/20241016IKTU2024.pdf
- BMWET / KMU Forschung Austria, KMU-Fokus 2025 (29 % der österreichischen KMU nutzen KI): https://www.bmwet.gv.at/dam/jcr:a69785e9-6b33-4b65-ba70-c34c37c58dc3/KMU-FOKUS_2025_barrierefrei%2016032026.pdf
- Destatis, KI-Einsatz in Unternehmen 2025 (26 % gesamt; 23 % bei 10–49, 57 % bei 250+): https://www.destatis.de/DE/Themen/Branchen-Unternehmen/Unternehmen/IKT-in-Unternehmen-IKT-Branche/Tabellen/ikti-unternehmen-kuenstliche-intelligenz.html
- Bundesnetzagentur, KI-Umfrage (n=808, Erhebung 10–12/2024, veröffentlicht 07/2025): Hemmnisse, Abbruchgründe, Qualifizierung, Investitionen, Umsetzungsmodus: https://data.bundesnetzagentur.de/Bundesnetzagentur/SharedDocs/Mediathek/Berichte/2025/250703_KI_Umfrage_Bericht.pdf
- KfW Research, Fokus Volkswirtschaft Nr. 554, Juli 2026 (KI im Mittelstand, Technologieverteilung, Studienbandbreite Produktivität): https://www.kfw.de/PDF/Download-Center/Konzernthemen/Research/PDF-Dokumente-Fokus-Volkswirtschaft/Fokus-2026/Fokus-Nr.-554-Juli-2026-KI_Mittelstand.pdf
- Bitkom, Presseinformation zur Digitalisierung der Wirtschaft (Erhebung KW 2–6 2026, n=604 ab 20 Beschäftigten): nur 52 % messen, 33 % höhere Kosten als erwartet: https://www.bitkom.org/Presse/Presseinformation/Digitalisierung-der-Wirtschaft-Unternehmen-beschaeftigen-sich-mit-KI
- Bitkom, Presseinformation "Durchbruch Künstliche Intelligenz" (KI-spezifische Hemmnisse 2025: Rechtsunsicherheit 53 %, technisches Know-how 53 %): https://www.bitkom.org/Presse/Presseinformation/Durchbruch-Kuenstliche-Intelligenz
- IW-Gutachten für den Gemeinschaftsausschuss der Deutschen Gewerblichen Wirtschaft im Auftrag u. a. der DIHK (Produktivitätsprojektion, Zeitverzögerung der Wirkung): https://www.dihk.de/resource/blob/129924/ecb7a759faf5983048c0e66b3fd0b05c/iw-gutachten-zu-ki-und-produktivitaet-data.pdf
Häufige Fragen
Womit sollte ich mit KI im Unternehmen anfangen?
Fang mit genau einem Prozess an, den Du vorher zwei Wochen lang gemessen hast. Geeignet ist ein Ablauf, der mindestens fünfmal pro Woche vorkommt, überwiegend aus Text besteht, einen klaren Verantwortlichen hat und bei dem ein Fehler nicht sofort teuer wird. Typische Kandidaten sind Angebotsentwürfe, Antworten auf wiederkehrende Anfragen, Protokolle und Ausschreibungsunterlagen. Alles andere hebst Du für später auf.
Was kostet der Einstieg in KI für einen Betrieb mit 25 Mitarbeitenden realistisch?
In den ersten drei Monaten meist unter 1.000 Euro an direkten Werkzeugkosten, wenn Du mit fünf bis zehn Lizenzen für ein Sprachwerkzeug startest — gerechnet mit 20 bis 30 Euro pro Person und Monat, das ist eine eigene Annahme und kein Marktdurchschnitt. Der größere Posten ist Deine eigene Zeit: rund 20 bis 30 Stunden für Messung, Regeln, Schulung und Auswertung. Laut Bundesnetzagentur hat knapp die Hälfte der Unternehmen, die KI einsetzen, im letzten Geschäftsjahr gar nicht in KI investiert.
Wie lange dauert es, bis KI im Betrieb etwas bringt?
Rechne mit zwei Wochen Messung, vier Wochen Pilot und zwei Wochen Auswertung — also rund zwei Monate bis zur ersten belastbaren Zahl. Dass es nicht sofort wirkt, ist normal: Das IW stellt fest, dass neue Technologien erst zeitverzögert wertschöpfend werden, weil Beschäftigte den zielführenden Umgang erst erlernen müssen. In der Anfangsphase geht Zeit sogar verloren.
Brauche ich für den KI-Einstieg eine eigene IT-Abteilung?
Nein. Laut Bundesnetzagentur haben zwei Drittel der Unternehmen ihre KI-Anwendungen mehrheitlich oder fast vollständig selbst umgesetzt, und Kleinst- und Kleinunternehmen tun das sogar etwas häufiger als große. Entscheidend ist laut KfW Research weniger die Unternehmensgröße als der Digitalisierungsgrad und die Frage, ob jemand im Haus die praxistauglichen Anwendungsfälle erkennt. Externe Hilfe brauchst Du erst, wenn Du an eigene Systeme andockst.
Was mache ich, wenn Mitarbeitende schon privat ChatGPT für die Arbeit nutzen?
Das ist der Normalfall und ein Grund, schnell Regeln zu schreiben statt zu verbieten. Eine Seite reicht: welche Daten nie in ein Werkzeug gehören, welche Werkzeuge freigegeben sind, wer neue freigibt und dass jedes Ergebnis vor dem Versand geprüft wird. Ein Verbot verlagert die Nutzung nur auf private Zugänge, über die Du keine Kontrolle hast.