Künstliche Intelligenz (KI) bietet Unternehmen enorme Chancen – von effizienteren Abläufen über datenbasierte Entscheidungsprozesse bis hin zu neuen Geschäftsmodellen. Doch um das Potenzial voll auszuschöpfen, braucht es nicht nur smarte Algorithmen, sondern unter den Mitarbeitenden entsprechende KI-Kompetenzen.
Mit dem EU AI Act trat im Februar 2025 das weltweit erste umfassende KI-Gesetz in Kraft. Es setzt neue Standards für den verantwortungsvollen Einsatz von KI und bringt klare Verpflichtungen für Unternehmen mit sich.
Welche Herausforderungen erwarten KMU? Und wie lassen sich KI-Kompetenzen gezielt aufbauen? In diesem Artikel erfahren Sie, worauf es jetzt ankommt.
Inhaltsverzeichnis:
Rechtliche Rahmenbedingungen: Was ist die EU-KI-Verordnung?
Das müssen Unternehmen beachten
Risikoklassifizierung von KI-Systemen
KI-Richtlinie für Unternehmen: Pflichten und Schulungsthemen
So setzen Sie die KI-Richtlinie in Ihrem Unternehmen um
Fazit: KI als Schlüsselkompetenz der Zukunft
Rechtliche Rahmenbedingungen: Was ist die EU-KI-Verordnung?
Mit dem EU AI Act (EU-KI-Verordnung) schafft die Europäische Union erstmals ein umfassendes Regelwerk für den verantwortungsvollen Einsatz von Künstlicher Intelligenz. Die Verordnung enthält klare Pflichten für die Entwicklung, Nutzung und den Vertrieb von KI-Systemen. Dadurch sollen Risiken minimiert, Transparenz erhöht und eine menschenzentrierte KI gewährleistet werden. Das Gesetz gilt nicht nur für Unternehmen innerhalb der EU, sondern auch für internationale Firmen, sofern ihre KI-Anwendungen in Europa genutzt werden.
Die Verordnung wird schrittweise umgesetzt:
-
1. August 2024: Der EU AI Act tritt offiziell in Kraft.
-
2. Februar 2025: Erste verpflichtende Regelungen gelten insbesondere zu verbotenen KI-Praktiken.
-
2. August 2025: Nationale Aufsichtsbehörden müssen eingerichtet sein.
-
Ab 8. August 2025: Regelungen für KI-Modelle mit allgemeinem Verwendungszweck sowie Bußgeldvorschriften werden wirksam. Unternehmen müssen die Funktionsweise ihrer KI-Systeme dokumentieren und Transparenzberichte erstellen.
-
August 2026 und August 2027: Weitere Teile der Verordnung treten in Kraft.
In Deutschland wird voraussichtlich die Bundesnetzagentur die Einhaltung der Verordnung beaufsichtigen. Die genaue Ausgestaltung hängt von den Verhandlungen der neuen Bundesregierung ab.
Das müssen Unternehmen beachten
Die EU-KI-Verordnung stellt Unternehmen vor neue regulatorische Anforderungen: Wer KI-Systeme entwickelt, vertreibt oder nutzt, muss sicherstellen, dass die Mitarbeitenden über grundlegende KI-Kenntnisse verfügen. Ein fehlender Aufbau von KI-Kompetenzen führt zwar nicht direkt zu Bußgeldern, kann aber Haftungsrisiken nach sich ziehen. Entstehen Schäden durch unzureichend geschulte Mitarbeitende, können Unternehmen dafür zur Verantwortung gezogen werden. Ob Ihr Unternehmen von der KI-Verordnung betroffen ist, hängt davon ab, wie künstliche Intelligenz eingesetzt wird. Der EU AI Act Compliance Checker unterstützt Sie dabei, die eigenen Verpflichtungen zu überprüfen.
KI-Kompetenzen als Pflicht
Unternehmen jeder Größe müssen sicherstellen, dass ihre Mitarbeitenden im Umgang mit KI geschult sind. Die KI-Verordnung schreibt zwar keine konkrete Umsetzungsmethode vor, verlangt aber „angemessene technische und organisatorische Maßnahmen“, um KI-Kompetenz im Unternehmen zu gewährleisten (Artikel 4).
Herausforderungen von KI für Unternehmen
Viele Unternehmen erkennen das Potenzial von KI, schöpfen es jedoch noch nicht aus. Einer Studie des Stifterverbands und McKinsey aus dem Januar 2025 zufolge sind sich 86 Prozent der Führungskräfte bewusst, dass ihr Unternehmen KI stärker nutzen sollte. Gleichzeitig geben jedoch 79 Prozent der befragten Unternehmen an, dass ihnen das dafür notwendige Fachwissen fehlt. Besonders KMU stehen vor Herausforderungen, da oft die Ressourcen für Schulungen oder internes KI-Know-how begrenzt sind. Fehlende KI-Kompetenzen können zu Compliance-Verstößen führen.
Chancen durch den richtigen KI-Einsatz
Innovation und Effizienz
Unternehmen, die KI gezielt einsetzen, können Prozesse optimieren, Kosten senken und ihre Marktposition stärken.
Nachhaltigkeit
KI kann helfen, Ressourcen effizienter zu nutzen, Emissionen zu senken und nachhaltige Geschäftsmodelle zu entwickeln.
Risiken bei fehlender Umsetzung der KI-Verordnung
Haftungsrisiken und regulatorische Konsequenzen
Fehlende KI-Compliance kann rechtliche Konsequenzen haben.
Reputationsverlust
Ein unsachgemäßer Einsatz von KI kann das Vertrauen von Kunden und Partnern beeinträchtigen und langfristige Schäden für das Unternehmen verursachen.
Beispiel: Energieeffizienz mit KI
Der fiktive Lebensmittelhersteller Lebensmittelstand nutzt KI, um den Energieverbrauch seiner Produktionsanlagen zu analysieren und dynamisch anzupassen. Dadurch senkt das Unternehmen seine Betriebskosten um 15 % und verbessert seine Nachhaltigkeitsbilanz.
Beispiel: Datenschutzverstoß bei einem Technikhandel
Der Technikhandel Tec.one nutzt eine KI zur Analyse von Kundenfeedback. Dabei werden nicht anonymisierte Kundendaten in eine cloudbasierte KI-Anwendung eingespeist. Die Daten geraten so in unbefugte Hände – ein Datenschutzverstoß mit Folgen für Vertrauen, Compliance und Unternehmensimage.
Risikoklassifizierung von KI-Systemen
Die KI-Verordnung unterscheidet zwischen vier Risikostufen, die jeweils unterschiedliche regulatorische Anforderungen mit sich bringen. Unternehmen müssen ihre KI-Systeme bewerten und entsprechend in die richtigen Kategorien einordnen. Je nach Risikopotenzial variieren die regulatorischen Anforderungen – von Transparenzpflichten bis hin zu vollständigen Verboten.
Unzulässige KI: Seit dem 2. Februar 2025 sind bestimmte KI-Technologien verboten. Dazu zählen:
-
Manipulative KI-Systeme, die das Verhalten von Menschen unbewusst beeinflussen.
-
Biometrische Echtzeitüberwachung im öffentlichen Raum, die massive Datenschutzrisiken birgt.
-
Social Scoring (soziale Bewertung) nach dem Vorbild Chinas, das zu Diskriminierung
Minimales Risiko: Die meisten KI-Anwendungen, wie Spamfilter, Textverarbeitungsprogramme oder einfache Empfehlungssysteme, fallen in diese Kategorie. Sie unterliegen keinen besonderen Verpflichtungen. Unternehmen können jedoch für ihre Mitarbeitenden freiwillig zusätzliche Verhaltenskodizes aufstellen.
Begrenztes Risiko: KI-Systeme wie Chatbots unterliegen spezifischen Transparenzpflichten. Nutzer:innen müssen klar erkennen können, dass sie mit einer Maschine interagieren. KI-generierte Inhalte müssen als solche gekennzeichnet werden.
Hochrisiko-KI: Für Anwendungen mit erheblichen Auswirkungen gelten besonders strenge Anforderungen. Unternehmen müssen Transparenz- und Sicherheitsstandards einhalten, um Risiken zu minimieren.
Besonders betroffen von diesen Hochrisiko-Anforderungen sind Unternehmen, die KI-Systeme in sensiblen Bereichen einsetzen, darunter:
-
Kritische Infrastrukturen (z. B. Energieversorgung, Gesundheitswesen)
-
Bildung und Berufsausbildung (z. B. Prüfungs- oder Bewerbungssysteme)
-
Beschäftigung (z. B. KI-gestützte Auswahlverfahren im Recruiting)
-
Strafverfolgung und Justiz (z. B. Risikoprognose-Systeme)
-
Migrationsmanagement (z. B. automatisierte Entscheidungsfindung bei Asylverfahren)
Zu welcher Risikostufe gehört Ihr KI-System?
Die Risikostufe hängt nicht nur vom System selbst ab, sondern auch von seiner konkreten Anwendung. So kann ein KI-gestützter Chatbot für den Kundenservice als unbedenklich gelten, während ein ähnliches System in der Finanzbranche, das automatisierte Kreditentscheidungen trifft, als Hochrisiko-KI eingestuft wird. Ein weiteres Beispiel ist die Bilderkennung. In einer Marketingabteilung zur Analyse von Werbewirksamkeit ist diese eher harmlos, im Bereich der Gesichtserkennung mit sicherheitskritischen Anwendungen jedoch nur in streng regulierten Ausnahmefällen zulässig. So stufen Sie das Risiko richtig ein:
Einsatzbereich klären:
Definieren Sie, wofür das KI-System genutzt wird. Der Kontext bestimmt das Risiko.
Regulatorische Vorgaben checken:
Prüfen Sie, ob Ihr System laut EU AI Act als Hochrisiko-KI eingestuft wird.
Risiken bewerten:
Analysieren Sie, welche Gefahren entstehen können. Greift die KI in Grundrechte ein, besteht Diskriminierungsgefahr oder drohen wirtschaftliche Schäden?
Hinweis: Die Einstufung laut KI-Richtlinie für Unternehmen kann sich aufgrund von regulatorischen Anpassungen seitens der EU-Kommission ändern. Informieren Sie sich daher regelmäßig über die neuesten Entwicklungen.
Datensicherheit und DSGVO-Konformität
KI verarbeitet häufig große Mengen sensibler Daten. Um unbefugten Zugriff, Datenverluste oder Missbrauch zu verhindern, sind angemessene Sicherheitsmaßnahmen erforderlich – etwa Verschlüsselung, Zugriffsbeschränkungen und regelmäßige Sicherheitsprüfungen. Unternehmen müssen sicherstellen, dass die Verarbeitung personenbezogener Daten den Anforderungen der Datenschutz-Grundverordnung (DSGVO) entspricht. Dazu gehören Transparenz, Datenminimierung, Zweckbindung und die Wahrung der Betroffenenrechte.
KI-Richtlinie für Unternehmen: Pflichten und Schulungsthemen
Die Verantwortung für die Umsetzung der KI-Verordnung liegt in verschiedenen Bereichen des Unternehmens. Grundsätzlich sollten alle relevanten Mitarbeitenden und Führungskräfte regelmäßig in den regulatorischen Anforderungen und Risiken geschult werden. Entsprechend müssen auch die jeweiligen Schulungsmaßnahmen angepasst werden.
Die Geschäftsleitung muss über strategische und regulatorische Kenntnisse verfügen, um rechtskonforme Entscheidungen zu treffen. Schulungen sollten die relevanten rechtlichen Anforderungen und Risiken im Umgang mit KI-Systemen umfassen. Hier können externe Anbieter wie spezialisierte Beratungsunternehmen oder Online-Plattformen nützlich sein, die passende Programme anbieten.
Fachabteilungen (HR, Vertrieb, IT) benötigen grundlegendes KI-Wissen, um den sicheren und effizienten Einsatz von KI im täglichen Geschäft zu gewährleisten. Auch hier bieten viele Plattformen praxisorientierte Schulungen an, die speziell auf bestimmte Branchen oder Abteilungen zugeschnitten sind.
KI-Entwickler und Data Scientists (sofern vorhanden) sind dafür verantwortlich, Bias – also systematische Verzerrungen in den Daten oder Algorithmen – zu reduzieren und die Transparenz in den Systemen zu gewährleisten. Solche Verzerrungen können dazu führen, dass KI-Systeme bestimmte Gruppen benachteiligen oder fehlerhafte Entscheidungen treffen.
So setzen Sie die KI-Richtlinie in Ihrem Unternehmen um
Die Umsetzung der EU-KI-Verordnung erfordert ein strategisches Vorgehen, das sowohl technische als auch betriebliche Maßnahmen umfasst. Die folgenden Schritte beruhen auf Empfehlungen von Fachexpert:innen und den Vorgaben der Verordnung. Da die Regeln schrittweise in Kraft treten, haben Unternehmen Zeit, sich anzupassen.
Je nach Größe und Komplexität können sie Anforderungen nach und nach umsetzen oder priorisieren. Besonders kleinere Unternehmen sollten prüfen, welche Maßnahmen für sie sinnvoll und in vereinfachter Form umsetzbar sind. Entscheidend ist, frühzeitig zu starten – so lassen sich gesetzliche Vorgaben einhalten und die Vorteile von KI optimal nutzen.
1. Bestandsaufnahme und Sofortmaßnahmen (1 bis 3 Monate)
KI-Compliance-Verantwortung
Ernennen Sie eine zentrale Ansprechstelle für alle Fragen rund um KI – etwa eine beziehungsweise einen KI-Beauftragte:n oder ein internes Kompetenzteam, das die Schulungsmaßnahmen koordiniert und den Erfolg überwacht. Ziehen Sie bei Bedarf externe Expert:innen hinzu, um erste Projekte erfolgreich umzusetzen und die richtige KI-Strategie zu entwickeln. Je nach Komplexität kann ein KI-Audit nötig sein. Dieses überprüft, wie gut ein Unternehmen KI-Systeme implementiert, welche Risiken bestehen und ob alle Compliance-Vorgaben eingehalten werden.
Bestandsaufnahme und Risikobewertung der eingesetzten KI-Systeme
Eine KI-Beauftragte beginnt in der Regel mit einer Analyse der eingesetzten KI-Systeme. Klären Sie, ob die eingesetzte Technologie als KI im Rahmen der Verordnung definiert wird. Bewerten Sie die Risiken und stellen Sie sicher, dass Ihre Tools den Anforderungen der KI-Verordnung entsprechen.
Transparenzberichte und Compliance-Dokumentation
Stellen Sie sicher, dass alle KI-Compliance-Prüfungen dokumentiert und nachgewiesen werden. Führen Sie Transparenzberichte und Nachweise über Risikobewertungen, Compliance-Prüfungen und Schulungsmaßnahmen.
Erste Schulungen für Geschäftsleitung und Fachabteilungen
Ermitteln Sie den Schulungsbedarf durch einfache Bedarfs- und Kompetenzanalysen, zum Beispiel durch Umfragen oder Gespräche mit den Teams. Führen Sie erste Schulungen zur KI-Compliance durch, insbesondere für die Geschäftsleitung und relevante Fachabteilungen (z. B. IT, HR, Vertrieb).
2. Implementierung der Compliance-Struktur (3 bis 6 Monate)
Aufbau eines internen KI-Governance-Frameworks
Etablieren Sie ein internes KI-Governance-System, das klare Regeln und Prozesse für den Umgang mit KI-Systemen festlegt. Entwickeln Sie einen strukturierten Ansatz, der unter anderem festlegt, welche Personen und Rollen für den Einsatz und die Überwachung von KI verantwortlich sind. Berücksichtigen Sie dabei Themen wie Datensicherheit (Schutz von Unternehmens- und Kundendaten vor unbefugtem Zugriff) und ethische Richtlinien (z. B. die Vermeidung von Diskriminierung oder Verzerrung in den KI-Algorithmen). Ein solches Framework hilft, Risiken zu minimieren und sicherzustellen, dass KI verantwortungsbewusst und im Einklang mit den Unternehmenswerten eingesetzt wird.
Vertragsprüfung mit KI-Lieferanten
Überprüfen Sie bestehende Verträge mit KI-Lieferanten (Anbieter von KI-Lösungen) und stellen Sie sicher, dass Haftungsrisiken abgedeckt sind.
Zielgerichtete Schulungsmaßnahmen
Ermitteln Sie, welche KI-Kompetenzen in Ihrem Unternehmen erforderlich sind, und analysieren Sie die Qualifikationen Ihrer Mitarbeitenden. Die Geschäftsleitung sollte sicherstellen, dass grundlegende Workshops zur Einführung in KI angeboten werden, ergänzt durch spezialisierte Trainings für Teams, die in sicherheitskritischen Bereichen oder branchenspezifischen Kontexten arbeiten.
Datenintensive Abteilungen könnten von einem tiefergehenden, technischen Ansatz profitieren. Mitarbeitende mit direktem Kundenkontakt sollten hingegen lernen, wie KI die Interaktion mit Kunden verbessern kann. Entscheidend ist, dass die Schulungen praxisorientiert sind. Sie sollten den Mitarbeitenden zeigen, wie sie KI konkret in ihrem Arbeitsalltag einsetzen können – nicht nur theoretische Grundlagen vermitteln.
3. Langfristige Absicherung (6 bis 12 Monate)
Regelmäßige interne Audits und Aktualisierung der Schulungen
Überprüfen Sie regelmäßig die Einhaltung der KI-Vorgaben. Führen Sie Audits durch – das heißt, überprüfen Sie systematisch, ob alle Anforderungen erfüllt werden und ob KI-Systeme korrekt und sicher eingesetzt werden. Sorgen Sie außerdem dafür, dass Ihre Mitarbeitenden ihre KI-Kompetenzen auffrischen und erweitern.
KI-Compliance in die Unternehmensrichtlinien integrieren
Stellen Sie sicher, dass die Anforderungen der KI-Verordnung in Ihre Unternehmensrichtlinien aufgenommen werden.
Veränderungen überwachen und anpassen
Da sich die KI-Landschaft rasant verändert – mit neuen Tools, Trends und Regeln – ist es wichtig, flexibel zu bleiben. Implementieren Sie ein einfaches Risikomanagementsystem, um potenzielle KI-Risiken frühzeitig zu erkennen. Das kann zum Beispiel durch regelmäßige Überprüfungen der eingesetzten KI-Systeme und ihrer Ergebnisse geschehen.
Weiterführende Informationen
Fazit: KI als Schlüsselkompetenz der Zukunft
KI-Kompetenzen können ein Baustein für den langfristigen Erfolg von Unternehmen sein. Angesichts der rasanten technologischen Entwicklungen und der Anforderungen des EU AI Acts sollten Unternehmen, die KI-Technologien verwenden, ihre KI-Compliance überprüfen . Eine klare, schrittweise Planung, ein Schulungskonzept sowie kompetente Führung sind hierbei entscheidende Grundlagen. Unternehmen, die frühzeitig handeln, können Strafen vermeiden, sich als vertrauenswürdige Vorreiter positionieren und einen Wettbewerbsvorteil sichern.
Jetzt persönlich beraten lassen
Erfahren Sie durch unsere Account Manager:innen, wie auch in Ihrem Unternehmen der Energieverbrauch optimiert werden kann.
KI &
Automation
KI birgt ungeahnte Möglichkeiten für fast jeden Geschäftsbereich. Doch wo ist sie wirklich nützlich und worauf gilt es zu achten?
E-Rechnungspflicht
Was das für mittelständische Unternehmen bedeutet und wie Sie von der E-Rechnung profitieren.
18 nützliche KI-Tools für Unternehmen
Tools, um Zeit und Kosten zu sparen, die Produktivität zu erhöhen oder sogar neue Produkte und Services zu entwickeln.
Verantwortung für die Lieferkette
Das Lieferkettensorgfaltspflichtengesetz (LkSG) verständlich für KMU erklärt.
Zukunft trifft Tradition
Die Gebr. Alexander GmbH - ein Musikinstrumentenhersteller in der 7. Generation. Geschäftsführer Philipp Alexander im Interview über Lieferketten, Nachhaltigkeit und den Generationenwechsel.
Tank- und Ladekarten im Vergleich
Welche Vorteile bringen Tankkarten bzw. Ladekarten für Unternehmen? Hier finden Sie alle Informationen einfach erklärt.
Effizienzsteigerung
Lesen Sie Tipps zur Reduzierung der Energiekosten und Informationen rund um relevante Energieeffizienz-Themen.
Elektromobilität
Elektromobilität bringt Ihr Unternehmen voran. Erfahren Sie mehr zum Thema E-Mobility für den Mittelstand.
Digitalisierung
Alle Artikel, Recherchen und Infos zur Digitalisierung in Deutschland und wie der Mittelstand von ihr profitiert.
Management
Tipps zu den Themen Personalmanagement, Datenschutz, betrieblicher Gesundheitsvorsorge und mehr.
Kontaktieren Sie uns
Ihr persönlicher Kontakt zu unseren Energieexpert:innen
Telefon:
040 55 444 33 00
030 55 444 34 00
Mo - Do: 8:00 – 17:00 Uhr
Fr: 8:00 - 15:00 Uhr