Künstliche Intelligenz (KI) ist aus Unternehmen nicht mehr wegzudenken – von Automatisierung über Kundeninteraktion bis hin zu personalisiertem Marketing. Doch mit der wachsenden Nutzung steigt der regulatorische Druck. Der AI Act, die weltweit erste umfassende EU-Verordnung zu KI, soll Transparenz, Fairness und Sicherheit gewährleisten – und setzt damit international neue Standards. Unternehmen müssen nun prüfen: Erfüllen unsere KI-Anwendungen die neuen regulatorischen Anforderungen?

Wann gilt der AI Act?

Der AI Act wurde am 1. August 2024 verabschiedet. Die Umsetzung erfolgt schrittweise:

• Ab 2. Februar 2025: Verbot besonders riskanter KI-Systeme (z. B. Social Scoring).
• Ab August 2025: Transparenzpflichten für begrenzte Risiko-KI (z. B. Kennzeichnung von KI-generierten Inhalten).
• Ab 2026/2027: Strengere Regeln für Hochrisiko-KI.

Unternehmen, die den AI Act nicht einhalten, riskieren hohe Geldstrafen[1]. Frühzeitige Maßnahmen sind daher essenziell.

Welche KI-Anwendungen betrifft der AI Act?

Unternehmen setzen KI bereits für Lead-Generierung, personalisierte Werbung oder Chatbots ein. Auch KI-gestützte Content-Erstellung – etwa mit ChatGPT oder Google Gemini – sowie automatisierte Entscheidungen im Vertrieb fallen unter den AI Act. Die Verordnung gilt für alle KI-Systeme, die in der EU genutzt oder verkauft werden – unabhängig davon, wo sie entwickelt wurden.
Damit soll sichergestellt werden, dass KI

• verlässlich (technisch stabil und nachvollziehbar),
• fair (diskriminierungsfrei) und
• transparent (klar erkennbar für Nutzer) eingesetzt wird.

Diese KI-Regeln müssen Marketing und Vertrieb beachten

Ein zentraler Aspekt des AI Acts ist die Transparenzpflicht: KI-generierte Inhalte müssen als solche erkennbar sein, wenn sie realistisch genug sind, um Menschen zu täuschen (z. B. Deepfakes, synthetische Stimmen).
Unternehmen müssen zudem offenlegen, wenn KI direkt mit Kunden interagiert – etwa durch Chatbots oder automatisierte Verkaufsgespräche.

Wichtig sind auch Datenqualität und Fairness: KI darf nur mit vollständigen, aktuellen und repräsentativen Daten arbeiten, um fehlerhafte oder verzerrte Ergebnisse zu vermeiden. Zudem müssen Algorithmen so gestaltet sein, dass sie keine diskriminierenden Entscheidungen treffen.

Als Hochrisiko-KI gelten Systeme, die automatisiert über geschäftskritische Entscheidungen wie Finanzierungen, Kreditvergaben oder individuelle Preisgestaltungen entscheiden – insbesondere dann, wenn sie ohne menschliches Eingreifen eingesetzt werden. Beispiele sind:

• Predictive Analytics: Prognostiziert zukünftiges Kundenverhalten basierend auf Vergangenheitsdaten und kann dabei z. B. Kreditwürdigkeit oder Vertragskonditionen beeinflussen.
• Automatisierte Kundensegmentierung: Erstellt Angebote oder Preise auf Basis persönlicher Kriterien wie Kaufhistorie, Standort oder Bonität.

Wird bei solchen Anwendungen nicht auf Fairness, Datenqualität und Transparenz geachtet, besteht das Risiko, dass bestimmte Kundengruppen benachteiligt werden – etwa durch unfaire Preisgestaltung oder diskriminierende Angebote.
Bestimmte KI-Systeme sind untersagt, wenn sie Menschen manipulieren, diskriminieren oder ihre Privatsphäre verletzen. Dazu gehören:

• Missbrauch personenbezogener Daten: KI darf keine sensiblen Daten (z. B. Ethnie, politische Ansichten, finanzielle Situation) ohne Zustimmung verarbeiten.
• Manipulative Praktiken im Vertrieb & Marketing: KI darf psychologische Schwächen nicht ausnutzen – beispielsweise durch personalisierte Werbung, die in besonders verletzlichen Momenten überteuerte oder unnötige Produkte bewirbt. Ein typisches Beispiel sind sogenannte Dark Patterns, bei denen Nutzer gezielt unter Druck gesetzt werden, etwa durch künstlich verknappte Angebote („Nur noch heute verfügbar!“), die algorithmisch gesteuert ausgespielt werden.
• Diskriminierung & ungerechtfertigte Beeinflussung: KI darf keine Gruppen systematisch benachteiligen, etwa durch unfaire Kredit- oder Preisentscheidungen basierend auf Geschlecht, Herkunft oder Wohnort.

Was müssen Unternehmen jetzt tun?

Um den Anforderungen des AI Acts gerecht zu werden, sollten Unternehmen folgende Maßnahmen ergreifen:

• KI-Systeme prüfen: Unternehmen müssen zunächst erfassen, welche KI-Systeme sie aktuell nutzen und ob sie den neuen Anforderungen entsprechen. Dabei sollten sie folgende Fragen klären: Nutzen wir KI für Marketing oder Vertrieb? Interagiert unsere KI direkt mit Kunden? Erstellt unsere KI Inhalte?
• Regulatorische Anforderungen verstehen: Unternehmen müssen ihre KI-Systeme gemäß den Risikokriterien des AI Acts einstufen. Klassische KI-Anwendungen wie personalisierte Werbeanzeigen (z. B. Google Ads, Meta Ads), E-Mail-Automationen oder Content-Generierung werden als geringes Risiko eingestuft – vorausgesetzt, sie enthalten keine diskriminierenden oder manipulativen Elemente. Hier gibt es keine generellen Verbote, sondern eher Transparenz- und Dokumentationspflichten. Chatbots im Kundenservice müssen dagegen klar als KI erkennbar sein, etwa durch Hinweise wie „Ich bin ein KI-gestützter Assistent“.
• Datenstrategie optimieren: Unternehmen sollten sicherstellen, dass ihre KI mit aktuellen und vielfältigen Kundendaten arbeitet, um faire und verlässliche Ergebnisse zu gewährleisten. Dazu gehört das regelmäßige Testen der KI-Modelle, um ungewollte Verzerrungen zu erkennen, sowie die Nutzung diverser Datenquellen, damit alle potenziellen Zielgruppen gleichberechtigt angesprochen werden.
• Compliance absichern: Zusammenarbeit mit Rechts- und IT-Teams, um Risiken frühzeitig zu minimieren.

Wer diese Schritte frühzeitig umsetzt, vermeidet nicht nur rechtliche Konsequenzen, sondern stärkt auch das Vertrauen der Kunden.

Jetzt handeln, um zukunftssicher zu bleiben

Der AI Act bringt für Marketing und Vertrieb spürbare Veränderungen: Transparenz, Fairness und verantwortungsvoller KI-Einsatz werden zur Pflicht. Unternehmen, die frühzeitig handeln, sichern sich rechtlich ab – und stärken zugleich das Vertrauen ihrer Kunden.

ALEX & GROSS unterstützt Unternehmen dabei, intelligente KI-Lösungen für Marketing und Vertrieb gezielt einzusetzen und so nachhaltige Erfolge zu sichern. Mit EVERLEAD bieten wir zudem eine innovative Vertriebs- und Marketingplattform, die smarte Funktionen für Lead-Scoring, Kundenanalysen und Automatisierung auf Basis künstlicher Intelligenz bereitstellt.

Unternehmen, die frühzeitig handeln, erfüllen nicht nur die Compliance-Anforderungen, sondern sichern sich zugleich einen nachhaltigen Wettbewerbsvorteil.

[1] Bußgelder im AI-Act: Überblick über die KI-VO-Sanktionen