# KI-Tools im Unternehmen auswählen: Kriterien, Testphase, Datenschutz und EU AI Act

> Wie ein Mittelständler KI-Tools strukturiert auswählt: Anforderungsprofil, Testphase mit Abbruchkriterien, Auftragsverarbeitung, Betriebsrat und die Pflichten als Betreiber nach dem EU AI Act.

**Version HTML :** https://agence-intelligence-artificielle.eu/de/blog/ki-tools-im-unternehmen-auswaehlen  
**Langue :** de

---

**Auf dieser Seite** Schritt 1: ein Anforderungsprofil statt einer Wunschliste Schritt 2: Kriterien gewichten, bevor der Vertrieb des Anbieters anruft Schritt 3: eine Testphase mit Abbruchkriterien Schritt 4: Datenschutz und Mitbestimmung klären Was der EU AI Act von Ihnen als Betreiber verlangt Drei typische Fehler bei der Auswahl Die Entscheidung auf einer Seite

Verantwortungsvolle KI

# KI-Tools im Unternehmen auswählen: Kriterien, Testphase, Datenschutz und EU AI Act

Im Mittelstand scheitert die Einführung von KI selten an der Technik. Sie scheitert an einer Auswahl, die niemand dokumentiert hat, an einem Betriebsrat, der zu spät gefragt wurde, oder an einem Vertrag, der die Datenfrage offenlässt. Eine saubere Auswahl folgt vier Schritten.

16. November 20266 Min. LesezeitVon Sébastien Joumel

**Das Werkzeug kommt zuletzt**Wer mit dem Tool beginnt, bewertet Präsentationen. Wer mit dem Prozess beginnt, bewertet Ergebnisse.

## Schritt 1: ein Anforderungsprofil statt einer Wunschliste

Nehmen wir einen Maschinenbauer mit 150 Beschäftigten, dessen Vertrieb jede Woche Dutzende Anfragen mit technischen Lastenheften erhält. Die Frage lautet nicht „Welches KI-Tool ist das beste?“, sondern: „Welches Werkzeug liest unsere Lastenhefte zuverlässig, findet die passenden Baugruppen und bereitet ein Angebot vor, das ein Mensch freigibt?“

Ein brauchbares Anforderungsprofil beantwortet vier Punkte schriftlich:

- **Der Prozess:** Eingang, Arbeitsschritte, Ergebnis, und wo heute die Zeit verloren geht.
- **Die Daten:** Welche Dokumente das Tool sieht, ob personenbezogene Daten darunter sind und ob Geschäftsgeheimnisse wie Zeichnungen oder Preise betroffen sind.
- **Die Grenze:** Was das Tool niemals selbst tut, zum Beispiel ein Angebot versenden oder einen Preis festlegen.
- **Die Messgröße:** Bearbeitungszeit pro Anfrage, Fehlerquote, Nacharbeit.

Erst mit diesem Profil lässt sich der Markt sinnvoll sichten. Einen ersten Überblick verschafft die [Rangliste der zehn meistgenutzten KI-Tools](https://ki-vergleichstool.de/beste-10-ki/); aus ihr fällt meist schon die Hälfte der Kandidaten heraus, sobald man die Datenfrage stellt. Drei Kandidaten für den Test reichen.

## Schritt 2: Kriterien gewichten, bevor der Vertrieb des Anbieters anruft

Die Gewichtung gehört vor die erste Demo, sonst gewinnt die beste Präsentation. Eine mögliche Gewichtung für den Mittelstand:

| Kriterium | Prüffrage | Gewicht |
|---|---|---|
| Ergebnisqualität | Stimmen die Ergebnisse mit unseren echten Unterlagen? | hoch |
| Datenschutz und Vertrag | Auftragsverarbeitung, Serverstandort, kein Training mit unseren Daten | hoch |
| Informationssicherheit | Rechteverwaltung, Protokollierung, Anmeldung über das Firmenkonto | mittel bis hoch |
| Anbindung | ERP, DMS, E-Mail: Schnittstelle oder Copy-and-paste? | mittel |
| Gesamtkosten | Lizenzen, Verbrauch, Schulung, Prüfaufwand der Mitarbeitenden | mittel |
| Ausstieg | Datenexport und Anbieterwechsel ohne Neuanfang | mittel |

Für die Sicherheitsfragen lohnt ein Blick in die Veröffentlichungen des Bundesamts für Sicherheit in der Informationstechnik zu [Künstlicher Intelligenz](https://www.bsi.bund.de/DE/Themen/Unternehmen-und-Organisationen/Informationen-und-Empfehlungen/Kuenstliche-Intelligenz/kuenstliche-intelligenz_node.html). Das BSI beschreibt dort unter anderem Risiken großer Sprachmodelle, die bei der Auswahl eines Werkzeugs direkt in die Prüffragen gehören.

## Schritt 3: eine Testphase mit Abbruchkriterien

Ein Pilot ohne Abbruchkriterium endet fast immer mit einer Verlängerung. Legen Sie deshalb vorher fest, was als Erfolg gilt und was zum Abbruch führt. Ein praxistaugliches Format über sechs Wochen:

- **Woche 1:** Testset aus 40 abgeschlossenen Vorgängen, bei denen das richtige Ergebnis bekannt ist. Personenbezogene Daten werden entfernt oder ersetzt.
- **Wochen 2 bis 4:** Zwei Sachbearbeiter und eine Fachkraft aus der Technik bearbeiten dieselben Vorgänge mit jedem Kandidaten. Gemessen werden Zeit, Treffergenauigkeit und Nacharbeit.
- **Wochen 5 und 6:** begrenzter Echtbetrieb mit dem besten Kandidaten, jede Ausgabe wird vor der Weitergabe geprüft.

Typische Abbruchkriterien: Das Tool erfindet Artikelnummern, es verwechselt Kundendaten, oder die Prüfung dauert länger als die manuelle Bearbeitung. Wer eines davon sieht, bricht ab, auch wenn die Oberfläche gefällt.

## Schritt 4: Datenschutz und Mitbestimmung klären

Sobald personenbezogene Daten verarbeitet werden, gilt die Datenschutz-Grundverordnung (Verordnung (EU) 2016/679). Ihr Unternehmen bleibt Verantwortlicher, auch wenn der Anbieter rechnet. Daraus folgen drei Pflichtpunkte:

- **Auftragsverarbeitungsvertrag nach Art. 28 DSGVO** mit dem Anbieter. Geschäftskunden-Tarife bieten ihn in der Regel an, kostenlose Privatkonten nicht.
- **Drittlandübermittlung:** Verlassen Daten den Europäischen Wirtschaftsraum, braucht es eine Grundlage nach Kapitel V DSGVO, etwa einen Angemessenheitsbeschluss oder Standardvertragsklauseln.
- **Datenschutz-Folgenabschätzung nach Art. 35 DSGVO**, wenn die Verarbeitung voraussichtlich ein hohes Risiko für die Betroffenen birgt, etwa bei Beschäftigtendaten oder bei Bewertungen von Personen.

Ein deutscher Sonderpunkt wird oft übersehen: Hat Ihr Betrieb einen Betriebsrat, ist die Einführung technischer Einrichtungen, die dazu geeignet sind, Verhalten oder Leistung der Beschäftigten zu überwachen, nach § 87 Abs. 1 Nr. 6 BetrVG mitbestimmungspflichtig. Viele KI-Tools protokollieren Eingaben pro Nutzer und fallen damit darunter. Binden Sie den Betriebsrat in die Testphase ein, nicht erst in die Einführung. Wie das im Personalbereich konkret aussieht, beschreiben wir auf unserer Seite zu [KI im Personalwesen](https://agence-intelligence-artificielle.eu/de/ki-personalwesen).

## Was der EU AI Act von Ihnen als Betreiber verlangt

Die KI-Verordnung (Verordnung (EU) 2024/1689) unterscheidet zwischen Anbietern, die KI-Systeme entwickeln oder unter eigenem Namen in Verkehr bringen, und Betreibern, die sie nutzen. Ein Mittelständler, der ein fertiges Tool einkauft, ist in aller Regel Betreiber.

Zwei Pflichten gelten seit dem 2. Februar 2025 für alle: das Verbot bestimmter Praktiken nach Art. 5 und die KI-Kompetenz der Beschäftigten nach Art. 4. Die Schulung gehört also zur Auswahl dazu und nicht in einen späteren Abschnitt. Weitere Pflichten greifen gestaffelt; für einzelne Termine gab es auf europäischer Ebene Vorschläge zur Anpassung, deshalb sollte man den aktuellen Stand zum Zeitpunkt der Entscheidung prüfen.

Wird ein Tool in einem Hochrisikobereich nach Anhang III eingesetzt, etwa bei der Auswahl von Bewerbern, kommen die Betreiberpflichten nach Art. 26 hinzu, darunter menschliche Aufsicht und die Information der Beschäftigten und ihrer Vertretung vor dem Einsatz am Arbeitsplatz. In diesem Fall gehört die Rechtsberatung an den Tisch, bevor ein Tool ausgewählt wird. Die Termine im Überblick finden Sie in unserem Beitrag [KI-Verordnung: was Sie wirklich betrifft](https://agence-intelligence-artificielle.eu/de/blog/ki-verordnung-was-sie-wirklich-betrifft).

## Drei typische Fehler bei der Auswahl

- **Die IT entscheidet allein.** Die Fachabteilung kennt die Fälle, an denen ein Tool scheitert. Ohne sie wird an Beispielen getestet, die im Alltag nie vorkommen.
- **Lizenzen werden für alle gekauft, bevor der Test abgeschlossen ist.** Eine Jahreslizenz für die ganze Belegschaft erzeugt Druck, das Tool auch dann zu behalten, wenn es die Messgröße nicht erreicht.
- **Der Prüfaufwand fehlt in der Rechnung.** Jede Ausgabe, die ein Mensch kontrollieren muss, kostet Zeit. Ein Tool, das zehn Minuten spart und acht Minuten Prüfung verlangt, spart zwei Minuten, nicht zehn.

Keiner dieser Fehler ist technisch. Alle drei lassen sich vermeiden, wenn das Anforderungsprofil aus Schritt 1 vor dem Einkauf unterschrieben ist.

## Die Entscheidung auf einer Seite

Am Ende steht ein kurzes Entscheidungsblatt: Prozess, gewähltes Tool, Testergebnis, zulässige Daten, verbotene Daten, verantwortliche Person für die Prüfung, Termin der nächsten Bewertung. Dieses Blatt dient als Grundlage für die Schulung, als Antwort auf die Frage des Datenschutzbeauftragten und als Ausgangspunkt, wenn sich der Markt in einem Jahr wieder verschoben hat.

[Alle Notizen →](https://agence-intelligence-artificielle.eu/de/blog)

Erstes Gespräch — fünfzehn Minuten

## Wir sagen Ihnen, welches System zuerst geöffnet wird.

Beschreiben Sie den Handgriff, der Sie am meisten kostet. Wir sagen Ihnen, was machbar ist, wie lange es dauert und was es kostet. Lautet die Antwort nein, gehen Sie mit den zwei Gründen dafür.

[Bestandsaufnahme anfragen](https://agence-intelligence-artificielle.eu/de/kontakt) [An die Agentur schreiben](https://agence-intelligence-artificielle.eu/de/kontakt)
