Ratgeber

KI-Verordnung im Handwerksbetrieb: Was ein Telefonagent und ein E-Mail-Assistent dürfen

Seit dem 2. August 2026 muss jeder Betrieb, der einen KI-Telefonagenten oder einen E-Mail-Assistenten einsetzt, ein paar Regeln einhalten. Die meisten sind mit einer sauberen Ansage und einer kurzen Einweisung erledigt. Hier steht, was gilt und was Sie konkret tun.

Stand September 2026 · Lesezeit etwa 7 Minuten · keine Rechtsberatung

Vorab: Dieser Text ist eine Einordnung für die Praxis und ersetzt keine Rechtsberatung. Wer einen konkreten Fall hat, fragt seine Handwerkskammer oder einen Anwalt.

Um welches Gesetz es geht

Die Verordnung (EU) 2024/1689 heißt offiziell KI-Verordnung, viele sagen AI Act. Sie ist am 1. August 2024 in Kraft getreten und gilt in allen EU-Ländern direkt, ohne deutsches Umsetzungsgesetz. Die Pflichten kommen gestaffelt. Für einen Malerbetrieb mit acht Leuten oder einen SHK-Betrieb mit dreißig sind drei Stellen wichtig: Artikel 4 (KI-Kompetenz), Artikel 50 (Transparenz) und, falls Sie Bewerbungen per KI sortieren lassen wollen, der Anhang III mit den Hochrisiko-Systemen.

Wer einen Telefonagenten mietet, ist im Sinne der Verordnung „Betreiber". Der Anbieter trägt die technischen Pflichten, Sie die Pflichten im Einsatz.

Was seit wann gilt

• Seit 2. Februar 2025: verbotene Praktiken (Artikel 5) und die Pflicht zur KI-Kompetenz im Betrieb (Artikel 4).
• Seit 2. August 2026: Transparenzpflichten (Artikel 50) und die ersten Pflichten für Hochrisiko-Systeme. Weitere Hochrisiko-Pflichten folgen 2027.

Ein Telefonagent, der heute ohne Hinweis abnimmt, verstößt bereits gegen die Verordnung.

Artikel 50: Der Anrufer muss wissen, dass er mit einer KI spricht

Die Regel ist kurz. Wer ein KI-System einsetzt, das mit Menschen spricht oder schreibt, muss dafür sorgen, dass die Person erfährt, dass sie es mit einer KI zu tun hat. Ausnahme: Es ist ohnehin offensichtlich. Am Telefon ist es das nie. Eine gute Stimme klingt heute wie eine Bürokraft, deshalb muss die Ansage klar sein.

Was die Verordnung nicht verlangt: ein juristisches Vorwort, eine Belehrung über Rechte, einen Hinweis auf Artikel 50. Ein Satz reicht, am Anfang des Gesprächs, verständlich auch für den Kunden, der um sieben Uhr morgens mit dem Wasserrohrbruch anruft.

Wie so ein Agent im Betrieb arbeitet, steht beim Telefon-Innendienst, die Grundlagen im Artikel Was ist ein KI-Innendienst.

E-Mail-Assistent: Was für Texte gilt

Für Texte ist die Verordnung lockerer, als viele denken. Die Kennzeichnungspflicht in Artikel 50 gilt für KI-Texte, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren. Eine Terminbestätigung, eine Antwort auf eine Anfrage, eine Rückfrage zu den Maßen der Terrasse: Das ist keine Information der Öffentlichkeit. Und selbst bei solchen Texten entfällt die Pflicht, wenn ein Mensch den Text redaktionell geprüft hat und dafür verantwortlich ist.

Der erste Teil von Artikel 50 gilt trotzdem weiter. Wenn der Assistent direkt mit dem Kunden interagiert, also selbständig antwortet, muss das erkennbar sein. In der Praxis lösen das die meisten Betriebe so: Der Assistent schreibt Entwürfe, ein Mitarbeiter gibt sie frei und schickt sie unter seinem Namen. Dann ist der Mensch der Absender und der Assistent das Werkzeug, wie eine Rechtschreibprüfung (so arbeitet der E-Mail-Mitarbeiter). Antwortet der Assistent selbständig, etwa nachts mit einer Eingangsbestätigung, gehört ein Hinweis in die Signatur.

KI-Bilder auf Instagram und Facebook

Hier gibt es zwei Ebenen. Der Anbieter des Bildgenerators muss KI-Bilder, Audio und Video maschinenlesbar kennzeichnen, meist über ein Wasserzeichen in den Metadaten. Dafür müssen Sie nichts tun. Als Betreiber müssen Sie Deepfakes offenlegen, also Bilder oder Videos, die echte Personen, Orte oder Ereignisse täuschend echt zeigen. Ein KI-Bild vom Badezimmer, das es so nie gab, sollten Sie im Beitrag benennen, zum Beispiel mit „Bild: KI-erstellt". Fotos von echten Baustellen, die Ihr Geselle mit dem Handy gemacht hat, bleiben davon unberührt.

Beim Social-Media-Paket ist die Kennzeichnung fester Bestandteil jedes Beitrags mit KI-Motiv.

Artikel 4: Ihre Leute müssen wissen, was das Ding kann

Seit dem 2. Februar 2025 muss der Betreiber sicherstellen, dass das Personal, das mit dem KI-System arbeitet, ausreichend Kenntnis hat. Für einen Betrieb mit zehn Leuten bedeutet das: Die Bürokraft, die morgens die Anrufliste aus dem Telefonagenten durchgeht, weiß, was das System aufnimmt, wo es an Grenzen stößt und was sie nachprüfen muss. Der Meister weiß, dass der Agent keine Preise zusagt.

Eine Einweisung von einer halben Stunde mit einem Zettel, wer wann dabei war, deckt das ab. Kein Zertifikat, keine Schulung beim Bildungsträger.

Was Sie vermutlich nie betrifft

Die verbotenen Praktiken in Artikel 5 zielen auf Dinge wie manipulative Techniken oder das Ausnutzen von Schwächen bestimmter Personengruppen. Ein Telefonagent, der Termine aufnimmt, ist davon weit entfernt.

Anders sieht es aus, wenn Sie Bewerbungen per KI vorsortieren lassen wollen. Personalauswahl steht im Anhang III und ist damit Hochrisiko. Die Pflichten dafür gelten seit dem 2. August 2026 beziehungsweise ab 2027, und sie sind für einen Betrieb mit zwanzig Leuten kaum zu stemmen. Ein Assistent darf Bewerbungen zusammenfassen und Termine für Gespräche vorschlagen. Die Entscheidung, wer eingeladen und wer abgelehnt wird, trifft ein Mensch, und zwar nachweisbar.

Was ein Verstoß kostet

Artikel 99 nennt für Verstöße gegen Betreiberpflichten bis zu 15 Millionen Euro oder 3 Prozent des Jahresumsatzes. Für kleine und mittlere Unternehmen gilt der jeweils niedrigere der beiden Beträge. Bei einer fehlenden Ansage wird niemand sofort mit der Höchststrafe kommen. Ein Wettbewerber oder ein verärgerter Kunde kann aber eine Beschwerde schreiben, und die Ansage kostet nichts.

Die DSGVO läuft parallel

Die KI-Verordnung ersetzt keinen Datenschutz. Vier Punkte, die beim Telefonagenten regelmäßig übersehen werden:

• Aufzeichnung. Ein Gespräch aufzunehmen ist nach § 201 StGB (Vertraulichkeit des Wortes) strafbar, wenn der Gesprächspartner nicht eingewilligt hat. Der Agent darf also nur mitschneiden, wenn der Anrufer vorher zugestimmt hat. Viele Anbieter verzichten deshalb auf die Tonaufnahme und speichern nur das Transkript.
• Transkripte. Der Text des Gesprächs enthält Name, Adresse, Telefonnummer, manchmal Angaben zur Wohnung oder zur Gesundheit („mein Mann liegt im Krankenhaus, deshalb muss die Heizung diese Woche laufen"). Das sind personenbezogene Daten. Sie brauchen einen Zweck, eine Frist und einen Löschweg.
• Auftragsverarbeitung. Der Anbieter verarbeitet diese Daten für Sie. Dafür braucht es einen Auftragsverarbeitungsvertrag, kurz AVV. Seriöse Anbieter haben den vorbereitet. Fehlt er, Finger weg.
• Speicherort. Klären Sie, wo Transkripte und Aufnahmen liegen. Server in der EU sind der einfache Weg.

Die Handwerkskammer des Saarlandes gibt dazu drei Empfehlungen, die sich in jedem Betrieb umsetzen lassen: nur die Daten freigeben, die das System wirklich braucht, das Training des Modells mit Ihren Daten beim Anbieter abschalten und Protokolle regelmäßig löschen.

So klingt eine korrekte Ansage

Ein Beispiel, das die Anforderungen erfüllt und trotzdem wie ein Betrieb klingt:

Drei Dinge stecken darin. Der Anrufer weiß, dass er mit einer KI spricht. Er weiß, was als Nächstes passiert. Und er hat einen Ausweg zum Menschen. Das ist mehr, als die Verordnung verlangt, und es hält Kunden am Telefon ruhig. Wie sich Anbieter bei Ansage und Übergabe unterscheiden, zeigt der Vergleich der Telefonassistenten.

Checkliste: Zehn Punkte für den Betrieb

1. Ansage. Der Telefonagent nennt sich zu Beginn als digitaler Assistent und bietet den Weg zum Mitarbeiter an.
2. KI-Bilder. Jeder Beitrag in Social Media mit einem KI-Motiv trägt einen Hinweis darauf.
3. Mail-Vorlagen. Alle Textbausteine, die der E-Mail-Assistent verwendet, hat ein Mensch gelesen und freigegeben.
4. AVV. Der Auftragsverarbeitungsvertrag mit dem Anbieter ist unterschrieben, eine Kopie liegt im Ordner.
5. Speicherfristen. Transkripte werden nach einer festen Frist gelöscht. Tonaufnahmen gibt es nur mit Einwilligung des Anrufers.
6. Einweisung. Alle, die mit dem System arbeiten, sind eingewiesen, mit Datum und Namen.
7. Notdienst-Regel. Es ist festgelegt, was der Agent bei „Wasser läuft" oder „Heizung aus" tut: sofort durchstellen oder die Notfallnummer nennen.
8. Keine Preiszusagen. Der Agent nennt keine Preise und sagt keine Termine verbindlich zu.
9. Reklamationen. Beschwerden gehen direkt an einen Mitarbeiter, ohne Umweg über den Agenten.
10. Protokoll. Es ist nachvollziehbar, wer wann was am System eingestellt, geändert oder freigegeben hat.

Häufige Fragen

Gilt die Hinweispflicht auch bei ausgehenden Anrufen, etwa zur Terminerinnerung?

Ja. Sobald ein KI-System mit einem Menschen spricht, muss der Mensch das erfahren. Ob er angerufen hat oder angerufen wird, spielt keine Rolle. Ein Satz am Anfang reicht auch hier.

Reicht ein Hinweis auf der Website oder im Impressum?

Nein. Die Person muss es in dem Moment erfahren, in dem sie mit dem System zu tun hat. Ein Kunde, der die Nummer aus dem Branchenbuch wählt, hat die Website nie gesehen. Der Hinweis gehört ins Gespräch.

Muss ich meine Kunden fragen, bevor ein Assistent ihre Mails beantwortet?

Die KI-Verordnung verlangt keine Einwilligung, nur die Erkennbarkeit, wenn der Assistent selbständig antwortet. Nach der DSGVO dürfen Sie die Daten aus einer Anfrage verarbeiten, weil der Kunde etwas von Ihnen will. Mit dem Anbieter brauchen Sie einen Auftragsverarbeitungsvertrag.