Wurde der EU AI Act verschoben?

Teilweise. Im Rahmen des Digital Omnibus wurden die Fristen für Hochrisiko-KI-Systeme auf Dezember 2027 beziehungsweise August 2028 verschoben. Die Transparenzpflichten nach Art. 50 AI Act sind von dieser Verschiebung nicht betroffen und gelten unverändert seit dem 2. August 2026.

Gilt Artikel 50 für KI-Agenten?

Ja. Art. 50 Abs. 1 AI Act verpflichtet Anbieter von KI-Systemen, die im direkten Kontakt mit natürlichen Personen stehen, etwa Chat-Assistenten, sicherzustellen, dass die betroffenen Personen über die Interaktion mit einem KI-System informiert werden, sofern dies nicht bereits offensichtlich ist.

Muss ein KI-Agent offenlegen, dass er KI ist?

Ja, sofern für den Nutzer nicht ohnehin offensichtlich ist, dass er mit einem KI-System interagiert. LoyJoy setzt das über einen KI-Hinweis im Begrüßungsmodul, ein anpassbares KI-Label an jeder KI-generierten Nachricht und eine permanente Hinweiszeile unter dem Eingabefeld um.

Wer ist Anbieter und wer ist Betreiber?

LoyJoy ist Anbieter (Provider) der KI-gestützten SaaS-Plattform und des darauf aufbauenden KI-Systems. Der Kunde, der die Plattform in seinem Chat oder seiner Telefonie einsetzt, ist in der Regel Betreiber (Deployer) des konkreten KI-Systems im Sinne des AI Act und dafür verantwortlich, wie es in seinem Einsatzfall konfiguriert und genutzt wird.

Kurz-Stellungnahme zur EU-KI-Verordnung (AI Act)

•30. Juli 2026•

Zuletzt geprüft am 7. September 2026

Änderungshistorie (9 Einträge)

07.09.2026Rollenbeschreibung von LoyJoy als Anbieter vereinheitlicht. Transparenzhinweis nach Art. 50 Abs. 1 und maschinenlesbare Kennzeichnung synthetischer Ausgaben nach Art. 50 Abs. 2 getrennt dargestellt. Hochrisiko-Anwendungen entsprechend der Acceptable Use Policy ausdrücklich ausgeschlossen.
18.08.2026Allgemeine Hinweise zur Risikoklassifizierung nach dem EU AI Act ergänzt.
10.08.2026Speech-to-Speech-Modell des Phone Agents läuft jetzt in der EU-Datenzone von Azure OpenAI statt über globale Azure-Dienste. Abschnitt Datenschutz entsprechend aktualisiert.
05.08.2026Digital-Omnibus-Update ergänzt: Hochrisiko-Fristen auf Dezember 2027 und August 2028 verschoben, Art.-50-Transparenzpflichten davon unberührt und unverändert seit 2. August 2026 in Kraft. Frist 2. Dezember 2026 für Bestandssysteme bei der Kennzeichnung synthetischer Audioinhalte ergänzt (technische Umsetzung in Prüfung). Fristen-Zeitleiste und FAQ-Abschnitt mit FAQPage-Schema ergänzt.
30.07.2026Abschnitt zu Transparenzpflichten in 'Chat' und 'Phone Agent' unterteilt. Chat-Transparenz ergänzt: KI-Hinweis im Begrüßungsmodul, anpassbares KI-Label an KI-generierten Nachrichten, permanente Hinweiszeile unter dem Eingabefeld. Kennzeichnung von KI-Chat-Nachrichten verbindlich formuliert.
03.07.2026Klarstellung ergänzt, dass LoyJoy das GPAI-Modell Gemma 4 im eigenen Rechenzentrum in Münster auf eigener Hardware betreibt. Rolle unter Art. 3 Nr. 3 und Art. 25 Abs. 1c AI Act präzisiert.
06.05.2026Standard-Begrüßung des Phone Agents dokumentiert. Plattformhinweis zur Verantwortung bei abweichender Begrüßung ergänzt.
05.05.2026Rolle von LoyJoy um Phone Agent und Speech-to-Speech erweitert. Transparenzpflichten für Telefon-Konversationen ergänzt. Pflichten-Tabelle aktualisiert.
20.05.2025Erstveröffentlichung der AI-Act-Stellungnahme.

Fristen im Überblick

2. August 2026
Die Transparenzpflichten nach Art. 50 AI Act treten in Kraft, für den direkten Kontakt mit KI-Systemen per Chat und Telefon.
2. Dezember 2026
Umsetzungsfrist für die maschinenlesbare Kennzeichnung synthetischer Audio-, Bild-, Video- und Textausgaben bei generativen Systemen, die bereits vor dem 2. August 2026 am Markt waren.
Dezember 2027
Im Digital Omnibus verschobene neue Frist für einen Teil der Hochrisiko-Pflichten.
August 2028
Im Digital Omnibus verschobene neue Frist für weitere Hochrisiko-Pflichten.

Diese Kurz-Stellungnahme erläutert, wie LoyJoy als Plattformanbieter die Pflichten des EU AI Act umsetzt, insbesondere die Transparenzpflichten nach Art. 50 für den direkten Kontakt mit KI-Systemen per Chat und Telefon.

Digital Omnibus

Was verschoben wurde, und was nicht

Im Rahmen des „Digital Omnibus" wurden die Fristen für Hochrisiko-KI-Systeme verschoben, auf Dezember 2027 beziehungsweise August 2028.

Nicht verschoben wurden die Transparenzpflichten nach Art. 50 AI Act für den direkten Kontakt mit KI-Systemen. Diese gelten unverändert seit dem 2. August 2026.

Rolle von LoyJoy

LoyJoy stellt Unternehmenskunden eine SaaS-Plattform zur Erstellung und Ausführung von KI-gestützten Kundeninteraktionen per Chat und Telefon bereit. LoyJoy entwickelt keine eigenen Foundation Models.

Als Standard-Modell für Chat-Interaktionen betreibt LoyJoy das GPAI-Modell Gemma 4 von Google auf eigener Hardware im Rechenzentrum Münster. Google bleibt Anbieter (Provider) des GPAI-Modells im Sinne von Art. 3 Nr. 3 und Art. 51 ff. AI Act; die Anbieter-Pflichten des GPAI-Modells liegen weiterhin bei Google. LoyJoy nimmt am Modell selbst keine substantielle Modifikation im Sinne von Art. 25 Abs. 1c AI Act vor (kein Fine-Tuning, kein Weitertraining) und wird durch das reine On-Prem-Hosting nicht selbst zum Anbieter des GPAI-Modells. LoyJoy tritt weiterhin als Anbieter des darauf aufbauenden KI-Systems auf.

Ergänzend werden je nach Konfiguration KI-Modelle und Speech-to-Speech-Dienste von Unterauftragsverarbeitern wie Microsoft Azure, Mistral, Scaleway, Nebius oder Anthropic genutzt.

Im Verhältnis zu Endnutzern ist der Kunde regelmäßig Betreiber des konkreten KI-Systems bzw. Verantwortlicher für den konkreten Einsatzfall. LoyJoy unterstützt Kunden als Plattformanbieter und Auftragsverarbeiter durch technische und organisatorische Funktionen zur transparenten und datenschutzkonformen Nutzung.

Risikoklassifizierung nach dem EU AI Act

Die LoyJoy-Plattform ist nicht allein aufgrund des eingesetzten Sprachmodells einer bestimmten Risikoklasse zuzuordnen. Entscheidend ist der konkrete Verwendungszweck. Der vertraglich vorgesehene Verwendungszweck der LoyJoy Platform ist auf KI-gestützte Kundeninteraktionen per Chat und Telefon außerhalb von Hochrisiko-Anwendungen begrenzt.

Reine Informations-, Kommunikations- und Unterstützungsfunktionen werden regelmäßig nicht als Hochrisiko-Anwendungen eingestuft, solange das KI-System keine Entscheidungen über Personen trifft oder solche Entscheidungen wesentlich beeinflusst. Typische Beispiele sind die Beantwortung von Fragen aus freigegebenen Wissensquellen, allgemeine Produkt- und Serviceinformationen, die Navigation durch Prozesse sowie die Erfassung und Weiterleitung von Anfragen.

LoyJoy ist nicht für den Einsatz als Hochrisiko-KI-System im Sinne von Art. 6 in Verbindung mit Anhang I oder III der EU-KI-Verordnung bestimmt. Eine solche Nutzung ist nach der Acceptable Use Policy ausgeschlossen. Dazu zählen unter anderem bestimmte Anwendungen in Beschäftigung, Bildung, Kreditwürdigkeitsprüfung, wesentlichen öffentlichen und privaten Leistungen sowie Risiko- und Preisentscheidungen bei Lebens- und Krankenversicherungen.

Der Kunde legt den konkreten Verwendungszweck innerhalb der vertraglich zulässigen Nutzung fest und prüft ihn vor der Inbetriebnahme sowie bei wesentlichen Änderungen. LoyJoy unterstützt die Bewertung und den sicheren Einsatz durch konfigurierbare Guardrails, Prozessbegrenzungen, Protokollierung, menschliche Übergabe und technische Dokumentation. Weitere Hinweise zur Klassifizierung bietet die EU-Kommission.

Transparenzpflichten

Die Transparenzpflichten nach Art. 50 AI Act gelten seit dem 2. August 2026 und sind von der durch den Digital Omnibus erfolgten Verschiebung der Hochrisiko-Fristen nicht betroffen.

Chat

Bei Chat-Interaktionen stellt LoyJoy im Begrüßungsmodul einen KI-Hinweis bereit, der den Nutzer zu Beginn der Konversation darüber informiert, dass er mit einem KI-System interagiert. Jede KI-generierte Nachricht wird zusätzlich mit einem anpassbaren KI-Label gekennzeichnet. Ergänzend zeigt LoyJoy unterhalb des Eingabefelds eine permanente Hinweiszeile an, die während der gesamten Konversation sichtbar bleibt.

Passende Textvorschläge für Begrüßungsmodul und Hinweiszeile finden Sie unter KI-Hinweis-Textvorschläge.

Phone Agent

Bei Konversationen mit dem Phone Agent stellt LoyJoy eine konfigurierbare Standard-Begrüßung bereit, die den Anrufer zu Beginn darüber informiert, dass er mit einem KI-System interagiert. Die Standard-Begrüßung lautet:

“Hallo, ich bin die KI-Telefonassistenz von [Firmenname]. Das Gespräch wird zur Bearbeitung Ihres Anliegens vorübergehend gespeichert, natürlich vertraulich. Wie kann ich Ihnen helfen?”

Kunden können diese Begrüßung an ihren Einsatzfall anpassen. Die Plattform enthält dabei folgenden Hinweis: “Die Begrüßung sollte klar sagen, dass der Anrufer mit einem KI-System spricht. Wenn Sie diesen Hinweis entfernen, sind Sie für die rechtliche Bewertung Ihrer abweichenden Begrüßung verantwortlich.”

Bei Gesprächsaufzeichnungen muss der Auftraggeber zusätzlich prüfen, ob und in welcher Form ein Hinweis oder eine Einwilligung für die Aufzeichnung erforderlich ist.

Passende Textvorschläge für die Telefon-Begrüßung finden Sie ebenfalls unter KI-Hinweis-Textvorschläge.

Pflichten und Umsetzung

Pflicht	Umsetzung bei LoyJoy
Transparenz bei direkter KI-Interaktion, Art. 50 Abs. 1 AI Act	KI-generierte Chat-Nachrichten werden durch einen KI-Hinweis im Begrüßungsmodul, ein anpassbares KI-Label und eine permanente Hinweiszeile gekennzeichnet. Bei Phone-Agent-Interaktionen stellt LoyJoy eine Standard-Begrüßung mit klarem KI-Hinweis bereit.
Maschinenlesbare Kennzeichnung synthetischer Ausgaben, Art. 50 Abs. 2 AI Act	Diese technische Kennzeichnungspflicht ist von dem für Menschen wahrnehmbaren KI-Hinweis nach Art. 50 Abs. 1 zu unterscheiden. Für generative Systeme, die bereits vor dem 2. August 2026 am Markt waren, gilt eine Umsetzungsfrist bis zum 2. Dezember 2026. Die technische Umsetzung und die Anwendbarkeit auf die von LoyJoy erzeugten Ausgabearten werden derzeit geprüft.
Protokollierung	Konversationsdaten, einschließlich Transkripte und Gesprächsaufzeichnungen, werden nach Mandantenkonfiguration gespeichert, im Standard 30 Tage.
Menschliche Aufsicht	Kunden können Prozesslogik, Wissensquellen und Antworten konfigurieren und überprüfen. Eine Übergabe an menschliche Bearbeitung kann pro Prozess vorgesehen werden.
Cybersicherheit	Verschlüsselte Übertragung, rollenbasierte Zugriffskontrolle, Protokollierung, Unterauftragsverarbeiter mit dokumentierten Sicherheitsmaßnahmen.

Datenschutz

Verarbeitung als Auftragsverarbeiter gemäß Art. 28 DSGVO.
Standardmäßig wird Gemma 4 als Chat-LLM auf LoyJoy-eigener Hardware im Rechenzentrum Münster (Deutschland) betrieben. Für diesen Standardpfad findet kein Datenabfluss an einen externen KI-Modellanbieter statt.
Weitere LLM-Verarbeitung erfolgt standardmäßig in EU-Regionen. LoyJoy bietet eine Auswahl an KI-Modellen verschiedener Anbieter, die in der EU betrieben werden. Für Kunden, die nicht dem EU AI Act unterliegen, stellt LoyJoy zusätzlich KI-Modelle mit Server-Standort USA zur Verfügung. Diese sind in der Plattform klar gekennzeichnet und werden für EU-Kunden nicht als Standard konfiguriert.
Das Speech-to-Speech-Modell des Phone Agents wird seit August 2026 in der EU-Datenzone von Azure OpenAI verarbeitet.
Verschlüsselte Speicherung und Übertragung von personenbezogenen Daten.

Häufige Fragen

: Teilweise. Im Rahmen des Digital Omnibus wurden die Fristen für Hochrisiko-KI-Systeme auf Dezember 2027 beziehungsweise August 2028 verschoben. Die Transparenzpflichten nach Art. 50 AI Act sind von dieser Verschiebung nicht betroffen und gelten unverändert seit dem 2. August 2026.
: Ja. Art. 50 Abs. 1 AI Act verpflichtet Anbieter von KI-Systemen, die im direkten Kontakt mit natürlichen Personen stehen, etwa Chat-Assistenten, sicherzustellen, dass die betroffenen Personen über die Interaktion mit einem KI-System informiert werden, sofern dies nicht bereits offensichtlich ist.
: Ja, sofern für den Nutzer nicht ohnehin offensichtlich ist, dass er mit einem KI-System interagiert. LoyJoy setzt das über einen KI-Hinweis im Begrüßungsmodul, ein anpassbares KI-Label an jeder KI-generierten Nachricht und eine permanente Hinweiszeile unter dem Eingabefeld um.
: Ja. Auch am Telefon gilt die Transparenzpflicht aus Art. 50 AI Act. LoyJoy stellt dafür eine konfigurierbare Standard-Begrüßung bereit, die den Anrufer zu Beginn des Gesprächs klar darauf hinweist, dass er mit einem KI-System spricht.
: LoyJoy ist Anbieter (Provider) der KI-gestützten SaaS-Plattform und des darauf aufbauenden KI-Systems. Der Kunde, der die Plattform in seinem Chat oder seiner Telefonie einsetzt, ist in der Regel Betreiber (Deployer) des konkreten KI-Systems im Sinne des AI Act und dafür verantwortlich, wie es in seinem Einsatzfall konfiguriert und genutzt wird.
: Nein. LoyJoy ist nicht für den Einsatz als Hochrisiko-KI-System nach Art. 6 in Verbindung mit Anhang I oder III der EU-KI-Verordnung bestimmt. Eine solche Nutzung ist nach der Acceptable Use Policy ausgeschlossen.