Kurz-Stellungnahme zur EU-KI-Verordnung (AI Act)
Änderungshistorie (3 Einträge)
- 06.05.2026 Standard-Begrüßung des Phonebots dokumentiert. Plattformhinweis zur Verantwortung bei abweichender Begrüßung ergänzt.
- 05.05.2026 Rolle von LoyJoy um Phone Agent und Speech-to-Speech erweitert. Transparenzpflichten für Phonebot-Konversationen ergänzt. Pflichten-Tabelle aktualisiert.
- 20.05.2025 Erstveröffentlichung der AI-Act-Stellungnahme.
Rolle von LoyJoy
LoyJoy stellt Unternehmenskunden eine SaaS-Plattform zur Erstellung und Ausführung von KI-gestützten Kundeninteraktionen per Chat und Telefon bereit. LoyJoy entwickelt keine eigenen Foundation Models. Je nach Konfiguration werden KI-Modelle und Speech-to-Speech-Dienste von Unterauftragsverarbeitern wie Microsoft Azure, Mistral, Scaleway, Nebius oder Anthropic genutzt.
Im Verhältnis zu Endnutzern ist der Kunde regelmäßig Betreiber des konkreten KI-Systems bzw. Verantwortlicher für den konkreten Einsatzfall. LoyJoy unterstützt Kunden als Plattformanbieter und Auftragsverarbeiter durch technische und organisatorische Funktionen zur transparenten und datenschutzkonformen Nutzung.
Transparenzpflichten
Bei Phonebot-Konversationen stellt LoyJoy eine konfigurierbare Standard-Begrüßung bereit, die den Anrufer zu Beginn darüber informiert, dass er mit einem KI-System interagiert. Die Standard-Begrüßung lautet:
“Hallo, ich bin die KI-Telefonassistenz von [Firmenname]. Das Gespräch wird zur Bearbeitung Ihres Anliegens vorübergehend gespeichert, natürlich vertraulich. Wie kann ich Ihnen helfen?”
Kunden können diese Begrüßung an ihren Einsatzfall anpassen. Die Plattform enthält dabei folgenden Hinweis: “Die Begrüßung sollte klar sagen, dass der Anrufer mit einem KI-System spricht. Wenn Sie diesen Hinweis entfernen, sind Sie für die rechtliche Bewertung Ihrer abweichenden Begrüßung verantwortlich.”
Bei Gesprächsaufzeichnungen muss der Auftraggeber zusätzlich prüfen, ob und in welcher Form ein Hinweis oder eine Einwilligung für die Aufzeichnung erforderlich ist.
Pflichten des Betreibers und Umsetzung
| Pflicht | Umsetzung bei LoyJoy |
|---|---|
| Transparenz bei direkter KI-Interaktion, Art. 50 AI Act | KI-generierte Chat-Interaktionen können gekennzeichnet werden. Bei Phonebot-Interaktionen stellt LoyJoy eine Standard-Begrüßung mit klarem KI-Hinweis bereit. |
| Kennzeichnung synthetischer Audioinhalte, Art. 50 AI Act | Bei Speech-to-Speech-Dialogen wird der Anrufer zu Beginn der Interaktion darauf hingewiesen, dass er mit einem KI-System bzw. KI-Telefonassistenten spricht. |
| Protokollierung | Konversationsdaten, einschließlich Transkripte und Gesprächsaufzeichnungen, werden nach Mandantenkonfiguration gespeichert, im Standard 30 Tage. |
| Menschliche Aufsicht | Kunden können Prozesslogik, Wissensquellen und Antworten konfigurieren und überprüfen. Eine Übergabe an menschliche Bearbeitung kann pro Prozess vorgesehen werden. |
| Cybersicherheit | Verschlüsselte Übertragung, rollenbasierte Zugriffskontrolle, Protokollierung, Unterauftragsverarbeiter mit dokumentierten Sicherheitsmaßnahmen. |
Datenschutz
- Verarbeitung als Auftragsverarbeiter gemäß Art. 28 DSGVO.
- LLM-Verarbeitung erfolgt standardmäßig in EU-Regionen. LoyJoy bietet eine Auswahl an KI-Modellen verschiedener Anbieter, die in der EU betrieben werden. Für Kunden, die nicht dem EU AI Act unterliegen, stellt LoyJoy zusätzlich KI-Modelle mit Server-Standort USA zur Verfügung. Diese sind in der Plattform klar gekennzeichnet und werden für EU-Kunden nicht als Standard konfiguriert.
- Das Speech-to-Speech-Modell des Phone Agents wird derzeit über globale Azure-Dienste verarbeitet, da diese Funktion noch nicht als reine EU-Region verfügbar ist.
- Verschlüsselte Speicherung und Übertragung von personenbezogenen Daten.