Erstgespräch
Zurück zu Konrad auf der Startseite

Konrad: Datenfluss und Transparenz

Konrad ist der KI-Sprachassistent, den ich für den Getränkefachgroßhandel Freytag Getränke in Lübeck entwickelt habe und dort in begleiteten Testläufen erprobe. Diese Seite zeigt, welche Daten wohin gehen, wer beteiligt ist und was davon heute umgesetzt ist — einschließlich der Punkte, die noch offen sind.

Stand: . Für die Verarbeitung von Bestell- und Kundendaten ist der Betrieb Freytag Getränke verantwortlich (siehe Geltungsbereich der Datenschutzerklärung); diese Seite beschreibt die Technik dahinter.

Der Datenfluss eines Gesprächsschritts

Konrad ist hybrid aufgebaut: Alles läuft auf eigener Hardware im Betrieb — bis auf das Sprachmodell, das das Gespräch versteht und die Antwort formuliert. Es läuft bei Mistral AI in der EU und bekommt nur Text, in dem Konrad vorher personenbezogene Angaben durch Platzhalter ersetzt hat.

Datenfluss bei Konrad Der Anrufer spricht mit Konrad. Im Betrieb laufen Telefonanlage und Spracherkennung, dann Pseudonymisierung und Prüfung vor dem Versand. Nur Platzhaltertext geht an das Sprachmodell von Mistral AI in Paris, EU-Cloud, Modelltraining abgeschaltet. Die Antwort mit Platzhaltern kommt zurück in den Betrieb, wird dort zurückübersetzt und lokal gesprochen. Kundendaten, ERP, Preise und Pfand bleiben im Betrieb; die Zuordnung der Platzhalter liegt nur im Arbeitsspeicher. Anrufer am Telefon Im Betrieb · eigene Hardware Telefonanlage und Spracherkennung Pseudonymisierung und Prüfung vor dem Versand Kundendaten ERP Preise, Pfand verlassen den Betrieb nie nur Platzhaltertext EU-Cloud Sprachmodell · Mistral AI, Paris Modelltraining abgeschaltet außerhalb des Betriebs Antwort mit Platzhaltern Im Betrieb · eigene Hardware Rückübersetzung der Platzhalter Sprachausgabe (Stimme) Zuordnung nur im Arbeitsspeicher, je Gespräch Anrufer hört die Antwort

Der Datenfluss als Text

  1. Telefonanlage und Spracherkennung laufen auf eigener Hardware im Betrieb. Das Gesprächsaudio verlässt den Betrieb nicht.
  2. Pseudonymisierung: Konrad ersetzt Namen, Adressen, Telefonnummern, Kundennummern, IBAN, E-Mail-Adressen und Geldbeträge durch Platzhalter wie NAME_1 oder BETRAG_1. Produktnamen und Mengen bleiben stehen, damit die Bestellung verständlich bleibt.
  3. Prüfung vor dem Versand: Findet sie noch personenbezogene Reste — oder hat sie selbst einen Fehler —, geht nichts hinaus.
  4. Sprachmodell in der EU: Nur der Platzhaltertext geht an Mistral AI (EU-Endpunkt in Paris); die Nutzung für Modelltraining ist abgeschaltet.
  5. Rückübersetzung: Die Antwort kommt mit Platzhaltern zurück und wird im Betrieb wieder in Klartext übersetzt.
  6. Sprachausgabe: Konrads Stimme entsteht lokal — nach der Rückübersetzung stehen wieder Klarnamen im Text.
  7. Kundendaten, ERP, Preise und Pfand bleiben die ganze Zeit im Betrieb. Preis und Pfand rechnet Konrad selbst nach festen Regeln aus. Die Zuordnung der Platzhalter liegt nur im Arbeitsspeicher und wird beim Auflegen gelöscht.

Nachweise und Status

Was davon umgesetzt ist und was noch nicht. „Aktiv“ heißt: im Einsatz, nicht nur geplant.

Umsetzungsstand Stand:
MaßnahmeStatusWas dahintersteht
Spracherkennung und Sprachausgabe auf eigener Hardware aktiv Beide laufen im Betrieb; das Gesprächsaudio geht an keinen Anbieter.
Kundendaten, ERP, Preise und Pfand nur im Betrieb aktiv Geldbeträge werden wie personenbezogene Daten durch Platzhalter ersetzt; Preis und Pfand berechnet die lokale Geschäftslogik.
Pseudonymisierung vor jedem Versand aktiv Regeln und das eigene Kundenverzeichnis erkennen Namen, Adressen, Telefonnummern, Kundennummern, IBAN, E-Mail-Adressen und Geldbeträge.
Prüfung vor dem Versand aktiv Bei einem Befund oder einem Fehler der Prüfung geht nichts hinaus; es wird ein Alarm ausgelöst, Konrad spricht einen fest hinterlegten Satz.
Zuordnungstabelle nur im Arbeitsspeicher aktiv Je Anruf, nie gespeichert oder protokolliert, beim Auflegen gelöscht.
Zusätzliche Namenserkennung mit einem lokalen Modell vorbereitet, nicht eingeschaltet Soll Namen ohne erkennbaren Zusammenhang besser finden; im Code vorgesehen, derzeit aus.
Gesprächs-Sprachmodell bei Mistral AI (EU-Endpunkt Paris) im begleiteten Testbetrieb Der EU-Endpunkt ist im Code fest eingestellt; ein Anbieterweg ohne Verarbeitung in der EU ist im Code gesperrt.
Modelltraining mit den übermittelten Daten abgeschaltet Im Konto beim Anbieter ausgeschaltet.
Auftragsverarbeitungsvertrag mit Mistral AI in Vorbereitung Kundengespräche laufen über das Sprachmodell ausschließlich auf Grundlage eines Auftragsverarbeitungsvertrags.
KI-Hinweis zu Beginn jedes Gesprächs (Art. 50 KI-Verordnung) aktiv In jeder Begrüßung: „Hier ist Konrad, Sie sprechen mit einem KI-System von Freytag Getränke.“
Keine Tonaufnahme von Kundengesprächen aktiv Tonaufnahmen gibt es nur von Testanrufen der Betreibernummern. Damit Bestellungen nachvollziehbar bleiben, wird der Gesprächsverlauf als Text im Betrieb gespeichert.

Wer ist beteiligt

Ständig

Der Referenzbetrieb — Freytag Getränke, Lübeck, mit eigener Hardware.

Telefonanlage, Spracherkennung, Pseudonymisierung und Prüfung, Rückübersetzung, Sprachausgabe, Kundendaten, ERP, Preise und Pfand.

Nutzungsabhängig

Mistral AI SAS, Paris (Frankreich) — Sprachmodell für das Gespräch, über den EU-Endpunkt.

Erhält nur Platzhaltertext; die Nutzung für Modelltraining ist abgeschaltet. Einsatz für Kundengespräche ausschließlich auf Grundlage eines Auftragsverarbeitungsvertrags.

Für Datenschutzbeauftragte

Was wird an das Sprachmodell übertragen?

Der Text des jeweiligen Gesprächsschritts und der bisherige Gesprächsverlauf — beides erst, nachdem Konrad Namen, Adressen, Telefonnummern, Kundennummern, IBAN, E-Mail-Adressen und Geldbeträge lokal durch Platzhalter ersetzt hat. Produktnamen und Mengen bleiben stehen.

Was wird nie übertragen?

Das Gesprächsaudio, die Kundendatenbank und das ERP, Preise und Pfandbeträge sowie die Zuordnung der Platzhalter zum Klartext.

Wie lange lebt die Zuordnung der Platzhalter?

Nur für die Dauer eines Anrufs und nur im Arbeitsspeicher. Sie wird nicht gespeichert, nicht protokolliert und beim Auflegen gelöscht.

Was passiert, wenn die Prüfung noch personenbezogene Reste findet?

Dann geht nichts hinaus — ebenso, wenn die Prüfung selbst einen Fehler hat. Konrad antwortet in diesem Schritt mit einem fest hinterlegten Satz, und ein Alarm wird ausgelöst. Die Erkennung arbeitet mit Regeln und dem Kundenverzeichnis; frei erzählte Umstände oder einen Namen ohne erkennbaren Zusammenhang kann sie übersehen. Pseudonymisiert heißt deshalb nicht anonym: Auch der Platzhaltertext wird als personenbezogen behandelt.

Woran erkennen Anrufer, dass sie mit einer KI sprechen?

Konrad sagt es in jeder Begrüßung: „Hier ist Konrad, Sie sprechen mit einem KI-System von Freytag Getränke.“ Das ist die Transparenzpflicht nach Art. 50 der europäischen KI-Verordnung.

Werden Gespräche aufgezeichnet?

Tonaufnahmen von Kundengesprächen gibt es nicht; aufgenommen werden ausschließlich Testanrufe von den Nummern des Betreibers. Damit Bestellungen nachvollziehbar bleiben, speichert Konrad den Gesprächsverlauf als Text auf eigener Hardware im Betrieb.

Was sich geändert hat

  1. Begleiteter Testbetrieb mit dem Sprachmodell von Mistral AI (EU-Endpunkt Paris), Nutzung für Modelltraining abgeschaltet. Diese Seite angelegt.
  2. Entscheidung für den hybriden Aufbau: Nur das Gesprächs-Sprachmodell darf in die EU-Cloud, und nur mit pseudonymisiertem Text; alles andere bleibt im Betrieb.
  3. Das F360-System läuft im Referenzbetrieb produktiv; Lieferscheine und Rechnungen tragen den Vermerk „Bestellung aufgenommen von Konrad KI“.

Konrad live sehen — Vorführung im Erstgespräch

Siehe auch: Konrad auf der Startseite · Impressum · Datenschutzerklärung