Technische und organisatorische Maßnahmen (TOMs)

gemäß Art. 32 DSGVO

Diese technischen und organisatorischen Maßnahmen gelten für die Verarbeitung personenbezogener Daten im Rahmen der GEKI AI Factory und GEKI Companybots.

GEKI überprüft und entwickelt die Maßnahmen regelmäßig weiter. Änderungen dürfen das vereinbarte Sicherheitsniveau nicht wesentlich reduzieren.

1. Grundprinzipien

GEKI betreibt die AI Factory nach folgenden Grundsätzen:

• Stateless Inference
• keine persistente Speicherung von Prompts oder Outputs durch den Inference Service
• persistente Speicherung nur, soweit ein Dienst sie ausdrücklich vorsieht (GEKI Companybots (Bots und Web-App) gemäß Abschnitt 2a), mit Löschmöglichkeit durch den Kunden
• keine Nutzung von Kundendaten für Training oder Fine-Tuning
• Verarbeitung ausschließlich zur Erbringung des Kunden-Requests
• Least-Privilege- und Need-to-Know-Prinzip
• Trennung von Kunden- und externen Workloads
• europäische bzw. vertraglich vereinbarte Datenstandorte

2. Stateless Inference

Der Inference Service speichert grundsätzlich keine:

• Prompts
• Input-Inhalte
• übermittelten Dokumentinhalte
• AI-generierten Outputs
• Chat-Inhalte

persistent.

Inhalte werden ausschließlich soweit technisch notwendig in flüchtigen Speichern verarbeitet, insbesondere:

• RAM
• GPU VRAM
• KV-Cache
• Prefix Cache

Nach Wegfall des Verarbeitungszwecks werden diese Inhalte verworfen beziehungsweise überschrieben.

Diese Grundsätze gelten für den Inference Service. Die persistente Speicherung durch GEKI Companybots, Bots und Web-App ist in Abschnitt 2a geregelt.

Logging

Application Logs enthalten grundsätzlich keine Prompt- oder Output-Payloads.

Zulässige technische Metadaten können beispielsweise umfassen:

• Timestamp
• Request-ID
• Modell
• Laufzeit
• Token-Anzahl
• HTTP Status
• technische Fehlercodes
• System- und Performance-Metriken

Sensible Inhalte werden soweit technisch erforderlich durch Logging-Filter und Redaction geschützt.

2a. GEKI Companybots (Bots und Web-App)

GEKI Companybots (Bots, Bot API und Web-App) ist eine von der Inference getrennte Anwendungsschicht. Sie wird auf Servern in Rechenzentren in der EU betrieben (siehe Subprozessoren-Liste) und ruft die Modelle der gewählten Token-Quelle über gesicherte Verbindungen auf.

Gespeicherte Daten

Persistent gespeichert werden ausschließlich:

• Chat-Verläufe und Konversationskontext
• vom Kunden in Bots hinterlegte Quellen und Bot-Konfigurationen
• Konto-, Berechtigungs- und Zustimmungsdaten der Nutzer von GEKI Companybots und Web-App
• Organisationsdaten, API Keys (nur als Hash bzw. einmalig angezeigt), Guthaben und Verbrauchsdaten
• Branding-Elemente (z. B. Logo)

Registrierung und Anmeldung

• Anmeldung und Registrierung laufen über einen von GEKI selbst betriebenen Identitätsdienst (Keycloak, auth.geki.ai) auf der Infrastruktur der Anwendungsschicht
• Selbstregistrierung nur mit bestätigter E-Mail-Adresse
• Passwörter werden ausschließlich als Hash gespeichert
• Mehr-Faktor-Authentifizierung (TOTP, Passkeys) steht zur Verfügung
• Zustimmungen zu Vertragsdokumenten werden mit Zeitpunkt und Fassung protokolliert
• neue Organisationen sind von bestehenden vollständig getrennt; ein neues Konto erhält ohne Einladung keinen Zugriff auf eine bestehende Organisation

Zugriffskontrolle und Trennung

• Daten verschiedener Kunden werden logisch getrennt; ein Kunde hat nur Zugriff auf seine eigenen Bots, Chat-Verläufe und Quellen
• Web-App-Nutzer sehen ausschließlich die Bots, für die der Kunde sie berechtigt hat, und ihre eigenen Chat-Verläufe
• individuelle Nutzerkonten für GEKI Companybots und Web-App; Vergabe und Entzug durch den Kunden
• administrative Zugriffe durch GEKI-Personal auf gespeicherte Inhalte nur, soweit für Betrieb, Support des Kunden oder Incident-Behandlung erforderlich, und protokolliert

Verschlüsselung

• Übertragung zwischen Nutzern, Web-App, GEKI Companybots und AI Factory TLS-verschlüsselt
• Verschlüsselung der gespeicherten Daten (at rest)

Löschung

• Der Kunde kann Chat-Verläufe und gespeicherten Kontext jederzeit über GEKI Companybots löschen
• nach Vertragsende Rückgabe oder Löschung gemäß DPA Abschnitt 12

Backup

Die Daten der Anwendungsschicht werden regelmäßig gesichert. Gelöschte Daten werden mit Ablauf des Backup-Zyklus auch aus den Sicherungen entfernt.

Web-Suche

Ist die Web-Suche für einen Bot aktiviert, werden ausschließlich die dafür erforderlichen Suchanfragen an den in der Subprozessoren-Liste ausgewiesenen Web-Search-Provider übermittelt, nicht der vollständige Chat-Verlauf.

E-Mail-Versand

System-E-Mails (Bestätigung der E-Mail-Adresse, Passwort-Reset, Einladungen, Benachrichtigungen) werden TLS-verschlüsselt über Amazon SES in der Region Frankfurt (EU) versendet. Inhalte von Prompts oder Chats sind nicht Teil dieser E-Mails.

Produktanalyse und Fehlerberichte

• Nutzungsereignisse von GEKI Companybots (z. B. Registrierung, Anlage einer Organisation) werden über einen eigenen Endpunkt (ph.geki.ai) an PostHog in der EU übermittelt, zugeordnet zur Kennung des Kontos. In GEKI Companybots ist zusätzlich eine Sitzungsaufzeichnung mit maskierten Inhalten aktiv. Passwörter, API Keys und Tokens werden nicht übermittelt; Anmelde- und Registrierungsseiten laufen ohne Cookies und ohne Zuordnung zu einer Person.
• Fehlerberichte der Anwendungen gehen an einen von GEKI selbst betriebenen Fehlerdienst (Bugsink, errors.geki.ai): nur Ausnahmen, kein Tracing, keine Sitzungsaufzeichnung; ein Dritter ist nicht beteiligt.

Zahlungen

Zahlungen für Guthaben werden auf den Seiten des Zahlungsdienstleisters Stripe abgewickelt. GEKI speichert keine Kartendaten; in GEKI Companybots liegen nur die Kennung des Stripe-Kunden und die Zahlungsbelege vor.

3. Kein Training mit Kundendaten

Kundendaten werden nicht für:

• Training
• Fine-Tuning
• Reinforcement Learning
• Modellverbesserung
• Benchmark-Datensätze
• Trainingsdaten für Dritte

verwendet.

Dies gilt insbesondere für Prompts, Dokumente und Outputs.

4. Zugriffskontrolle

Administrative Zugriffe sind auf autorisierte Personen beschränkt.

GEKI setzt insbesondere ein:

• individuelle Benutzerkonten
• rollenbasierte Berechtigungen
• Least-Privilege-Prinzip
• starke Authentifizierung
• Multi-Faktor-Authentifizierung für administrative Systeme, soweit technisch verfügbar
• regelmäßige Überprüfung von Berechtigungen
• Entzug von Zugängen bei Rollenwechsel oder Ausscheiden

Administrative Zugriffe werden soweit angemessen protokolliert.

5. API- und Anwendungssicherheit

Der Zugriff auf die AI Factory erfolgt über kontrollierte Schnittstellen.

Maßnahmen umfassen insbesondere:

• API-Key-basierte Authentifizierung beziehungsweise unterstützte alternative Authentifizierungsverfahren
• TLS-verschlüsselte Kommunikation
• Zugriffsbeschränkungen
• Rate- und Capacity-Controls, soweit erforderlich
• sichere Verwaltung von Secrets
• keine Speicherung von API Keys im Klartext, soweit technisch vermeidbar

Der Kunde ist für die sichere Verwaltung seiner eigenen Credentials verantwortlich.

6. Netzwerk- und Systemschutz

GEKI setzt dem jeweiligen Risiko angemessene Maßnahmen ein, insbesondere:

• Netzwerksegmentierung
• Firewall-Regeln
• Beschränkung administrativer Interfaces
• sichere Remote-Administration
• Trennung von Management- und produktivem Traffic, soweit technisch vorgesehen
• laufendes System-Monitoring
• Schutz vor unautorisierten Netzwerkzugriffen

7. Trennung von Kunden- und externen Workloads

Kunden-Workloads und externe Workloads, insbesondere im Rahmen von Token Resale, werden technisch und logisch getrennt.

Externe Workloads erhalten keinen Zugriff auf:

• Kundendaten
• Kunden-Prompts
• Outputs
• Dokumente
• Context-Daten
• kundenspezifische Caches
• Credentials
• API Keys

Freie Rechenkapazität darf für externe Workloads verwendet werden, ohne dass dabei Kundendaten oder Customer Context mitgenutzt werden.

8. Verschlüsselung

Datenübertragung

Daten werden bei der Übertragung über öffentliche beziehungsweise nicht vertrauenswürdige Netze mit zeitgemäßen Transportverschlüsselungsverfahren, insbesondere TLS, geschützt.

Persistente Daten

Soweit im Rahmen zusätzlicher Services überhaupt persistente Kundendaten gespeichert werden, werden geeignete Verschlüsselungsmaßnahmen entsprechend dem jeweiligen technischen System eingesetzt.

Der reine AI Factory Inference Service ist grundsätzlich stateless. Für die Daten von GEKI Companybots, Bots und Web-App gilt Abschnitt 2a.

9. Patch- und Vulnerability-Management

GEKI betreibt ein laufendes Patch- und Update-Management für die von GEKI verantworteten Komponenten.

Dies umfasst nach Relevanz insbesondere:

• Betriebssystem
• GPU-Treiber
• ROCm beziehungsweise GPU Software Stack
• Inference Runtime
• Container und Dependencies
• Management-Komponenten
• Security Updates

Kritische Sicherheitslücken werden nach Risikobewertung priorisiert behandelt.

10. Monitoring

GEKI überwacht die wesentlichen technischen Komponenten der AI Factory.

Monitoring umfasst nach Bedarf:

• Systemzustand
• GPU-Auslastung
• VRAM-Auslastung
• Temperatur und Hardwarezustand
• Inference Service
• API-Verfügbarkeit
• Fehlerquoten
• Systemressourcen
• sicherheitsrelevante Ereignisse

Monitoring-Daten werden soweit möglich ohne inhaltliche Prompt- oder Output-Daten verarbeitet.

11. Incident Management

GEKI verfügt über Verfahren zur:

• Erkennung
• Analyse
• Klassifizierung
• Eskalation
• Behebung
• Dokumentation

von Security- und Service-Incidents.

Datenschutzverletzungen mit Bezug zu Kundendaten werden entsprechend dem DPA behandelt.

Datenschutzkontakt:

gdpr@geki.ai

12. Backup und Wiederherstellung

Da der AI Factory Inference Service stateless betrieben wird, besteht grundsätzlich kein fachlicher Bedarf für Backups von Prompt- oder Output-Inhalten.

GEKI kann Backups beziehungsweise Recovery-Verfahren für notwendige Systemkomponenten einsetzen, insbesondere:

• Systemkonfigurationen
• Deployment-Konfigurationen
• Infrastruktur-Konfigurationen
• technische Management-Daten

Soweit zusätzliche persistente Services vereinbart werden, werden deren Backup- und Retention-Anforderungen gesondert definiert. Für GEKI Companybots (Bots und Web-App) siehe Abschnitt 2a.

13. Hardware Operations

GEKI überwacht und betreibt die im Order Form vereinbarte GPU-Infrastruktur.

Bei Hardwaredefekten übernimmt GEKI insbesondere:

• Diagnose
• Reparaturkoordination
• Garantieabwicklung
• Hardwareaustausch
• Wiederherstellung der Systemkonfiguration

Ersatzhardware kann technisch gleichwertig oder höherwertig sein.

14. Physische Sicherheit

Die AI Factory wird in dem im Order Form vereinbarten Rechenzentrum betrieben.

Die physische Sicherheit wird durch den jeweiligen Rechenzentrumsbetreiber gewährleistet und umfasst nach dessen Sicherheitskonzept insbesondere:

• kontrollierten Gebäudezugang
• Zutrittsbeschränkungen zu technischen Bereichen
• Stromversorgung
• Kühlung
• Brandschutz
• Monitoring der Rechenzentrumsinfrastruktur

Der konkrete Rechenzentrumsbetreiber wird in der Subprozessoren-Liste ausgewiesen, soweit dieser personenbezogene Daten im Auftrag verarbeitet.

Für GEKI Companybots gilt dies entsprechend für die in der Subprozessoren-Liste ausgewiesenen Rechenzentren.

15. Personal und Vertraulichkeit

Personen mit Zugriff auf relevante Systeme werden:

• auf Vertraulichkeit verpflichtet
• entsprechend ihrer Aufgaben autorisiert
• hinsichtlich Sicherheitsanforderungen informiert
• nur im notwendigen Umfang mit Zugriffsrechten ausgestattet

16. Datenschutz durch Technikgestaltung

Bei der Konzeption und Weiterentwicklung der Plattform berücksichtigt GEKI insbesondere:

• Datenminimierung
• Stateless Processing
• Trennung von Workloads
• Minimierung von Logs
• Zugriffsbeschränkungen
• sichere Default-Konfigurationen

17. Subprozessoren

GEKI prüft eingesetzte Subprozessoren hinsichtlich ihrer Eignung und verpflichtet diese entsprechend Art. 28 DSGVO, soweit sie personenbezogene Daten im Auftrag verarbeiten.

Neue oder ersetzte Subprozessoren werden dem Kunden entsprechend dem DPA mindestens 20 Tage vor ihrem erstmaligen Einsatz per E-Mail angekündigt.

Siehe Subprozessoren-Liste.

18. Überprüfung der Maßnahmen

GEKI überprüft die Angemessenheit dieser TOMs regelmäßig sowie bei wesentlichen Änderungen an:

• Infrastruktur
• Technologie
• Risikolage
• regulatorischen Anforderungen
• angebotenen Services