Technische und organisatorische Maßnahmen (TOMs)

Diese technischen und organisatorischen Maßnahmen gelten gemäß Art. 32 DSGVO für die Verarbeitung personenbezogener Daten im Rahmen der GEKI AI Factory Services.

GEKI überprüft und entwickelt die Maßnahmen regelmäßig weiter. Änderungen dürfen das vereinbarte Sicherheitsniveau nicht wesentlich reduzieren.

1. Grundprinzipien

GEKI betreibt die AI Factory nach folgenden Grundsätzen:

• Stateless Inference
• keine persistente Speicherung von Prompts oder Outputs durch den Inference Service
• keine Nutzung von Kundendaten für Training oder Fine-Tuning
• Verarbeitung ausschließlich zur Erbringung des Kunden-Requests
• Least-Privilege- und Need-to-Know-Prinzip
• Trennung von Kunden- und externen Workloads
• europäische bzw. vertraglich vereinbarte Datenstandorte

2. Stateless Inference

Der Inference Service speichert grundsätzlich keine:

• Prompts
• Input-Inhalte
• übermittelten Dokumentinhalte
• AI-generierten Outputs
• Chat-Inhalte

persistent.

Inhalte werden ausschließlich soweit technisch notwendig in flüchtigen Speichern verarbeitet, insbesondere:

• RAM
• GPU VRAM
• KV-Cache
• Prefix Cache

Nach Wegfall des Verarbeitungszwecks werden diese Inhalte verworfen beziehungsweise überschrieben.

Logging

Application Logs enthalten grundsätzlich keine Prompt- oder Output-Payloads.

Zulässige technische Metadaten können beispielsweise umfassen:

• Timestamp
• Request-ID
• Modell
• Laufzeit
• Token-Anzahl
• HTTP Status
• technische Fehlercodes
• System- und Performance-Metriken

Sensible Inhalte werden soweit technisch erforderlich durch Logging-Filter und Redaction geschützt.

3. Kein Training mit Kundendaten

Kundendaten werden nicht für:

• Training
• Fine-Tuning
• Reinforcement Learning
• Modellverbesserung
• Benchmark-Datensätze
• Trainingsdaten für Dritte

verwendet.

Dies gilt insbesondere für Prompts, Dokumente und Outputs.

4. Zugriffskontrolle

Administrative Zugriffe sind auf autorisierte Personen beschränkt.

GEKI setzt insbesondere ein:

• individuelle Benutzerkonten
• rollenbasierte Berechtigungen
• Least-Privilege-Prinzip
• starke Authentifizierung
• Multi-Faktor-Authentifizierung für administrative Systeme, soweit technisch verfügbar
• regelmäßige Überprüfung von Berechtigungen
• Entzug von Zugängen bei Rollenwechsel oder Ausscheiden

Administrative Zugriffe werden soweit angemessen protokolliert.

5. API- und Anwendungssicherheit

Der Zugriff auf die AI Factory erfolgt über kontrollierte Schnittstellen.

Maßnahmen umfassen insbesondere:

• API-Key-basierte Authentifizierung beziehungsweise unterstützte alternative Authentifizierungsverfahren
• TLS-verschlüsselte Kommunikation
• Zugriffsbeschränkungen
• Rate- und Capacity-Controls, soweit erforderlich
• sichere Verwaltung von Secrets
• keine Speicherung von API Keys im Klartext, soweit technisch vermeidbar

Der Kunde ist für die sichere Verwaltung seiner eigenen Credentials verantwortlich.

6. Netzwerk- und Systemschutz

GEKI setzt dem jeweiligen Risiko angemessene Maßnahmen ein, insbesondere:

• Netzwerksegmentierung
• Firewall-Regeln
• Beschränkung administrativer Interfaces
• sichere Remote-Administration
• Trennung von Management- und produktivem Traffic, soweit technisch vorgesehen
• laufendes System-Monitoring
• Schutz vor unautorisierten Netzwerkzugriffen

7. Trennung von Kunden- und externen Workloads

Kunden-Workloads und externe Workloads, insbesondere im Rahmen von Token Resale, werden technisch und logisch getrennt.

Externe Workloads erhalten keinen Zugriff auf:

• Kundendaten
• Kunden-Prompts
• Outputs
• Dokumente
• Context-Daten
• kundenspezifische Caches
• Credentials
• API Keys

Freie Rechenkapazität darf für externe Workloads verwendet werden, ohne dass dabei Kundendaten oder Customer Context mitgenutzt werden.

8. Verschlüsselung

Datenübertragung

Daten werden bei der Übertragung über öffentliche beziehungsweise nicht vertrauenswürdige Netze mit zeitgemäßen Transportverschlüsselungsverfahren, insbesondere TLS, geschützt.

Persistente Daten

Soweit im Rahmen zusätzlicher Services überhaupt persistente Kundendaten gespeichert werden, werden geeignete Verschlüsselungsmaßnahmen entsprechend dem jeweiligen technischen System eingesetzt.

Der reine AI Factory Inference Service ist grundsätzlich stateless.

9. Patch- und Vulnerability-Management

GEKI betreibt ein laufendes Patch- und Update-Management für die von GEKI verantworteten Komponenten.

Dies umfasst nach Relevanz insbesondere:

• Betriebssystem
• GPU-Treiber
• ROCm beziehungsweise GPU Software Stack
• Inference Runtime
• Container und Dependencies
• Management-Komponenten
• Security Updates

Kritische Sicherheitslücken werden nach Risikobewertung priorisiert behandelt.

10. Monitoring

GEKI überwacht die wesentlichen technischen Komponenten der AI Factory.

Monitoring umfasst nach Bedarf:

• Systemzustand
• GPU-Auslastung
• VRAM-Auslastung
• Temperatur und Hardwarezustand
• Inference Service
• API-Verfügbarkeit
• Fehlerquoten
• Systemressourcen
• sicherheitsrelevante Ereignisse

Monitoring-Daten werden soweit möglich ohne inhaltliche Prompt- oder Output-Daten verarbeitet.

11. Incident Management

GEKI verfügt über Verfahren zur:

• Erkennung
• Analyse
• Klassifizierung
• Eskalation
• Behebung
• Dokumentation

von Security- und Service-Incidents.

Datenschutzverletzungen mit Bezug zu Kundendaten werden entsprechend dem DPA behandelt.

Datenschutzkontakt:

gdpr@geki.ai

12. Backup und Wiederherstellung

Da der AI Factory Inference Service stateless betrieben wird, besteht grundsätzlich kein fachlicher Bedarf für Backups von Prompt- oder Output-Inhalten.

GEKI kann Backups beziehungsweise Recovery-Verfahren für notwendige Systemkomponenten einsetzen, insbesondere:

• Systemkonfigurationen
• Deployment-Konfigurationen
• Infrastruktur-Konfigurationen
• technische Management-Daten

Soweit zusätzliche persistente Services vereinbart werden, werden deren Backup- und Retention-Anforderungen gesondert definiert.

13. Hardware Operations

GEKI überwacht und betreibt die im Order Form vereinbarte GPU-Infrastruktur.

Bei Hardwaredefekten übernimmt GEKI insbesondere:

• Diagnose
• Reparaturkoordination
• Garantieabwicklung
• Hardwareaustausch
• Wiederherstellung der Systemkonfiguration

Ersatzhardware kann technisch gleichwertig oder höherwertig sein.

14. Physische Sicherheit

Die AI Factory wird in dem im Order Form vereinbarten Rechenzentrum betrieben.

Die physische Sicherheit wird durch den jeweiligen Rechenzentrumsbetreiber gewährleistet und umfasst nach dessen Sicherheitskonzept insbesondere:

• kontrollierten Gebäudezugang
• Zutrittsbeschränkungen zu technischen Bereichen
• Stromversorgung
• Kühlung
• Brandschutz
• Monitoring der Rechenzentrumsinfrastruktur

Der konkrete Rechenzentrumsbetreiber wird in der Subprozessoren-Liste ausgewiesen, soweit dieser personenbezogene Daten im Auftrag verarbeitet.

15. Personal und Vertraulichkeit

Personen mit Zugriff auf relevante Systeme werden:

• auf Vertraulichkeit verpflichtet
• entsprechend ihrer Aufgaben autorisiert
• hinsichtlich Sicherheitsanforderungen informiert
• nur im notwendigen Umfang mit Zugriffsrechten ausgestattet

16. Datenschutz durch Technikgestaltung

Bei der Konzeption und Weiterentwicklung der Plattform berücksichtigt GEKI insbesondere:

• Datenminimierung
• Stateless Processing
• Trennung von Workloads
• Minimierung von Logs
• Zugriffsbeschränkungen
• sichere Default-Konfigurationen

17. Subprozessoren

GEKI prüft eingesetzte Subprozessoren hinsichtlich ihrer Eignung und verpflichtet diese entsprechend Art. 28 DSGVO, soweit sie personenbezogene Daten im Auftrag verarbeiten.

Neue oder ersetzte Subprozessoren werden dem Kunden entsprechend dem DPA mindestens einen Monat vor ihrem erstmaligen Einsatz per E-Mail angekündigt.

Siehe Subprozessoren-Liste.

18. Überprüfung der Maßnahmen

GEKI überprüft die Angemessenheit dieser TOMs regelmäßig sowie bei wesentlichen Änderungen an:

• Infrastruktur
• Technologie
• Risikolage
• regulatorischen Anforderungen
• angebotenen Services