Principal Security Engineer – AI & Copilot Data Protection

Aufgaben und Verantwortlichkeiten

• Die Rolle dient als tiefgreifende technische Autorität für den KI-Datenschutz, treibt kritisches Denken voran, erstellt verwertbare Informationen, gibt Leitlinien für die Nutzung der Microsoft AI Copilot-Plattform und stellt Fachwissen für Peer-Teams bereit.
• Verantwortungsbereich (Principal Practitioner):
  • Tier-2-technische Beratung und Kontrollstrategie für den KI- und Copilot-Datenschutz, nicht nur für Unternehmensfunktionen.
  • Definition harter, wiederholbarer Muster zur Absicherung von KI-Modell-Workflows, die von anderen übernommen werden können.
  • Enge Zusammenarbeit mit Produktmanagern, Kontroll- und KI-Innovationsteams (Produkt, Informationssicherheit, Datenschutz, Audit und GRC-Teams).
  • Beratung der C-Suite und der Senior Leadership Teams, um sicherzustellen, dass Microsoft-KI-Gefahren angemessen abgegrenzt werden.
  • Dienen als Unternehmensberater für Muster und Kontrollen bei der KI-Sicherheitsbewertung für die Unternehmenskonformität.
• KI- und Copilot-Sicherheitsarchitektur:
  • Wirkung als vertrauenswürdiger technischer Leiter und Design-Autorität für KI-Modell- und Unternehmens-KI-Sicherheitskontrollen (Large Language Models (LLM), MLOps und RAG).
  • Definition von Secure-by-Design-Architekturmodellen für die Bereitstellung von KI-Modellen, um den Schutz für KI-verknüpfte Modelle und Vektordatenbanken sicherzustellen.
  • Forschung und Bewertung von kommerziellen Drittanbietermodellen, einschließlich:
    • Risikobewertung von Vendor-Benchmarks
    • Integritätsanalyse der Lieferkette
    • KI-bezogene Sicherheits- und Datenschutzmetriken
    • Transparenz, nachweisbare Erkenntnisse und menschliche Aufsicht
  • Bereitstellung von Sicherheitsblaupausen für die Erstellung von KI-Modellen, Verhalten, Datenpipelines und Full-Stack-Bereitstellung.
• Kontroll-Engineering und Betrieb:
  • Design, Implementierung und Betrieb automatisierter Kontrollen, bestehend aus:
    • Strategie zur Offenlegung von Informationen und Alarmierung
    • Selbstkonfiguration von Inhalts-KI-Schutz und KI-Akzeptanz zur Nutzung
    • Shadow-Data-Management und Datenschutz-Compliance
    • Verwaltung der Datenreise und Pipeline-Beobachtbarkeit
  • Einheitliche strukturierte Beobachtbarkeit.
  • Aufbau von Monitoring, Alarmierung und Dashboards für die Adoption durch hochriskante KI-Nutzungsmuster.
  • Entwicklung proaktiver Verhaltensweisen, die automatisierte Verletzungen ermöglichen, untersuchen und die Governance verbessern.
  • Dokumentation von Standards und Werkzeugen, regelmäßige Verteidigungen und kontinuierliche Konsultationen.
• Governance und Institutionalisierung:
  • Bereitstellung von KI-Einblicken aus internen Missbrauchsanalysen, Benchmarking von Sicherheitskontrollen.
  • Zusammenarbeit mit Governance-Teams zur Unterstützung:
    • Annahme von KI-Innovationen
    • Dokumentation von Qualität und Nutzung
    • Desktop-Nutzung und Ausnahmebehandlung
    • Sicherheitsresidenz und Adoptionsberichte
    • Kandidaten- und KI-Modell-Bereitstellung
  • Wartung von Sektor-Mustern bei der Copilot-Überwachung, Demo-Trust