Ingegnere capo della sicurezza – Protezione dei dati per IA e Copilot

Compiti e responsabilità

• Questo ruolo rappresenta un’autorità tecnica di primo piano in materia di protezione dei dati nell’ambito dell’intelligenza artificiale, promuove il pensiero critico, produce informazioni utili, fornisce linee guida per l’utilizzo della piattaforma Microsoft AI Copilot e mette a disposizione competenze specialistiche per i team di colleghi.
• Ambito di responsabilità (Principal Practitioner):
  • Consulenza tecnica di secondo livello e strategia di controllo per la protezione dei dati relativi all’IA e al Copilot, non solo per le funzioni aziendali.
  • Definizione di modelli rigidi e ripetibili per garantire la sicurezza dei flussi di lavoro dei modelli di IA, che possano essere adottati da altri.
  • Stretta collaborazione con i product manager e i team di controllo e innovazione nel campo dell’intelligenza artificiale (team di prodotto, sicurezza delle informazioni, protezione dei dati, audit e GRC).
  • Fornire consulenza ai vertici aziendali (C-Suite) e ai team dirigenziali senior per garantire che i rischi legati all’intelligenza artificiale di Microsoft siano adeguatamente contenuti.
  • Fungere da consulente aziendale per la definizione di modelli e controlli nell’ambito della valutazione della sicurezza dell’IA ai fini della conformità aziendale.
• Architettura di sicurezza dell'IA e del Copilot:
  • Ruolo di responsabile tecnico di fiducia e autorità in materia di progettazione per i modelli di IA e i controlli di sicurezza aziendali relativi all'IA (modelli linguistici di grandi dimensioni (LLM), MLOps e RAG).
  • Definizione di modelli architetturali "Secure-by-Design" per la distribuzione di modelli di IA, al fine di garantire la protezione dei modelli basati sull'IA e dei database vettoriali.
  • Ricerca e valutazione di modelli commerciali di fornitori terzi, tra cui:
    • Valutazione dei rischi dei benchmark dei fornitori
    • Analisi dell'integrità della catena di fornitura
    • Indicatori relativi alla sicurezza e alla protezione dei dati nell'ambito dell'intelligenza artificiale
    • Trasparenza, risultati verificabili e supervisione umana
  • Fornitura di modelli di sicurezza per la creazione di modelli di IA, comportamenti, pipeline di dati e implementazione full-stack.
• Ingegneria di controllo e gestione:
  • Progettazione, implementazione e gestione di controlli automatizzati, costituiti da:
    • Strategia di divulgazione delle informazioni e di allerta
    • Configurazione automatica della protezione dei contenuti tramite IA e dell'accettazione dell'IA per l'utilizzo
    • Gestione dei dati ombra e conformità alle norme sulla protezione dei dati
    • Gestione del flusso dei dati e tracciabilità della pipeline
  • Osservabilità strutturata in modo uniforme.
  • Implementazione di sistemi di monitoraggio, allerta e dashboard per individuare modelli di utilizzo dell’IA ad alto rischio.
  • Sviluppare comportamenti proattivi che consentano di individuare le violazioni automatizzate e migliorare la governance.
  • Documentazione relativa a standard e strumenti, presentazioni periodiche e consultazioni continue.
• Governance e istituzionalizzazione:
  • Fornitura di approfondimenti basati sull'intelligenza artificiale derivanti da analisi interne degli abusi e dal benchmarking dei controlli di sicurezza.
  • Collaborazione con i team di governance per fornire supporto:
    • Adozione delle innovazioni nel campo dell'intelligenza artificiale
    • Documentazione relativa alla qualità e all'utilizzo
    • Utilizzo del desktop e gestione delle eccezioni
    • Residenza di sicurezza e relazioni sulle adozioni
    • Fornitura di candidati e modelli di IA
  • Gestione dei modelli di settore nel monitoraggio Copilot, Demo-Trust