Amazon Bedrock impara dai benefit dei dipendenti
Amazon introduce un assistente AI per il recruitment che anonimizza i curriculum, ma i dati dei dipendenti alimentano il modello.
L’assistente ignora il nome, ma i dati sanitari dei dipendenti alimentano il modello
Amazon promette di cancellare i bias dai curriculum con un assistente AI per il recruitment su Amazon Bedrock. Ma per alimentare quel motore serve carburante: i dati personali dei dipendenti, raccolti attraverso benefit e programmi di benessere. Chi sorveglia il sorvegliante?
L’assistente che non vede il nome, ma conosce tutto di te
Secondo un’indagine tra 748 HR leader, i recruiter spendono in media assistente AI per il recruitment su Amazon Bedrock 17,7 ore per vacancy in lavoro amministrativo. Un altro sondaggio di SmartRecruiters del 2024 rivela che assistente AI per il recruitment il 45% dei leader di talent acquisition passa più della metà del tempo su attività automatizzabili. La soluzione di Amazon interviene proprio qui: un bot basato su Amazon Bedrock che analizza i curriculum, anonimizza i dati personali e filtra contenuti distorti. Il sistema prompt istruisce a valutare esclusivamente competenze, esperienza e qualifiche, senza mai guardare nome, contatti o provenienza.
In uscita produce un JSON strutturato con punteggio di compatibilità, punti di forza e domande per il colloquio.
Peccato che lo stesso assistente AI per il recruitment sia parte di un ecosistema — parola bandita, ma il concetto resta — che raccoglie dati sensibili dai dipendenti attraverso benefit apparentemente generosi. Oltre 24.000 dipendenti hanno usato i programmi di fertilità e sostegno familiare di Amazon, come raccontano le storie di supporto dei dipendenti Amazon. Il programma Career Choice offre corsi di laurea e certificazioni pagati. Mental Health America ha assegnato ad Amazon il massimo riconoscimento per la salute mentale sul lavoro, anche questo documentato nelle storie di supporto dei dipendenti Amazon.
Domanda: se l’AI per il recruiter non vede il nome del candidato, i sistemi che monitorano i dipendenti attraverso i benefit — fertilità, salute mentale, formazione — sanno esattamente chi sei. E i dati finiscono nello stesso cloud che addestra i modelli. L’assistente AI per il recruitment usa Amazon Bedrock Guardrails per controllare PII, attacchi di prompt injection e contenuti di parte. Ma chi controlla il dataset su cui si addestra l’assistente?
Dai raggi X ai curriculum: due filosofie a confronto
Curiosamente, in ambiti ben più delicati come la radiologia, Amazon propone un approccio deterministico. I sistemi di worklist per radiologi si basano su motori basati su regole fisse, come spiega l’ottimizzazione del flusso di lavoro radiologico con AI. Regole logiche, niente apprendimento autonomo dai dati dei pazienti. Invece per le assunzioni — decisioni che segnano carriere e vite — si sceglie un modello probabilistico, addestrato su dati che includono dettagli personali dei dipendenti. Perché in sanità ci si fida di più di un algoritmo deterministico e in recruitment di una scatola nera?
Il paradosso è servito: l’AI che dovrebbe essere imparziale è figlia di un ambiente che raccoglie dati intimi. I regolatori GDPR e antitrust guardano? Nel 2025, con il Digital Services Act e l’AI Act alle porte, la distinzione tra “dati per benefit” e “dati per AI” diventa fumosa. Amazon racconta con orgoglio di avere 24.000 dipendenti con benefit famiglia e un riconoscimento Mental Health America. Ma quelle storie di supporto sono la vetrina. Il carburante dell’imparzialità è un pozzo di informazioni sensibili.
Se l’algoritmo non vede il nome, ma sa tutto della tua vita
Non serve chiedersi se il sistema sia corrotto. La domanda è: chi verifica che il confine tra benefit e addestramento AI rimanga invalicabile? L’assistente per il recruitment promette di eliminare i bias, ma è addestrato su dati che raccontano storie di malattie, lutti, carriere reinventate. Le storie di supporto dei dipendenti Amazon sono toccanti e pubblicizzate con orgoglio. Ma diventano anche parte del dataset di un modello che valuterà altri candidati. Chi ha dato il consenso informato per quell’uso?
Il assistente AI per il recruitment richiede una risposta JSON strutturata: punteggio di compatibilità, giustificazione, competenze tecniche, analisi dell’esperienza, punti di forza, preoccupazioni, domande per il colloquio. Ogni elemento è costruito su una base di dati che include informazioni sanitarie e familiari dei dipendenti. La scatola nera è alimentata da un pozzo. Chi sorveglia il sorvegliante? La risposta, come spesso accade, non è nelle slide di marketing.
