Questo mantiene l'elemento umano nelle "risorse umane". Se viene utilizzato un sistema automatizzato, la legge prevede che qualcuno debba esaminare la decisione e "raccogliere informazioni a supporto o a riprova" per assicurarsi che sia valida, come spiegato dal Mercury News.
Il senatore Jerry McNerney, un democratico che rappresenta il 5° distretto di Stockton, ha presentato il disegno di legge. Ha sottolineato l'importanza di evitare che "questi sistemi decisionali automatizzati operino senza alcuna supervisione", specialmente quando si tratta di questioni personali e umane come la vita lavorativa e la carriera di una persona.
L'ufficio del senatore McNerney ha pubblicato un elenco di aziende che vendono software definiti "bossware", per illustrare le problematiche che la sua proposta intende affrontare. Alcuni dei prodotti menzionati potrebbero violare parti del disegno di legge, in particolare software che tentano di determinare lo stato mentale di un lavoratore, un punto notato dal Mercury News.
Inferire le condizioni di salute mentale di un dipendente dai dati di lavoro è un argomento chiaramente controverso.
Sebbene alcune aziende di AI promettano che i loro sistemi possano eseguire questo tipo di analisi correttamente, un rapporto della fine del 2024 ha suggerito che tali affermazioni non sono supportate dalla scienza. In Europa, il primo AI Act dell'UE vieta specificamente l'uso di sistemi AI per determinare le emozioni di un utente.
Originariamente, il No Robo Bosses bill conteneva anche una clausola che proibiva alle aziende di utilizzare la tecnologia AI o altri sistemi automatizzati per automatizzare completamente il processo di assunzione. Questa disposizione è stata rimossa dal comitato giudiziario del Senato. La California Chamber of Commerce, che si oppone alla legge, ha contestato il divieto sull'automazione delle assunzioni. Ha sostenuto che solo le aziende più piccole sarebbero state in grado di rispettarlo, semplicemente a causa del numero limitato di posizioni lavorative da pubblicizzare e per le quali reclutare.
Le aziende più grandi si sono orientate verso l'uso dell'AI come parte cruciale del processo di assunzione.
Ma alcuni commentatori hanno evidenziato che anche se l'AI consente una certa semplificazione del complesso processo di reclutamento di nuovi dipendenti, ad esempio filtrando un lungo elenco di candidati, introduce anche i propri problemi. È noto che i modelli di AI generativa possono essere distorti da bias e possono avere "allucinazioni", inventando semplicemente dati o decisioni.
La marcia dell'AI nei processi tipici delle risorse umane è comunque destinata a continuare. Di recente, Microsoft ha rilasciato un aggiornamento basato sull'AI per il suo software di produttività sul posto di lavoro, Microsoft 365. Questo aggiornamento include un "agente di inferenza delle competenze" e un "agente di gestione delle competenze", che possono identificare automaticamente le competenze della forza lavoro e creare una tabella utile per gestire meglio le attività di formazione dei dipendenti. Chi è scettico potrebbe preoccuparsi dell'aspetto automatico di questo sistema, dubbioso sulle promesse dell'AI e sui rischi che presenta, dato che la formazione è fondamentale per le prospettive di impiego a lungo termine di un lavoratore.
Perché bisognerebbe prestare attenzione al No Robo Bosses bill? Se si è basati in California e la legge venisse approvata, influenzerà il modo in cui la propria azienda utilizza l'AI per le attività di risorse umane che il disegno di legge copre. Ma anche se la propria azienda ha sede altrove, questa proposta potrebbe far riflettere. Si stanno forse implementando sistemi AI fidandosi ciecamente che prendano decisioni importanti che possono avere un impatto serio sulla vita dei lavoratori? Se è così, forse vale la pena assicurarsi che ci sia sempre un essere umano coinvolto per verificare che l'AI prenda la decisione giusta.
Clicca per ingrandire l'immagine
Articolo del 18/06/2025
marketing - retail - ecommerce - intelligenza artificiale - AI - IA - digital transformation - pmi - high yield - bitcoin - bond - startup - pagamenti - formazione - internazionalizzazione - hr - m&a - smartworking - security - immobiliare - obbligazioni - commodity - petrolio - brexit - manifatturiero - sport business - sponsor - lavoro - dipendenti - benefit - innovazione - b-corp - supply chain - export - - punto e a capo -
