- 發布于 2022-11-19
算法是機器用于執行數學運算的一(yī)系列精确的分(fēn)步指令。使用支持算法的系統和設備将爲職業安全和健康帶來許多好處，但與許多新技術一(yī)樣，工(gōng)人也存在風險。《美國工(gōng)業醫學雜(zá)志(zhì)》的一(yī)篇新評論重點關注工(gōng)人管理系統、先進傳感器技術和機器人設備使用中(zhōng)存在的工(gōng)人風險的新來源。确定算法是否适合工(gōng)作場所使用，對制造商(shāng)、程序員(yuán)、雇主、工(gōng)人以及職業安全和健康從業者來說正迅速成爲一(yī)項挑戰。爲了實現支持算法的系統和設備在未來工(gōng)作中(zhōng)承諾的好處，我(wǒ)們必須研究如何有效地管理它們的風險。評論中(zhōng)的要點在下(xià)面突出顯示。文章中(zhōng)提供了深入的讨論。
作者：John Howard，醫學博士
機器學習算法正在爲多個行業部門的各種職業安全和健康應用提供動力。算法應用存在于制造業、建築、農業、采掘采礦、零售業、和公共治理中(zhōng)。由支持算法的系統和設備驅動的數據驅動的洞察力可以概念化爲職業安全和健康的未來工(gōng)作工(gōng)具，有朝一(yī)日可能會告訴你發生(shēng)了什麽（描述性系統）和爲什麽會發生(shēng)（診斷系統）；預測會發生(shēng)什麽（預測系統）；支持基于當前和未來條件的決策（規範性系統）；并采取物(wù)理行動（半自主和自主系統）。
應該通過充分(fēn)意識到和理解算法的風險狀況來緩和将算法集成到工(gōng)作場所設備、流程、條件和人力管理系統中(zhōng)的預期好處。了解支持算法的工(gōng)作場所系統的風險和益處應該基于全面的風險評估。支持算法的系統構成的風險通常來自三個領域：
專有算法的日益複雜(zá)，特别是可以在運行過程中(zhōng)改變其決策邏輯的自學算法，這使得設計師、制造商(shāng)和用戶難以在操作上了解算法的工(gōng)作原理。缺乏算法透明度可能是評估和控制新的職業安全和健康風險的主要障礙。14随着各種社會系統、和工(gōng)人管理系統、先進傳感器技術和機器人設備中(zhōng)的算法決策正在增加，注意力集中(zhōng)在如何實現更大(dà)的算法透明度上。
密切的身體(tǐ)監督一(yī)直是雇主監控工(gōng)人的傳統方式。雇主現在可以通過視頻(pín)監控來監控工(gōng)人；通過地理位置算法跟蹤工(gōng)人的身體(tǐ)運動；監控員(yuán)工(gōng)使用電(diàn)子郵件、社交媒體(tǐ)和網頁浏覽的情況；評估工(gōng)人的生(shēng)産力、參與程度、離(lí)開(kāi)組織的傾向以及對工(gōng)作場所安全行爲的遵守情況。這些新的數據驅動的人力資(zī)源管理方法被稱爲“人員(yuán)分(fēn)析”，并被吹捧爲幫助雇主做出更好的決策。
算法管理技術可以持續收集和存儲工(gōng)人數據，可能沒有明确的目的或工(gōng)人披露。在一(yī)些算法管理技術中(zhōng)，工(gōng)人和決策者的觀察者都可以是非人類代理人。當監控沒有前瞻性地向工(gōng)人披露時，支持算法的生(shēng)産力和績效系統通常代表一(yī)種未經工(gōng)人同意的管理控制。當算法被賦予工(gōng)人工(gōng)作的權力時，當工(gōng)人對算法收集哪些數據、如何使用數據以及出于什麽目的沒有信息或了解時，工(gōng)人會報告無能爲力的感覺。這并不奇怪，因爲在算法管理下(xià)，工(gōng)人通常與他們的“數字主管”沒有有意義的互動。這種算法管理可能與工(gōng)人自主權的侵蝕、工(gōng)作強化、心理社會壓力和工(gōng)人福祉的下(xià)降有關。
算法管理在零工(gōng)經濟中(zhōng)尤爲普遍，但數字監控和管理技術在其他行業部門也可見。輪班分(fēn)配算法、交付路線算法、倉庫工(gōng)人移動算法、連續性能算法和其他工(gōng)作生(shēng)産力算法不僅應用于制造工(gōng)人，也适用于服務工(gōng)人、知(zhī)識工(gōng)作者、倉庫工(gōng)人，甚至一(yī)線主管。
新的算法技術有可能通過影響雇主-員(yuán)工(gōng)的關系來顯著改變組織控制。算法管理系統的傳播将影響工(gōng)作的未來，但可能會以意想不到的和不良方式這樣做。雖然在算法管理下(xià)，工(gōng)人的私密性限制目前不确定，但在支持算法的系統中(zhōng)存在大(dà)量關于工(gōng)人的信息會帶來潛在的安全風險。此外(wài)，用于自動化組織管理系統的算法可能會産生(shēng)歧視性結果，從而重現和加強社會的曆史年齡、種族和民族以及性别偏見等。
傳感器是技術管理工(gōng)作的核心，因爲它們爲算法控制提供數據輸入。先進的傳感器技術正在商(shāng)業化，并作爲新的暴露科學工(gōng)具進入工(gōng)作場所。使用小(xiǎo)型化算法嵌入式微處理器的先進傳感器技術，通過不斷感知(zhī)危險物(wù)質的環境工(gōng)作環境或工(gōng)人接近已知(zhī)危害，有可能大(dà)大(dà)加快職業暴露科學的進步。然而，它們也可能引起工(gōng)人對侵入性工(gōng)人監控、算法偏見和侵犯個人隐私的擔憂。
算法是所有機器人設備的關鍵組件。從人工(gōng)智能架構的角度來看，機器人設備可以是物(wù)理上的機器人或數字決策助理。機器人表現出三種主要功能：感知(zhī)、計劃和行動。算法涉及所有這些基本的機器人功能。與算法管理系統一(yī)樣，當算法控制下(xià)的機器人系統導緻人類工(gōng)人的身體(tǐ)或認知(zhī)能力與工(gōng)作需求不匹配時，可能會發生(shēng)工(gōng)作強化。當機器人系統被設計爲最大(dà)限度地提高生(shēng)産力而不充分(fēn)考慮對人類工(gōng)人績效的影響時，它們的風險狀況就會增加。雖然将機器人集成到工(gōng)作流程中(zhōng)承諾帶來許多生(shēng)産力效益，但工(gōng)人可能會因使用機器人而面臨工(gōng)作密集和工(gōng)作崗位轉移的風險。
引入支持算法的工(gōng)作場所使用人工(gōng)智能系統和設備的速度比開(kāi)發特定于算法的風險評估和風險管理策略的速度更快。當集成到工(gōng)作場所系統時，算法可以呈現出獨特的風險分(fēn)類，這些風險在組織的傳統職業安全和健康風險管理方法中(zhōng)可能無法解決。需要新的方法來檢測輸入數據中(zhōng)的偏差，在專有算法中(zhōng)找到設計錯誤，并确保輸出決策在邏輯上是輸入數據的衍生(shēng)物(wù)。侵入性監控、算法偏見、自主權和隐私喪失、決策産出不準确以及工(gōng)作強化所産生(shēng)的風險應添加到現有風險評估和管理方法中(zhōng)。工(gōng)人還應該有自由度和方法來挑戰算法生(shēng)成的決策。
在未來的工(gōng)作中(zhōng)，算法将在職業安全和健康方面提供許多有益的應用。雖然支持算法的系統和設備可能會減少人爲錯誤的來源，并增強工(gōng)人的安全和健康，但算法也可能爲工(gōng)人福祉帶來新的風險來源。确定算法在工(gōng)人管理系統、先進傳感器技術、機器人設備和其他工(gōng)作場所系統、工(gōng)具和機械中(zhōng)是安全的，将挑戰算法設計師和軟件程序員(yuán)、支持算法的設備制造商(shāng)、雇主、工(gōng)人以及職業安全和健康從業者的風險評估和管理能力。爲了确保支持算法的系統和設備的好處在未來的工(gōng)作中(zhōng)占據突出地位，現在是時候研究如何有效地管理其風險了。
