演算法偏差對於公司整合人工智慧來說是一個挑戰

人工智慧(AI) 通常被視為一種革命性技術,能夠提供效率、精確性並開闢新的策略機會。然而,雖然公司受益於人工智慧的優勢,但也出現了一個關鍵的、有時被忽視的挑戰:演算法公平。隱藏在這些系統中不僅會損害業務決策的效率,還會產生重大的法律、道德和社會後果。 

演算法偏差的存在可以用人工智慧本身的性質來解釋,特別是在機器學習(機器學習)中。模型是用歷史資料訓練的,當這些數據反映社會偏見或扭曲時,演算法自然會使這些偏見永久化。除了資訊偏差之外,演算法本身還會導致所執行因素的權重或用作代理的數據失代償,即取代原始資訊但不理想用於分析的數據。 

這種現象的一個標誌性例子是臉部辨識的使用,特別是在公共安全等敏感環境中。巴西的幾個城市已經採用了自動化系統,以提高警察行動的有效性,但分析表明,這些演算法經常會犯重大錯誤,特別是在識別來自特定種族群體的個人(例如黑人)時。麻省理工學院研究員 Joy Buolamwini 的研究指出,商業演算法對黑人女性的錯誤率高於 30%,而對白人男性來說,錯誤率急劇下降至低於 1%。

巴西立法:未來更加僵化

在巴西,除了《一般資料保護法》(LGPD) 之外,人工智慧法律框架(PL no。 2338/2023)也在製定中,該框架為該國人工智慧的開發和應用制定了一般準則。 

儘管尚未獲得批准,該法案已經表明了公司必須尊重的權利,例如:獲得事先資訊的權利(用戶與人工智慧系統互動時通知)、解釋自動決策的權利、對演算法決策提出異議的權利以及對演算法決策提出異議的權利。由於演算法偏差而導致的非歧視 。 

這些要點將要求公司在生成式人工智慧系統中實現透明度(例如,明確機器何時產生文字或回應)和審計機制,以解釋模型如何得出給定的輸出。

演算法治理:偏見的解決方案

對公司來說,演算法偏差超越了道德領域,成為相關的策略問題。轉換後的演算法有可能扭曲內部流程中的基本決策,例如招募、信貸授予和市場分析。例如,分支機構績效分析演算法系統性地高估城市地區,從而損害外圍地區(由於數據不完整或偏見),可能會導致投資方向錯誤。

這些偏見是可以糾正的,但將取決於演算法治理結構,重點關注所用數據的多樣性、流程的透明度以及技術開發中多元化和多學科團隊的包容性。例如,透過投資技術團隊的多樣性,公司可以更快地識別潛在的偏見來源,確保考慮不同的觀點並儘早發現失敗。

此外,使用連續監控工具也至關重要。這些系統有助於即時檢測演算法偏差的漂移,從而實現快速調整並最大限度地減少負面影響。 

演算法不應該充當黑盒子,而應該充當清晰且可解釋的系統。當公司選擇透明度時,它們會贏得客戶、投資者和監管機構的信任。透明度促進外部審計,鼓勵人工智慧管理中的共同責任文化。

其他措施包括遵守負責任的人工智慧治理框架和認證。這包括創建內部人工智慧道德委員會、定義使用它們的公司政策以及採用國際標準。例如,ISO/IEC 42001(人工智慧管理、ISO/IEC 27001(資訊安全)和 ISO/IEC 27701(隱私)等框架有助於建構演算法人工智慧所使用的資料流程中的控制。另一個例子是 NIST(美國國家標準與技術研究所)推薦的一套實踐,用於指導風險和管理。

專業顧問公司在這種情況下發揮策略作用。憑藉在負責任的人工智慧、演算法治理和監管合規方面的專業知識,這些公司不僅幫助組織避免風險,而且將股權轉化為競爭優勢。這些諮詢的績效範圍從詳細的風險評估到內部政策的製定,透過企業人工智慧道德培訓,確保團隊準備好識別和減輕可能的演算法偏差。

因此,減輕演算法偏差不僅是一種預防措施,也是一種策略方法。關心演算法公平的公司表現出社會責任,增強聲譽並保護自己免受法律制裁和公共危機。公正的演算法往往提供更準確和平衡的見解,提高業務決策的有效性並加強組織在市場上的競爭地位。

作者:Sylvio Sobreira Vieira,SVX Consultoria 執行長兼首席顧問