Trí tuệ nhân tạo (AI) thường được xem là một công nghệ mang tính cách mạng, có khả năng mang lại hiệu quả, độ chính xác và mở ra những cơ hội chiến lược mới. Tuy nhiên, khi các công ty được hưởng lợi từ những lợi thế của AI, một thách thức quan trọng và thường bị bỏ qua cũng xuất hiện: tính công bằng của thuật toán. Những định kiến tiềm ẩn trong các hệ thống này không chỉ có thể làm giảm hiệu quả của các quyết định kinh doanh mà còn gây ra những hậu quả đáng kể về mặt pháp lý, đạo đức và xã hội.
Sự hiện diện của các sai lệch thuật toán có thể được giải thích bởi bản chất của AI, đặc biệt là trong học máy. Các mô hình được huấn luyện bằng dữ liệu lịch sử, và khi dữ liệu này phản ánh định kiến hoặc thiên kiến xã hội, các thuật toán tự nhiên sẽ duy trì những sai lệch này. Ngoài các sai lệch về thông tin, bản thân thuật toán có thể gây ra sự mất cân bằng trong việc đánh giá trọng số của các yếu tố được thực hiện, hoặc trong dữ liệu được sử dụng làm đại diện - tức là dữ liệu thay thế thông tin ban đầu nhưng không lý tưởng cho việc phân tích đó.
Một ví dụ điển hình của hiện tượng này là việc sử dụng công nghệ nhận dạng khuôn mặt, đặc biệt là trong các bối cảnh nhạy cảm như an toàn công cộng. Một số thành phố của Brazil đã áp dụng hệ thống tự động để tăng hiệu quả hoạt động của cảnh sát, nhưng các phân tích cho thấy các thuật toán này thường mắc lỗi đáng kể, đặc biệt là khi nhận dạng cá nhân thuộc các nhóm dân tộc cụ thể, chẳng hạn như người da đen. Nghiên cứu của nhà nghiên cứu Joy Buolamwini tại MIT đã chỉ ra rằng các thuật toán thương mại có tỷ lệ lỗi trên 30% đối với phụ nữ da đen, trong khi đối với nam giới da trắng, tỷ lệ này giảm đáng kể xuống dưới 1%.
Luật pháp Brazil: Sẽ cứng rắn hơn trong tương lai
Tại Brazil, ngoài Luật bảo vệ dữ liệu chung (LGPD), Khung pháp lý AI (Dự luật số 2338/2023) cũng đang được xây dựng, thiết lập các hướng dẫn chung cho việc phát triển và ứng dụng AI tại quốc gia này.
Mặc dù chưa được thông qua, dự luật này đã nêu rõ các quyền mà các công ty phải tôn trọng, chẳng hạn như: quyền được thông tin trước (thông báo khi người dùng tương tác với hệ thống AI), quyền được giải thích về các quyết định tự động, quyền phản đối các quyết định thuật toán và quyền không bị phân biệt đối xử do thiên kiến thuật toán.
Những điểm này sẽ yêu cầu các công ty triển khai tính minh bạch vào các hệ thống AI tạo ra (ví dụ: làm rõ thời điểm văn bản hoặc phản hồi được tạo ra bằng máy) và các cơ chế kiểm toán để giải thích cách mô hình đưa ra kết quả đầu ra nhất định.
Quản trị thuật toán: Giải pháp cho sự thiên vị
Đối với các công ty, thiên kiến thuật toán vượt ra ngoài phạm vi đạo đức và trở thành những vấn đề chiến lược quan trọng. Các thuật toán thiên kiến có khả năng bóp méo các quyết định thiết yếu trong các quy trình nội bộ như tuyển dụng, cấp tín dụng và phân tích thị trường. Ví dụ, một thuật toán phân tích hiệu suất chi nhánh thường xuyên ước tính quá cao các khu vực đô thị, gây bất lợi cho các khu vực ngoại vi (do dữ liệu không đầy đủ hoặc thiên kiến) có thể dẫn đến đầu tư sai hướng. Do đó, thiên kiến tiềm ẩn làm suy yếu hiệu quả của các chiến lược dựa trên dữ liệu, khiến các nhà điều hành đưa ra quyết định dựa trên thông tin không chính xác.
Những thành kiến này có thể được khắc phục, nhưng chúng sẽ phụ thuộc vào cấu trúc quản trị thuật toán, tập trung vào tính đa dạng của dữ liệu được sử dụng, tính minh bạch của quy trình và sự tham gia của các nhóm đa ngành trong quá trình phát triển công nghệ. Ví dụ, bằng cách đầu tư vào tính đa dạng trong các nhóm kỹ thuật, các công ty có thể nhanh chóng xác định các nguồn tiềm ẩn của thành kiến, đảm bảo xem xét các quan điểm khác nhau và phát hiện sớm các sai sót.
Hơn nữa, việc sử dụng các công cụ giám sát liên tục là rất cần thiết. Các hệ thống này giúp phát hiện sai lệch thuật toán theo thời gian thực, cho phép điều chỉnh nhanh chóng và giảm thiểu tác động tiêu cực.
Minh bạch là một thực hành thiết yếu khác để giảm thiểu thiên vị. Thuật toán không nên hoạt động như những hộp đen, mà là những hệ thống rõ ràng và dễ giải thích. Khi các công ty lựa chọn minh bạch, họ sẽ giành được sự tin tưởng của khách hàng, nhà đầu tư và cơ quan quản lý. Minh bạch tạo điều kiện thuận lợi cho việc kiểm toán bên ngoài, khuyến khích văn hóa chia sẻ trách nhiệm trong quản lý AI.
Các sáng kiến khác bao gồm việc tuân thủ các khuôn khổ và chứng nhận về quản trị AI có trách nhiệm. Điều này bao gồm việc thành lập các ủy ban đạo đức AI nội bộ, xác định chính sách của công ty về việc sử dụng AI và áp dụng các tiêu chuẩn quốc tế. Ví dụ, các khuôn khổ như ISO/IEC 42001 (quản lý trí tuệ nhân tạo), ISO/IEC 27001 (bảo mật thông tin) và ISO/IEC 27701 (quyền riêng tư) giúp cấu trúc hóa các biện pháp kiểm soát trong quy trình dữ liệu được sử dụng bởi AI tạo sinh. Một ví dụ khác là bộ quy tắc thực hành được khuyến nghị bởi Viện Tiêu chuẩn và Công nghệ Quốc gia Hoa Kỳ (NIST) hướng dẫn quản lý rủi ro thuật toán, bao gồm phát hiện sai lệch, kiểm tra chất lượng dữ liệu và giám sát mô hình liên tục.
Các công ty tư vấn chuyên biệt đóng vai trò chiến lược trong bối cảnh này. Với chuyên môn về trí tuệ nhân tạo có trách nhiệm, quản trị thuật toán và tuân thủ quy định, các công ty này không chỉ giúp các tổ chức tránh rủi ro mà còn biến vốn chủ sở hữu thành lợi thế cạnh tranh. Công việc của các công ty tư vấn này bao gồm từ đánh giá rủi ro chi tiết đến phát triển chính sách nội bộ và đào tạo doanh nghiệp về đạo đức AI, đảm bảo các nhóm được chuẩn bị để xác định và giảm thiểu các sai lệch thuật toán tiềm ẩn.
Do đó, việc giảm thiểu sai lệch thuật toán không chỉ là một biện pháp phòng ngừa mà còn là một cách tiếp cận chiến lược. Các công ty tập trung vào tính công bằng của thuật toán thể hiện trách nhiệm xã hội, củng cố danh tiếng và bảo vệ mình khỏi các lệnh trừng phạt pháp lý và khủng hoảng công khai. Các thuật toán không thiên vị có xu hướng cung cấp những hiểu biết chính xác và cân bằng hơn, tăng hiệu quả của các quyết định kinh doanh và củng cố vị thế cạnh tranh của tổ chức trên thị trường.
Bởi Sylvio Sobreira Vieira, Giám đốc điều hành & Tư vấn trưởng tại SVX Consultoria
