Intelligensie Kunstmatige (IK) word dikwels gesien as 'n revolusionêre tegnologie, in staat om doeltreffendheid, presisie te bied en nuwe strategiese geleenthede te ontsluit. Tog, terwyl maatskappye die voordele van KI benut, ontstaan daar ook 'n kritieke en soms oor die hoof gesien uitdaging: algoritmiese billikheid. Segredos ocultos in hierdie stelsels kan nie net die doeltreffendheid van besigheidsbesluite beïnvloed nie, maar ook betekenisvolle regs-, etiese- en maatskaplike gevolge hê.
Die aanwezigheid van algoritmiese vooroordele kan toegeskryf word aan die aard van die IA self, veral in masjienleer (machine learning). Modelle word getoets met historiese data, en wanneer hierdie data vooroordele of sosiale wanbalanse weerspieël, hou die algoritmes natuurlik aan om hierdie vooroordele te versterk. Benewens die vooroordele in die inligting, kan die algoritme self ook 'n onbalans bring in die weging van faktore wat toegepas word, of in die data wat as 'n plaasvervanger gebruik word, dit wil sê data wat die oorspronklike inligting vervang, maar nie die beste is vir daardie analise nie.
'n Buitengewone voorbeeld van hierdie fenomeen word gevind in die gebruik van gesigsherkenning, veral in sensitiewe konteks soos openbare veiligheid. Verskeie Brasiliëse stede het geautomatiseerde stelsels aangeneem om die doeltreffendheid van polisie-aksies te verhoog, maar ontledings toon aan dat hierdie algoritmes dikwels beduidende foute maak, veral wanneer hulle individue van spesifieke etniese groepe, soos swart mense, identifiseer. Studies deur die navorser Joy Buolamwini van MIT het aangedui dat kommersiële algoritmes foutkoerse van meer as 30% het vir swart vroue, terwyl die foutkoers vir blank mans drasties daal tot minder as 1%.
Braziliaanse wetgewing: meer strengheid in die toekoms
In Brasilië is die Algemene Wet op Data-beskerming (LGPD) sowel in proses as die Wetlike Raamwerk vir KI (PL nr. 2338/2023), wat algemene riglyne vir die ontwikkeling en toepassing van KI in die land vasstel.
Alhoewel dit nog nie goedgekeur is nie, dui hierdie wetsontwerp reeds op regte wat maatskappye moet respeit, soos: reg op vooraf inligting (inligting wanneer die gebruiker met 'n KI-stelsel interaksie het), reg op verduideliking van geautomatiseerde besluite, reg om algoritmiese besluite te betwis en reg op nie-diskriminasie deur algoritmiese vooroordele.
Dae punte vereis dat maatskappye de deursigtigheid in generatiewe KI-stelsels moet implementeer (byvoorbeeld, deur duidelik te maak wanneer 'n teks of antwoord deur 'n masjien gegenereer is) en ouditmeganismes om te verduidelik hoe die model tot 'n sekere uitset gekom het.
Algoritmiese bestuur: die oplossing vir vooroordele
Vir maatskappye gaan algoritmiese vooroordele verder as die etiese sfeer en word dit belangrike strategiese probleme. Algoritmes bevooroordeeld het potensiaal om essensiële besluite te verteken in interne prosesse soos werwing, kredietverlening en markanalise. Byvoorbeeld, 'n algoritme vir die ontleding van filiaalprestasie wat sistematies stedelike gebiede oorskat ten koste van perifere gebiede (as gevolg van onvolledige data of vooroordele) kan lei tot verkeerd gerigte beleggings. Dus, verborge verborge ondermyn die doeltreffendheid van data-gedrewe strategieë, wat daartoe lei dat bestuurders besluite neem op grond van gedeeltelik verkeerde inligting.
Deze vooroordele kan reggestel word, maar dit sal afhang van ’n algoritmiese bestuursraamwerk, met fokus op die diversiteit van die gebruikte data, deursigtigheid van die prosesse en die insluiting van diverse en multidissiplinêre spanne in tegnologiese ontwikkeling. Deur te belê in diversiteit in tegniese spanne, kan maatskappye byvoorbeeld potensiële bronne van vooroordeel vinniger identifiseer, en sorg dat verskillende perspektiewe in ag geneem word en dat foute vroeg opgespoor word.
Daarbenewens is die gebruik van deurlopende moniteringhulpmiddels van kardinale belang. Hierdie stelsels help om algoritmiese vooroordeelverskille in regte tyd op te spoor, wat vinnige aanpassings moontlik maak en die negatiewe impak minimaliseer.
Deursigtigheid is nog 'n belangrike praktyk in die vermindering van vooroordele. Algoritmes moet nie as swartbokswerk wees nie, maar as duidelike en verduidelikbare stelsels. Wanneer maatskappye vir deursigtigheid kies, wen hulle die vertroue van kliënte, beleggers en regulateurs. Deursigtigheid vergemaklik eksterne ouditte en moedig 'n kultuur van gedeelde verantwoordelikheid in die bestuur van KI aan.
Iniciatives ander insluit die aansluiting by raamwerke en sertifiserings vir verantwoordelike KI-bestuur. Dit sluit in die stigting van interne etiekkomitees vir KI, die opstel van korporatiewe beleid vir die gebruik daarvan, en die aanvaarding van internasionale standaarde. Byvoorbeeld, raamwerke soos: ISO/IEC 42001 (intelligensiebeheer), ISO/IEC 27001 (inligtingssekuriteit) en ISO/IEC 27701 (privaatheid) help om beheer in die dataprocesses wat deur generatiewe KI gebruik word, te struktureer. Nog 'n ander voorbeeld is die stel beste praktyke deur die NIST (National Institute of Standards and Technology) van die VSA wat die bestuur van algoritmiese risiko rig, insluitend die opsporing van vooroordeel, datakwaliteitskontroles en deurlopende monitering van modelle.
Konsultasiespesialisas speel 'n strategiese rol in hierdie omgewing. Met ervaring in verantwoordelike kunsmatige intelligensie, algoritmiese bestuur en regulatoriese nakoming, help hierdie maatskappye organisasies nie net om risiko's te vermy nie, maar ook om gelykheid in 'n mededingende voordeel te omskep. Die aktiwiteite van hierdie konsultasies strek van gedetailleerde risiko-evaluasies tot die ontwikkeling van interne beleid, en sluit korporatiewe opleiding oor etiek in KI in, om te verseker dat spanne voorbereid is om moontlike algoritmiese vooroordele te identifiseer en te verminder.
Op hierdie manier is die mitigering van algoritmiese vooroordele nie net 'n voorsorgmaatreël nie, maar 'n strategiese benadering. Maatskappye wat besorg is oor algoritmiese regverdigheid toon sosiale verantwoordelikheid, versterk hul reputasie en beskerm hul teen regsgevolge en openbare krisisse. Algoritmes onpartydig neig om meer akkurate en gebalanseerde insigte te bied, wat die doeltreffendheid van besigheidsbesluite verhoog en die mededingende posisie van organisasies op die mark versterk.
De Sylvio Sobreira Vieira, CEO & Head Consulting van SVX Consultoria
