Wat is AI-bias?

AI-bias is wanneer een AI-model systematisch bepaalde groepen anders behandelt dan andere, vaak onbedoeld. Het model neemt vooroordelen over uit zijn trainingsdata. Als die data ongelijk verdeeld is (meer voorbeelden van mannen als CEO dan vrouwen), leert het model dat patroon en past het toe. Concreet voorbeeld: een AI die CV's screent en mannelijke kandidaten hoger scoort omdat de trainingsdata historisch meer mannelijke aannames bevatte. Of een AI die outreach schrijft en bepaalde regio's overslaat omdat de data daar minder vertegenwoordigd was. De oplossing is niet 'bias verwijderen' (dat is technisch bijna onmogelijk), maar monitoring en bewustzijn. Check regelmatig de output van je AI op patronen. Wie benadert hij wel en niet? Welke toon gebruikt hij voor verschillende groepen? Bij Elecho monitoren we dit als onderdeel van de implementatie.