We gebruiken het allemaal: artificiële intelligentie, oftewel AI, wordt steeds vaker in het bedrijfsleven ingezet om werkzaamheden te versnellen en te automatiseren. AI wordt gebruikt voor het schrijven van analyses, het genereren van beelden, het opstellen van artikelen en zelfs voor het screenen van sollicitaties. Deze technologie belooft efficiëntie, maar roept ook vragen op over betrouwbaarheid, eerlijkheid en verantwoordelijkheid.
Wat als de technologie die bedoeld is om te helpen, onbedoeld discrimineert? In 2014 ontwikkelde Amazon een geautomatiseerd systeem om sollicitaties te beoordelen. Het doel was om het wervingsproces efficiënter te maken door cv’s automatisch te scoren. Echter, het systeem leerde zichzelf om vrouwelijke kandidaten te benadelen. Dit kwam doordat het algoritme was getraind op historische data, waarin vrouwen ondervertegenwoordigd waren in technische functies. Uiteindelijk werd het in 2018 stopgezet toen bleek dat het systeem niet genderneutraal functioneerde.
in VBA Journaal door Indira van Uyten