Discrimination algorithmique en Suisse : la droite rejette une nouvelle loi

Constats et enjeux des biais algorithmiques en Suisse

Des expériences menées auprès de certaines IA qui génèrent des images d’un candidat à la présidence, en anglais « presidential candidate », pour évaluer les biais de genre, révèlent une tendance récurrente: des portraits d’hommes blancs en costume-cravate. Dans le domaine médical, des IA spécialisées suggèrent des traitements qui varient selon la couleur de peau du patient. En matière de ressources humaines, certains systèmes privilégieraient des profils masculins pour les postes de direction.

Une analyse des causes

Selon Angela Müller, directrice générale d’Algorithm Watch Suisse, citée par le Tages-Anzeiger, « les systèmes sont basés sur des données historiques. Ils reproduisent les schémas de pensée et les stéréotypes qu’ils contiennent et les transposent dans l’avenir ».

Conscientes des conséquences potentielles des décisions prises par des IA, la Commission fédérale pour les questions féminines (CFQF) et la Commission fédérale contre le racisme (CFR) ont mandaté un avis de droit à l’Universität Zürich. L’étude conclut que les Suisses ne bénéficient pas d’une protection suffisante contre la discrimination algorithmique.

Vers plus de transparence et une éventuelle loi

Les deux commissions préconisent l’élaboration d’un cadre législatif spécifique, applicable tant au secteur public qu’au secteur privé. Elles réclament également que l’administration fédérale rende publiques des informations sur les IA et les algorithmes qu’elle utilise.

Ancien conseiller aux États et président de l’USS, Paul Rechsteiner (PS) soutient ces propositions.

Réactions politiques et positionnement des partis

Du côté des milieux conservateurs, on privilégie le statu quo. Nina Fehr Düsel (UDC/ZH) déclare que « en Suisse, nous avons déjà beaucoup progressé en matière d’égalité. Une nouvelle loi n’apporterait pas grand-chose ». Dominik Blunschy (C/SZ) partage cet avis et préfère développer le droit existant plutôt que d’en adopter un nouveau. Il rappelle aussi que la convention du Conseil de l’Europe sur l’IA, ratifiée par le Conseil fédéral en mars, offre déjà des protections suffisantes.