Par cet avis, le CjM étudie les impacts de l'utilisation des systèmes de décision automatisée (SDA) et réfléchit à l'élaboration d'un plan d'encadrement, de régulation et de gouvernance de ceux-ci. L'objectif de cette recherche est d'apporter des pistes d'action disponibles aux élu-es municipaux pour mettre en place un cadre responsable de gouvernance des données et des technologies à la Ville de Montréal.
Afin d'encadrer le déploiement de la gouvernance responsable des données et des SDA, le CjM recommande entre autres :
- Que la Ville de Montréal crée :
- Un registre public des données numériques comprenant toutes les données qui sont captées dans l'espace public municipal, les entités qui captent les données, la manière dont les données sont traitées et stockées, la manière dont le consentement a été obtenu, les finalités décisionnelles associées aux données collectées, les entités qui ont accès aux données et les conditions relatives au partage des données;
- Un registre public des systèmes de décision automatisée indiquant tous les systèmes de décision automatisée ainsi que, pour chaque système, l'objectif du fonctionnement, le fonctionnement, les conditions d'utilisation, les risques, le rapport d'évaluation d'incidence et les informations sur l'auteur du système.
- Que la Ville de Montréal adopte un moratoire sur l'utilisation ou l'acquisition de technologies de police prédictive, qui sera effectif jusqu'à ce que les politiques et les cadres juridiques et règlementaires, incluant des mécanismes de consultation publique, soient pleinement déployés, afin de garantir le respect des droits de la personne.
- Que la Ville de Montréal nomme une personne responsable de la protection des données et de l'évaluation de l'impact des technologies axées sur les données et d'aide à la décision utilisées par les organismes municipaux.
Avec cet avis, le CjM veut faire entendre les préoccupations des jeunes et rappeler qu'il ne faut pas négliger l'incidence des technologies sur les Montréalais-es, et plus particulièrement sur certaines communautés marginalisées : « Le principal postulat posé par cet avis est l'exigence d'intégrer le concept d'explicabilité dans l'encadrement réglementaire de l'utilisation des SDA par la Ville, afin d'assurer une protection suffisante des droits et libertés des Montréalais-es. L'objectif d'une mesure comme l'évaluation de l'incidence des SDA est d'identifier les angles morts de ces derniers et les biais discriminatoires qui pourraient causer des préjudices sérieux aux citoyen-nes. Des expériences internationales nous démontrent malheureusement que l'injustice algorithmique existe réellement et les technologies peuvent contribuer à reproduire et à renforcer les biais inhérents aux algorithmes, et ainsi participer à décupler de façon systémique les inégalités déjà présentes dans notre société. En conséquent, le CjM formule le souhait que la trajectoire numérique empruntée par la Ville de Montréal soit déterminée non seulement par des principes, mais aussi par des politiques publiques et des règlements exhaustifs et de nature contraignante. », a affirmé le président du CjM, M. Benjamin Herrera.
« Les données demeurent des leviers importants en innovation, en développement social et en économie. Toutefois, avec la multiplication des outils de captation de données et l'usage grandissant des données analysées pour la prise de décisions, il est indispensable de se doter d'outils d'encadrement. La Charte des données numériques de Montréal est l'un de ces outils qui place la population et le bien commun au cœur de notre approche sur les données. Nous accueillons avec ouverture cette publication que nous étudierons avec intérêt afin d'évaluer de quelle manière la Ville peut aller encore plus loin en matière de gouvernance des données », a déclaré M. François W. Croteau, responsable de la ville intelligente, des technologies de l'information, de l'innovation et de l'enseignement supérieur au sein du comité exécutif de la Ville de Montréal.
« Ce nouvel avis du CjM aborde une question d'actualité, qui sera déterminante durant les années à venir pour l'ensemble de la société. La Ville de Montréal veut avant tout que les outils technologiques soient inclusifs et au service des citoyen.nes », a souligné Mme Nathalie Goulet, responsable de l'inclusion sociale, des sports et loisirs, de la condition féminine, de l'itinérance et de la jeunesse au sein du comité exécutif de la Ville de Montréal.
Pour télécharger le document : http://ville.montreal.qc.ca/pls/portal/docs/page/cons_jeunesse_fr/media/documents/Avis_SDA.pdf
Pour participer au lancement :
https://www.eventbrite.ca/e/billets-lancement-de-lavis-sur-lutilisation-de-systemes-de-decision-automatisee-167663984491
Qui sommes-nous?
Le Conseil jeunesse de Montréal a pour mandat de conseiller le conseil de la ville sur toutes les questions relatives aux jeunes âgés de 12 à 30 ans et d'assurer la prise en compte des préoccupations jeunesse dans les décisions de l'Administration municipale. Pour plus d'informations sur les travaux et activités du Conseil jeunesse de Montréal : www.cjmtl.com.
Facebook : /cjmtl
Twitter : @cjmtl
Instagram : @conseiljmtl
www.cjmtl.com
SOURCE Conseil jeunesse de Montréal
Conseil jeunesse de Montréal, Geneviève Coulombe, Secrétaire-recherchiste, 514 250-8258, [email protected]
Liens connexes
www.ville.montreal.qc.ca/cjm
Partager cet article