Nous vivons dans un monde où les univers physiques et numériques sont de plus en plus imbriqués : les objets connectés et les environnements intelligents permettent de prendre le pouls des événements en temps réel, avec beaucoup de précision, et d’y réagir. La masse de données qui en résulte peut être exploitée à l’aide d’algorithmes pour y déceler des régularités qui alimentent ensuite nos décisions et orientent ensuite nos actions. La Commission de l’éthique en science et en technologie s’intéresse aux enjeux éthiques liés au déploiement des objets connectés et à l’exploitation des données massives, tant par l’entreprise privée comme par les pouvoirs publics. Quels sont ces enjeux et quels sont nos leviers pour y faire face?

1. INTELLIGENCE ARTIFICIELLE,
DONNÉES MASSIVES ET
INTERNET DES OBJETS
Quels sont les enjeux et
quels sont nos leviers
pour y faire face?
Dominic Cliche, M.A., conseiller en éthique
Commission de l’éthique
en science et en technologie
11 avril 2019
1

2. Menu
2
• Où en est la CEST sur les enjeux du
numérique?
• Quels sont les domaines et les enjeux qui
font l’objet de nos travaux?
• Quelles sont nos pistes de réflexion à
cette étape?

3. La Commission
3
Ministre de
l’Économie et de
l’Innovation
Conseiller la
ministre sur toute
question relative
aux enjeux
éthiques liés à la
science et à la
technologie
Susciter la réflexion
chez les décideurs
et chez le grand
public
Commission de
l’éthique en science
et en technologie
Membres
Secrétariat
- - - - - - - - - - - -

4. Constats préalables
4
• Datafication … économie numérique, activités en
ligne et numérisation des services publics
• Intérêt par rapport aux sources de
données, aux outils d’analyse et à la
gouvernance des données
• Multiplication des initiatives en IA et en
éthique de l’IA

5. 5
SOURCES DE DONNÉES
Internet des objets, activités en
ligne, géolocalisation,
transactions commerciales,
monitoring
COLLECTE ET STOCKAGE DE
DONNÉES
Centre de stockage,
infonuagique
APPLICATIONS SYSTÈMES
Trading, transport, soins de
santé, production industrielle,
sécurité civile et nationale
ANALYSE DE DONNÉES
Analyses statistiques, machine
learning, visualisation
Aide à la décision, prédiction

6. Constats préalables
6
• Création et partage de la valeur issue des
données
• Protection de la vie privée et de
l’autonomie individuelle
• Fracture numérique et équité

7. Constats préalables
7

8. Les données massives invitent
à revoir le cadre légal actuel
8
• Le mirage de l’anonymisation
• Le cycle de vie des données court-circuité
• Le problème du consentement
‒ Possible?
‒ Suffisant?
‒ Nécessaire?

9. Les données massives invitent
à revoir le cadre légal actuel
9
Les risques
‒ Ne pas pouvoir garantir l’anomymat des données
‒ Usages abusifs (atteintes à la vie privée ou à la dignité
des personnes)
‒ Usages secondaires non consentis préalablement
Le projet en cours
Gouvernances des données de (et par) l’administration
publique québécoise

10. Les données massives invitent
à revoir le cadre légal actuel
10
Une des recommandations…
Que le gouvernement du Québec profite du
renouvellement de la LADOPPRP ainsi et de la LPRPSP
pour moderniser son cadre légal au regard des enjeux
soulevés par les données massives.

11. L’Internet des objets comme
nouvel outil de surveillance
11
Les risques
‒ Observation et analyse des comportements des
consommateurs
‒ Cybersécurité et piratage
‒ Surveillance des citoyens par les États
Le projet en cours
Supplément à l’avis de 2008 sur les technologies
de surveillance et de contrôle

12. L’intelligence artificielle risque de
changer radicalement les processus
de prise de décision
12
Les risques
‒ Dilution de la responsabilité
‒ Biais et discrimination
‒ L’interprétabilité des décisions des systèmes IA
Les projets en cours ou à venir
‒ Données massives et administration publique
‒ IA et marché du travail
‒ IA et outils de décision clinique

13. Sur les enjeux éthiques en IA
13
Jocelyn Maclure et Marie-Noëlle
Saint-Pierre (2018).
« Le nouvel âge de l’intelligence
artificielle : une synthèse des
enjeux éthiques »,
Les Cahiers de propriété
intellectuelle, vol. 30, no 3.
https://www.lescpi.ca/s/3737

14. Une responsabilité collective
• Les réseaux numériques
remplissent des rôles sociaux et
ont des répercussions sur la vie
citoyenne et la vie
démocratique des États
• La protection des données
personnelles des individus
soulève des enjeux qui vont
jusqu’à l’intégrité des
institutions et des processus
démocratiques
14

15. Création et
partage de la valeur
• Données générées par des interactions
• Souvent sous une certaine contrainte (services
publics)
• Données qui ont peu ou pas de valeur en elles-
mêmes, mais en raison du traitement qui y est
appliqué
• Équilibre entre risques et avantages collectifs,
administratifs et individuels difficile à établir
15

16. Vie privée et autonomie
• De la protection des renseignements
personnels à la régulation des usages ayant
des répercussions sur les personnes
• « L’anonymat ne garantit pas contre les
possibilités de caractérisation des
comportements des individus, ni contre
l’analyse prédictive des comportements »
(Antoinette Rouvroy, 2016)
16

17. Fracture numérique
• Une question de justice
• Inégalités dans les conditions
d’accès, de participation et
d’utilisation
• Information et réseaux
• Connaissances
• Compétences
• À plusieurs niveaux (matérielle,
cognitive, générationnelle,
sociale)
17
Crédit image : Frits Ahlefeldt

18. Équité entre les territoires et
fracture numérique
• Atténuer les inégalités entre les
territoires
• Favoriser les compétences
numériques
• Appliquer les normes
d’accessibilité aux sites Web et
aux applications mobiles
• Se doter d’un observatoire du
numérique
18

19. Enjeux démocratiques de
la ville intelligente et de
l’analytique des données
19
• Ne pas sanctifier la donnée
quantifiée
• Viser l’inclusion numérique des
citoyens
• Faire du numérique un objet de
débat démocratique
• Les algorithmes ne sont pas
neutres

20. www.ethique.gouv.qc.ca
20