Digital Intelligence : pour une éthique algorithmique ?
1. Olivier Ertzscheid.
Du World Wide Web au World Wide Wear : de
l’homme-document au corps-interface.
Vers une « éthique » des interactions ?
Université de Nantes
Laboratoire Dicen – IdF
www.affordance.info
@affordanceinfo
2. En 2010, Apostolos Gerasoulis (le papa du moteur de recherche Ask
Jeeves) s’interrogeait en regardant défiler les 10 millions de requêtes
quotidiennes d'Ask Jeeves :
"JE ME DIS PARFOIS QUE JE PEUX SENTIR LES SENTIMENTS DU MONDE,
CE QUI PEUT AUSSI ÊTRE UN FARDEAU. QU'ARRIVERA-T-IL SI NOUS
RÉPONDONS MAL À DES REQUÊTES COMME "AMOUR" OU "OURAGAN"
? »**
** http://affordance.typepad.com/mon_weblog/2010/09/la-reponse-avant-la-question.html
3. Tom Chatfield
"SI NOUS POUVONS CONSTRUIRE UNE VOITURE QUI ÉVITERA
AUTOMATIQUEMENT LA COLLISION AVEC UN BUS REMPLI D'ENFANTS,
Y COMPRIS AU RISQUE DE METTRE EN DANGER LA VIE DU
CONDUCTEUR, FAUT-IL DONNER AU CONDUCTEUR LA POSSIBILITÉ DE
DÉSACTIVER CE RÉGLAGE ? » **
** http://aeon.co/magazine/technology/can-we-design-systems-to-automate-ethics/
5. Des IHM aux IHA ?
• Plusieurs bouleversements :
– Dans la nature : on ne sait plus trop quel est le VRAI support de
l’interaction
• IHM = Interfaces / Interactions Homme => Machine ?
• IHD = Interfaces / Interactions Homme => Data ?
• IDA = Interfaces / Interactions Data => Algorithmes ?
• IHA = Interfaces / Interactions Homme => Algorithmes ?
– Dans la hiérarchie :
• I H > M vers I M > H.
• Dans le couple homme-machine c’est – si j’ose dire – de plus en plus la machine qui
fait l’homme.
– Dans les (multi-)modalités :
• Tactile, haptique, commande vocale, data-gloves, casques neuronaux, immersifs,
etc.
– Dans les objets cibles : on interagit avec
• Textes > Images > Sons > Machines > Algorithmes > Données > Objets (IoT)
6. Sommes-nous au centre ou à la périphérie ?
• Au centre : « Googler » qque chose. Homme « acteur », « scripteur »
• Dans le périphérique : « Ok glasses » : activer qque chose. Homme simple déclencheur.
Amorçage.
• À la périphérie : « Google House » : domotique. 500 objets connectés. 500 « périphériques »
et un centre (nous), à moins que le vrai centre ne soit le data-center.
• Sur le périphérique : « Google car » : Homme superviseur ? « Homme embarqué » plutôt que
« interfaces embarquées ».
• Pari pascalien des interfaces de recommandation : « dont le centre est partout (nous ?) et la
circonférence nulle part »
• Vertige fractal : un homme avec des google glasses dans une voiture sans chauffeur :
– Que voit-il ? Quelle interface priorise-t-il ?
7. Ecrire l’histoire des interfaces/interactions c’est raconter la disparition de
l’écrit de l’Homme et son remplacement par la « formule » algorithmique.
• Plusieurs phénomènes conjoints :
– Bascule du web média vers l’image et le son (même si le texte reste très présent)
– Commande vocale + disparition des claviers (voire de l’écriture)
– Déplacement des dernières écritures au niveau du code, dernières rémanences de l’écriture se font
au niveau algorithmique
– Humanité retourne au stade oral (interfaces « vocales »). Machines & algorithmes dépositaires de
l’écrit (code + formule).
• Qui entraînent :
– affaiblissement des « publications », du « rendu public », c’est à dire de la respiration démocratique
(stiegler)
– Et dans le même temps (corrélat) une augmentation du rôle des interfaces au centre de processus
d’interactions de plus en plus « transparents », de moins en moins médiés par l’écrit.
• Corrélat :
– Émergence des problématiques de vie privée (« privacy »), de surveillance / sous-veillance comme
conséquence de l’affaiblissement de la fonction scripturale et de son déplacement.
– L’enjeu, in fine, concerne moins le volume de données ou les données elles-mêmes que les
interfaces de collecte, les interactions dissimulées qui permettent cette collecte, et l’absence
d’interfaces permettant de mesurer l’étendue de ladite collecte. L’absence d’interactions « de
réparation ».
8. Appréhender l’interaction sans appréhension ?
• Index + pouce opposable = préhension.
• A partir du moment où l’on dispose (icôniquement et fonctionnellement) de l’index et du
pouce, donc de la préhension numérique, on peut, comme dans le stade de développement de
l’enfant de 9 à 10 mois, passer à d’autres activités, à d’autres interactions (tactile, repérage
dans l’espace, etc.) au travers d’autres interfaces. Nous sommes « prêts »
• Mais beaucoup de ces nouveaux stades, de ces nouvelles interfaces, de ces nouvelles
interactions vont nous enlever la « préhension » pour céder la place à de l’a-ppréhension. Les
Google Glasses, les vêtements connectés, les voitures connectées sont des interfaces sans
préhension. Elles génèrent donc de l’angoisse et de la crainte.
• On perd le contrôle parce que l’on perd les repères habituels de la préhension à l’échelle du
numérique, c’est à dire la cardinalité de la navigation (le lien) et de l’émotion (le like).
+ =
9. Une manière (parmi d’autres) de raconter et
d’expliquer ces bouleversements :
• Ne pas interagir avec des écrans et des sons
– Radio (années 20), Télévision (années 30).
• Interagir avec des écrans
– années 70 – micral – à nos jours – ipod/phone/pad
• Interagir avec des mots (liens hypertextes)
– 1990 : World Wide Web (web des documents)
– 2005 : World LIVE Web (web du temps réel)
• Interagir avec des gens (« like »)
– 2007 : World LIFE Web (web des profils)
– « L’homme est un document comme les autres* ».
• Interagir avec des objets (« Ok Glasses »)
– 2013 : World Wide WEAR** (web des objets et du corps-interface)
– Le corps est une interface comme les autres.
• 3 changements paradigme / axe de rotation du web
* http://archivesic.ccsd.cnrs.fr/sic_00377457/en/
** http://affordance.typepad.com/mon_weblog/2013/11/bienvenue-dans-le-world-wide-wear.html
World Wide Web
World Wide Wear
10. algorithmique
Quand tout est interfaçable (même moi), quand les individus sont au centre (surtout moi) et quand on
dispose d’une base de donnée des intentions planétaire et d’algorithmes prédictifs idoines, c’est l’âge
d’or de l’interaction. Mais c’est aussi le début … d’autre chose
EXTENSION DU DOMAINE DE LA LUTTE ALGORITHMIQUE
11. Passage web des documents > web des profils > web des objets connectés
Écosystèmes de services Champ social
Boucles rétroaction algorithmiques.
Champ décisionnel « contenu(e)s »
Objets
totems
Objets
totems
(ordis > tél. > tablettes)
Boucles rétroaction algorithmiques.
Champ décisionnel « étendu(e)s »
Objets
Capteurs
traceurs
Cycle prédictif
(régulations « externes »)
ALGORITHMIE AMBIANTE
Base
d’index
Base
d’index
initnetrefrafcaece
Requêtes
(doc > profils > objets) usagers
Cycle prédictif
(régulations « internes »)
Base
d’index
Base
d’index
initnetrefrafcaece
(doc > profils > objets)
Objets
Capteurs
traceurs
corps connecté
Fait aussi fonction d’interface
ppoolicliece mmééddeecicninee
aarmrmeemmeennt t
sasanntété
éédduucacatitoionn
MMaarcrhchéés sf ifninaannciceiersrs
TTrarannspspoortrst sp puubblicliscs
EEtct.c.
Algorithmie « locale »
Champ social
ppoolicliece mmééddeecicninee
aarmrmeemmeennt t
sasanntété
éédduucacatitoionn
MMaarcrhchéés sf ifninaannciceiersrs
TTrarannspspoortrst sp puubblicliscs
requêtes EEtct.c.
Enquêtes …
12. « SI NOUS POUVONS
CONSTRUIRE UNE VOITURE
QUI ÉVITERA
AUTOMATIQUEMENT LA
COLLISION AVEC UN BUS
REMPLI D'ENFANTS, Y
COMPRIS AU RISQUE DE
METTRE EN DANGER LA VIE
DU CONDUCTEUR, FAUT-IL
DONNER AU CONDUCTEUR
LA POSSIBILITÉ DE
DÉSACTIVER CE RÉGLAGE ? »
ALGORITHME ALGORITHME
• 10 algorithmes contrôlent actuellement l’essentiel de nos vies**
• Tous les champs sociaux sont concernés :
• PageRank (Google). EdgeRank (Facebook). OKCupid (ou Meetic), Prism et XkeyScore (NSA), « Vous aimerez aussi »
(Amazon), Adwords (Google), HFT (bourse), MP3 compression, Crush (police prédictive IBM).
• Ces algorithmes « décident » déjà à notre place. Mais ils ne décident « que » des sites que
nous allons voir, des personnes que nous allons rencontrer, des pages que nous allons lire,
des livres que nous allons acheter … de l’endroit où des crimes ont le plus de chances d’être
commis.
** http://io9.com/the-10-algorithms-that-dominate-our-world-1580110464
17. Les 3 lois de la … connectique ?
1. Un robot ne peut porter atteinte à un être humain, ni,
restant passif, permettre qu'un être humain soit exposé
au danger.
2. Un robot doit obéir aux ordres que lui donne un être
humain, sauf si de tels ordres entrent en conflit avec la
Première loi.
3. Un robot doit protéger son existence tant que cette
protection n'entre pas en conflit avec la Première ou la
Deuxième loi.
• Proposition : 3 LOIS DE LA CONNECTIQUE ? Remplacer
« robot » par … « algorithme ? » « objet connecté ? »
• De toute façon, nous y sommes déjà …
• http://www.newscientist.com/article/mg22329863.700#.VBnV
dEiaZ0I
19. 1. Celle des affordances
• Comme les écrans, les logiques
d'affordance se déplacent, sont au plus
près de notre corps, font de notre corps la
1ère affordance
• Un objet peut suggérer sa manière de
l’utiliser. Mais une « donnée » ? Un
« algorithme » ? Un « corps » ?
Source : https://www.flickr.com/photos/ultimatebart/12953915693/in/photostream/
20. 2. Celle de l’index comme point de contrôle
• Réseaux et moteurs se posent (et nous posent) la question du point de surveillance.
• Il nous faut nous poser la question du point de contrôle. Point nodal est celui de l’index.
• Lewandowski Dirk, « Why we need an independant index of the web ».
http://arxiv.org/ftp/arxiv/papers/1405/1405.2212.pdf
• Constitution d’un index indépendant du web nécessaire car :
– Vitaliser les bonnes pratiques et les alternatives.
– Contourner la question du « secret industriel »
– Reprendre le contrôle
– Condition nécessaire d’une …
21. 3. Celle d’une éthique de l’automatisation
• Après s'être interrogé pendant des années sur l'externalisation de nos mémoires documentaires, les
progrès de l'ingénierie algorithmique, les possibilités d'automatisation qu'elle ouvre dans le champ social,
sa pregnance dans des domaines allant de la santé à l'éducation en passant par les transports, nous
obligent à construire dès maintenant un corpus d'analyse et de réflexion qui pourra seul nous laisser en
situation de comprendre les enjeux de cette deuxième vague d'externalisation : l'externalisation de nos
stratégies décisionnelles, émotionnelles, affectives.
• Très peu de labos travaillent explicitement sur ces questions en tant qu’axe de recherche identifié :
http://cser.org/about/our-mission/ (Center for the study of existential risk. Cambridge)
22. « Risque existentiel ? »
• Ses membres ?
• Stephen Hawking, l’un des co-fondateurs
de skype, juristes,
philosophes, généticiens,
spécialistes de bioéthique, de
robotique, et …
• Et … Elon Musk, le PDG de Tesla
Motors, qu’Apple avait failli
racheter en février 2014** pour
développer … une voiture
connectée
#cqfd ;-)
** http://www.itespresso.fr/apple-tesla-rachat-icar-72842.html
25. 1ère RÉVOLUTION : DÉRIVE DES
CONTINENTS DOCUMENTAIRES
Si tout est dans la même sphère d’
INDEXABILITÉ
WEB PUBLIC
WEB PRIVÉ
DOC. PERSONNELS
INFOS INTIMES
2010 : CLOUD
COMPUTING
2000
1990
Alors tout peut-être
INTERFAÇABLE
25
Pour être
INTERACTIONNABLE
26. 2ème RÉVOLUTION > CHANGEMENT D’AXE DE ROTATION DU WEB > DOCUMENTS > HOMMES
• L’essentiel du web n’a plus pour
fonction principale de permettre à
des hommes de relier des documents,
mais de permettre à quelques
multinationales de collecter de
l’information sur l’activité de
chacun d’entre nous. De faire de chacun de
nous les noeuds d'un réseau jadis constitué de
documents
• L’HOMME DEVIENT UN DOCUMENT COMME
LES AUTRES (indexable, monétisable)
DOCUMENTATION DE SOI
26
27. 3ÈME RÉVOLUTION : DATA REVOLUTION >
ALGORITHMES PRÉDICTIFS**
BIG DATA
27
http://www.internetactu.net/2011/09/19/la-police-predictive-lalgorithme-du-crime/
28. 4ÈME RÉVOLUTION : Internet Of Things
IoT
Tu voulais du
web
sémantique ?
T’auras des
frigos qui
twittent.
28
http://www.internetactu.net/2011/09/19/la-police-predictive-lalgorithme-du-crime/
29. A propos de la disparition de l’écriture et du clavier
http://affordance.typepad.com/mon_weblog/2011/09/la-cathedrale-le-clavier-et-letagere.html
Notes de l'éditeur
On a ici 2 rapports à la technique et un point commun : que se passe-t-il de l’autre côté du miroir de ces interfaces que sont les moteurs de recherche et que seront demain les voitures sans chauffeur ? Qui décide ? Qui est responsable ? Qui est ce « nous » ? Que faut-il savoir et que peut-on ignorer ? Quelles sont les interactions nécessaires, quelles sont celles qui sont utiles, quelles sont celles qui sont futiles ?
L’histoire des interactions est d’abord celle d’une série de bouleversements. Pour faire simple, on ne sait plus trop ni quand ni avec qui ni comment on interagit …
1ère conséquence : on ne sait plus trop où nous situer : au centre ou à la périphérie ? La « polarisation » entre l’homme, ce qu’il contrôle et les dispositifs lui permettant ce contrôle est de plus en plus floue.
INTRO DIAPO : Le fait que l’on ne sache plus où se situer nous place en situation de vulnérabilité et génère (notamment) des questionnements autour de la « privacy ».
CONCLU DIAPO : le débat sur la « privacy » vient d’abord d’un changement de notre rapport à l’interaction, à l’interface. Ce débat génère de l’appréhension.
Une « appréhension » qui vient de l’incapacité de « préhension » et donc de « com-préhension ». A ce titre 2 « icônes sont très intéressantes à étudier. 2 icônes de l’interaction. La petite main à l’index levé qui se substitue au curseur de la souris quand on passe sur un lien hypertexte, et le pouce levé du « like » de Facebook.
Si l’on voulait résumer plus de 20 ans d’histoire du web autour de trois grands axes d’interaction, on pourrait dire que nous sommes passés de l’interaction avec les documents à l’interaction avec les gens puis aujourd’hui à l’interaction avec les objets.
C’est à dire que la planète web a changé 3 fois d’axe de rotation en 20 ans. Ce qui est énorme.
Et à chacun de ces changement, on a poussé plus loin l’extension du domaine de la lutte. De la lutte algorithmique.
INTRO DIAPO :pendant longtemps on a eu d’un côté les différents domaines du champ social, les domaines régaliens de l’état. Et de l’autres des écosystèmes de services (facebook, google, Apple, etc …) dans lesquels des usagers, à l’aide d’un très petit nombre d’objets totems, interagissaient.
CONCLU DIAPO : Et quand on franchit la ligne jaune c’est souvent l’accident. L’accident « algorithmique ».
Cette proposité, ce franchissement de ligne jaune, conduit à la question que Tom Chatfield posait en introduction mais dans un contexte particulier, contexte où 10 algorithmes contrôlent nos vies.
Le 11ème algorithme est celui qui doit répondre à la question de Tom Chatfield.
CONCLU DIAPO : le problème c’est que nous avons la réponse « algorithmique ». Ou plus exactement, le problème c’est que nous avons trois réponses différentes.
Voici la réponse de l’algorithme « humaniste » qui cherchera à sauver le maximum de vies.
Voici la réponse de l’algorithme « protecteur » qui cherchera en priorité à sauver la vie du conducteur.
Et voici la réponse de l’algorithme « basé sur le profit » qui cherchera à minimiser au maximum les coûts (assurances, frais médicaux) liés à la collision, indépendamment du nombre de vies sauvées).
Alors quand on en est à réfléchir à la production de tels algorithmes, on ne peut que penser aux trois lois de la robotique d’Asimov. Et de ce dire que ce n’est plus tout à fait de la science-fiction …
Non pas « quelle utilisation faire de notre corps » mais « quelles utilisations suggère un corps augmenté, équipé, connecté, tracé, capté » ?