Billet d'humeur "Faut-il avoir peur de l'IA !" dans le magazine Start

1. le billet de
mauvaise
humeur
DE pascal FlaMand
star t
C O n S E I L S
60 START MAGAZINE
A lire certaine Cassandre, on pourrait croire que
la généralisation des logiciels et machines
intelligentes est le pire des périls menaçant la
planète, loin devant le changement climatique,
les guerres et la faim dans le monde...
A
près une période estivale
émaillée d’actualités de très
haute tenue morale et de la
plus grande utilité pour l’humanité
(au hasard : Il fait chaud l‘été, le
Brexit sera-t-il dur ou mou, Greta
fait du bateau, Mateo Salvini a un
grand sens de l’accueil et Trump
rachète le Groenland), je vous
propose pour répondre à cette
épineuse mais passionnante
question de convoquer les mânes du
grand Friedrich Nietzsche, il nous
faudra bien l’aide du philosophe qui
a proféré « Dieu est Mort » et le
truchement des titres de ses
principaux écrits pour nous
accompagner tout au long de cet
article...
naissance de la tragédie
Les médias généralistes et les
réseaux sociaux nous annoncent à
longueur d’articles catastrophistes
que les ordinateurs vont “penser”,
“imaginer”, “créer”, qu’ils vont rendre
la plupart des métiers obsolètes et
que nous irions bientôt rejoindre les
autres espèces disparues comme les
dinosaures.
En réalité, rien de bien nouveau sous
le soleil. Déjà en 1968, un ordinateur
battait la majorité des humains en
calcul et en 1996, Deeper Blue
battait le champion du monde
d'échecs de l'époque Garry
Kasparov. Cinquante et un ans plus
tard, en 2019, alors que les voitures
autonomes roulent (presque) sur nos
routes et que les drones truffés de
capteurs et d’IA volent dans notre
ciel, on en est toujours au même
point. Les ordinateurs calculent
effectivement beaucoup plus vite
que les êtres humains... Mais ils ne
sont toujours pas plus intelligents!
on en oublierai presque qu’il n’existe
pas une « intelligence artificielle »,
une entité autonome et
omnipotente comme il existe un
être humain mais que l’expression
désigne une discipline technico-
scientifique aux champs d’actions
disparates et cas d’usages
hétérogènes, que des logiciels, des
robots et des objets communicants
embarquent des processus pouvant
ressembler à l’intelligence humaine,
voire la seconder.
Dans leur immense majorité, ce que
nous nommons “intelligence
artificielle” aujourd’hui et sans doute
même dans un futur lointain n’ont
d’intelligence que dans des tâches
très spécifiques, compartimentées
et limitées.
le gai savoir
Nous allons maintenant analyser 5
idées reçues sur l’IA, « démontées »
par des chercheurs canadiens
(source:
https://usbeketrica.com/article/5-
idees-recues-sur-l-ia-demontees-p
ar-des-chercheurs ).
# 1 - Non, tout n’est pas intelligence
artificielle, il y a définitivement un
effet bulle, une hype autour de
l’intelligence artificielle.
# 2 - Non, l’IA n’est pas magique. En
intelligence artificielle, il reste des
domaines où l’on n'arrive pas à
atteindre le niveau atteint par des
êtres humains.
# 3 - Non, il ne faut pas avoir peur
de l’IA… Mais de la souveraineté de
nos données (c'est le problème
avec les GAFAM. Plus ils ont des
données, plus ils peuvent
monétiser ces données, plus ils
peuvent offrir des applications
gratuites, plus ils peuvent obtenir
des données. C'est l'effet réseau de
données).
# 4 -Et de rater la transformation
numérique des industriels.
L'intelligence artificielle est un
ajout de techniques. Elle n’est en
aucun cas le cœur de la
transformation numérique. on
oublie l’importance des données.
#5 – oui, contre la peur, la
publication des modèles est une
solution. on gagnerait à mettre les
modèles en open Source pour que
tout un chacun puisse les vérifier.
humain, trop humain
« Une équipe de recherche de
l'Université de Bologne, en Italie, a
découvert qu'en mettant deux de
ces intelligences artificielles en
«compétition» sur un même marché,
elles avaient fini à force d'essais et
d'erreurs par s'entendre sur les prix.
oui: les intelligences artificielles
peuvent former des cartels, et les
laisser contrôler un marché en le
pensant libre et pur serait une vraie
bêtise. » (source :
https://korii.slate.fr/tech/ia-
intelligence-artificielle-entente-prix-
cartel-collusion ).
Au final, le risque principal de l’IA
tient à son niveau d’autonomie. La
question n’est pas (ou plus – car
nous sommes déjà cernés !) de
décider si nous acceptons d’être
entourés de machines et de logiciels
pseudo intelligents et autonomes,
mais de déterminer jusqu’à quel
point nous souhaitons qu’ils le soient
et que nous puissions choisir en
conscience des les utiliser ou non...
En résumé, pas de robots tueurs fous
échappant à notre contrôle dans un
horizon proche (dommage, sur un
malentendu j’avais déjà quelques
noms en tête). Au pire une révolte
sournoise de votre Google home
pourrait l’amener à vous faire
écouter du Michel Sardou et Mireille
Mathieu au petit déjeuner, le son à
fond, en lieu et place des Clash et
de Maria Callas...Triste futur!
leCrépusculedesIdoles
Il est assez paradoxal de voir que
ces questions existentielles ne se
posent quasiment pas sur d’autres
continents que la vieille Europe ou
la vieille Amérique du Nord ; et que
sous d’autres cieux l’Intelligence
Artificielle est perçue comme une
opportunité de vie meilleure et de
richesse future.
Il n’y a pas si longtemps, au pire 150
ans, nous pouvons nous rappeler
que d’aucun prédisait la mort de
tout humain se mouvant à plus de
40 km/h (en l’occurrence un train à
vapeur) et avait juré qu’aucune
femme ne pourrait jamais réussir à
courir le Marathon.
Serions nous en train de vivre la
décadence et la fin de notre
civilisation occidentale? Et de
rejouer la sempiternelle querelle des
modernes contre les anciens?
Serions-nous devenus frileux et
séniles et d’avoir peur du progrès et
de nos capacités à le gérer et le
réguler? Ne croirions-nous plus en
l’avenir et justement en
l’intelligence humaine et collective?
F A U T - I L A V o I R P E U R
D E L ’ I N T E L L I G E N C E
A R T I F I C I E L L E ?

2. star t
C O n S E I L S
START MAGAZINE 61
La science après nous avoir sorti de
la pauvreté et avoir aidé à tripler
l’espérance de vie en juste 200 ans
serait-elle devenue notre ennemie?
lagénéalogiedelaMorale
Sujet abordé de plus en plus
fréquemment dans les cercles bien
informés qui débattent d’IA et
d’éthique, la question des biais
cognitifs dans les algorithmes d’IA
s’est imposée dans le débat public.
Tout particulièrement en ce qui
concerne des exemples de
discrimination ( certains parlent
même d’IA inclusive, vous dire
comme c’est sérieux et hype). Les
algorithmes utilisés dans les outils
de recommandation ou de décision
peuvent facilement reproduire nos
stéréotypes de genre ou ethnique,
voire accentuer les inégalités.
L’Intelligence Artificielle et le
machine learning ne sont que le
reflet exact de notre société et de
ses turpitudes...Donc pas
intelligente...CqFD!
pardelàbienetmal
La question qui se pose à ce stade
et la réflexion que nous devons
avoir est de savoir qui décide de la
pertinence d’un algorithme. Doit-il
ressembler le plus possible à la
réalité, fût-elle amorale ou
immorale ou devons-nous le
« biaiser » pour qu’il soit
« politiquement correct et moral »?
qui décide de ce qui est moral? qui
décide que l’algorithme de la
voiture autonome « choisit » de
sacrifier la personne âgée plutôt
que l’enfant ? ou tout simplement
qui décide d’interdire l’usage
d’algorithme dans certains cas ?
Le chercheur et le développeur de
l’application?
Le législateur et le peuple
souverain?
Les hacktivistes?
La compagnie privée qui
commercialise et héberge le
service?
Donald Trump, Mateo Salvini et
Boris Johnson à « Chifoumi » via
twitter ?
Un comité d’éthique ou comité des
sages ?
Vaste question que nous ne
réglerons pas dans cet article mais
que l’auteur soumet à votre
curiosité et votre grande
intelligence.
ainsiparlaitZarathoustra
En guise de conclusion, le seul vrai
risque avéré à ce jour, et c’est sans
doute déjà le cas sans IA, serait un
affaiblissement de la diversité des
opinions et de la pensée, un
rétrécissement des offres plaisant
au plus grand nombre,
politiquement correctes et non
subversives, en résumé un
nivellement par le bas et une
censure ou auto-censure réduisant
fortement le spectre de la pensée
humaine et de son histoire...
Wikipédia gardera-t-il son
ouverture, les bibliothèques
physiques existeront-elles toujours,
les livres n’auront-ils pas été brûlés
(enfin ceux qui dérangent), une IA
ou un algorithme dans 15 ans
laisseront-ils publier Nietzsche,
dont l’auteur n’approuve pas
forcément toutes les idées, loin de
là, mais salue l’extraordinaire
clairvoyance et fulgurance
intellectuelle.
«La conscience est la dernière et la
plus tardive évolution de la vie
organique, et par conséquent ce
qu'il y a de moins accompli et de
plus fragile en elle. » -
Friedrich Nietzsche 
«LACOnSCIEnCEESTLADERnIèRE
ETLAPLuSTARDIVEéVOLuTIOn
DELAVIEORGAnIQuE,ETPAR
COnSéQuEnTCEQu'ILyADEMOInS
ACCOMPLIETDEPLuSfRAGILEEn
ELLE.»- Friedrich Nietzsche