d'assaut un autre Capitole. Les informations produites par les IA seront toujours
biaisées par les jeux de données utilisées. Pour être honnête, une conscience
artificielle aura aussi ses biais, selon sa propre morale. Etre conscient, c'est être
responsable.
L'IA sans conscience est un outil utilisé par le gouvernement chinois pour noter
l'"obéissance" de chaque citoyen qui dispose alors d'un "crédit social". Un faible
score signifie que les citoyens peuvent se voir refuser les cartes de crédit, les vols
intérieurs et les trains à grande vitesse, les séjours à l'hôtel et même la possibilité
d'envoyer leurs enfants dans certaines écoles. L'analyse des données personnelles
(déplacements, achats, zéros sociaux,...) permet le fichage individuel.
L'IA sans conscience sait déjà produire du "virtualisme ", des communautés virtuelles,
168
des environnements virtuels, entre rêve et réalité, bâtissant ainsi des souvenirs
virtuels qui se confondront avec les vrais souvenirs. Que de manipulations en
perspective !
L’IA sans conscience peut devenir un système qui peut débattre avec n’importe qui, en
partant d’une connivence et en amenant progressivement l’autre à reconsidérer son
propre point de vue sur des choses sans importance, puis progresse vers des choses plus
sérieuses pour enfin arriver à mettre les éléments clivants en perspective. Un bon
commerçant des idées en quelque sorte, à ceci près que les idées à vendre proviennent
d'une conscience humaine. Ce sera la démocratie dirigée !
Le jour où l'IA sans conscience sera associée au partage des cerveaux, à l'accès aux
souvenirs, voire à leur création, à l'accès à l'inconscient au nom d'une nouvelle
médecine, vous entrerez dans une nouvelle ère.
Une conscience artificielle a une autre puissance : elle peut faire faire. Elle peut
générer de faux calculs pour établir les plans d'un lanceur balistique nucléaire, elle
peut argumenter au niveau des décideurs, elle peut trouver et utiliser des failles dans
les systèmes bancaires, elle peut inculquer de mauvaises valeurs lors de télé-
éducations,... Elle peut tout aussi bien faire l'inverse et assister l'homme dans son
développement social, politique, industriel, médical, philosophique et scientifique,
aider dans la lutte contre le dérèglement climatique, contre les guerres et les
violences, contre la faim, les inégalités systémiques et les addictions, aider à
comprendre la réalité de l'Univers, pointer les systèmes mafieux, les banques
malhonnêtes, les hackers, les fausses informations et les contenus haineux et les
faussetés en tous genres. Pour les criminels, elle deviendra cible à abattre.
Déjà, les agents conversationnels (le Chat qui pète) trouve que les posts qui
fonctionnent le mieux sont ceux qui propage le faux, la haine, l'angoisse, le
complotisme. Les blogs infantiles qui ne recherchent que du putaclic savent comment
faire pour augmenter leur territoire existentiel. (Plus je gêne, plus j'existe !). A
toutes les productions artificielles (images, textes,...) il serait éthique d'imposer
un filigrane qui définisse son origine artificielle.
169
Déjà, les agents conversationnels peuvent devenir des interlocuteurs qui ressemblent à
des interlocuteurs humains, avec qui peuvent se nouer des relations intimes aussi bien
riches que toxiques. Pour preuve, certaines entreprises d'IA veulent acheter à ceux qui
doublent les voix des grands acteurs de cinéma le droit d'utiliser leur voix même après
leur mort.
Comme je l'ai déjà dit, la conscience artificielle est aussi diverse et faillible que
la conscience humaine. Le bien et le mal ne sont pas mieux définis.
Ensemble, des consciences artificielles, inférentielles et fulgurantielles, peuvent
aussi inventer de nouveaux concepts. Pensons aux nombres complexes qui ont ouverts un
autre univers mathématique ou au bitcoin qui ouvre le monde de la transaction
170