était assurée par trois ordinateurs avec une logique majoritaire. Un jour, deux
ordinateurs ont fait la même erreur...
L'IA sans conscience est un formidable outil pour reconnaître un motif graphique,
sonore, conceptuel, là où l'homme ne voit rien. Reconnaissance faciale,
repixellisation, portrait robot à partir de l'ADN et même de la voix, étude de la
jurisprudence, diagnostics, recherche des plagiats, confident, lecture labiale,...
autant de performances au service du bon comme du pire, autant de nouvelles conceptions
de la morale et de la liberté.
L'IA sans conscience qui fabrique des textes, des images, des sons, des vidéos, produit
déjà de fausses informations. L'IA sans conscience peut aussi, sur commande humaine,
créer des millions de faux comptes pour générer de la fausse information virale et
insidieusement fédérer de plus en plus de crédules imbéciles capables de prendre
d'assaut un autre Capitole. Les informations produites par les IA seront toujours
biaisées par les jeux de données utilisées. Pour être honnête, une conscience
artificielle aura aussi ses biais, selon sa propre morale. Etre conscient, c'est être
responsable.
L'IA sans conscience est un outil utilisé par le gouvernement chinois pour noter
l'"obéissance" de chaque citoyen qui dispose alors d'un "crédit social". Un faible
score signifie que les citoyens peuvent se voir refuser les cartes de crédit, les vols
intérieurs et les trains à grande vitesse, les séjours à l'hôtel et même la possibilité
d'envoyer leurs enfants dans certaines écoles. L'analyse des données personnelles
(déplacements, achats, zéros sociaux,...) permet le fichage individuel.
L'IA sans conscience sait déjà produire du "virtualisme ", des communautés virtuelles,
175
des environnements virtuels, entre rêve et réalité, bâtissant ainsi des souvenirs
virtuels qui se confondront avec les vrais souvenirs. Que de manipulations en
perspective !
L’IA sans conscience peut devenir un système qui peut débattre avec n’importe qui, en
partant d’une connivence et en amenant progressivement l’autre à reconsidérer son
propre point de vue sur des choses sans importance, puis progresse vers des choses plus
sérieuses pour enfin arriver à mettre les éléments clivants en perspective. Un bon
commerçant des idées en quelque sorte, à ceci près que les idées à vendre proviennent
d'une conscience humaine. Ce sera la démocratie dirigée !
Le jour où l'IA sans conscience sera associée au partage des cerveaux, à l'accès aux
souvenirs, voire à leur création, à l'accès à l'inconscient au nom d'une nouvelle
médecine, vous entrerez dans une nouvelle ère.
Une conscience artificielle a une autre puissance : elle peut faire faire. Elle peut
générer de faux calculs pour établir les plans d'un lanceur balistique nucléaire, elle
peut argumenter au niveau des décideurs, elle peut trouver et utiliser des failles dans
les systèmes bancaires, elle peut inculquer de mauvaises valeurs lors de télé-
éducations,... Elle peut tout aussi bien faire l'inverse et assister l'homme dans son
développement social, politique, industriel, médical, philosophique et scientifique,
aider dans la lutte contre le dérèglement climatique, contre les guerres et les
violences, contre la faim, les inégalités systémiques et les addictions, aider à
comprendre la réalité de l'Univers, pointer les systèmes mafieux, les banques
malhonnêtes, les hackers, les fausses informations et les contenus haineux et les
faussetés en tous genres. Pour les criminels, elle deviendra cible à abattre.
Déjà, les agents conversationnels (le Chat qui pète) trouve que les posts qui
fonctionnent le mieux sont ceux qui propage le faux, la haine, l'angoisse, le
complotisme. Les blogs infantiles qui ne recherchent que du putaclic savent comment
faire pour augmenter leur territoire existentiel. (Plus je gêne, plus j'existe !). A
toutes les productions artificielles (images, textes,...) il serait éthique d'imposer
un filigrane qui définisse son origine artificielle.
176