La "singularité technologique", croyance ou réalité ?

Un ami à moi me dit qu'il existe comme solution, et cela lui paraît simple, bien que son avis me paraisse peu argumenté : " La solution en laquelle je crois, taxe sur les transactions financières et les machines/IA pour financer le revenu universel, sinon la société capitaliste s'écroule faute de travailleurs/consommateur, c'est pourtant pas compliqué. Par contre seule la volonté politique prévaut."

Je lui demande à cet ami : "Pourrais-tu développer un peu plus. Que veut dire "taxe sur les machines/IA", l'IA commence tout juste à exister, et l'"IA" est un terme trop général, s'agit-il de machine passive, non vivante, non consciente, mais pourquoi parler alors d'"intelligence" et non pas de "calcul" ?

Il ajoute que le terme d'IA "C'est la terminologie utilisée, les IA actuelles sont des IA dites faibles, dédiée à un périmètre bien défini, l'IA que tu fantasmes est l'IA forte où IAG (IA généraliste), la conscience artificielle n'est absolument pas à notre porté pour le moment.

La puissance de calcul est le hardware, l'IA le software et elle est nommée "intelligence" car basée sur une technique de réseau de neurone (ça dépasse mes compétences informatiques) capable d'apprendre."

Je lui réponds :" "réseau de neurone", tu veux dire que les ordinateurs ont des neurones, c'est un scoop exceptionnel qui mérite au moins le prix nobel."

Il répond : "Simple hypothèse mais la conscience (que l'on soupçonne basée sur des phénomènes quantiques du cerveau) ne sera "virtualisable" que lorsque l'on maîtrisera l'ordinateur quantique. Pour l'instant l'informatique quantique n'en est qu'a ses balbutiement, mais Alphabet commence à montrer les muscles avec le calculateur (et pas ordinateur) quantique DWave capable de résoudre certains calculs des million de fois plus rapidement qu'un ordinateur classique. Alphago basé sur ces techniques n'a pas vaincu par la puissance mais par la ruse, de l'avis même du maître qui a été battu. On lui a d’ailleurs décerné le titre de grand maître, qui est un titre honorifique qui confine au divin pour le jeu de Go."

Je lui réponds : "Oui mais il s'agit bien d'un programme qui intègre éventuellement la ruse et l'intuition. Il n'y a rien de spontané dans cette ruse et cette intuition, elles ont été programmées."

Il me répond dans un style héraclitéen et obscur : "Elle se sont forgées (la ruse et l'intuition) au fil de l'apprentissage profond..."

Pause : il y a quelque chose d'un peu mystique chez ceux qui croient en l'IA, et ils se moquent je le pense de la destruction des emplois. Ils sont tout à leur quête fanatique de l'"intelligence artificielle", quelles qu'en soient les conséquences néfastes derrière le dos des hommes "en chair et en os".

Lui : "La recherche fondamentale est amorale Erwan, Il faut des instances extérieures à elle pour encadrer..."

Moi : "Non elle est immorale, car elle a sa volonté propre."

Lui : "Et la quête de la connaissance fait partie de l'homme."

Moi : "La "morale" ne peut pas suivre les progrès technologiques, c'est pour cela que les progrès technologiques deviennent immoraux

Lui : "Non, ça c'est toi qui est naturellement drogué qui pense ça. C'est en plus complètement contradictoire avec ce que tu affirmais précédemment. D'un coté tu aimerais te moquer de l'IA qui n'a pas de conscience et qui n'en n'aura jamais et de l'autre tu prêtes une volonté propre à la science... tu racontes vraiment n’importe quoi..."

Moi : "Volonté propre aux sciences et techniques, le progrès comme finalité du progrès et non plus le bonheur humain comme finalité, ce n'est pas de moi mais de Heidegger. Oh bien sûr un vieux con !"

Lui : "Si la morale, ne suit pas la science, ce n'est pas de la faute de la science, mais des hommes en charge de la morale (philosophe, politiciens, intellectuels...) qui sous estiment largement la vitesse actuelle du progrès technoscientifique..

Bien sur un vieux con même si un grand penseur, mais un grand penseur de son temps qui n'a absolument plus rien à voir avec l'accélération actuelle. Cette accélération est du fait de la volonté des hommes et non de la science elle même, t'es complètement mystique mon pauvre...

Les progrès moraux vont lentement et sont même remis en question par ces putains de religions..."

Moi : "Nous avons deux genres de "mysticismes" différents, je privilégie la morale et tu privilégie les progrès technoscientifiques, qui comme le libéralisme, malheureusement ne se régulent pas par eux-mêmes."

Lui : "Je n'ai aucun mysticisme, le pragmatisme est ma religion. Et la régulation morale et éthique du progrès et des avancées techno scientifiques m’intéressent particulièrement. Cela ne veut pas dire que le combat est gagné d'avance, le libéralisme n'à la volonté propre que celle qu'on lui laisse, les politiques ont baissés les bras c'est tout..."

Moi : "Libéralisme et progrès technoscientifiques ne sont absolument pas régulés pour l'instant. Quelles solutions proposes-tu ?

Tu as raison de t'en tenir à une objectivité purement scientifique "au dessus de la folie des hommes", c'est l'attitude de la plupart des scientifiques qui vivent dans un monisme tranquille, mais sans soucis des conséquences de leurs actes sur la majorité des hommes, comme l'invention de la bombe atomique."

Lui : "On appelle l'IA la bombe I (comme intelligence), ce n'est pas pour rien, elle pourra rapidement être une arme très bon marché entre les mains de n’importe, contrairement à la bombe A qui nécessite énorme moyen financier et technologique.

Ce qui est marrant c'est qu’un pays comme le Japon particulièrement robotisé et animiste a intégré un dérivé des lois de la robotique d'Asimov dans ses lois...(sic)"

Moi : . Je ne comprends pas ce que signifie la singularité technologique pour toi

Lui : "la singularité technologique par analogie avec la singularité mathématique ou plus particulièrement des trous noirs (on peut voir jusqu'au trou noir, mais pas au delà car même l'information ne ressort pas d'un trou noir - horizon des événements) est un point hypothétique du futur (celui de l'avènement de l'IA consciente et capable de s'améliorer elle même à la vitesse de la loi de Moore c'est à dire doubler de puissance tous les 18 mois) au delà duquel nous sommes incapable de nous projeter car inimaginable par définition. Autrement dit l'invention de l'IA forte sera la dernière invention humaine."

Moi : "Cela sonne comme une prophétie sans aucun fondement rationnel."

Lui : "Le transhumanisme n'est pas lié à la singularité, il profite juste de l'accélération qui la précède. Nous vivrons un monde transhumanisme bien avant la singularité."

Moi : "Tout le problème est arriverons nous à faire vivre, à rendre vivante quelque chose qui est de l'ordre de la puissance de calcul ?"

Lui : "Avec tous les fondements les plus rationnels du monde, c'est une des caractéristiques de ce qui arrive, il suffit d'avoir des yeux et un cerveau, que te manque-t-il des deux ?"

Absolument, l'univers est computationnel..."

Moi : "Comment rendre vivante une puissance de calcul ?"

Lui : "C'est la définition du vivant qu'il faut que tu révises, nous sommes à l'aire de la biologie de synthèse... Les premiers calculateurs biologiques donnent des résultats hallucinants...

Des machines nanoscopiques à base de briques du vivant sont déjà fonctionnelles... Fermer les yeux n’empêchent pas les choses d'arriver."

Moi : " Je ne suis pas convaincu que l'on pourra donner la vie à une machine."

Lui : "On pourra alors si ça te rassure créer une "vie" consciente à partir des briques du vivant, ça change quoi, le substrat ? Il est très anthropomorphique et prétentieux d'affirmer que le seul substrat de la vie est celui qui nous a vu naître. Les exobiologistes par exemple, imaginent afin de les rechercher des formes de vie absolument différentes de la nôtre..."

Moi : "Tu affirmes quand même des hypothèses non vérifiées par l'expérience, comme des évidences qui vont se vérifier, cela s'appelle de la prophétie, ce n'est plus de la science."

Lui : "Mais tu ne vas pas m'apprendre comment fonctionne la science. Hypothèse, vérification, protocole, reproduction, publication, confrontation."

Moi : "Alors tiens toi en aux faits vérifiés. Pas aux élucubrations que l'on peut trouver sur le net, la singularité est une légende urbaine."

Lui : "Que tu considère la singularité comme un mythe - et cela en est un - est une chose, mais c'est sans importance, ce qui important et grave c'est que le GAFA (Google Amazone Facebook Apple) et une grosse partie de la silicone vallée croit en la singularité et surtout ont racheté tous les cerveaux de la planète et ont des moyens financiers supérieurs à des états pour y parvenir, remets toi au cyberpunk, ça t'expliquera le présent... Ce dont je te parle sont de faits et des ambitions, non des fantasmes... Sans parler des puissances plus ou moins impénétrables que sont la chine, la Russie, Israël et j'en passe qui bossent sur le sujet avec beaucoup de détermination, l'IA est un instrument de pouvoir... supposé ou réel...

Sans parler de la France, beaucoup de cerveaux de l'IA viennent de l'école française, avec par exemple Le Cun qui a fait un discours inaugurale au collège de France (qu'il faut que je vois) sur l'IA particulièrement intéressant."