interstrate(s)

La cybernétique est une théorie de la gestion des processus automatisés par calcul des flux d’informations rentrants (input) et sortants (output). Ses concepts clés sont: l’équilibre, le système, la boîte noire, la rétroaction (feedback) et l’information. Cette pensée est née avec l’informatique et elle a été par la suite fortement inspirée par la biologie. Elle a été importée dans  à  peu près toutes les savoirs et les sciences, dures ou molles (pédagogie, science politique, biologie, marketing, management, humanitaire, pensée post-moderne, New-age, etc). En parcourant les occurences des mots clés tels qu’entropie, système pilote, boîte noire ou rétroaction dans un dictionnaire contextuel, cette prolifération transdisciplinaire saute aux yeux. Le transhumanisme, qui se présente comme une convergence universelle de tous les savoirs (on parle de convergence NBIC, pour Neuro-, Bio-, Informatique, sciences Cognitives), s’appuie particulièrement sur ce modèle, et c’est aussi pour cela que je fais ce petit topo.  La convergence ultime qu’il prophétise est l’homme machine (le cyborg, contraction de cyber-organisme), c’est-à-dire la fusion du biologique et de la technique , où l’on retrouve les origines de la cybernétique. Pas loin de ces concepts existe l’utopie du point oméga, de Theilhard de Chardin, qui postule que nous nous rapprochons d’un moment où tous les systèmes d’information seront tellement bien connectés que le monde sera un gigantesque cerveau autorégulé (autrement dit un système). Nul doute que cette utopie gagne du terrain et que c’est préoccupant. Mais j’anticipe sur ce qui sera le long fil rouge de nos réflexions sur Interstrates.

1ère cybernétique: le thermostat

Le thermostat est l’objet fétiche des cybernéticiens: il s’agit d’un appareil de chauffage capable de se réguler lui-même pour maintenir une chambre à une température constante. Pour garder cet équilibre, il doit non seulement contrôler la chaleur qu’il diffuse (output), mais également mesurer à l’aide d’un senseur l’effet de cette chaleur sur la température de la chambre, sensible aux fluctuations externes comme le temps qu’il fait ou le fait que la porte soit ouverte ou fermée.

L’effet  en retour de son action sur l’environnement est appelé « rétroaction » (feedback en anglais).

Ce modèle va pouvoir se généraliser à presque tout, bien au delà de la technologie. Un appareil, un organe, un individu, une espèce, une institution, un parti ou un pays peuvent être considérés comme des systèmes, c’est à dire des ensembles qui sont plus que la somme de leurs éléments.

Le système pilote

Le « cerveau » ou le régulateur du système (qui calcule continuellement la boucle de ses actions/rétroaction sur l’environnement) porte le nom de système pilote. Pour les machines, c’est assez simple. Pour les être vivants, c’est plus compliqué.

La causalité circulaire

Le double flux continu d’actions et de rétroactions est un phénomène de causalité circulaire.  La cybernétique à cet égard prétend « mettre à jour » la vieille rationalité que nous avons héritée d’Aristote et sa causalité linéaire, jugée obsolète. Mais cette causalité circulaire se trouve aux limites de nos capacités d’entendement, ce qui lui donne un petit air magique et rend la très propice à des manipulations rhétoriques vaseuses.

La boîte noire

Dans ce répertoire de conceptuels de base, il me reste à évoquer la fameuse boîte noire. La boîte noire, hérité de la psychologie comportementale, désigne un système dont on ne peut pas (ou ne veut pas) connaître les mécanismes internes et que l’on décide d’étudier en examinant uniquement ses échanges d’informations avec l’environnement (inputs, outputs).

2ème cybernétique: les systèmes évolutifs et émergents

La deuxième cybernétique, ainsi nommée par Marvin Minsky , théoricien cognitiviste de l’intelligence artificielle, ajoute donc au schéma les notions d’émergence et de morphogenèse (empruntées à la biologie et à Darwin). L’émergence est l’apparition de nouvelles propriétés dans un système qui vont lui permettre de s’adapter à de nouvelles conditions externes (environnement). Les organes qui apparaissent ou disparaissent chez les espèces par adaptation épigénétique sont donc des émergences. On parle aussi de comportements émergents. Ce qui montre qu’il ne s’agit pas de quelque chose de purement génétique ou physiologique. En règle générale, l’émergence permet de pallier la tendance à la désagrégation (entropie ) qui menace tous les systèmes.

Fractales: une même forme se réplique à toutes les échelles dune structure complexe.  On en retrouve partout dans la nature, comme le signe d’une tendance spontanée à l’organisation. Elles évoquent les déterminations systémiques: présente dans les parties comme dans le tout.

En amont, un système évolutif apparaît lui-même comme une émergence: son organisation émerge du chaos d’éléments disparates, comme un autosaisissement de la matière. Selon les émergentistes comme Richard Dawkins, du chaos des particules émerge les molécules, de celui des molécules, les cellules vivantes, et ainsi de suite jusque’à l’homme et les systèmes sociaux, techniques et culturels les plus complexes. A l’impression magique que donne la causalité circulaire et ses flux, s’ajoute encore ici a name=la ressemblance avec une vieille théorie tombée en désuétude, la  génération spontanée qui rappelle un peu l’alchimie.

Pour évoquer ces systèmes évolutifs complexes, on parle aussi d’Autopoïèse (autopoiesis), ce qui veut dire la production de soi-même. Une fois que le système se sera constitué, voire autoconstitué ( autopoïèse), il gère son évolution et éventuellement se transforme (toujours de l’autopoïèse) pour lutter contre l’entropie.

L ‘intégration du concept d’émergence à une théorie sociale n’est pas dénuée d’a priori idéologiques: il en ressort souvent un culte du changement pour le changement, qu’on retrouve dans l’idéologie néolibérale comme dans le transhumanisme.

Les systèmes autopoïétiques en informatique

Dès 1970, Francisco Varela et Humberto Maturana, les promoteurs du terme d’Autopoïèse, créaient des programme informatiques  auto-réplicatifs qui se développaient de façon autonome, tels des systèmes biologiques.

Aujourd’hui, c’est un nouvel âge d’or des machines auto-apprenantes qui s’ouvre. Des armées d’ingénieurs et de neuroingénieurs sont mobilisés pour les développer dans tous les domaines, et particulièrement les plus nevralgiques pour le système capitaliste:  bourse, marketing, sécurité, divertissement, biométrie.  Le programme Alphago qui a battu le champion du monde de jeu de go est une de ces machines autoapprenantes (contrairement à Deepblue, l’ordinateur d’IBM qui avait battu Kasparov en 1997). Dorénavant, on parle de systèmes bioinspirés, de deep learning, voire d’algorithmes mimétiques ou autogénérants et même de code automodifiant.

Jean Baudrillard juge cette prolifération fractale de systèmes informatiques autonomes et changeants est analogue aux processus humains et sociaux qui flottent comme des bulles, au gré de protocoles de gestion incompréhensibles et hasardeux, eux-même assez ressemblant à la vie autonome d’algorithmes autopoïétiques. Cet embrouillement marque bien la nouvelle condition du capitalisme tardif et sa rupture avec la modernité rationnelle.

Application au social: distorsions et effets pervers

Le schéma cybernétique est parfait pour maintenir une température ambiante ou créer un robot auto-apprenant, mais il pose effectivement quelques problèmes lorsqu’on l’applique à  la régulation sociale. La modélisation risquent d’écraser ce qui n’est pas inclus comme variables. A l’inverse, ce qui est inclus dans le modèle y sera hypertrophié. C’est la carte qui remplace le territoire, le modèle qui précède la réalité (le simulacre). Pourtant, des protocoles d' »automatisation » où l’on retrouve le jargon et la pensée cybernétique se multiplient partout (ils émergent!), notamment dans la bureaucratie et les entreprises.

Les processus d’évaluation mis en place dans les administrations offrent de nombreux exemples d’effets pervers. Dans le cas de la police, en France et ailleurs, l’introduction de protocoles statistiques de contrôle des interventions devait servir à la rendre plus performante. Mais le résultat a été de multiplier des actes peu pertinents et motivés par la seule volonté de faire du chiffre. Dans le monde universitaire on a instauré un modèle de performance hypersimpliste qui consiste à noter les chercheurs selon le nombre d’articles qu’ils publient. Cela entraîne bien sûr des effets pervers variés tels que la multiplication des publications peu pertinentes, ou des effets de collusion entre revues et chercheur qui peuvent s’apparenter à de la corruption ou du trafic d’influence.

La rationalisation par le haut (modèle automatique de gestion) entraîne une déresponsabilisation au niveau des acteurs. Ceux-ci, se sentant dépossédés du libre arbitre qu’on leur laissait auparavant, y renoncent pour se conformer bêtement à l’arbitraire du protocole automatisé (et automatisant). Bien souvent, les nouveaux processus de gestion entraînent ainsi une radicalisation des inconvénients de la bureaucratie, qu’ils prétendaient pourtant pallier.