En MPI, j'ai rempli des pages entières de calculs matriciels. Inverser une 4x4 à la main, diagonaliser, recommencer parce qu'un signe avait sauté à la troisième ligne. Je le faisais bien. Je ne savais absolument pas à quoi ça servait.
La réponse est arrivée des années plus tard, devant une topologie réseau.
Ce jour-là, je regardais la table de voisinage de mes routeurs dans un lab. Six équipements, des liaisons entre certains d'entre eux. Et j'ai vu la matrice. Un tableau de 0 et de 1, un 1 quand deux routeurs se parlent. Par curiosité, j'ai élevé cette matrice au carré. Le résultat donne, case par case, le nombre de chemins de longueur 2 entre chaque paire d'équipements. Au cube, les chemins de longueur 3.
Mon prof de MPI m'avait fait démontrer ça. Il ne m'avait jamais dit que c'était un réseau.
Depuis, je les vois partout. Mais il y a un domaine où elles ne sont pas un outil parmi d'autres : elles sont la totalité de la machine.
1. L'intelligence artificielle n'est rien d'autre que ça
Quand un modèle de langage vous répond, il ne réfléchit pas. Il multiplie des matrices.
Ce n'est pas une image ni une simplification pédagogique. C'est littéralement l'opération qui s'exécute sur le processeur graphique. Décomposons.
Vos mots deviennent des nombres. Chaque mot est converti en un vecteur de plusieurs milliers de dimensions. Une phrase de vingt mots devient donc un tableau de vingt lignes et quelques milliers de colonnes. À partir de cet instant, il n'y a plus de langage dans la machine. Il n'y a qu'une matrice.
Chaque couche est un produit. Ce tableau traverse ensuite des dizaines de couches. Une couche prend l'entrée, la multiplie par une matrice de poids, ajoute un biais, applique une fonction non linéaire, et transmet. C'est tout. Les centaines de milliards de paramètres dont tout le monde parle sont les coefficients de ces matrices, et rien d'autre.
Le mécanisme qui a tout changé est encore une matrice. Depuis 2017 et l'architecture Transformer, tous les grands modèles reposent sur l'attention. L'idée : pour comprendre un mot, il faut savoir quels autres mots de la phrase comptent pour lui. Dans « le routeur que j'ai configuré hier est tombé », le modèle doit relier « tombé » à « routeur » et non à « hier ».
Comment fait-il ? Il construit trois matrices à partir de votre phrase, puis calcule le produit de la première par la transposée de la deuxième. Ce produit donne un tableau carré où chaque case dit à quel point le mot i doit regarder le mot j. Toute la compréhension du contexte tient dans cette matrice de scores.
L'apprentissage aussi. Entraîner un modèle, c'est ajuster ces coefficients pour réduire l'erreur. L'algorithme de rétropropagation remonte l'erreur de la dernière couche vers la première en multipliant par les matrices transposées. Autrement dit : la prédiction multiplie par W, l'apprentissage multiplie par W transposée. Deux phases, une seule opération.
Et c'est pour ça que les processeurs graphiques ont gagné. Une carte graphique n'est pas plus intelligente qu'un processeur classique. Elle est simplement conçue pour faire des milliers de multiplications en parallèle au lieu de les faire en file indienne. Nvidia est devenue l'une des premières capitalisations mondiales parce qu'elle vend la machine qui multiplie le mieux des matrices. Toute l'économie de l'IA repose là-dessus.
2. La règle qui paraît absurde et qui ne l'est pas
La multiplication de matrices est bizarre quand on la découvre. Pourquoi ligne par colonne ? Pourquoi AB différent de BA ? Pourquoi cette définition tordue plutôt que multiplier case par case, ce qui serait tellement plus simple ?
Parce que la définition n'a pas été choisie. Elle a été imposée.
Une matrice représente une transformation. Si A représente une transformation f et B une transformation g, alors la matrice qui représente « appliquer g, puis appliquer f » est exactement AB, avec la définition qu'on vous a fait apprendre par cœur. Le produit matriciel n'est pas une convention arbitraire : c'est la composition de deux transformations, écrite en tableau.
Et là, tout devient logique. AB différent de BA, parce que tourner puis étirer ne donne pas la même chose qu'étirer puis tourner. Essayez avec une feuille de papier, vous verrez.
3. Le reste du monde suit
Vos photos. Une image est une matrice de pixels. La faire pivoter, c'est la multiplier par une matrice de rotation. Le format JPEG compresse en appliquant une transformation qui concentre l'information dans un coin du tableau, puis jette le reste.
Google. PageRank revient à chercher le vecteur propre principal d'une gigantesque matrice où chaque case dit si une page pointe vers une autre. Toute la hiérarchie du web tient dans une équation d'algèbre linéaire.
L'argent. Le risque d'un portefeuille n'est pas la somme des risques de chaque actif : il dépend de la façon dont ils bougent ensemble, information stockée dans une matrice de covariance. Markowitz a eu un prix Nobel pour l'avoir formalisé.
Les décisions. Chaînes de Markov, files d'attente, maintenance prédictive, dimensionnement d'un réseau mobile. J'ai utilisé exactement ces outils pour mon projet de dimensionnement d'un réseau d'accès radio 5G.
Un dernier chiffre. Multiplier deux matrices n par n coûte n³ opérations avec la méthode naïve : pour n = 1000, un milliard de multiplications pour une seule opération. C'est pour cette raison que des chercheurs se battent depuis cinquante ans pour grappiller des décimales sur cet exposant. Strassen est descendu à 2,807 en 1969, on est aujourd'hui autour de 2,37. Chaque décimale gagnée, ce sont des mégawatts économisés dans les centres de données du monde entier.
4. Ce que j'en retire
J'ai fait deux ans de MPI, puis une licence de mathématiques, avant de basculer vers les réseaux et les télécommunications. On m'a souvent demandé si je n'avais pas perdu mon temps.
Non. Je n'ai pas changé de métier, j'ai changé d'application.
Quand je dimensionne une cellule radio, je manipule des matrices. Quand j'automatise la configuration de trente routeurs en Python, je manipule des tableaux structurés. Quand je cherche une anomalie dans des journaux de sécurité, je cherche une structure dans du bruit. C'est le même geste mental. Seul le vocabulaire change.
Et pendant ce temps, l'industrie la plus valorisée de la planète tourne sur l'objet mathématique que j'ai appris à manipuler à la main, en prépa, sur des feuilles quadrillées, sans comprendre pourquoi.