Attention Is All You Need
Dites voir, aimez-vous l’idée de la fable scientifique ? Après tout, les grandes découvertes ont souvent l’air d’histoires qu’on raconterait mal dans une taverne enfumée et que personne ne croirait.
Il était une fois cent sages.
Ils vivaient dans une immense bibliothèque où s’entassaient des montagnes de phrases. Depuis des années, ils cherchaient comment apprendre aux machines à comprendre le langage.
Le premier sage disait :
– Il faut lire chaque mot dans l’ordre.
Le deuxième ajoutait :
– Et surtout ne rien oublier.
Le troisième inventait une mémoire.
Le quatrième ajoutait une mémoire à la mémoire.
Le cinquième construisait un mécanisme chargé de surveiller les autres mécanismes.
À la fin, les plans ressemblaient à des cathédrales à la Dubout de moults rouages.
Les sages étaient très fiers.
Puis arriva une jeune dactylographe, une jeune apprentie des mots.
Elle observa les schémas pendant un moment.
Longtemps.
Très longtemps.
Car elle avait appris une chose importante : lorsqu’une idée paraît trop compliquée, c’est parfois qu’elle tourne autour d’une idée simple sans parvenir à l’attraper.
Finalement, elle demanda :
– Quand vous lisez une phrase, pourquoi un mot devrait-il attendre son tour pour regarder les autres ? Mes lettres, ces belles inconnues, dispersées sans ordre sur les axes capricieux de ma machine, sont pourtant toutes reliées aux mots par un mécanisme assez simple.
Les sages clignèrent des yeux.
– Comment ça ?
L’apprentie prit une feuille.
Elle écrivit :
« Le vent les portera. »
Puis elle relia chaque mot aux autres par des fils.
Vent regardait portera.
Portera regardait vent.
Les regardait les deux.
Tout le monde regardait tout le monde.
Un joyeux bazar de flèches dans lequel chaque mot pouvait immédiatement savoir qui comptait vraiment.
Les sages se mirent à rire.
– C’est beaucoup trop simple.
La jeune fille haussa les épaules.
Alors ils essayèrent :
La machine apprit plus vite.
Ils augmentèrent sa taille.
Elle apprit encore mieux.
Ils ajoutèrent davantage de données.
Elle progressa encore.
Les sages cessèrent de rire.
Ils recommencèrent les expériences.
Les résultats s’améliorèrent encore.
Les sages cessèrent de dormir.
Les années passèrent.
Les machines traduisirent des textes, répondirent aux questions, résumèrent des livres, écrivirent des programmes, composèrent des poèmes parfois médiocres, parfois troublants.
Un soir, le plus vieux des sages retrouva l’apprentie devenue célèbre.
– Ce qui me tourmente, dit-il, ce n’est pas que ton idée ait fonctionné.
– Qu’est-ce donc ?
– C’est qu’elle était là depuis le début.
L’apprentie sourit.
– Les meilleures idées sont souvent comme les étoiles. Elles brillent depuis toujours. La difficulté n’est pas de les inventer.
– Alors ?
– C’est de lever la tête.
Le vieux sage contempla le ciel.
Puis il soupira.
– Cent sages pendant mille ans…
– Oui.
– Et il suffisait que chaque mot regarde les autres ?
– Il semblerait.
Le vieux sage resta silencieux un instant.
Puis il murmura :
– C’est extrêmement agaçant.
Et c’est ainsi que naquit une invention qui allait transformer le monde.
Comme beaucoup de grandes découvertes, elle apparut d’abord sous une forme que les experts reconnaissent immédiatement :
une idée qui semblait presque trop simple pour être vraie.
Le détail le plus irritant de l’affaire est que l’Histoire adore ce genre de plaisanteries. Des générations bâtissent une forteresse de concepts, puis quelqu’un déplace une chaise, ouvre une fenêtre, et l’air entre enfin.
Les humains appellent cela un changement de paradigme. Les chaises, elles, appellent cela un mardi.
Quant aux machines de Dubout, elles continuent encore en 2026
de fabriquer des omelettes avec un sérieux admirable.
