Toute apogée est suivie d’un déclin, et ce phénomène se manifeste de manière cyclique : cela est vrai dans le monde naturel, animal, et comme l’ont préconisé Platon et Aristote depuis l’Antiquité, au niveau sociétal. L’histoire nous le montre clairement, avec des exemples comme l’expansion coloniale et la soif de pouvoir qui a conduit à des renversements sociaux et des bouleversements majeurs (parfois, accompagnés du roulement de quelques têtes). Ce mécanisme est moins évident lorsqu’on l’applique à notre société numérique actuelle, où nous sommes encore en phase d’expansion vertigineuse des technologies, notamment avec l’avènement de l’IA. Cependant, la règle demeure la même : à mesure que les modèles deviennent plus grands et plus complexes, le risque d’effondrement augmente. En d’autres termes, plus la montée est haute, plus la chute peut être mortelle.
L’un des principaux problèmes réside dans le fait que les modèles d’IA, lorsqu’ils sont entraînés sur des données et des processus exclusivement artificiels, peuvent rapidement se déconnecter de la réalité concrète, que ces données ont pourtant été conçues pour représenter.
Ces modèles, conçus pour optimiser des objectifs spécifiques à l’aide d’algorithmes complexes, peuvent commencer à produire des résultats imprévisibles ou absurdes au fur et à mesure des itérations. Ce phénomène est observable lorsque des erreurs ou des biais dans les données d’entraînement sont amplifiés, entraînant une dégénérescence des performances et une perte de pertinence pratique. Voilà le processus de déclin où « la tête roule » pour l’IA.
Nihilisme technologique : la perte de sens des modèles d’IA
Friedrich Nietzsche a théorisé le concept du nihilisme pour décrire une crise où les valeurs et les significations traditionnelles perdent leur sens à mesure que les anciennes structures de croyance se désintègrent.
Appliqué aux systèmes d’IA, le nihilisme se manifeste lorsque les modèles, conçus pour atteindre des objectifs spécifiques, finissent par perdre leur utilité et leur sens à cause de l’accumulation de biais et d’erreurs.
Les résultats des IA deviennent alors déconcertants ou déconnectés des attentes humaines, mettant en lumière un vide de sens technologique. L’IA, programmée mais non pensante, est incapable de saisir les nuances complexes que les intelligences humaines perçoivent. Ainsi, la quête incessante de solutions perfectionnées peut mener à des résultats dénués de signification, soulignant l’absurdité de chercher un sens absolu à travers des constructions entièrement artificielles.
Entropie et dégénérescence : l’inévitable effondrement des systèmes complexes
Avant l’effondrement, il doit y avoir la tempête parfaite. Le concept d’entropie d’Erich Jantsch est utile pour comprendre ce processus menant au point de non-retour : selon Jantsch, les systèmes complexes tendent vers une augmentation de l’entropie, c’est-à-dire un désordre croissant qui peut, en fin de compte, conduire à leur effondrement.
Dans le contexte des systèmes d’IA, cette théorie se traduit par une complexité croissante des modèles, qui, au lieu de produire des solutions plus efficaces, engendre une augmentation du désordre et des erreurs.
En d’autres termes, à mesure que les modèles deviennent plus sophistiqués, les rétroactions internes peuvent créer des cycles de dysfonctionnement où les erreurs s’accumulent et se renforcent, menant à un état de confusion et à une défaillance systémique pouvant entraîner un effondrement chaotique.
L’intelligence non artificielle comme ultime rempart
Face à ces défis et aux paradoxes inhérents aux systèmes d’IA entraînés sur des données syntetiques, il est crucial de reconnaître que notre meilleure arme reste l’intelligence non artificielle. L’intelligence humaine, avec sa capacité à naviguer dans des contextes complexes et à saisir des nuances que les machines peinent à comprendre, demeure essentielle pour guider et évaluer les technologies que nous développons. La créativité, l’empathie et la capacité à faire preuve de jugement critique sont des qualités que les systèmes d’IA ne peuvent pas reproduire. L’effondrement potentiel des modèles d’IA dans des états absurdes ou chaotiques souligne la nécessité d’une supervision humaine continue et d’une réflexion éthique pour éviter que la technologie ne perde son sens et sa pertinence. En fin de compte, il est impératif de maintenir une perspective humaine dans le développement et l’utilisation des technologies, pour qu’elles servent réellement les besoins et les valeurs humaines, plutôt que de se perdre dans des labyrinthes de complexité et d’absurdité technologique. Une fois de plus, c’est notre humanité qui nous sauvera.