À part ceux qui vivent dans une grotte, vous avez forcément entendu parler de ChatGPT. Vous l’avez peut-être même déjà utilisé à plusieurs reprises. Il s’agit d’une IA (Intelligence Artificielle) permettant de vous assister lors de la rédaction d’un document ou simplement d’un bot pouvant répondre à vos questions. Rien de terrifiant vous aller me dire.
Et bien, figurez-vous qu’un groupe de chercheurs d’OpenAI ont alerté le conseil d’administration sur le fait de l’avancée fulgurante de l’IA.
Selon le site Reuteurs, quatre jours avant le licenciement du PDG d’Open AI (puis à sa réintégration), Sam Altman, plusieurs chercheurs ont fait part de leur craintes dans une lettre au conseil d’administration au sujet d’une découverte qui, selon eux, pourrait menacer l’avenir de l’humanité.
Ladite lettre et le fameux algorithme de l’IA auraient constitué des éléments clés au sujet du licenciement de Sam Altman. Cependant, 700 employés ont menacé de démissionner et d’aller travailler chez Microsoft avant que M. Altman soit finalement de retour.
Une IA autonome ?
Pour revenir à cette IA qui inquiète tant, il s’agit du projet Q* (Q-Star). Certaines personnes de chez OpenAI pensent que cette percée pourrait déboucher sur une AGI (Intelligence Artificielle Générale); ce qui veut dire que cette nouvelle IA pourrait devenir autonome !
Grâce aux ressources informatiques dont il dispose, le futur successeur de ChatGPT aurait pu résoudre des problèmes mathématiques d’une difficulté comparable à ceux donnés aux élèves de l’école primaire. Même si cela ne semble pas si impressionnant à première vue, il faut néanmoins se rendre compte que la prouesse est l’autonomie du programme et non pas la difficulté du problème auquel il a fait face.
Reuteurs assure également qu’ils n’ont pas pu vérifier « de leurs yeux » les capacités du projet Q*, mais qu’ils se fient uniquement aux retours des différents chercheurs.
À ce rythme, Skynet n’est peut-être plus qu’un simple antagoniste d’un film, mais bien une réalité qui se dessine. En espérant que toutes les précautions soient prises afin de ne pas « reproduire » les mêmes erreurs que dans Terminator.
