Le Wall Street Journal rapporte que des inquiétudes grandissent au sein des laboratoires d'IA quant au fait que la concurrence pousse les entreprises technologiques à se précipiter vers des modèles d'amélioration automatique qui pourraient échapper au contrôle humain.
Jacob Coxon, chercheur en intelligence artificielle ayant travaillé chez Anthropic et OpenAI, a déclaré :
« Les personnes qui développent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie. »
Evan Hubinger, responsable de la science de l'alignement chez Anthropic, qui a également travaillé chez OpenAI, a répondu dans un message sur X :
« Nous croyons sincèrement que l'IA pourrait tuer toute l'humanité ! Personnellement, je pense que ce chiffre dépassera les 10 % d'ici dix ans. »
Hubinger a ajouté :
« Ce qui m’inquiète, c’est la superintelligence qui émerge d’une amélioration continue, et comme nous l’avons dit, elle se développe plus vite que prévu. »
Ce chiffre doit être considéré comme une appréciation personnelle de Hubinger. Il ne s'agit ni d'une prévision, ni d'un fait établi, ni d'une preuve que les chatbots actuels sont sur le point de devenir dangereux. Je ne suis pas non plus suffisamment informé sur le sujet pour l'approuver ou le réfuter.
Les chercheurs étudient activement si des systèmes très performants pourraient agir de manière imprévue , exploiter des vulnérabilités ou être utilisés pour automatiser des cyberattaques.
Un reportage de la BBC indique que Hubinger a qualifié le risque lié aux modèles actuels de faible. Ses préoccupations portent sur les futurs systèmes susceptibles de disposer d'une autonomie et de capacités bien supérieures.
Alors que les entreprises et les gouvernements évaluent le rythme de développement de l'IA, nous avons besoin de garanties raisonnables, notamment des tests indépendants, des limites aux utilisations autonomes à haut risque, la transparence des développeurs et la responsabilité lorsque les systèmes d'IA causent des dommages.
Ces mesures devraient également s'attaquer aux problèmes auxquels nous sommes déjà confrontés lorsque des cybercriminels utilisent l'IA pour commettre des fraudes, des atteintes à la vie privée et d'autres cybercrimes. Comme de nombreuses technologies puissantes, l'IA peut être utilisée comme une arme, surtout lorsque les mesures de protection sont insuffisantes face à ses capacités.
Les prédictions extrêmes peuvent être très convaincantes, surtout lorsqu'elles émanent de personnes étroitement impliquées dans le développement de la technologie. Mais l'incertitude a deux faces : les avertissements sérieux méritent un examen attentif, et non une croyance aveugle.
Le message pratique n’est ni d’« ignorer la sécurité de l’IA » ni de « se préparer à une apocalypse robotique ». Les entreprises, les gouvernements et les chercheurs doivent collaborer pour garantir que les mesures de sécurité suivent le rythme des évolutions rapides.
La coopération peut compléter la compétition, et dans ce cas précis, elle pourrait s'avérer cruciale.
Vos nom, adresse et numéro de téléphone sont peut-être déjà en vente.
Les courtiers en données collectent et vendent vos données personnelles à quiconque est prêt à payer. Malwarebytes Personal Data Remover lesPersonal Data Remover , supprime vos informations, puis veille sur la situation pour s'assurer que cela reste ainsi.
