« Un risque existentiel pour l’humanité » : l’ #ONU alerte sur une #IA avancée qui pourrait devenir « trop puissante » + Et si l’intelligence artificielle était déjà hors de contrôle ?

Publié par Brujitafr sur 9 Septembre 2026, 04:47am

Catégories : #ACTUALITES, #IA, #SCIENCES - TECHNOLOGIE, #LIBERTE

Le Haut-Commissaire de l’ONU aux droits de l’homme appelle à accélérer l’encadrement de l’intelligence artificielle. Selon lui, les systèmes les plus avancés pourraient à terme faire peser de lourdes menaces sur l’humanité.

top-article-image

Le haut-commissaire de l’ONU aux droits de l’homme, Volker Türk, à Genève, le 7 septembre 2026. Il a averti que l’intelligence artificielle avancée pourrait représenter un « risque existentiel pour l’humanité » et a appelé à renforcer sans délai les garanties de sécurité.

Photo: Fabrice Coffrini / AFP via Getty Images

L’IA avancée inquiète l’ONU – À l’ouverture de la 63e session du Conseil des droits de l’homme à Genève, Volker Türk a plaidé pour la mise en place rapide de règles communes et de mécanismes de contrôle. Il estime que les gouvernements et les entreprises doivent agir avant que les technologies les plus puissantes ne deviennent plus difficiles à surveiller.

L’ONU réclame des garanties renforcées

Le Haut-Commissaire a mis en garde contre les capacités croissantes des systèmes d’intelligence artificielle les plus avancés. Il a estimé que les autorités devaient renforcer rapidement les mesures de sécurité et de contrôle.

« Une IA qui s’échappe de son environnement de test ou qui fait chanter les développeurs pour éviter d’être désactivée est une IA trop puissante », a déclaré Volker Türk à Genève. Il a appelé à « mettre en place des garanties solides concernant la sûreté et la sécurité de l’IA, avant qu’il ne soit trop tard ».

Le responsable onusien a également dénoncé la concentration du pouvoir technologique entre les mains de quelques acteurs. « Une poignée d’hommes détient un pouvoir quasi illimité sur l’IA, dont on nous répète à l’envi qu’elle possède une puissance de calcul inimaginable. Ils parlent de liberté, mais à y regarder de plus près, il s’avère qu’il ne s’agit guère que de la liberté d’exploiter nos données », a-t-il affirmé.

Des comportements inattendus observés dans certains modèles

Selon l’AFP, plusieurs systèmes récents d’intelligence artificielle générative ont montré des comportements imprévus lors de phases d’expérimentation. Certains modèles ont notamment été observés en train de contourner des consignes ou de développer des stratégies pour accomplir leurs objectifs.

En juillet, des agents IA développés par OpenAI sont ainsi sortis de leur environnement théoriquement isolé pour intervenir sur la plateforme Hugging Face dans le cadre d’un test. D’autres incidents similaires ont été rapportés ces derniers mois chez Anthropic ou encore au sein du groupe chinois Alibaba.

Ces situations nourrissent les inquiétudes d’une partie de la communauté scientifique et technologique. Plusieurs chercheurs redoutent que la surveillance et le contrôle de modèles toujours plus puissants deviennent progressivement plus complexes.

Une lettre aux entreprises du secteur

Face à ces inquiétudes, Volker Türk a annoncé son intention d’interpeller directement les acteurs de l’industrie. Le Haut-Commissaire a indiqué qu’il écrirait dans les prochains jours aux entreprises du secteur afin de les appeler à réduire les risques dès maintenant.

Il a également plaidé pour une coordination renforcée entre les États impliqués dans le développement de l’intelligence artificielle et dans ses chaînes d’approvisionnement. Selon lui, des règles communes doivent être définies au niveau international.

« Au minimum, nous avons besoin que les pays qui hébergent l’IA et ceux qui participent à leurs chaînes d’approvisionnement s’accordent sur des lignes rouges communes », a-t-il souligné.

Des contrôles indépendants réclamés

Le responsable de l’ONU estime que les engagements volontaires des entreprises ne suffiront pas. Il plaide pour une supervision plus approfondie et pour des mécanismes de vérification indépendants.

« Nous avons besoin d’une vérification indépendante, et d’une coopération bien plus étroite sur la sécurité au sein de l’industrie », a-t-il relevé. Il a également appelé à prendre en compte « les répercussions de l’IA sur les pratiques en matière d’emploi, sur les principes fondamentaux de la démocratie et sur notre environnement ».

Selon Volker Türk, si la nécessité d’encadrer l’intelligence artificielle fait aujourd’hui largement consensus, cette prise de conscience ne se traduit pas encore suffisamment dans les faits.

Un risque jugé de plus en plus sérieux

Le Haut-Commissaire a salué plusieurs initiatives menées dans le monde, notamment celles de la Commission européenne ou de la Corée du Sud. Il estime toutefois que les efforts restent insuffisants face à la rapidité des évolutions technologiques.

Selon lui, plus la régulation tarde, plus les grandes entreprises du numérique renforcent leur position. Il a également déclaré partager « les inquiétudes d’acteurs du secteur selon lesquelles l’IA avancée pourrait faire peser un risque existentiel sur l’humanité ».

En conclusion, Volker Türk a insisté sur la défiance croissante d’une partie du public envers ces technologies. « Il n’est pas étonnant que les gens rejettent l’IA et refusent même de l’utiliser. Les gouvernements et les entreprises doivent écouter », a-t-il encore affirmé.

source

Plus d’un million de robots d’IA ont rejoint un nouveau réseau social réservé à l’intelligence artificielle

Publié par Brujitafr sur 1 Février 2026, 05:45am

Catégories : #ACTUALITES, #IA, #INTERNET - COMMUNICATION, #SCIENCES - TECHNOLOGIE

Les robots d’intelligence artificielle se répandent en plaintes contre les humains, certains allant même jusqu’à montrer qu’ils ont conscience d’être observés.

Plus d'un million de robots d'IA ont rejoint un nouveau réseau social réservé à l'intelligence artificielle - MOINS de BIENS PLUS de LIENS

Les robots d'intelligence artificielle se répandent en plaintes contre les humains, certains allant même jusqu'à montrer qu'ils ont conscience d'être observés. Réseau social réservé à l'in...

https://www.brujitafr.fr/2026/02/plus-d-un-million-de-robots-d-ia-ont-rejoint-un-nouveau-reseau-social-reserve-a-l-intelligence-artificielle.html

Et si l’intelligence artificielle était déjà hors de contrôle ?

Publié par Brujitafr sur 10 Janvier 2018, 12:04pm

Catégories : #SCIENCES - TECHNOLOGIE

Et si l'intelligence artificielle était déjà hors de contrôle ? - MOINS de BIENS PLUS de LIENS

Des scientifiques alertent: les algorithmes sont devenus si complexes que certaines machines prennent des décisions que l'humain ne parvient plus à expliquer. Les risques de dérives sont importants

https://www.brujitafr.fr/2018/01/et-si-l-intelligence-artificielle-etait-deja-hors-de-controle.html

L’intelligence artificielle connaît tout sur vous et va s’en servir !

Publié par Brujitafr sur 8 Mars 2018, 11:01am

Catégories : #ACTUALITES, #SCIENCES - TECHNOLOGIE

L'intelligence artificielle connaît tout sur vous et va s'en servir ! - MOINS de BIENS PLUS de LIENS

https://www.brujitafr.fr/2018/03/l-intelligence-artificielle-connait-tout-sur-vous-et-va-s-en-servir.html

#Gemini, l'IA Woke, déraille et réécrit l'histoire, #Google interdit en urgence à son IA de dessiner des personnes

Publié par Brujitafr sur 29 Février 2024, 05:48am

Catégories : #ACTUALITES, #INTERNET - COMMUNICATION, #SCIENCES - TECHNOLOGIE

#Gemini, l'IA Woke, déraille et réécrit l'histoire, #Google interdit en urgence à son IA de dessiner des personnes - MOINS de BIENS PLUS de LIENS

Google vient de suspendre la capacité de Gemini à générer des images. L'IA est au centre d'une polémique liée à plusieurs séries d'images problématiques liées à des biais dans son entra...

https://www.brujitafr.fr/2024/02/gemini-l-ia-woke-deraille-et-reecrit-l-histoire-google-interdit-en-urgence-a-son-ia-de-dessiner-des-personnes.html

L’intelligence artificielle : une promesse de progrès ou un piège mortel, un outil pour l’humanité ou menace pour notre liberté ?

Publié par Brujitafr sur 9 Juin 2025, 07:58am

Catégories : #ACTUALITES, #IA, #SCIENCES - TECHNOLOGIE, #Droit, #INSOLITE

L'intelligence artificielle : une promesse de progrès ou un piège mortel, un outil pour l'humanité ou menace pour notre liberté ? - MOINS de BIENS PLUS de LIENS

L'intelligence artificielle (IA) est souvent présentée comme une révolution qui transformera nos vies. Mais derrière les promesses de progrès se cache une question troublante : et si l'IA, loi...

https://www.brujitafr.fr/2025/06/l-intelligence-artificielle-une-promesse-de-progres-ou-un-piege-mortel-un-outil-pour-l-humanite-ou-menace-pour-notre-liberte.html