Sitegeek.frSitegeek.fr
  • Catégories
    • Technologie
    • Films et séries
    • Jeux Vidéo
    • Société
    • Business
    • Culture Geek
    • Guide
    • Articles Intemporels
    • Blog
  • News
  • Test
  • Bons plans
  • Concours
  • Contact
  • À propos
Sitegeek.frSitegeek.fr
  • News
  • Test
  • High-tech
  • JV
  • Bons plans
Recherche
  • Contact
  • Mentions légales
  • Culture Geek
  • Films et séries
  • À propos de Sitegeek
Réseaux sociaux
Sitegeek.fr > Technologie > OpenAI Crée une équipe Interne pour évaluer les scénarios catastrophes en IA
Technologie

OpenAI Crée une équipe Interne pour évaluer les scénarios catastrophes en IA

Par Gwen
Publié 9 novembre 2023
Aucun commentaire
3 min
PARTAGE

Ce nouveau département au sein d’OpenAI se penchera sur les dangers associés à l’intelligence artificielle, y compris les menaces nucléaires.

 OpenAI forme actuellement une nouvelle équipe pour évaluer les « risques catastrophiques » associés à l’IA, selon ses propres mots. Dans une publication sur son blog (en anglais) la semaine dernière, la société de développement d’intelligence artificielle indique que son équipe de préparation (Preparedness team) va « suivre, évaluer, prévoir et protéger » contre les scénarios catastrophes que pourraient causer l’IA, y compris les menaces nucléaires.

OpenAI veut montrer qu’elle prend au sérieux l’ensemble des risques de sécurité liés à l’IA…

Les inquiétudes autour de l’IA ne sont pas nouvelles, mais se sont amplifiées depuis un an avec l’ouverture des chatbots et des grands modèles de langage à un plus large public. Les problématiques soulevées vont des questions de droit d’auteur à des scénarios beaucoup plus sombres.

L’équipe mise en place par OpenAI se penchera sur les risques en matière de cybersécurité, les menaces chimiques, biologiques, radiologiques et nucléaires, ou encore la « réplication et l’adaptation autonome », c’est-à-dire le fait pour une IA de se répliquer elle-même.

Un robot représentant l'IA parmi d'autres robots

Dans sa publication, OpenAI note : « Nous pensons que les modèles IA d’avant-garde, qui dépasseront les capacités actuelles des modèles existants, les plus avancés, ont le potentiel de profiter à l’ensemble de l’humanité. Mais, ils posent également des risques de plus en plus graves ».

Le professeur Aleksander Madry, actuellement en congé de son poste de directeur du Center for Deployable Machine Learning du MIT, dirigera cette nouvelle équipe. OpenAI précise également que l’équipe de préparation développera et maintiendra une « une politique de développement tenant compte des risques », qui guidera les mesures prises par la société pour évaluer et contrôler ses modèles IA.

Lire aussi :  Déluge de Nouveautés sur YouTube

Le patron d’OpenAI, Sam Altman, avait déjà mis en garde contre les scénarios catastrophes liés à l’IA. Au mois de mai dernier, le PDG de la société et d’autres acteurs du secteur de l’intelligence artificielle, dont d’éminents chercheurs, ont publié une déclaration de 22 mots selon laquelle : « L’atténuation du risque d’extinction dû à l’IA devrait être une priorité mondiale ». Lors d’une interview en mai dernier, Sam Altman avait également suggéré que les gouvernements devraient traiter l’IA « aussi sérieusement » que les armes nucléaires.

TAGGED:OpenAI
Partage cet article
Facebook Whatsapp Whatsapp LinkedIn Copie Lien Imprime
Donne ton avis !
Love0
Sad0
Happy0
Sleepy0
Angry0
Dead0
Wink0
ParGwen
Mes réseaux :
Rédacteur augmenté et expert IT, je mets la tech à votre portée. Fort de 20 ans d’expérience dans l’ingénierie système, je décortique l’univers high-tech avec précision et passion. Produits connectés, domotique, gadgets du quotidien : je teste, j’analyse, je conseille. Mes contenus sont conçus pour être clairs, utiles et accessibles à tous, afin de vous aider à faire les bons choix dans un monde numérique en perpétuelle évolution.
Article précédent Nightshade : L’outil qui ébranle les modèles IA de génération d’images.
Article suivant Qualcomm au Snapdragon Summit 2023 : Présentation de ses nouveaux processeurs de pointe
Aucun commentaire

Laisser un commentaire Annuler la réponse

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur la façon dont les données de vos commentaires sont traitées.

Réseaux Sociaux

10kLike
14.7kFollow
526Subscribe
113Follow

Charte éditoriale

Nos articles peuvent inclure des liens via lesquels nous recevons une commission et être réalisés en collaboration avec les marques.

Cela n’influence en rien l’orientation de nos articles : consultez la politique d’affiliation et notre charte éditoriale

Donne ton avis

Trustpilot Stars Logo PNG vector in SVG, PDF, AI, CDR format

Derniers articles

La théorie des cordes défiée : un nouveau modèle de gravité quantique émerge avec 33% de précision
actu-high-tech
Comment Netflix révolutionne le jeu vidéo : 40 millions de joueurs et un impact inattendu sur l’industrie
actu-high-tech
Le MSI MAG 272UP X24 : 240 Hz sur OLED, la nouvelle norme pour les écrans gaming ?
actu-high-tech
Le NAS en danger ? 5 alternatives à Synology qui changent la donne du stockage réseau
actu-high-tech

Derniers commentaires

  • remini mod app dans Elden Ring – 10 astuces pour bien débuter
  • whatsplus.cc dans Comment bien débuter en sim racing : Guide complet pour les débutants
  • Smash Karts dans Top 10 jeux de simulation
  • Rejekibet dans Top 10 jeux de simulation
  • Teer Win dans Tout savoir sur le jeu de cartes Solitaire : Guide complet et gratuit

Sites Amis

  • Famille Bio
  • Bistro Geek
  • Be-Games.be
  • Arcade Belgium
  • Couple of pixels
  • Julsa.fr
  • Byothe.fr
  • Papa blogueur

Services partenaires

  • Stock Images by Depositphotos

Hébergement

Réseaux sociaux

9.9kLike
14.7kFollow
526Subscribe
113Follow
Sitegeek.frSitegeek.fr
Sitegeek.fr - ® 2013-2024 - Tous droits réservés - Marque et logos déposés
  • À propos de Sitegeek
  • Charte éditoriale
  • Mentions légales
  • Politique d’affiliation
  • Politique de confidentialité
Welcome Back!

Sign in to your account

Username or Email Address
Password

Oublié votre mot de passe?