Les entreprises technologiques signent une lettre ouverte s’engageant à atténuer les risques liés à l’IA

Les entreprises technologiques signent une lettre ouverte s’engageant à atténuer les risques liés à l’IA

Horodatage: 7 mars 2024 8:00

Les leaders technologiques, dont Sam Altman d'OpenAI, unissent leurs forces dans une lettre ouverte de Ron Conway pour plaider en faveur d'un développement responsable de l'IA, visant à équilibrer les avantages et les risques sociétaux.

Dans la tentative la plus récente de l'industrie technologique de plaider en faveur du développement responsable de intelligence artificielle, OpenAI, Salesforce Inc. et d'autres entreprises technologiques ont signé une lettre ouverte soulignant une « responsabilité collective » pour « maximiser les avantages de l'IA et atténuer les risques » pour la société.

Risques posés par l'IA

Depuis la sortie de ChatGPT L’année dernière et la popularisation du secteur de l’IA, de nombreux acteurs de l’industrie ont simultanément défendu les avantages de la technologie et exprimé leurs inquiétudes quant à ses risques importants.

A lire également: Un juge américain déclare que X d'Elon Musk pourrait perdre son procès pour discours de haine

Les dirigeants de l’IA, dont Altman, ont signé une lettre en mai avertissant que l’intelligence artificielle pourrait conduire à l’extinction de l’humanité. Le groupe de dirigeants d’entreprises a déclaré que la technologie d’intelligence artificielle qu’ils développaient pourrait un jour être aussi dangereuse pour l’humanité que les armes nucléaires et les pandémies.

Selon le déclaration par le Center for AI Safety, « Atténuer le risque d’extinction de l’IA devrait être une priorité mondiale aux côtés d’autres risques à l’échelle sociétale, tels que les pandémies et la guerre nucléaire. ». Plus de 350 cadres, chercheurs et ingénieurs travaillant sur l’IA ont signé la lettre. Les hauts dirigeants de trois des plus grandes sociétés d'intelligence artificielle ont signé la pétition : Dario Amodei, PDG d'Anthropic ; Demis Hassabis, PDG de Google DeepMind ; et Sam Altman, PDG d'OpenAI.

Parmi les signataires de la déclaration figuraient des chercheurs de renom dans le domaine, notamment Yoshua Bengio et Geoffrey Hinton, deux des trois chercheurs qui ont remporté un prix Turing pour leurs travaux sur les réseaux neuronaux et sont fréquemment appelés les « parrains » de l'IA moderne. mouvement.

L'annonce a été faite à un moment où les inquiétudes concernant les éventuels inconvénients de l'intelligence artificielle s'intensifiaient. On craint que l'intelligence artificielle (IA) ne soit bientôt utilisée à grande échelle pour propager de fausses informations et de la propagande ou qu'elle puisse remplacer des millions d'emplois de cols blancs en raison des développements récents des modèles de langage dits à grande échelle, le type d'IA. système utilisé par ChatGPT et d’autres chatbots.

Les entreprises technologiques signent une lettre ouverte s’engageant à atténuer les risques liés à l’IA PlatoBlockchain Data Intelligence. Recherche verticale. Aï.

La lettre SV Angel

OpenAI Le PDG Sam Altman a exprimé son enthousiasme pour l'esprit de la lettre dans un article sur la plateforme de médias sociaux X. La lettre a été initiée par le capital-risqueur Ron Conway et sa société, SV Angel.

Selon Altman, « l’un des facteurs les plus importants pour améliorer la qualité de vie des gens » sera les progrès de l’IA. La lettre citait également Hugging Face, Scale AI et de nombreuses autres startups et entreprises technologiques comme signataires.

L’impact de l’IA contraste avec celui d’autres avancées technologiques telles que l’imprimerie, le moteur à combustion, l’électricité et Internet dans la lettre de SV Angel. Comme indiqué dans la lettre, « les actions et la prévenance humaines façonneront l’équilibre de leurs impacts positifs et négatifs sur les humains ». "Nous devons tous travailler ensemble pour prendre des décisions qui optimiseront les avantages de l'IA et réduiront ses risques, tant pour les générations actuelles que futures." La lettre ne précise cependant pas comment procéder.

Des jours après Elon Musk a poursuivi OpenAI, un leader du marché de l'intelligence artificielle, affirmant que la startup avait violé sa mission fondatrice en privilégiant le profit au détriment du bien de l'humanité, une lettre a été envoyée. OpenAI a exprimé sa position « catégoriquement en désaccord » avec le procès de Musk dans une note interne.

Horodatage:

Plus de MétaActualités