Ne pas « AI Wash » les arguments d'investissement : le président de la SEC, Gary Gensler

Republié par Platon

Suiveurs: 0

Ne « lavage AI » les arguments d'investissement : le président de la SEC, Gary Gensler – Décrypter l'intelligence des données PlatoBlockchain. Recherche verticale. Aï.

Gary Gensler, président souvent assiégé de la Securities and Exchange Commission des États-Unis, a une fois de plus tiré la sonnette d'alarme sur l'intelligence artificielle et sur la façon dont ses progrès rapides pourraient affecter les marchés financiers.

"Il ne faut pas greenwasher, et il ne faut pas non plus laver l'IA - je ne sais pas comment le dire autrement", a déclaré Gensler lors de la conférence "Balancing Innovation & Regulator". un événement hébergé par The Messenger à Washington, DC, mercredi. "Si vous collectez des fonds auprès du public, si vous offrez et vendez des titres, vous êtes soumis aux lois sur les valeurs mobilières et vous fournissez une information complète, juste et véridique, et les investisseurs peuvent décider."

Le greenwashing consiste à faire des déclarations exagérées ou fausses sur les pratiques environnementales, sociales et de gouvernance, également connues sous le nom d'ESG, pour rendre un projet plus attractif. La SEC a déjà averti que écoblanchiment peut distraire les investisseurs sur les risques réels, les récompenses et le prix d’un actif.

Gensler a déclaré que le battage médiatique autour de l’IA transforme la technologie en une distraction similaire.

« Nous craignons une falsification des marchés et une fraude sur cette question macroéconomique », a-t-il poursuivi. "Je pense que cela nécessite vraiment beaucoup de discussions, non seulement entre les régulateurs financiers d'ici mais aussi du monde entier."

Même si IA générative peut imiter les schémas de parole et le style d'écriture d'un humain avec une complexité surprenante, il a souligné que derrière la machine se trouve un humain qui doit répondre des crimes financiers commis par le chatbot.

« Permettez-moi simplement de dire qu'une fraude est une fraude, et s'il y a un humain qui utilise un modèle qui escroque le public ; cet humain – selon les faits – va probablement avoir de nos nouvelles », a déclaré Gensler. « L’intelligence artificielle telle que nous la connaissons tient toujours les humains au courant. »

Il a reconnu, en plaisantant, que l'implication humaine n'est pas toujours le cas.

"Je ne sais pas quand nous arriverons à l'époque de Sarah Connor", a-t-il déclaré, faisant référence au personnage emblématique joué par Linda Hamilton dans la franchise cinématographique Terminator. "Mais il y a des humains qui mettent en place ce modèle d'IA et définissent ce qu'on appelle les hyperparamètres, donc il y a toujours des humains qui sont responsables de cette IA."

Gensler s'est concentré sur les risques liés à l'utilisation de l'IA dans la finance, soulignant la possibilité pour les développeurs d'inclure des préjugés personnels et des conflits d'intérêts dans les données de formation. Gensler a également souligné les dangers de s'appuyer sur des ensembles de données uniformes ou centralisés, qui, selon lui, pourraient conduire à une instabilité du marché en raison d'un manque de diversité dans la prise de décision.

"Si une grande partie du marché s'appuie sur un seul ensemble de données, sur les données hypothécaires", a déclaré Gensler. « L’effet douloureux pourrait nous faire tomber d’une falaise par inadvertance. »

Même si le nombre de développeurs d’IA et les investissements importants dans ce domaine continuent de croître, Gensler a déclaré que nous verrons éventuellement des données moins fragmentées à mesure que le nombre de modèles d’IA sera réduit à trois acteurs dominants.

"Cela se produit généralement au début d'une technologie", a déclaré Gensler. "Nous allons donc probablement nous retrouver, en raison de l'économie des réseaux, avec trois de ces fondements ou modèles dominants sur lesquels s'appuient largement tout le monde... c'est une chaîne d'approvisionnement en IA."

"Si vous n'y avez pas réfléchi, si vous êtes une startup fintech, une banque communautaire, un petit gestionnaire d'actifs, vous ne pouvez pas construire de grands modèles, vous devez vous appuyer sur le modèle de quelqu'un d'autre", a-t-il ajouté. .

En septembre, Gensler a ajouté son nom à la liste croissante de responsables gouvernementaux préoccupés par l'impact négatif de l'IA générative, en se concentrant spécifiquement sur les problèmes générés par l'IA. deepfakes. Témoignant devant le comité sénatorial des banques, Gensler a averti que les deepfakes d'IA présentent un risque pour les marchés financiers, soulignant un exemple de deepfake d'IA du président de la SEC qui a tenté de manipuler le marché boursier américain.

« Je pense que nous avons de bonnes lois, mais ces nouvelles technologies vont remettre en question ces lois », a déclaré Gensler. "Si vous utilisez l'IA et effectuez des deepfakes sur le marché, cela représente un risque réel pour les marchés."

Édité par Ryan Ozawa.Dakota du Sud