Poate Wall Street să influențeze modul în care se dezvoltă AI?

Inteligența artificială, în special inteligența artificială generativă, continuă să promite o creștere vastă a productivității multor industrii, inclusiv cele bancare și asigurări.

AI pune, de asemenea, multe provocări, așa cum se manifestă în tendința sa de a halucina. Un altul este potențialul de abuz. Acest lucru poate proveni din părtiniri inconștiente în seturile de antrenament de date, care au ca rezultat rezultate discriminatorii pentru persoanele de culoare. Poate reflecta, de asemenea, modul în care sunt programate sistemele genAI, așa cum demonstrează recenta agitație asupra imaginilor „trezite” cu papi sau alte figuri istorice care apar ca orice altceva decât bărbați albi.

În cele mai extreme cazuri, administratorii de active ar putea apela la AI pentru cercetare sau chiar portofolii de tranzacționare. Halucinațiile ar putea ruina o firmă; cum ar putea încerca să explice unui organism de reglementare de ce un bot a provocat o prăbușire flash.

Este puțin probabil ca AI să fie dezlănțuit într-o manieră atât de dramatică, dar poate fi pusă să funcționeze în moduri mai subtile. De fapt, este deja.

Băncile, asigurătorii și fintech-urile folosesc deja instrumente AI pentru a obține ratinguri de credit sau pentru a subscrie politici. Industria riscă să nu poată explica unui client nemulțumit de ce i s-a refuzat un împrumut, de exemplu.

Problema mai banală este când AI poate fi aplicată. De exemplu, software-ul poate fi folosit pentru a analiza rezultatele cuiva din rețelele sociale pentru a-și judeca starea mentală, care ar putea fi folosită pentru a stabili prețul unui produs financiar. Acest lucru ridică o mulțime de întrebări.

Ar trebui să li se permită firmelor să ia în considerare astfel de date? Dacă nu, ce înlocuitori vor explora pentru a avea o viziune asupra unui potențial client? Ce reprezintă confidențialitatea și cum este aplicată?

Reglementează, te rog

Răspunsul firesc la astfel de întrebări este aducerea autorităților de reglementare. Cel mai bine este să dezvoltați un set neutru de reguli pentru a reține cele mai rele impulsuri ale unei firme. De asemenea, este mai ușor să lăsați regulatoarele să facă treaba grea – și să păstrați libertatea de a ridica din umeri dacă nu o fac.

Reglementarea este necesară, dar este suficientă? Poate, dar numai dacă industria financiară este mulțumită să lase inovația în seama Big Tech și noii rase de startup-uri AI.

Când vine vorba de AI, realitatea este că autoritățile de reglementare nu vor putea niciodată să țină pasul. Nu este un lucru rău: ne așteptăm ca inovația să vină din sectorul privat. Dar natura AI face ca reglementarea să fie dificilă.

În primul rând, sunt puțini oameni care lucrează la autoritățile de reglementare care au o experiență profundă în învățarea automată și alte instrumente AI, darămite genAI.

În al doilea rând, pentru a menține pasul în această lume necesită comanda uriașe de GPU-uri, unități de procesare grafică, cipuri de bază care alimentează aplicațiile AI și hardware-ul centrelor de date care cuprind cloud-ul.

Industria AI include startup-uri precum OpenAI, jucători Big Tech precum Microsoft și Meta, specialiști în cipuri precum Nvidia și furnizori de cloud precum AWS. Acești giganți au resurse unice de vaste care captează cei mai buni talente și achiziționează puterea de calcul pentru a rula sisteme AI.

Nici autoritățile de reglementare, nici întreprinderile nu pot stabili agenda atâta timp cât acesta rămâne cazul.

Putere de cumpărare

Organismele de reglementare pot încerca să stabilească reguli – și ar trebui, deoarece pot modela normele de bază – dar se vor strădui să facă față nuanțelor modului de a preveni băncile și alte persoane să abuzeze de sistemele AI.

Există însă alternative. Una este să privim înapoi la modul în care guvernele au contribuit la susținerea economiilor lor inovatoare în primele zile. De exemplu, Silicon Valley își datorează mare parte din succesul programelor masive de achiziții ale NASA și ale armatei americane din anii 1950 și 1960.

---

---

În mod similar, numai guvernele au potențialul de a pătrunde pe piața infrastructurii AI și de a achiziționa GPU-uri pentru propriile programe de cercetare care se potrivesc la scara Big Tech. Aceasta este o modalitate de a stabili standarde, prin participare și conducere, mai degrabă decât să încercăm la nesfârșit să țină pasul scriind mai multe reguli.

Dar serviciile financiare? Până acum nu există niciun semn că guvernele sunt pregătite să joace acest rol, ceea ce lasă alte industrii la cheremul Big Tech.

Lecția este similară: Wall Street trebuie să devină un client atât de important pentru Big Tech, încât să poată stabili standarde pentru modul în care este tratată AI.

Problema este dimensiunea. Nici măcar un JP Morgan nu are puterea să se potrivească cu un Microsoft în acest domeniu. Nu ar putea justifica niciodată costul.

AI cu sursă deschisă

Dar cum rămâne cu industria ca grup? Există o modalitate prin care Big Finance – în colaborare cu cele mai importante companii fintech din întreaga lume – de a pune în comun resursele și de a deveni un client strategic?

Băncile nu sunt obișnuite să joace împreună. O astfel de abordare ar fi complet străină.

Pe de altă parte, băncile se încălzesc încet spre open source pentru dezvoltarea de software. Ei recunosc că partajarea codului pentru multe funcții non-core – fiind jucători comunitari în loc de proprietari – poate crea software de calitate mai bună și mai rezistent.

Funcționează open source pentru genAI?

Răspunsul este neclar. Unii Big Tech din acest spațiu au fost deschisi cu dezvoltarea lor, cum ar fi Meta, care permite startup-urilor AI să descarce și să adapteze unele dintre modelele sale.

Standardele din industrie pentru open source cer ca toate cazurile de utilizare să fie permise, dar puține startup-uri genAI îndeplinesc de fapt aceste criterii. Majoritatea, inclusiv absurdul numit OpenAI, operează un magazin închis.

Asta pentru că genAI nu este ca alte categorii de software. Codul sursă este doar o componentă. La fel de importante sunt datele de antrenament și modul în care aceste date sunt clasificate. Astăzi nu există un consens în industria AI cu privire la ceea ce înseamnă chiar „sursă deschisă”.

Iată deschiderea pentru instituțiile financiare. Băncile, bursele și furnizorii de date dețin în mod colectiv o masă critică de date, multe dintre acestea fiind specifice piețelor de capital și serviciilor financiare. În teorie, dacă ar exista un mecanism de agregare a acestor informații, ar putea exista o bază pentru co-dezvoltarea codului și a standardelor care îl însoțesc.

Vânzătorii ar rezista oricărei mișcări care le distrug afacerea; băncile și asigurătorii nu sunt dornici să colaboreze la ceva ce ar putea fi considerat de bază. Pe de altă parte, ar putea exista zone în cadrul serviciilor financiare care, pentru majoritatea jucătorilor, nu sunt esențiale și în care o soluție industrială ar putea fi de dorit. Identitatea digitală, conformitatea, raportarea și aspectele managementului riscurilor vin toate în minte.

DigFin știe că aceasta este o noțiune foarte speculativă, una care s-ar putea să nu justifice niciodată efortul enorm care ar fi necesar pentru ca aceasta să se întâmple. Pe de altă parte, cât de important este ca industria financiară să-și modeleze viitorul în loc să aștepte pasiv ca Silicon Valley să facă acest lucru în locul său? Aici, probabil, ne întoarcem la ideea guvernului ca un mare client al AI. Pentru ca guvernul să acționeze în această calitate, are nevoie de programe proprii. Reglementarea serviciilor financiare în era IA pare un loc bun de început.

• Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
• PlatoData.Network Vertical Generative Ai. Împuterniciți-vă. Accesați Aici.
• PlatoAiStream. Web3 Intelligence. Cunoștințe amplificate. Accesați Aici.
• PlatoESG. carbon, CleanTech, Energie, Mediu inconjurator, Solar, Managementul deșeurilor. Accesați Aici.
• PlatoHealth. Biotehnologie și Inteligență pentru studii clinice. Accesați Aici.
• Sursa: https://www.digfingroup.com/influence-ai/