Industrins inflytande på AI formar teknikens framtid – på både bättre och sämre

Den enorma potentialen i AI att omforma framtiden har sett massiva investeringar från industrin de senaste åren. Men privata företags växande inflytande i den grundforskning som driver denna framväxande teknik kan få allvarliga konsekvenser för hur den utvecklas, säger forskare.

Frågan om huruvida maskiner skulle kunna replikera den typ av intelligens som ses hos djur och människor är nästan lika gammal som själva datavetenskapsområdet. Industrins engagemang i denna forskningslinje har fluktuerat under decennierna, lleder till en serie AI-vintrar när investeringar har strömmat in och sedan tillbaka ut igen som tekniken har gjort misslyckades med att leva upp till förväntningar.

Tillkomsten av djupinlärning i början av föregående decennium har dock resulterat i en av de mest långvariga intressena och investeringarna från privata företag. Detta börjar nu ge några verkligt förändrade AI-produkter, Men en ny analys i Vetenskap visar att det också leder till att industrin tar inveckgdominerande ställning inom AI-forskning.

Det här är ett tveeggat svärd, säger författarna. Industrin tar med sig pengar, datorresurser och enorma mängder data som har turboladdade framsteg, men den fokuserar också hela fältet på områden som är av intresse för privata företag snarare än de som har störst potential eller nytta för mänskligheten.

"Industrins kommersiella motiv driver dem att fokusera på ämnen som är vinstorienterade. Ofta ger sådana incitament resultat i linje med allmänhetens intresse, men inte alltid”, skriver författarna. "Även om dessa industriinvesteringar kommer att gynna konsumenterna, borde den åtföljande forskningsdominansen vara ett bekymmer för beslutsfattare runt om i världen, eftersom det innebär att alternativ av allmänt intresse för viktiga AI-verktyg kan bli alltmer knapphändiga."

Författarna visar att industrins fotavtryck inom AI-forskning har ökat dramatiskt de senaste åren. År 2000 innehöll endast 22 procent av presentationerna på ledande AI-konferenser en eller flera medförfattare från privata företag, men år 2020 hade det nått 38 procent. Men effekten märks tydligast i fältets framkant.

Framsteg inom djupinlärning har till stor del drivits av utvecklingen av allt större modeller. 2010 stod industrin för endast 11 procent av de största AI-modellerna, men 2021 hade det nått 96 procent. Detta har sammanfallit med en växande dominans på viktiga riktmärken inom områden som bildigenkänning och språkmodellering, där industrins engagemang i den ledande modellen har vuxit från 62 procent 2017 till 91 procent 2020.

En viktig drivkraft för denna förändring är de mycket större investeringar den privata sektorn kan göra jämfört med offentliga organ. Exklusive försvarsutgifter anslog den amerikanska regeringen 1.5 miljarder dollar för utgifter för AI 2021, jämfört med de 340 miljarder dollar som industrin runt om i världen spenderade det året.

Den extra finansieringen leder till mycket bättre resurser – både när det gäller datorkraft och dataåtkomst – och förmågan att attrahera de bästa talangerna. Storleken på AI-modeller är starkt korrelerad med mängden tillgängliga data och datorresurser, och 2021 var branschmodeller 29 gånger större än akademiska i genomsnitt.

Och medan 2004 endast 21 procent av doktoranderna i datavetenskap som hade specialiserat sig på AI gick in i industrin, 2020 hade det ökat till nästan 70 procent. Den takt med vilken AI-experter har anställts från universitetet av privata företag har också åttadubblats sedan 2006.

Författarna pekar på OpenAI som en markör för det allt svårarey att göra banbrytande AI-forskning utan den privata sektorns ekonomiska resurser. Under 2019 förvandlades organisationen från en ideell till en "begränsad vinstdrivande organisation" för att "snabbt öka våra investeringar i datorer och talang", sa företaget då.

Denna extra investering har haft sina fördelar, konstaterar författarna. Det har hjälpt till att ta ut AI-teknik från labbet och in i vardagsprodukter som kan förbättra människors liv. Det har också lett till utvecklingen av en mängd värdefulla verktyg som används av både industri och akademi, såsom mjukvarupaket som TensorFlow och PyTorch och allt kraftfullare datorchips skräddarsydda för AI-arbetsbelastningar.

Men det driver också AI-forskningen att fokusera på områden med potentiella kommersiella fördelar för sina sponsorer, och lika viktigt, datahungriga och beräkningsdyra AI-metoder som passar bra ihop med den typ av saker som stora teknikföretag redan är bra på. När industrin i allt högre grad bestämmer riktningen för AI-forskning, kan detta leda till att konkurrerande strategier för AI och andra socialt fördelaktiga tillämpningar försummas utan tydliga vinstintressen.

"Med tanke på hur brett AI-verktyg skulle kunna tillämpas över hela samhället, skulle en sådan situation ge ett litet antal teknikföretag en enorm makt över samhällets riktning”, konstaterar författarna.

Det finns modeller för hur gapet mellan den privata och offentliga sektorn skulle kunna stängas, säger författarna. USA har föreslagit skapandet av en nationell AI-forskningsresurs som består av offentliga forskningsmoln och offentliga datauppsättningar. Kina godkände nyligen ett "nationellt nätverkssystem för datorkraft." AKanadas Advanced Research Computing-plattform har varit igång i nästan ett decennium.

Men utan ingripande från beslutsfattare säger författarna att akademiker sannolikt inte kommer att kunna tolka och kritisera branschmodeller korrekt eller erbjuda alternativ av allmänt intresse. Att säkerställa att de har förmågan att fortsätta att forma gränsen för AI-forskning bör vara en nyckelprioritet för regeringar runt om i världen.

Image Credit: Deepmind / Unsplash 

• SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
• Platoblockchain. Web3 Metaverse Intelligence. Kunskap förstärkt. Tillgång här.
• Källa: https://singularityhub.com/2023/03/05/industrys-influence-on-ai-is-shaping-the-techs-future-for-better-and-for-worse/