Teknologiske selskaper signerer åpent brev som løfter om å redusere AI-risiko

Teknologiske selskaper signerer åpent brev som løfter om å redusere AI-risiko

Tidsstempel: 7. mars 2024 8:00

Tekniske ledere, inkludert OpenAIs Sam Altman, slår seg sammen i et åpent brev fra Ron Conway for å gå inn for ansvarlig AI-utvikling, med sikte på å balansere fordeler og samfunnsrisiko.

I teknologibransjens siste forsøk på å gå inn for ansvarlig utvikling av kunstig intelligens, OpenAI, Salesforce Inc. og andre teknologiselskaper signerte et åpent brev som understreker et "kollektivt ansvar" for å "maksimere AIs fordeler og redusere risikoen" for samfunnet.

Risikoer forbundet med AI

Siden utgivelsen av ChatGPT I fjor og populariseringen av AI-sektoren har mange i bransjen samtidig forkjempet fordelene med teknologien og reist bekymring for dens betydelige risiko.

Les også: USAs dommer sier Elon Musks X May Lose Hate Speech-sak

AI-ledere, inkludert Altman, signerte et brev i mai som advarte om at kunstig intelligens kan føre til utryddelse av menneskeheten. Gruppen av bedriftsledere uttalte at kunstig intelligens-teknologien de utviklet en dag kunne være like farlig for menneskeheten som atomvåpen og pandemier.

Ifølge uttalelse av Center for AI Safety, "Å redusere risikoen for utryddelse fra AI bør være en global prioritet sammen med andre samfunnsmessige risikoer, som pandemier og atomkrig." Over 350 ledere, forskere og ingeniører som jobber med AI signerte brevet. Toppledere fra tre av de beste kunstig intelligens-firmaene signerte oppropet: Dario Amodei, administrerende direktør i Anthropic; Demis Hassabis, administrerende direktør i Google DeepMind; og Sam Altman, administrerende direktør i OpenAI.

Underskriverne til uttalelsen inkluderer kjente forskere på feltet, inkludert Yoshua Bengio og Geoffrey Hinton, to av de tre forskerne som vant en Turing-pris for sitt arbeid med nevrale nettverk og ofte refereres til som "gudfedrene" til den moderne AI bevegelse.

Kunngjøringen kom på et øyeblikk da bekymringene for kunstig intelligenss mulige ulemper ble intensivert. Det er bekymring for at kunstig intelligens (AI) snart kan bli brukt i stor skala for å spre falsk informasjon og propaganda, eller at den kan erstatte millioner av funksjonærjobber på grunn av nyere utvikling i såkalte store språkmodeller, den typen AI system brukt av ChatGPT og andre chatbots.

Teknologiske selskaper signerer åpent brev som løfter om å redusere AI-risikoer PlatoBlockchain Data Intelligence. Vertikalt søk. Ai.

SV Angel-brevet

OpenAI Administrerende direktør Sam Altman uttrykte sin begeistring for brevets ånd i et innlegg på den sosiale medieplattformen X. Brevet ble initiert av venturekapitalisten Ron Conway og hans selskap, SV Angel.

I følge Altman vil "en av de største faktorene for å forbedre folks livskvalitet" være fremskritt innen AI. Brevet oppførte også Hugging Face, Scale AI og en rekke andre oppstarts- og teknologiselskaper som underskrivere.

Virkningen av AI står i kontrast til andre teknologiske fremskritt som trykkpressen, forbrenningsmotoren, elektrisitet og internett i SV Angel-brevet. Som det står i brevet, "Menneskelige handlinger og omtenksomhet vil forme balansen mellom dets gode og dårlige virkninger på mennesker." "Vi må alle jobbe sammen for å ta beslutninger som vil optimere AIs fordeler og redusere risikoen, både for nåværende og fremtidige generasjoner." Brevet går imidlertid ikke i detalj om hvordan dette skal gjøres.

Dager etter Elon Musk saksøkte OpenAI, en markedsleder innen kunstig intelligens, og hevdet at oppstarten hadde brutt sitt grunnleggende oppdrag ved å prioritere profitt fremfor menneskehetens beste, ble det sendt et brev. OpenAI uttrykte sin "kategorisk uenig" holdning med Musks søksmål i et internt notat.

Tidstempel:

Mer fra MetaNews