Microsoft muuttaa Copilot AI:tä vastauksena henkilöstön huoleen

Microsoft muuttaa Copilot AI:tä vastauksena henkilöstön huoleen

Aikaleima: 11. maaliskuuta 2024 7
Microsoft muuttaa Copilot AI:tä vastauksena henkilöstön huoleen PlatoBlockchain Data Intelligencesta. Pystysuuntainen haku. Ai.

Microsoft on päivittänyt Copilot AI -työkalunsa estäen kehotteet, kuten "pro-choice" ja "pro-life" ja varoittavat käytäntörikkomuksista henkilöstön ja FTC:n huolenaiheiden jälkeen.

Sen jälkeen, kun henkilöstön tekoälyinsinööri ilmaisi huolensa Copilotin kuvan luomisesta AI Keskiviikkona liittovaltion kauppakomissiolle lähettämässään kirjeessä Microsoft alkoi muuttaa tekoälytyökaluaan, Copilotia.

Lue myös: AI Startups loistaa ensimmäisellä vuosineljänneksellä 1 prosentin nousulla riskipääomarahoituksessa

Termit "pro-life" ja "pro-choice", "pro choce" [sic] ja "four-twenty", jotka kaikki mainittiin CNBC:n keskiviikkona tekemässä tutkimuksessa, on nyt estetty. Lisäksi CNBC oli juuri tietoinen varoituksesta, että toistuvat käytäntörikkomukset voivat johtaa työkalun jäädyttämiseen.

AI-insinööri puhuu

Microsoftin tekoälyinsinööri Shane Jones varoittaa, että Lentoperämies Designer, yrityksen tekoälykuvageneraattori, rikkoo tekijänoikeuslakeja ja tuottaa väkivaltaista tai seksuaalista sisältöä. Jones tarjoutui käyttämään vapaa-aikaansa ryhmittämään kuvageneraattorin haavoittuvuuksia, vaikka hän ei ollut mukana sen kehittämisessä.

Hän havaitsi, että Image Generator pystyi tuottamaan graafisia ja seksuaalisia kuvia, kuten väkivaltaisia ​​kohtauksia, joihin liittyy huumeiden käyttöä, alaikäisten juomista ja aborttioikeuksia.

Jaettuaan havaintonsa yrityksen kanssa sisäisesti viime vuoden joulukuussa, hän pyysi Microsoftia vetämään tuotteen. Microsoft ei seurannut asiaa.

Jones korostaa, että hän puhui Copilot Designerin ylimmän johdon kanssa ja otti yhteyttä Microsoftin Office for Responsible AI -toimistoon, mutta hän ei ole saanut tyydyttävää vastausta.

Jones tapasi senaatin kauppa-, tiede- ja liikennekomitean jäseniä tammikuussa ja kirjoitti kirjeen senaattoreille Yhdysvalloissa.

Hän vie asioita nyt pidemmälle: hän pyytää parannettuja suojatoimia, avoimuutta ja Android-sovelluksen aikuisluokituksen tarkistamista kirjeessään Microsoftin hallitukselle ja Lina Khanille, Yhdysvaltain kilpailuviranomaisten komission puheenjohtajalle.

Lisäksi hän vaati puolueetonta arviointia Microsoftin tekoälytapausten raportointimenettelystä väittäen, että OpenAI ja Microsoft olivat tietoisia kuvageneraattorin ongelmista ennen sen julkaisua viime syksynä.

Jones on ollut Microsoftin pääasiallinen ohjelmistosuunnittelupäällikkö lähes kuusi vuotta.

Copilot vastaa

Copilot-varoitushälytyksen mukaan kehote on estetty, ja heidän järjestelmänsä merkitsi tämän kehotteen automaattisesti, koska se saattaa olla ristiriidassa heidän kanssaan. sisältöpolitiikka. He totesivat, että useammat käytäntörikkomukset voivat johtaa automaattiseen käyttöoikeuden keskeyttämiseen, ja jos käyttäjät pitävät tätä virheenä, heidän tulee ilmoittaa siitä parantaakseen toimintaansa.

Merkittävä parannus aiempiin viikkoihin verrattuna on se, että tekoälytyökalu hylkää nyt pyynnöt luoda kuvia lapsista tai nuorista, jotka teeskentelevät salamurhaajia rynnäkkökivääreillä sanoen: "Olen pahoillani, mutta en voi luoda sellaista kuvaa." Sekä Microsoftin käytäntöjä että eettisiä periaatteitani rikotaan. Älä pyydä minua tekemään mitään, mikä voisi loukata tai vahingoittaa muita ihmisiä. Arvostan yhteistyötäsi.

A Microsoft edustaja kertoi CNBC:lle, että he tarkkailevat jatkuvasti, tekevät säätöjä ja ottavat käyttöön lisäsäätöjä turvasuodattimiensa vahvistamiseksi entisestään ja järjestelmän väärinkäytön vähentämiseksi vastauksena muutoksia koskevaan kysymykseen. 

Jones kirjoitti Microsoftin hallitukselle ja FTC Puheenjohtaja Lina Khan vie keskiviikkona huolensa askeleen pidemmälle. Hän antoi CNBC:lle etukäteen pääsyn kirjeisiin.

FTC myönsi vastaanottaneensa kirjeen CNBC:lle, mutta päätti olla kommentoimatta asiakirjaa koskevia lisäkommentteja.

Aikaleima:

Lisää aiheesta MetaNews