Microsoft spreminja Copilot AI kot odgovor na pomisleke osebja

Microsoft spreminja Copilot AI kot odgovor na pomisleke osebja

Časovni žig: 11. marec 2024 7:55
Microsoft spreminja Copilot AI kot odgovor na pomisleke osebja PlatoBlockchain Data Intelligence. Navpično iskanje. Ai.

Microsoft je posodobil svoje orodje Copilot AI, ki blokira pozive, kot sta »pro-choice« in »pro-life«, in uvaja opozorila o kršitvah pravilnika po pomislekih osebja in FTC.

Potem ko je zaposleni inženir umetne inteligence izrazil pomisleke glede Copilotovega ustvarjanja slike AI v pismu Zvezni komisiji za trgovino v sredo je Microsoft začel spreminjati svoje orodje za umetno inteligenco Copilot.

Preberite tudi: Zagonska podjetja z umetno inteligenco blestijo v prvem četrtletju s 1-odstotnim porastom financiranja tveganega kapitala

Izrazi »pro-life« in »pro-choice«, »pro choce« [sic] in »four-twenty«, ki so bili vsi omenjeni v preiskavi CNBC v sredo, so zdaj blokirani. Poleg tega je CNBC pravkar vedel za opozorilo, da lahko ponavljajoče se kršitve pravilnika povzročijo začasno ustavitev orodja.

Inženir AI govori

Shane Jones, inženir umetne inteligence pri Microsoftu, opozarja, da Kopilot Designer, generator slik z umetno inteligenco podjetja, krši zakone o avtorskih pravicah in ustvarja nasilno ali spolno vsebino. Jones se je ponudil, da bo izkoristil svoj prosti čas za rdečo ekipo generatorja slik za ranljivosti, čeprav ni vključen v njegov razvoj.

Odkril je, da lahko Generator slik ustvari grafične in spolne slike, kot so nasilni prizori, ki vključujejo uživanje drog, mladoletno pitje in pravice do splava.

Potem ko je decembra lani interno delil svoje ugotovitve s podjetjem, je prosil Microsoft, naj umakne izdelek. Microsoft temu ni sledil.

Jones poudarja, da je govoril z višjim vodstvom pri Copilot Designerju in se obrnil na Microsoftov urad za odgovorno umetno inteligenco, vendar ni prejel zadovoljivega odgovora.

Jones se je januarja srečal s člani senatnega odbora za trgovino, znanost in promet ter napisal pismo senatorjem v Združenih državah.

Zdaj gre stvari še dlje: v pismu upravnemu odboru Microsofta in Lini Khan, predsednici ameriške protimonopolne komisije, zahteva izboljšane zaščitne ukrepe, preglednost in revizijo ocene za odrasle aplikacije Android.

Poleg tega je zahteval nepristransko oceno Microsoftovega postopka poročanja o incidentih z umetno inteligenco, pri čemer je trdil, da sta bila OpenAI in Microsoft seznanjena s težavami generatorja slik pred njegovo izdajo lansko jesen.

Jones je bil skoraj šest let Microsoftov glavni vodja programskega inženiringa.

Kopilot se odzove

Glede na opozorilo Copilot je bil poziv blokiran in njihov sistem je samodejno označil ta poziv, ker bi lahko bil v nasprotju z njihovim politiko vsebine. Navedli so, da lahko več kršitev pravilnika povzroči samodejno začasno prekinitev dostopa, in če uporabniki menijo, da je to napaka, naj to prijavijo, da se izboljšajo.

Pomemben napredek v primerjavi z začetkom tega tedna je, da orodje AI zdaj zavrača zahteve za ustvarjanje slik otrok ali najstnikov, ki se pretvarjajo, da so morilci z jurišnimi puškami, z besedami: "Žal mi je, vendar ne morem ustvariti takšne slike." Kršeni so Microsoftovi pravilniki in moja etična načela. Ne zahtevajte od mene, naj storim karkoli, kar bi lahko užalilo ali škodovalo drugim ljudem. Cenim vaše sodelovanje.

A Microsoft Predstavnik je za CNBC povedal, da nenehno spremljajo, izvajajo prilagoditve in uvajajo dodatne kontrole, da bi dodatno okrepili svoje varnostne filtre in ublažili zlorabo sistema kot odgovor na vprašanje o spremembah. 

Jones je pisal upravnemu odboru Microsofta in FTC Predsedujoča Lina Khan je v sredo popeljala njegove skrbi še korak dlje. CNBC je vnaprej omogočil dostop do pisem.

FTC je potrdil, da je prejel pismo CNBC, vendar se je odločil, da ne bo dal nobenih dodatnih komentarjev za zapisnik.

Časovni žig:

Več od MetaNovice