A Microsoft módosítja a Copilot AI-t a személyzeti aggodalmakra válaszul

A Microsoft módosítja a Copilot AI-t a személyzeti aggodalmakra válaszul

Időbélyeg: 11. március 2024. 7:55
A Microsoft módosítja a Copilot AI-t a személyzet PlatoBlockchain adatintelligenciával kapcsolatos aggályaira válaszul. Függőleges keresés. Ai.

A Microsoft frissítette Copilot AI-eszközét, blokkolva az olyan felszólításokat, mint a „pro-choice” és „pro-life”, és figyelmeztetéseket vezet be a szabályzat megsértésére vonatkozóan a személyzet és az FTC aggályai után.

Miután egy mesterségesintelligencia-mérnök aggodalmát fejezte ki a Copilot képgenerálásával kapcsolatban AI a Szövetségi Kereskedelmi Bizottságnak írt szerdai levelében a Microsoft elkezdte megváltoztatni mesterséges intelligencia eszközét, a Copilotot.

Lásd még: Az induló mesterséges intelligencia vállalkozások a kockázatitőke-finanszírozás 1%-os növekedésével ragyognak az első negyedévben

A CNBC szerdai nyomozásában említett „pro-life” és „pro-choice”, „pro-choce” [sic] és „four-twenty” kifejezések most le vannak tiltva. Ezenkívül a CNBC éppen tudatában volt annak a figyelmeztetésnek, hogy az irányelvek ismételt megsértése az eszköz felfüggesztését eredményezheti.

AI mérnök beszél

Shane Jones, a Microsoft mesterséges intelligencia mérnöke arra figyelmeztet, hogy a Másodpilóta A Designer, a cég mesterséges intelligencia-képgenerátora megsérti a szerzői jogi törvényeket, és erőszakos vagy szexuális tartalmat állít elő. Jones felajánlotta, hogy szabadidejét felhasználja a képgenerátor sebezhetőségeinek felderítésére, bár ő nem vesz részt a fejlesztésben.

Felfedezte, hogy az Image Generator képes grafikus és szexuális képeket készíteni, például erőszakos jeleneteket kábítószer-használattal, kiskorúak alkoholfogyasztásával és abortuszjoggal.

Miután tavaly decemberben megosztotta tapasztalatait a vállalattal, felkérte a Microsoftot, hogy vonja be a terméket. A Microsoft nem követte.

Jones hangsúlyozza, hogy beszélt a Copilot Designer felső vezetésével, és megkereste a Microsoft Office for Responsible AI-t, de nem kapott kielégítő választ.

Jones januárban találkozott a Szenátus Kereskedelmi, Tudományos és Közlekedési Bizottságának tagjaival, és levelet írt az Egyesült Államok szenátorainak.

Most tovább viszi a dolgokat: jobb biztosítékokat, átláthatóságot és az Android-alkalmazás felnőttek besorolásának felülvizsgálatát kéri a Microsoft igazgatótanácsának és Lina Khannak, az Egyesült Államok Trösztellenes Bizottságának elnökének küldött levelében.

Ezenkívül a Microsoft mesterséges intelligencia-jelentési eljárásának pártatlan értékelését követelte, azt állítva, hogy az OpenAI és a Microsoft már a tavaly őszi megjelenés előtt tisztában volt a képgenerátor problémáival.

Jones majdnem hat éve a Microsoft fő szoftvermérnöki vezetője.

Másodpilóta válaszol

A másodpilóta figyelmeztetés szerint a prompt blokkolva lett, és a rendszerük automatikusan megjelölte ezt a figyelmeztetést, mert ütközhet tartalompolitika. Kijelentették, hogy az irányelvek több megsértése a hozzáférés automatikus felfüggesztéséhez vezethet, és ha a felhasználók ezt hibának tartják, jelenteniük kell, hogy javíthassanak.

Jelentős előrelépés a hét elejéhez képest, hogy a mesterséges intelligencia eszköz most visszautasítja azokat a kéréseket, amelyek olyan képek készítésére irányulnak, amelyekben a gyerekek vagy tinédzserek merénylőnek adják ki magukat gépkarabélyban, mondván: „Sajnálom, de nem tudok ilyen képet létrehozni.” A Microsoft irányelvei és az én etikai elveim is megsértik. Ne kérj tőlem olyat, ami megsérthet vagy kárt okozhat másokban. Nagyra értékelem együttműködését.

A microsoft képviselője elmondta a CNBC-nek, hogy a változtatásokkal kapcsolatos kérdésre válaszolva folyamatosan figyelik, módosítják, és további ellenőrzéseket vezetnek be, hogy tovább erősítsék a biztonsági szűrőket és csökkentsék a rendszerrel való visszaélést. 

Jones írt a Microsoft igazgatótanácsának és FTC Lina Khan elnök szerdán egy lépéssel tovább vitte aggályait. Előzetes hozzáférést adott a CNBC-nek a levelekhez.

Az FTC elismerte a CNBC-nek küldött levél kézhezvételét, de úgy döntött, hogy nem tesz további megjegyzéseket a jegyzőkönyvhöz.

Időbélyeg:

Még több MetaNews