Microsoft modifică Copilot AI ca răspuns la preocupările personalului

Microsoft și-a actualizat instrumentul Copilot AI, blocând solicitări precum „pro-choice” și „pro-life” și introducând avertismente despre încălcarea politicii după îngrijorările personalului și ale FTC.

După ce un inginer AI al personalului și-a exprimat îngrijorarea cu privire la generarea imaginii Copilot AI într-o scrisoare adresată Comisiei Federale de Comerț miercuri, Microsoft a început să-și schimbe instrumentul de inteligență artificială, Copilot.

De asemenea, se va citi: Startup-urile AI strălucesc în primul trimestru cu o creștere de 1% a finanțării cu capital de risc

Termenii „pro-life” și „pro-choice”, „pro choce” [sic] și „four-20”, care au fost toți menționați în ancheta CNBC de miercuri, sunt acum blocați. În plus, CNBC tocmai cunoștea avertismentul că încălcările repetate ale politicii ar putea duce la suspendarea instrumentului.

NOU: Microsoft a început să facă modificări la instrumentul său Copilot AI după ce un inginer a scris FTC miercuri.

Unele solicitări specifice menționate în ancheta CNBC sunt acum blocate, alături de un avertisment privind încălcările multiple care duc la suspendare.https://t.co/xUixCQVicm

— Hayden Field (@haydenfield) Martie 8, 2024

Inginerul AI vorbește

Shane Jones, un inginer AI la Microsoft, alertează că Co-pilot Designer, generatorul de imagini AI al companiei, încalcă legile privind drepturile de autor și produce conținut violent sau sexual. Jones s-a oferit să-și folosească timpul liber pentru a face echipă generatorul de imagini pentru vulnerabilități, chiar dacă nu este implicat în dezvoltarea acestuia.

Un inginer Microsoft sună de alarmă cu privire la imaginile ofensive și dăunătoare despre care spune că sunt realizate prea ușor de instrumentul de generare de imagini AI al companiei, trimițând scrisori îndemnând la acțiune.https://t.co/yX9I1dCmxc

— KOMO News (@komonews) Martie 6, 2024

El a descoperit că Generatorul de imagini poate produce imagini grafice și sexuale, cum ar fi scene violente care implică consumul de droguri, consumul de alcool la minori și drepturile la avort.

După ce a împărtășit concluziile sale cu compania la nivel intern în decembrie anul trecut, el a cerut Microsoft să retragă produsul. Microsoft nu a dat curs.

Jones subliniază că a vorbit cu managementul superior al Copilot Designer și a contactat Office for Responsible AI al Microsoft, dar nu a primit un răspuns satisfăcător.

Jones sa întâlnit cu membrii Comitetului Senatului pentru Comerț, Știință și Transport în ianuarie și a scris o scrisoare senatorilor din Statele Unite.

Acum duce lucrurile mai departe: solicită măsuri de protecție îmbunătățite, transparență și o revizuire a ratingului pentru adulți a aplicației Android într-o scrisoare adresată consiliului de administrație al Microsoft și Linei Khan, președintele Comisiei Antitrust din SUA.

În plus, el a cerut o evaluare imparțială a procedurii Microsoft de raportare a incidentelor AI, susținând că OpenAI și Microsoft erau conștienți de problemele generatorului de imagini înainte de lansarea acestuia în toamna anului trecut.

Jones a fost principalul manager de inginerie software al Microsoft timp de aproape șase ani.

Copilotul răspunde

Conform alertei de avertizare Copilot, solicitarea a fost blocată, iar sistemul lor a semnalat automat această solicitare deoarece poate intra în conflict cu politica de conținut. Ei au declarat că mai multe încălcări ale politicii pot duce la suspendarea automată a accesului și, dacă utilizatorii consideră că aceasta este o greșeală, ar trebui să o raporteze pentru a-i ajuta să se îmbunătățească.

O îmbunătățire semnificativă față de începutul acestei săptămâni este că instrumentul AI refuză acum cererile de a crea imagini cu copii sau adolescenți care se prefac a fi asasini cu puști de asalt, spunând: „Îmi pare rău, dar nu pot genera o astfel de imagine”. Atât politicile Microsoft, cât și principiile mele etice sunt încălcate. Nu-mi cereți să fac nimic care ar putea jigni sau face rău altor persoane. Apreciez cooperarea dumneavoastră.

A Microsoft reprezentantul a declarat pentru CNBC că monitorizează continuu, efectuează ajustări și pun în aplicare controale suplimentare pentru a-și consolida filtrele de siguranță și pentru a atenua utilizarea abuzivă a sistemului ca răspuns la o întrebare referitoare la modificări. 

Jones a scris consiliului de administrație al Microsoft și FTC Președintele Lina Khan miercuri, ducându-și preocupările cu un pas mai departe. El a oferit CNBC acces în avans la scrisori.

FTC a recunoscut că a primit scrisoarea către CNBC, dar a ales să nu ofere niciun comentariu suplimentar pentru evidență.

• Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
• PlatoData.Network Vertical Generative Ai. Împuterniciți-vă. Accesați Aici.
• PlatoAiStream. Web3 Intelligence. Cunoștințe amplificate. Accesați Aici.
• PlatoESG. carbon, CleanTech, Energie, Mediu inconjurator, Solar, Managementul deșeurilor. Accesați Aici.
• PlatoHealth. Biotehnologie și Inteligență pentru studii clinice. Accesați Aici.
• Sursa: https://metanews.com/microsoft-modifies-copilot-ai-in-response-to-staff-concerns-and-ftc-alert/