Microsoft modifica l'intelligenza artificiale di Copilot in risposta alle preoccupazioni del personale

Microsoft ha aggiornato il suo strumento Copilot AI, bloccando messaggi come “pro-choice” e “pro-life” e introducendo avvisi sulle violazioni delle politiche dopo le preoccupazioni del personale e della FTC.

Dopo che un ingegnere dell'intelligenza artificiale dello staff ha espresso le sue preoccupazioni sulla generazione di immagini di Copilot AI Mercoledì, in una lettera alla Federal Trade Commission, Microsoft ha iniziato a cambiare il suo strumento di intelligenza artificiale, Copilot.

Leggi anche: Le startup AI brillano nel primo trimestre con un aumento del 1% nei finanziamenti di venture capital

I termini “pro-vita” e “pro-choice”, “pro choce” [sic] e “quattro-venti”, tutti menzionati nell'indagine della CNBC mercoledì, sono ora bloccati. Inoltre, la CNBC era appena a conoscenza dell’avvertimento secondo cui ripetute infrazioni politiche avrebbero potuto comportare la sospensione dello strumento.

NOVITÀ: Microsoft ha iniziato ad apportare modifiche al suo strumento Copilot AI dopo che un ingegnere dello staff ha scritto alla FTC mercoledì.

Alcuni suggerimenti specifici menzionati nell'indagine della CNBC sono ora bloccati, insieme a un avvertimento di molteplici violazioni che portano alla sospensione.https://t.co/xUixCQVicm

— Hayden Field (@haydenfield) 8 Marzo 2024

Parla l'ingegnere AI

Shane Jones, un ingegnere AI di Microsoft, avverte che il Secondo pilota Designer, il generatore di immagini AI dell'azienda, viola le leggi sul copyright e produce contenuti violenti o sessuali. Jones si è offerto di utilizzare il suo tempo libero per collaborare con il generatore di immagini per individuare le vulnerabilità, anche se non è coinvolto nel suo sviluppo.

Un ingegnere Microsoft lancia l'allarme riguardo alle immagini offensive e dannose che, secondo lui, vengono create troppo facilmente dallo strumento di generazione di immagini AI dell'azienda, inviando lettere che sollecitano l'azione.https://t.co/yX9I1dCmxc

— Notizie KOMO (@komonews) 6 Marzo 2024

Ha scoperto che il generatore di immagini poteva produrre immagini grafiche e sessuali, come scene violente che coinvolgevano l'uso di droghe, il consumo di alcol da parte di minorenni e il diritto all'aborto.

Dopo aver condiviso internamente le sue scoperte con l'azienda nel dicembre dello scorso anno, ha chiesto a Microsoft di ritirare il prodotto. Microsoft non ha seguito.

Jones sottolinea di aver parlato con il senior management di Copilot Designer e di aver contattato l'Office for Responsible AI di Microsoft, ma non ha ricevuto una risposta soddisfacente.

Jones ha incontrato i membri della commissione del Senato per il commercio, la scienza e i trasporti a gennaio e ha scritto una lettera ai senatori degli Stati Uniti.

Ora sta andando oltre: chiede maggiori garanzie, trasparenza e una revisione della classificazione per adulti dell'app Android in una lettera al consiglio di amministrazione di Microsoft e a Lina Khan, presidente della Commissione antitrust statunitense.

Inoltre, ha chiesto una valutazione imparziale della procedura di segnalazione degli incidenti AI di Microsoft, sostenendo che OpenAI e Microsoft erano a conoscenza dei problemi del generatore di immagini prima della sua uscita lo scorso autunno.

Jones è stato il principale responsabile dell'ingegneria del software di Microsoft per quasi sei anni.

Risponde il copilota

Secondo l'avviso di Copilot, il prompt è stato bloccato e il loro sistema ha contrassegnato automaticamente questo prompt perché potrebbe entrare in conflitto con politica dei contenuti. Hanno affermato che ulteriori violazioni delle politiche potrebbero portare alla sospensione automatica dell'accesso e, se gli utenti ritengono che si tratti di un errore, dovrebbero segnalarlo per aiutarli a migliorare.

Un miglioramento significativo rispetto all’inizio di questa settimana è che lo strumento di intelligenza artificiale ora rifiuta le richieste di creare immagini di bambini o adolescenti che fingono di essere assassini con fucili d’assalto, dicendo: “Mi dispiace, ma non posso generare un’immagine del genere”. Sia le politiche di Microsoft che i miei principi etici vengono violati. Non chiedermi di fare nulla che possa offendere o causare danno ad altre persone. Apprezzo la tua cooperazione.

A Microsoft Il rappresentante ha detto alla CNBC che stanno monitorando continuamente, apportando modifiche e mettendo in atto controlli aggiuntivi per rafforzare ulteriormente i loro filtri di sicurezza e mitigare l'uso improprio del sistema in risposta a una domanda riguardante le modifiche. 

Jones ha scritto al consiglio di amministrazione di Microsoft e FTC Mercoledì la presidente Lina Khan ha portato le sue preoccupazioni un ulteriore passo avanti. Ha concesso alla CNBC l'accesso anticipato alle lettere.

La FTC ha riconosciuto di aver ricevuto la lettera alla CNBC ma ha scelto di non fornire ulteriori commenti per la registrazione.

• Distribuzione di contenuti basati su SEO e PR. Ricevi amplificazione oggi.
• PlatoData.Network Generativo verticale Ai. Potenzia te stesso. Accedi qui.
• PlatoAiStream. Intelligenza Web3. Conoscenza amplificata. Accedi qui.
• PlatoneESG. Carbonio, Tecnologia pulita, Energia, Ambiente, Solare, Gestione dei rifiuti. Accedi qui.
• Platone Salute. Intelligence sulle biotecnologie e sulle sperimentazioni cliniche. Accedi qui.
• Fonte: https://metanews.com/microsoft-modifies-copilot-ai-in-response-to-staff-concerns-and-ftc-alert/