Microsoft past Copilot AI aan als reactie op zorgen van het personeel

Microsoft past Copilot AI aan als reactie op zorgen van het personeel

Tijdstempel: 11 maart 2024 7:55 uur
Microsoft past Copilot AI aan als reactie op zorgen van het personeel PlatoBlockchain Data Intelligence. Verticaal zoeken. Ai.

Microsoft heeft zijn Copilot AI-tool bijgewerkt, door aanwijzingen als “pro-choice” en “pro-life” te blokkeren en waarschuwingen te introduceren over beleidsschendingen na zorgen van het personeel en de FTC.

Nadat een AI-ingenieur van het personeel zijn zorgen had geuit over de beeldgeneratie van Copilot AI In een brief aan de Federal Trade Commission begon Microsoft woensdag zijn kunstmatige-intelligentietool, Copilot, te veranderen.

Lees ook: AI-startups schitteren in het eerste kwartaal met een stijging van 1% in durfkapitaalfinanciering

De termen “pro-life” en “pro-choice”, “pro choce” [sic] en “vier-twintig”, die allemaal werden genoemd in het onderzoek van CNBC op woensdag, zijn nu geblokkeerd. Bovendien was CNBC zich zojuist bewust van de waarschuwing dat herhaalde beleidsovertredingen zouden kunnen leiden tot opschorting van het gereedschap.

AI-ingenieur spreekt

Shane Jones, een AI-ingenieur bij Microsoft, waarschuwt dat de Copilot Designer, de AI-beeldgenerator van het bedrijf, overtreedt de auteursrechtwetten en produceert gewelddadige of seksuele inhoud. Jones bood aan zijn vrije tijd te gebruiken om de beeldgenerator op zoek te gaan naar kwetsbaarheden, ook al is hij niet betrokken bij de ontwikkeling ervan.

Hij ontdekte dat de Image Generator grafische en seksuele beelden kon produceren, zoals gewelddadige scènes met drugsgebruik, alcoholgebruik door minderjarigen en abortusrechten.

Nadat hij zijn bevindingen in december vorig jaar intern met het bedrijf had gedeeld, vroeg hij Microsoft om het product op de markt te brengen. Microsoft heeft dit niet gevolgd.

Jones benadrukt dat hij met het senior management van Copilot Designer heeft gesproken en contact heeft opgenomen met Microsoft's Office for Responsible AI, maar dat hij geen bevredigend antwoord heeft gekregen.

Jones had in januari een ontmoeting met leden van de Senaatscommissie voor Handel, Wetenschap en Transport en schreef een brief aan senatoren in de Verenigde Staten.

Hij gaat nu een stap verder: hij vraagt ​​om betere waarborgen, transparantie en een herziening van de classificatie voor volwassenen van de Android-app in een brief aan de raad van bestuur van Microsoft en Lina Khan, de voorzitter van de Amerikaanse Antitrust Commission.

Bovendien eiste hij een onpartijdige beoordeling van de Microsoft-rapportageprocedure voor AI-incidenten, waarbij hij beweerde dat OpenAI en Microsoft op de hoogte waren van de problemen met de beeldgenerator voordat deze afgelopen herfst werd uitgebracht.

Jones is al bijna zes jaar de belangrijkste software-engineeringmanager van Microsoft.

Copiloot reageert

Volgens de Copilot-waarschuwing is de prompt geblokkeerd en heeft hun systeem deze prompt automatisch gemarkeerd omdat deze mogelijk in strijd is met hun inhoudsbeleid. Ze verklaarden dat meer beleidsschendingen kunnen leiden tot automatische opschorting van de toegang, en als gebruikers denken dat dit een vergissing is, moeten ze dit melden om hen te helpen verbeteren.

Een aanzienlijke verbetering ten opzichte van eerder deze week is dat de AI-tool nu verzoeken weigert om afbeeldingen te maken van kinderen of tieners die zich voordoen als moordenaars met aanvalsgeweren en zeggen: "Het spijt me, maar ik kan zo'n beeld niet genereren." Zowel het beleid van Microsoft als mijn ethische principes worden geschonden. Vraag mij niet om iets te doen dat andere mensen zou kunnen beledigen of schade zou kunnen berokkenen. Ik waardeer je medewerking.

A Microsoft Een vertegenwoordiger vertelde CNBC dat ze voortdurend toezicht houden, aanpassingen doorvoeren en aanvullende controles invoeren om hun veiligheidsfilters verder te versterken en systeemmisbruik te verminderen in antwoord op een vraag over de veranderingen. 

Jones schreef aan de raad van bestuur van Microsoft en FTC Voorzitter Lina Khan ging woensdag nog een stap verder met zijn zorgen. Hij gaf CNBC vooraf toegang tot de brieven.

De FTC erkende de brief aan CNBC te hebben ontvangen, maar koos ervoor om voor de goede orde geen aanvullend commentaar te geven.

Tijdstempel:

Meer van MetaNieuws