Microsoft ändert die Copilot-KI als Reaktion auf Bedenken der Mitarbeiter

Microsoft ändert die Copilot-KI als Reaktion auf Bedenken der Mitarbeiter

Zeitstempel: 11. März 2024, 7:55 Uhr
Microsoft modifiziert die Copilot-KI als Reaktion auf Bedenken der Mitarbeiter bei PlatoBlockchain Data Intelligence. Vertikale Suche. Ai.

Microsoft hat sein Copilot-KI-Tool aktualisiert, das Eingabeaufforderungen wie „Pro-Choice“ und „Pro-Life“ blockiert und nach Bedenken von Mitarbeitern und FTC Warnungen vor Richtlinienverstößen einführt.

Nachdem ein leitender KI-Ingenieur seine Bedenken hinsichtlich der Bilderzeugung von Copilot geäußert hatte AI In einem Brief an die Federal Trade Commission vom Mittwoch begann Microsoft mit der Änderung seines Tools für künstliche Intelligenz, Copilot.

Lies auch: KI-Startups glänzen im ersten Quartal mit einem Anstieg der Risikokapitalfinanzierung um 1 %

Die Begriffe „pro-life“ und „pro-choice“, „pro choce“ [sic] und „four-twenty“, die alle in der Untersuchung von CNBC am Mittwoch erwähnt wurden, sind jetzt gesperrt. Darüber hinaus war CNBC gerade über die Warnung informiert, dass wiederholte Verstöße gegen die Richtlinien zur Aussetzung des Tools führen könnten.

KI-Ingenieur spricht

Shane Jones, ein KI-Ingenieur bei Microsoft, warnt davor Copilot Designer, der KI-Bildgenerator des Unternehmens, verstößt gegen Urheberrechte und produziert gewalttätige oder sexuelle Inhalte. Jones bot an, seine Freizeit zu nutzen, um den Image-Generator auf Schwachstellen zu überprüfen, obwohl er an der Entwicklung nicht beteiligt ist.

Er entdeckte, dass der Image Generator anschauliche und sexuelle Bilder erzeugen konnte, beispielsweise gewalttätige Szenen mit Drogenkonsum, Alkoholkonsum von Minderjährigen und Abtreibungsrechten.

Nachdem er seine Erkenntnisse im Dezember letzten Jahres intern dem Unternehmen mitgeteilt hatte, forderte er Microsoft auf, das Produkt zurückzuziehen. Microsoft hat es nicht umgesetzt.

Jones betont, dass er mit der Geschäftsleitung von Copilot Designer gesprochen und sich an Microsofts Office for Responsible AI gewandt habe, aber keine zufriedenstellende Antwort erhalten habe.

Jones traf sich im Januar mit Mitgliedern des Senatsausschusses für Handel, Wissenschaft und Verkehr und schrieb einen Brief an Senatoren in den Vereinigten Staaten.

Jetzt geht er noch einen Schritt weiter: In einem Brief an den Vorstand von Microsoft und an Lina Khan, die Vorsitzende der US-Kartellkommission, fordert er verbesserte Schutzmaßnahmen, Transparenz und eine Überarbeitung der Altersfreigabe der Android-App für Erwachsene.

Darüber hinaus forderte er eine unparteiische Bewertung des Microsoft-Verfahrens zur Meldung von KI-Vorfällen und behauptete, OpenAI und Microsoft seien sich der Probleme des Bildgenerators vor seiner Veröffentlichung im vergangenen Herbst bewusst gewesen.

Jones ist seit fast sechs Jahren der leitende Software-Engineering-Manager von Microsoft.

Copilot antwortet

Laut Copilot-Warnmeldung wurde die Eingabeaufforderung blockiert und ihr System hat diese Eingabeaufforderung automatisch markiert, da sie möglicherweise mit ihrer Eingabeaufforderung in Konflikt steht Inhaltsrichtlinie. Sie gaben an, dass weitere Verstöße gegen die Richtlinien zu einer automatischen Sperrung des Zugriffs führen könnten. Wenn Benutzer denken, dass dies ein Fehler sei, sollten sie ihn melden, um ihnen bei der Verbesserung zu helfen.

Eine deutliche Verbesserung gegenüber Anfang dieser Woche besteht darin, dass das KI-Tool nun Anfragen zum Erstellen von Bildern von Kindern oder Jugendlichen ablehnt, die sich als Attentäter mit Sturmgewehren ausgeben, mit der Begründung: „Es tut mir leid, aber ich kann ein solches Bild nicht erstellen.“ Sowohl die Richtlinien von Microsoft als auch meine ethischen Grundsätze werden verletzt. Bitten Sie mich nicht, etwas zu tun, was andere Menschen beleidigen oder ihnen schaden könnte. Ich schätze Ihre Zusammenarbeit.

A Microsoft Als Antwort auf eine Frage zu den Änderungen teilte ein Vertreter gegenüber CNBC mit, dass sie kontinuierlich überwachen, Anpassungen vornehmen und zusätzliche Kontrollen einführen, um ihre Sicherheitsfilter weiter zu stärken und Systemmissbrauch einzudämmen. 

Jones schrieb an den Vorstand von Microsoft und FTC Die Vorsitzende Lina Khan ging am Mittwoch noch einen Schritt weiter. Er gewährte CNBC vorab Zugang zu den Briefen.

Die FTC bestätigte den Erhalt des Briefes gegenüber CNBC, entschied sich jedoch, keine weiteren Kommentare für das Protokoll abzugeben.

Zeitstempel:

Mehr von MetaNews