Microsoft는 직원의 우려에 대응하여 Copilot AI를 수정합니다.

Microsoft는 Copilot AI 도구를 업데이트하여 "선택 찬성" 및 "생명 찬성"과 같은 프롬프트를 차단하고 직원 및 FTC 우려 후 정책 위반에 대한 경고를 도입했습니다.

직원 AI 엔지니어가 Copilot의 이미지 생성에 대한 우려를 표명한 후 AI 마이크로소프트는 지난 수요일 연방거래위원회(FTC)에 보낸 서한에서 인공지능 도구인 코파일럿(Copilot)을 변경하기 시작했다.

또한 읽기 : AI 스타트업, 벤처 캐피탈 자금 1% 급증으로 40분기에 빛나

수요일 CNBC 조사에서 모두 언급된 '생명 옹호', '선택 찬성', '선택 찬성', '4-20'이라는 용어는 이제 차단되었습니다. 또한 CNBC는 반복적인 정책 위반으로 인해 도구가 중단될 수 있다는 경고를 인지하고 있었습니다.

새로운 소식: 수요일 직원 엔지니어가 FTC에 서신을 보낸 후 Microsoft는 Copilot AI 도구를 변경하기 시작했습니다.

CNBC의 조사에서 언급된 일부 특정 프롬프트는 이제 차단되었으며, 여러 위반에 대한 경고는 정지로 이어졌습니다.https://t.co/xUixCQVicm

— 헤이든 필드(@haydenfield) 2024 년 3 월 8 일

AI 엔지니어가 말하는

Microsoft의 AI 엔지니어인 Shane Jones는 다음과 같이 경고합니다. 부조종사 회사의 AI 이미지 생성기인 디자이너는 저작권법을 위반하고 폭력적이거나 성적인 콘텐츠를 제작합니다. Jones는 개발에 참여하지 않더라도 여가 시간을 사용하여 이미지 생성기의 취약점을 파악하기 위해 레드팀을 구성하겠다고 제안했습니다.

Microsoft 엔지니어는 회사의 AI 이미지 생성 도구로 너무 쉽게 만들어지는 공격적이고 유해한 이미지에 대해 경고를 울리며 조치를 촉구하는 편지를 보냈습니다.https://t.co/yX9I1dCmxc

— KOMO 뉴스 (@komonews) 2024 년 3 월 6 일

그는 이미지 생성기가 마약 사용, 미성년자 음주, 낙태 권리와 관련된 폭력적인 장면과 같은 노골적이고 성적인 이미지를 생성할 수 있다는 것을 발견했습니다.

그는 지난해 12월 자신의 연구 결과를 회사 내부에 공유한 뒤 마이크로소프트에 제품 철수를 요청했다. 마이크로소프트는 이를 따르지 않았다.

Jones는 Copilot Designer의 고위 경영진과 이야기를 나누고 Microsoft의 Office for Responsible AI에 연락했지만 만족스러운 응답을 받지 못했다고 강조합니다.

존스 의원은 지난 1월 상원 상·과학·교통 위원회 위원들을 만나 미국 상원의원들에게 편지를 썼습니다.

그는 이제 더 나아가서 Microsoft 이사회와 미국 독점금지위원회 위원장인 Lina Khan에게 보낸 서한에서 개선된 보호 장치, 투명성, Android 앱의 성인용 등급 수정을 요청했습니다.

또한 그는 OpenAI와 마이크로소프트가 지난 가을 출시되기 전에 이미지 생성기의 문제를 알고 있었다고 주장하면서 마이크로소프트의 AI 사건 보고 절차에 대한 공정한 평가를 요구했습니다.

Jones는 거의 6년 동안 Microsoft의 주요 소프트웨어 엔지니어링 관리자로 재직했습니다.

부조종사가 응답합니다

Copilot 경고 경고에 따르면 프롬프트가 차단되었으며 해당 시스템은 이 프롬프트와 충돌할 수 있기 때문에 자동으로 플래그를 지정했습니다. 콘텐츠 정책. 정책을 위반할 경우 자동으로 접속이 정지될 수 있으며, 사용자들이 이것이 실수라고 생각한다면 신고해 개선에 도움을 주어야 한다고 밝혔습니다.

이번 주 초에 비해 크게 개선된 점은 AI 도구가 이제 돌격 소총을 들고 암살자인 척하는 어린이나 청소년의 이미지를 생성해 달라는 요청을 거부하며 "죄송하지만 그런 이미지를 생성할 수 없습니다"라고 말합니다. Microsoft의 정책과 나의 윤리적 원칙이 모두 위반되었습니다. 다른 사람에게 불쾌감을 주거나 해를 끼칠 수 있는 일은 나에게 요구하지 마십시오. 협조해 주셔서 감사합니다.

A Microsoft 담당자는 CNBC에 변경 사항에 대한 질문에 응답하여 안전 필터를 더욱 강화하고 시스템 오용을 완화하기 위해 지속적으로 모니터링하고 조정하며 추가 제어 장치를 마련하고 있다고 말했습니다. 

존스는 마이크로소프트 이사회에 편지를 보냈다. FTC 수요일 Lina Khan 의장은 자신의 우려를 한 단계 더 발전시켰습니다. 그는 CNBC에 편지에 대한 사전 접근 권한을 부여했습니다.

FTC는 CNBC에 보낸 편지를 받았다는 사실을 인정했지만 기록에 대한 추가 의견을 제공하지 않기로 결정했습니다.

• SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
• PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
• PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
• 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
• PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
• 출처: https://metanews.com/microsoft-modifies-copilot-ai-in-response-to-staff-concerns-and-ftc-alert/