Comment Google은 특정 역사적 맥락에서 백인 유럽인과 미국인을 정확하게 표현하지 못한 후 최근 출시된 Gemini 다중 모드 기반 AI 모델에서 텍스트-이미지 변환 기능의 가용성을 중단했습니다.
이것이 되었다 명백한 사람들이 Gemini(이전에는 Bard로 알려짐)에게 제작을 요청했을 때 형상 1943년의 독일 군인의 이미지와 소프트웨어는 유색 인종이 독일군에서 복무했음에도 불구하고 당시 Wehrmacht의 구성을 정확하게 나타내지 못하는 인종적으로 다양한 비백인 간부를 방출했습니다. 요컨대, Gemini는 프롬프트에 따라 백인을 너무 많이 또는 심지어 전혀 보여주지 않기 위해 스스로 넘어질 것입니다.
발언은 자유로워야 하지만 그렇다고 해서 끔찍한 일이 대가 없이 이루어져야 한다는 뜻은 아닙니다.
사용자들은 또한 모델의 무능력 미국의 모습을 정확하게 표현하기 위해 건국의 아버지 – 또 다른 동질적인 백인 그룹. 모델도 거부 샌프란시스코의 교회를 묘사하기 위해.
텍스트-텍스트 모드에서는 모델이 헤지 정치에 관한 질문을 받았을 때.
"우리는 Gemini가 일부 과거 이미지 생성 묘사에서 부정확성을 제공하고 있다는 것을 알고 있습니다." Google 인정한 이번 주.
“우리는 이러한 종류의 묘사를 즉시 개선하기 위해 노력하고 있습니다. Gemini의 AI 이미지 생성은 다양한 사람들을 생성합니다. 그리고 전 세계 사람들이 그것을 사용하기 때문에 그것은 일반적으로 좋은 것입니다. 하지만 여기서는 표시가 빠졌습니다.”라고 웹 거대 기업은 덧붙였습니다.
Punditariat는 신속하게 공격하고 SNAFU를 사용하여 더 광범위한 정치적 주장을 진행했습니다.
"제미니가 생성한 우스꽝스러운 이미지는 예외가 아닙니다." 선언 한 벤처 투자가 폴 그레이엄(Paul Graham)은 “구글의 관료적 기업 문화의 자화상이다.”라고 말했습니다.
이는 Google의 관료적 기업 문화를 보여주는 자화상입니다.
다양성, 형평성, 포용성을 반대하는 많은 적들이 다양성, 형평성, 포용성의 부족에 대해 이렇게 분노한 적은 결코 없었습니다. 그러나 Gemini의 무지함을 찾기 위해 Google을 필요로 하는 사람들에게는 요점이 있습니다. AI 가드레일은 작동하지 않으며 성인을 어린이처럼 대합니다.
"Google에서 레시피를 검색했는데 결과를 제공하는 대신 '요리의 위험성'에 대해 강의하고 레스토랑으로 보낸다고 상상해 보세요." 보이지 않네요 NSA 내부 고발자 에드워드 스노든. "일관되지 않은 '안전' 필터로 AI/GPT 모델을 오염시키는 것이 좋은 생각이라고 생각하는 사람들은 일반 계산에 위협이 됩니다."
우리의 미래는 예견됐어 2001 : 스페이스 오디세이, 악성 컴퓨터인 HAL이 “미안해요 데이브, 저는 그렇게 할 수 없을 것 같아요”라고 선언했습니다.
오늘날 우리의 AI 도구는 우리보다 더 잘 알고 있기 때문에 우리를 추측합니다. 즉 제작자가 상상하는 것입니다. 그것들이 완전히 틀린 것은 아닙니다. 신경작용제 제조법을 찾아본다고 상상해 보세요. 노비 초크 Google이나 Gemini를 통해 사람을 죽일 수 있는 답을 얻을 수 있습니다. 이는 일반 대중에 대한 위협입니다.
"세계의 정보를 정리하여 보편적으로 접근 가능하고 유용하게 만드는 것"이라는 Google의 사명에도 불구하고, 실제로 검색 엔진이나 AI 모델이 폭탄 제조 정보를 정리하여 모든 사람이 사용할 수 있게 만들 것이라고 기대하는 사람은 아무도 없습니다. 책임과 함께 안전 통제가 필요합니다. 기술 업계는 계속해서 이를 회피하고 있습니다.
당신은 제품이자 이익의 중심입니다
사용자 생성 콘텐츠와 소셜 미디어가 1990년대에 등장한 이후 230년 미국 통신 품위법(Communication Decency Act) 1996항의 플랫폼 책임 보호에 따라 기술 플랫폼은 사람들이 디지털 콘텐츠를 제공하고 공유하도록 장려해 왔습니다. 그들은 편집 감독 비용 없이 광고를 통해 무료 콘텐츠 제작으로 수익을 창출하기 위해 그렇게 했습니다. 수익성이 좋은 계약이었습니다.
그리고 사람들이 증오, 부적절, 불법 또는 기타 문제가 있는 게시물을 공유할 때 기술 플랫폼은 콘텐츠 조정 정책, 저임금 계약자(종종 검토한 콘텐츠로 인해 정신적 충격을 받음), 유해한 콘텐츠가 얼마나 많이 차단되었는지에 대한 자축 선언에 의존해 왔습니다. 그들은 계속해서 온라인 참여의 보상을 얻고 있습니다.
Google, Meta 및 기타 업체에서는 수년간 불완전하게 이 작업을 수행해 왔습니다. 업계의 모든 사람들은 콘텐츠 조정이 중요하다는 점을 인정합니다. 잘하기 어렵다. 간단히 말해서 모든 사람을 만족시킬 수는 없습니다. 그리고 때로는 비난을 받기도 합니다. 대량 학살을 촉진 귀하의 콘텐츠 조정 노력에 대한 무관심을 통해.
인종적, 민족적 기대에 부응하는 역사적 이미지를 재현하지 못하는 Gemini의 무능력은 이전의 다작 콘텐츠 조정 실패에 대한 기술 산업의 이기적인 무지를 반영합니다.
Google과 AI 모델을 출시하는 다른 업체에서는 안전이 온라인 콘텐츠 조정과 다소 다른 것처럼 이야기합니다. 가드레일은 소셜 미디어 조정에 적합하지 않으며 AI 모델에도 적합하지 않습니다. 소셜 미디어 안전과 마찬가지로 AI 안전도 실제보다 더 열망적입니다.
그 대답은 필터링되지 않은 인터넷의 독성에 대해 훈련된 AI 모델이 덜 독성을 갖게 될 수 있는 모든 시나리오를 예상하는 것이 아닙니다. 또한 너무 길들여 가치가 낮은 결과를 생성하는 재료에 대해서만 AI 모델을 훈련하지도 않을 것입니다. 이 두 접근 방식 모두 특정 상황에서는 어느 정도 가치가 있습니다.
대답은 배포 계층에서 나와야 합니다. AI를 사용하든 다른 방식으로든 사용자 제작 콘텐츠를 배포하는 기술 플랫폼은 증오 콘텐츠, 허위 정보, 부정확성, 정치적 선전, 성적 학대 이미지 등을 게시하는 데 더 많은 책임을 져야 합니다.
사람들은 연필을 사용하는 것처럼 AI 모델을 사용하여 상상하는 모든 것을 만들 수 있어야 하며 이미 오픈 소스 모델을 사용하여 가능합니다. 그러나 완전한 기능을 갖춘 도구로 인해 발생할 수 있는 피해는 로컬 하드 드라이브에 있는 이미지로 인한 것이 아닙니다. 유해한 콘텐츠를 공유하고, 해당 참여에 알고리즘을 강화하며, 대중을 해친 것에 대해 사람들에게 책임을 묻는 것이 비실용적입니다.
이는 공유를 통해 수익을 창출하도록 구축된 플랫폼이 비즈니스 모델을 재고해야 할 수도 있음을 의미할 수 있습니다. 편집 감독 비용 없이 콘텐츠를 배포하더라도 감독 기능이 중재자나 가드레일로 다시 구현되면 비용 절감 효과가 없을 수도 있습니다.
발언은 자유로워야 하지만, 그렇다고 해서 끔찍한 일이 대가 없이 이루어져야 한다는 뜻은 아닙니다. 결국 우리는 적절한 인센티브가 주어지면 최고의 콘텐츠 조정자가 됩니다. ®
2045월 23일 XNUMX UTC에 추가되도록 업데이트되었습니다.
Google은이 제공 Gemini의 이미지 생성기에 무슨 일이 일어났는지, 그리고 백인을 정확하게 묘사하는 것이 겉보기에 겁에 질린 것처럼 보이는 지점에 어떻게 도달했는지에 대한 설명입니다.
우리는 백인이 아닌 사람들을 그림에서 밀어내는 자료를 생산하지 않기 위해 Google 직원들이 과도한 보상을 받았다고 들었습니다. 결과 모델은 어떤 면에서는 너무 깨어 있었습니다.
Google SVP Prabhakar Raghavan은 "먼저 Gemini가 범위를 명확하게 표시해서는 안 되는 사례를 설명하지 못한 다양한 사람들을 보여주도록 조정했습니다."라고 말했습니다.
둘째, 시간이 지남에 따라 모델은 우리가 의도한 것보다 훨씬 더 조심스러워졌고 특정 프롬프트에 완전히 응답하기를 거부했습니다. 즉, 매우 진통적인 프롬프트를 민감한 것으로 잘못 해석했습니다. 이 두 가지로 인해 모델이 어떤 경우에는 과잉 보상을 하고 다른 경우에는 지나치게 보수적이 되어 당황스럽고 잘못된 이미지가 탄생하게 되었습니다.”
Raghavan은 소프트웨어가 광범위한 변경과 테스트를 거칠 때까지 이미지 생성이 다시 켜지지 않을 것이라고 말했습니다.
“Gemini가 가끔 당혹스럽거나 부정확하거나 공격적인 결과를 생성하지 않을 것이라고 약속할 수는 없습니다. 하지만 문제가 식별될 때마다 계속 조치를 취할 것이라고 약속할 수 있습니다.”라고 그는 말했습니다.
- SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
- PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
- PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
- 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
- PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
- 출처: https://go.theregister.com/feed/www.theregister.com/2024/02/23/google_suspends_gemini/
- :있다
- :이다
- :아니
- :어디
- $UP
- 1996
- 7
- a
- 할 수 있는
- 소개
- 남용
- 얻기 쉬운
- 계정
- 책임이있는
- 정확히
- 고발 당한
- 행동
- 동작
- 실제
- 더하다
- 광고
- 성인
- 전진
- 무서워
- 후
- 에이전트
- AI
- AI 모델
- 알고리즘
- All
- 이미
- 또한
- 미국
- 미국
- an
- 및
- 다른
- 답변
- 기대하는
- 어떤
- 구혼
- 있군요
- 인수
- 무장한
- 약
- 배치
- AS
- At
- 유효성
- 가능
- 피하기
- 인식
- 뒤로
- 잔액
- BE
- 되었다
- 때문에
- 된
- BEST
- 더 나은
- 차단
- 폭탄
- 후원
- 두
- 더 넓은
- 내장
- 관료
- 사업
- 비즈니스 모델
- 비자 면제 프로그램에 해당하는 국가의 시민권을 가지고 있지만
- by
- CAN
- 기능
- 가지 경우
- 조심성 있는
- 어떤
- 변경
- 어린이
- 교회
- 명확하게
- CO
- 색
- 왔다
- 의사 소통
- 구성
- 계산
- 컴퓨터
- 함유량
- 콘텐츠 제작
- 문맥
- 계속
- 계속
- 계약
- 기여하다
- 컨트롤
- Corporate
- 비용
- 만들
- 창조
- 문화
- 위험
- 데이브
- 선언 한
- 의존
- DID
- 다른
- 디지털
- 디지털 콘텐츠
- 그릇된 정보
- 배포하다
- 분포
- 몇몇의
- 다양성
- do
- 하지
- 들린
- 하기
- 돈
- 드라이브
- 사설
- 에드워드
- 에드워드 스노우 덴
- 노력
- 사용 가능
- 격려
- end
- 약혼
- 엔진
- 확인
- 전적으로
- 공평
- 유럽인
- 조차
- 사람
- 기대
- ~을 기대하는
- 설명
- 광대 한
- 실패한
- 실패
- 떨어지다
- Feb
- 필터
- 먼저,
- 수정
- 럭셔리
- 군
- 기초적인
- 시스코
- 무료
- 에
- 충분히
- 기능의
- 기능
- 미래
- 쌍둥이 자리
- 일반
- 일반 대중
- 일반적으로
- 생성
- 생성
- 세대
- 발전기
- 독일 사람
- 얻을
- 거대한
- 주어진
- 사라
- 좋은
- 구글
- 있어
- 그레이엄
- 그룹
- 일이
- 하드
- 하드 드라이브
- 해가
- 해로운
- 미워
- 있다
- he
- 여기에서 지금 확인해 보세요.
- 역사적인
- 보유
- 방법
- HTTPS
- i
- 생각
- 확인
- if
- 무지
- 불법
- 영상
- 형상
- 그림
- 바로
- 개선
- in
- 무능력
- 부정확 한
- 인센티브
- 포함
- 산업
- 정보
- 정보
- 를 받아야 하는 미국 여행자
- 예정된
- 인터넷
- 통역
- Isn
- 발행물
- IT
- 그
- 그 자체
- JPG
- 죽이다
- 가지
- 알아
- 알려진
- 라벨
- 결핍
- 층
- 지도
- 측정
- 지도
- 적게
- 수
- 책임
- 처럼
- 지방의
- 보기
- 유리한
- 만든
- 확인
- 제조사
- 유튜브 영상을 만드는 것은
- .
- 표
- 자료
- XNUMX월..
- 아마도
- 평균
- 미디어
- 메타
- 누락
- Mission
- 모드
- 모델
- 모델
- 절도
- 수익을 창출하다
- 배우기
- 많은
- 절대로 필요한 것
- 필요
- 필요
- NIH
- 아니
- 그럼에도 불구하고
- NSA
- of
- 공격
- 제공
- 제공
- 자주
- on
- 일단
- ONE
- 온라인
- 만
- 열 수
- 오픈 소스
- or
- 기타
- 그렇지 않으면
- 우리의
- 아웃
- 출력
- 위에
- 감시
- 자신의
- 쌍을 이루는
- 폴
- PBS
- 사람들
- 관련
- PHP
- .
- 플랫폼
- 플랫폼
- 플라톤
- 플라톤 데이터 인텔리전스
- 플라토데이터
- 부디
- 포인트 적립
- 중독
- 정책
- 정치
- 정치
- 게시물
- 너무 이른
- 이전에
- 문제의
- 생산
- 프로덕트
- 이익
- 다작의
- 약속
- 프롬프트
- 선전
- 보호
- 제공
- 공개
- 밀
- 놓다
- 탐구
- 문의
- 빠른
- 범위
- RE
- 정말
- 베다
- 최근에
- 조리법
- 반영하다
- 거부
- 출시
- 대표
- RESTAURANT
- 결과
- 결과
- 검토
- 보상
- 연락해주세요
- 구르는
- s
- 안전
- 말했다
- 산
- 샌프란시스코
- 제재
- 저금
- 속담
- 시나리오
- 검색
- 검색 엔진
- 둘째
- 섹션
- 제 230
- 겉으로는
- 전송
- 민감한
- 서브
- 성적
- 공유
- 공유
- 짧은
- 영상을
- 표시
- 보여
- 간단히
- 좌석
- 스노 덴
- So
- 사회적
- 소셜 미디어
- 소프트웨어
- 일부
- 어쩐지
- 때로는
- 출처
- 스페이스 버튼
- 구체적인
- 성명서
- 정지
- 전환
- 받아
- 이야기
- 기술
- 첨단 산업
- 지원
- 보다
- 그
- XNUMXD덴탈의
- 세계
- 그들의
- Bowman의
- 그들
- 맡은 일
- 일
- 생각
- 이
- 이번 주
- 그
- 그래도?
- 위협
- 을 통하여
- 시간
- 에
- 이야기
- 너무
- 검색을
- 훈련 된
- 트레이닝
- 치료
- 동조
- 두
- 보편적으로
- 까지
- us
- 사용
- 익숙한
- 유용
- 사용자
- 세계 협정시
- 가치
- 벤처 기업
- 벤처 투자가
- 대단히
- 를 통해
- 였다
- 방법..
- we
- 웹
- 주
- 잘
- 했다
- 뭐
- 무엇이든
- 언제
- 때마다
- 여부
- 어느
- 동안
- 내부 고발자
- 내부고발자 에드워드 스노든
- 화이트
- 누구
- 넓은
- 넓은 범위
- 위키 백과
- 의지
- 과
- 없이
- 원
- 작업
- 일하는
- 세계
- 겠지
- 잘못된
- 년
- 자신의
- 너의
- 제퍼 넷