12월 6th, 2023 / in CCC / 에 의해 헤일리 그리핀
어제 5월 XNUMX일, CCC는 관리예산처(OMB)에 답변서를 제출했습니다. 기관의 인공 지능 초안 각서 사용을 위한 거버넌스, 혁신 및 위험 관리 발전에 대한 의견 요청(RFC). 다음 CCC 위원회 회원 및 CCC 직원이 답변을 작성했습니다: David Danks(캘리포니아 대학교, 샌디에고), Haley Griffin(컴퓨팅 커뮤니티 컨소시엄), David Jensen(매사추세츠 대학교 Amherst), Chandra Krintz(캘리포니아 대학교 산타바바라 대학교), Daniel Lopresti(리하이 대학교), Rajmohan Rajaraman(노스이스턴 대학교), Matthew Turk(시카고 토요타 기술 연구소), Holly Yanco(매사추세츠 로웰 대학교).
OMB는 다음과 관련된 다양한 특정 질문에 대한 답변을 구했습니다. 제안된 각서 이는 "AI 거버넌스, 혁신 및 위험 관리 분야에서 새로운 기관 요구 사항을 구현하고 기관이 대중의 권리와 안전에 영향을 미치는 AI 사용에 대한 특정 최소 위험 관리 관행을 채택하도록 지시합니다."
RFC의 "OMB가 책임 있는 AI 혁신을 어떻게 가장 잘 발전시킬 수 있습니까?"라는 질문에 CCC는 다음과 같이 응답했습니다.
- 기술 전문가와 일반 시민 모두 기관 자문위원회의 외부 개인을 통해 비기관 및 비공급업체 전문 지식을 도입할 수 있습니다. 이러한 위원회의 작업은 가능한 경우 관찰 가능하고 투명해야 합니다(대중이 필요에 따라 피드백을 제공할 수 있도록).
- AI 사용의 결과가 신뢰할 수 있고 공정하며 신뢰할 수 있는지를 우선시합니다. AI 시스템 개발에서는 좋고 깨끗한 데이터를 사용하는 것이 중요하지만, 특히 좋은 데이터라도 오용될 수 있으므로 개인과 커뮤니티에 대한 결과와 영향을 최우선으로 생각해야 합니다.
- 많은 수의 개인이 일정 기간 동안 AI 시스템을 사용했지만 아직 문제를 보고하지 않았다고 해서 AI 시스템이 안전하거나 신뢰할 수 있다는 의미는 아니라는 점을 인식하는 모니터링 메커니즘을 구현합니다. 드물지만 영향력이 있는 엣지 케이스는 모든 컴퓨팅 분야에서 공통적으로 발생합니다.
- 소프트웨어 업데이트가 구현되거나 데이터세트가 변경될 때마다 AI/ML 시스템을 재평가합니다. 우리는 소프트웨어 또는 데이터 세트 업데이트가 재평가를 요구할 만큼 중요한 시점에 대한 어려운 질문이 있다는 것을 알고 있습니다. 우리는 엄격한 규칙을 제안하지는 않지만 그러한 기준은 너무 적은 재평가보다는 너무 많은 재평가 측면에서 오류가 발생해야 한다고 주장합니다.
- 서로 다른 기준을 사용할 수 있는 공급업체에 의존하지 않도록 모든 AI/ML 시스템에 대한 독립적인 평가 및 테스트를 장려합니다.
- 많은 AI 시스템의 동작은 예측할 수 없을 정도로 복잡하므로 예측하지 못한 해로운 영향에 대해 적극적으로 계획하고 준비하십시오.
- AI가 "안전에 영향을 미치거나" "권리에 영향을 미치지" 않는다는 결정에 대한 지표와 이유를 공개합니다. 조사를 최소화하기 위해 기업이 자사 시스템이 안전이나 권리에 영향을 미치지 않는다고 주장할 수 있는 상당한 인센티브가 있다는 점을 고려하면 대중은 이러한 조치에 접근할 수 있어야 합니다.
- 이러한 기술의 영향은 빠르게 변할 수 있고 자주 재검토되어야 하므로 AI 시스템의 보다 유동적인 특성화를 사용하십시오.
- 기관이 공개하는 AI 사용 사례 목록에 대한 공개 조사를 장려하고 지원합니다. 무작위/평균 샘플 대신 대중을 기쁘게 할 작품을 전시하기로 선택할 가능성은 항상 있습니다.
- 외부의 독립적인 전문가가 잠재적인 위험을 평가하고 AI 배포의 지속적인 개선을 위한 건설적인 피드백을 제공할 수 있도록 AI 사용 사례를 충분히 상세하고 적절한 경우 대표 데이터와 함께 게시하도록 요구합니다.
응답 전반에 걸쳐 저자는 때때로 비생성 AI 솔루션이 생성 AI 솔루션보다 더 효과적일 수 있으며, 여러 기관의 다양한 AI 거버넌스 기관이 어떻게 협력할 것인지에 대한 투명하고 강력한 구조가 필요하며 명확한 시정이 필요하다는 점을 강조합니다. AI 사용으로 인해 부정적인 영향을 받은 것처럼 느끼는 경우의 메커니즘입니다. CCC의 전체 답변 읽기 여기에서 지금 확인해 보세요..
- SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
- PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
- PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
- 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
- PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
- 출처: https://feeds.feedblitz.com/~/845441873/0/cccblog~CCC-Responds-to-OMB-RFC-on-Advancing-Governance-Innovation-and-Risk-Management-for-Agency-Use-of-AI-Draft-Policy/
- :이다
- :아니
- :어디
- 1
- 6 위
- a
- 소개
- ACCESS
- 가로질러
- 채택
- 전진
- 전진하는
- 자문
- 기관
- 정부 기관
- AI
- AI 거버넌스
- AI 시스템
- 인공 지능 사용 사례
- AI / ML
- All
- 또한
- 항상
- an
- 및
- 어떤
- 적당한
- 있군요
- 지역
- 인조의
- 인공 지능
- AS
- At
- 저작자
- 작성자
- 평균
- BE
- 때문에
- 가
- 된
- 행동
- BEST
- 블로그
- 기관
- 두
- 예산
- 비자 면제 프로그램에 해당하는 국가의 시민권을 가지고 있지만
- by
- 캘리포니아
- CAN
- 케이스
- 가지 경우
- 범주
- CCC
- CCC 블로그
- CCC 위원회
- CCC 위원회 위원
- 이전 단계로 돌아가기
- 변경
- 시카고
- 선택
- 시민
- 청구
- 황어 무리
- 선명한
- 협력
- 댓글
- 공통의
- 커뮤니티
- 커뮤니티
- 기업
- 복잡한
- 컴퓨팅
- 협회
- 건설적인
- 이사회
- 협의회 구성원
- 기준
- 다니엘
- 데이터
- 데이비드
- XNUMX월
- 의존하는
- 배포
- 세부 묘사
- 개발
- 샌디에고
- 다른
- 다른
- 어려운
- 곧장
- 디스플레이
- do
- 하지
- 징병
- 마다
- Edge
- 유효한
- 강조하다
- 충분히
- 항목
- 특히
- 평가
- 평가
- 조차
- 전문적 지식
- 전문가
- 공정한
- 피드백
- 느낌
- Fields
- 유체
- 수행원
- 럭셔리
- 에
- 가득 찬
- 생성적인
- 제너레이티브 AI
- 주기
- 주어진
- 좋은
- 통치
- 그리핀
- 있다
- 방법
- HTTP
- HTTPS
- if
- 영향
- 영향
- 충격적인
- 영향을주는
- 영향
- 구현
- 구현
- 중대한
- 개량
- in
- 인센티브
- 독립
- 개인
- 혁신
- 를 받아야 하는 미국 여행자
- 학회
- 인텔리전스
- 문제
- 알아
- 넓은
- 작은
- 구축
- .
- 매사추세츠 주
- 매튜
- XNUMX월..
- 평균
- 조치들
- 기구
- 메커니즘
- 회원
- 각서
- 메타
- 통계
- 신경
- 최저한의
- 모니터링
- 배우기
- 많은
- 필요
- 필요
- 요구
- 부정적으로
- ...도 아니고 ...도 아니다
- 노스 이스턴 대학 (Northeastern University)
- 번호
- of
- Office
- 자주
- on
- ONE
- 사람
- 지속적으로
- or
- 주문
- 결과
- 외부
- 위에
- 혹시
- 기간
- 계획
- 플라톤
- 플라톤 데이터 인텔리전스
- 플라토데이터
- 부디
- 정책
- 가능성
- 가능한
- 가능성
- 사례
- Prepare
- 제안
- 제공
- 공개
- 출판
- 문제
- 문의
- 빠르게
- 드문
- 차라리
- 읽기
- 이유
- 인식
- 에 관한
- 발매
- 신뢰할 수있는
- 유적
- 보고
- 대리인
- 필요
- 요구조건 니즈
- 응답
- 응답
- 책임
- 결과
- 권리
- 위험
- 위험 관리
- 위험
- 강력한
- 통치
- 가장 안전한 따뜻함
- 안전
- 산
- 샌디에고
- 산타
- 정밀한 조사
- 영상을
- 측면
- 상당한
- 이후
- So
- 소프트웨어
- 솔루션
- 어떤 사람
- 때로는
- 모색
- 구체적인
- 직원
- 구조
- 제출
- 이러한
- 충분한
- SUPPORT
- 체계
- 시스템은
- TAG
- 테크니컬
- 기술
- Technology
- 지원
- 보다
- 그
- XNUMXD덴탈의
- 그들의
- 그곳에.
- Bowman의
- 그들
- 그래도?
- 을 통하여
- 시간
- 에
- 너무
- 상단
- 도요타
- 투명한
- 신뢰할 수있는
- 뜻하지 않은
- 대학
- University of California
- 업데이트
- 사용
- 유스 케이스
- 익숙한
- 사용
- 사용
- 공급 업체
- we
- 언제
- 동안
- 누구
- 의지
- 과
- 작업
- 겠지
- 아직
- 제퍼 넷