Grudnia 6th, 2023 / in CCC / za pomocą Haley Griffin
Wczoraj, 5 grudnia, CCC przesłało odpowiedź do Biura Zarządzania i Budżetu (OMB). Prośba o uwagi (RFC) w sprawie projektu memorandum dotyczącego poprawy zarządzania, innowacji i zarządzania ryzykiem w zakresie wykorzystania sztucznej inteligencji przez agencje. Autorami odpowiedzi byli następujący Członkowie Rady i pracownicy CCC: David Danks (Uniwersytet Kalifornijski w San Diego), Haley Griffin (Konsorcjum Wspólnoty Komputerowej), David Jensen (Uniwersytet Massachusetts Amherst), Chandra Krintz (Uniwersytet Kalifornijski w Santa Barbara), Daniel Lopresti (Uniwersytet Lehigh), Rajmohan Rajaraman (Uniwersytet Northeastern), Matthew Turk (Instytut Technologiczny Toyoty w Chicago) i Holly Yanco (Uniwersytet Massachusetts Lowell).
OMB szukało odpowiedzi na wiele różnych szczegółowych pytań dotyczących ich proponowaną notatkę które wdrożyłoby „nowe wymogi agencji w obszarach zarządzania sztuczną inteligencją, innowacji i zarządzania ryzykiem oraz nakazywałoby agencjom przyjęcie konkretnych minimalnych praktyk zarządzania ryzykiem w przypadku zastosowań sztucznej inteligencji, które mają wpływ na prawa i bezpieczeństwo publiczne”.
W odpowiedzi na jedno pytanie RFC: „W jaki sposób OMB może najlepiej wspierać odpowiedzialne innowacje w zakresie sztucznej inteligencji?”, CCC odpowiedziała:
- Wprowadź wiedzę specjalistyczną spoza agencji i dostawców, być może za pośrednictwem osób z zewnątrz zasiadających w radach doradczych agencji, zarówno ekspertów technicznych, jak i przeciętnych obywateli. Praca takich rad powinna być w miarę możliwości możliwa do zaobserwowania i przejrzysta (aby w razie potrzeby społeczeństwo mogło przekazać swoją opinię).
- Postaw na pierwszym miejscu, aby wyniki korzystania ze sztucznej inteligencji były godne zaufania, uczciwe i niezawodne. Chociaż korzystanie z dobrych, czystych danych jest ważne w opracowywaniu systemów sztucznej inteligencji, należy mieć na uwadze wyniki i wpływ na jednostki i społeczności, zwłaszcza że nawet dobre dane mogą zostać niewłaściwie wykorzystane.
- Wdrożyć mechanizmy monitorowania, które rozpoznają, że nawet jeśli duża liczba osób korzystała z systemu sztucznej inteligencji przez pewien czas i nie zgłosiła jeszcze żadnych problemów, nie oznacza to, że system sztucznej inteligencji jest bezpieczny i niezawodny. Rzadkie, ale efektowne przypadki brzegowe są powszechne we wszystkich dziedzinach informatyki.
- Dokonuj ponownej oceny systemu AI/ML za każdym razem, gdy wdrażana jest aktualizacja oprogramowania lub zmieniany jest zbiór danych. Zdajemy sobie sprawę, że istnieją trudne pytania dotyczące tego, kiedy aktualizacja oprogramowania lub zbioru danych jest na tyle znacząca, że wymaga ponownej oceny. Nie proponujemy sztywnych zasad, ale twierdzimy, że każde takie kryterium powinno sugerować zbyt dużą ponowną ocenę, a nie zbyt małą.
- Zachęcaj do niezależnej oceny i testowania wszystkich systemów AI/ML, aby nie uzależnić się od dostawców, którzy mogą stosować różne kryteria.
- Aktywnie planuj i przygotuj się na nieprzewidziane szkodliwe skutki, ponieważ zachowanie wielu systemów sztucznej inteligencji pozostaje nieprzewidywalnie złożone.
- Opublikuj wskaźniki i powody, dla których stwierdzono, że sztuczna inteligencja nie „wpływa na bezpieczeństwo” ani „nie wpływa na prawa”. Społeczeństwo powinno mieć dostęp do tych środków, biorąc pod uwagę istotne zachęty dla przedsiębiorstw, aby twierdziły, że ich systemy nie wpływają ani na bezpieczeństwo, ani na prawa, w celu zminimalizowania kontroli.
- Należy zastosować bardziej płynną charakterystykę systemu sztucznej inteligencji, ponieważ wpływ takiej technologii może szybko się zmieniać i należy go często ponownie rozważać.
- Zachęcaj i wspieraj publiczną kontrolę wykazów przypadków użycia sztucznej inteligencji publikowanych przez agencje. Zawsze istnieje możliwość, że zdecydują się pokazać prace, o których wiedzą, że zadowolą publiczność, zamiast losowej/przeciętnej próbki.
- Wymóg publikowania przypadków użycia sztucznej inteligencji z wystarczającą szczegółowością i, w stosownych przypadkach, reprezentatywnymi danymi, aby zewnętrzni niezależni eksperci mogli ocenić potencjalne ryzyko i zapewnić konstruktywne informacje zwrotne na potrzeby ciągłego doskonalenia wdrożeń sztucznej inteligencji.
W całej odpowiedzi autorzy podkreślają również, że czasami niegeneratywne rozwiązania AI są bardziej skuteczne niż generatywne rozwiązania AI, musi istnieć przejrzysta i solidna struktura współpracy różnych organów zarządzających AI w różnych agencjach, a także powinno istnieć wyraźne zadośćuczynienie mechanizmu, jeśli ktoś poczuje, że użycie sztucznej inteligencji wywarło na niego negatywny wpływ. Przeczytaj pełną odpowiedź CCC tutaj.
- Dystrybucja treści i PR oparta na SEO. Uzyskaj wzmocnienie już dziś.
- PlatoData.Network Pionowe generatywne AI. Wzmocnij się. Dostęp tutaj.
- PlatoAiStream. Inteligencja Web3. Wiedza wzmocniona. Dostęp tutaj.
- PlatonESG. Węgiel Czysta technologia, Energia, Środowisko, Słoneczny, Gospodarowanie odpadami. Dostęp tutaj.
- Platon Zdrowie. Inteligencja w zakresie biotechnologii i badań klinicznych. Dostęp tutaj.
- Źródło: https://feeds.feedblitz.com/~/845441873/0/cccblog~CCC-Responds-to-OMB-RFC-on-Advancing-Governance-Innovation-and-Risk-Management-for-Agency-Use-of-AI-Draft-Policy/
- :Jest
- :nie
- :Gdzie
- 1
- 6
- a
- O nas
- dostęp
- w poprzek
- przyjąć
- awansować
- postęp
- doradczy
- agencje
- agencja
- AI
- Zarządzanie AI
- Systemy SI
- przypadki użycia ai
- AI / ML
- Wszystkie kategorie
- również
- zawsze
- an
- i
- każdy
- właściwy
- SĄ
- obszary
- sztuczny
- sztuczna inteligencja
- AS
- At
- autor
- Autorzy
- średni
- BE
- bo
- stają się
- być
- zachowanie
- BEST
- Blog
- ciała
- obie
- budżet
- ale
- by
- California
- CAN
- walizka
- Etui
- Kategoria
- ccc
- Blog CCC
- Rada CCC
- Członkowie Rady CCC
- zmiana
- zmieniony
- Chicago
- Wybierając
- Obywatele
- roszczenie
- kleń
- jasny
- współpracować
- komentarze
- wspólny
- społeczności
- społeczność
- Firmy
- kompleks
- computing
- konsorcjum
- konstruktywny
- Rada
- członkowie Rady
- Kryteria
- Daniel
- dane
- David
- grudzień
- zależny
- wdrożenia
- detal
- rozwijanie
- Diego
- różne
- różni się
- trudny
- kierować
- Wyświetlacz
- do
- robi
- projekt
- każdy
- krawędź
- Efektywne
- podkreślać
- dość
- wejście
- szczególnie
- oceniać
- ewaluację
- Parzyste
- ekspertyza
- eksperci
- sprawiedliwy
- informacja zwrotna
- czuje
- Łąka
- płyn
- następujący
- W razie zamówieenia projektu
- od
- pełny
- generatywny
- generatywna sztuczna inteligencja
- Dać
- dany
- dobry
- zarządzanie
- Griffin
- Have
- W jaki sposób
- http
- HTTPS
- if
- Rezultat
- wpływ
- wpływowy
- wpływ
- Oddziaływania
- wdrożenia
- realizowane
- ważny
- poprawa
- in
- zachęty
- niezależny
- osób
- Innowacja
- zamiast
- Instytut
- Inteligencja
- problemy
- Wiedzieć
- duży
- mało
- i konserwacjami
- wiele
- massachusetts
- Matthew
- Może..
- oznaczać
- środków
- mechanizm
- Mechanizmy
- Użytkownicy
- Memorandum
- Meta
- Metryka
- nic
- minimum
- monitorowanie
- jeszcze
- dużo
- Potrzebować
- potrzebne
- wymagania
- ujemnie
- Ani
- Northeastern University
- numer
- of
- Biurowe
- często
- on
- ONE
- te
- trwający
- or
- zamówienie
- wyniki
- zewnętrzne
- koniec
- może
- okres
- krok po kroku
- plato
- Analiza danych Platona
- PlatoDane
- Proszę
- polityka
- możliwość
- możliwy
- potencjał
- praktyki
- Przygotować
- zaproponować
- zapewniać
- publiczny
- opublikowany
- pytanie
- pytania
- szybko
- RZADKO SPOTYKANY
- raczej
- Czytaj
- Przyczyny
- rozpoznać
- w sprawie
- uwalniając
- rzetelny
- szczątki
- Zgłoszone
- przedstawiciel
- wymagać
- wymagania
- odpowiedź
- Odpowiedzi
- odpowiedzialny
- Efekt
- prawa
- Ryzyko
- Zarządzanie ryzykiem
- ryzyko
- krzepki
- Zasada
- "bezpiecznym"
- Bezpieczeństwo
- San
- San Diego
- Święty
- badanie
- powinien
- bok
- znaczący
- ponieważ
- So
- Tworzenie
- Rozwiązania
- Ktoś
- czasami
- poszukiwany
- specyficzny
- Personel
- Struktura
- składane
- taki
- wystarczający
- wsparcie
- system
- systemy
- TAG
- Techniczny
- techniczny
- Technologia
- Testowanie
- niż
- że
- Połączenia
- ich
- Tam.
- Te
- one
- chociaż?
- Przez
- czas
- do
- także
- Top
- toyota
- przezroczysty
- godny zaufania
- nieprzewidziany
- uniwersytet
- University of California
- Aktualizacja
- posługiwać się
- przypadek użycia
- używany
- zastosowania
- za pomocą
- sprzedawców
- we
- jeśli chodzi o komunikację i motywację
- Podczas
- KIM
- będzie
- w
- Praca
- by
- jeszcze
- zefirnet