CCC는 널리 사용 가능한 모델 가중치를 갖춘 이중 용도 기초 AI 모델에 대한 NTIA의 정보 요청에 응답합니다.

플라톤에 의해 재발행

팔로워 : 0

지난주 CCC는 미국통신정보청(National Telecommunications and Information Administration)의 요청에 응답했습니다. 널리 사용 가능한 모델 가중치를 갖춘 이중 용도 기반 인공 지능 모델에 대한 정보 요청. CCC의 Daniel Lopresti(CCC 의장 및 Lehigh University)와 David Danks(CCC 집행 위원회 및 University of California, San Diego)는 컴퓨팅 커뮤니티의 다른 여러 구성원과 함께 이 답변을 작성하는 데 도움을 주었습니다. Markus Buehler(매사추세츠 공과대학)와 Duncan Watson-Parris(캘리포니아 대학교, 샌디에이고)는 올해 CCC가 후원하는 AAAS 패널에서 다음과 같은 제목으로 연설했습니다. 과학에서의 생성적 AI: 약속과 함정, 둘 다 CCC에 참석한 Casey Fiesler(콜로라도 대학, 볼더)와 함께 RFI 응답에 기여했습니다. 소셜 기술 연구의 미래 11월 워크숍.

응답에서 저자는 RFI의 몇 가지 특정 질문에 초점을 맞추었습니다. 그 중 하나는 모델 가중치를 널리 사용할 수 있게 만드는 것과 관련된 위험이 비공개 모델 가중치와 관련된 위험과 어떻게 비교되는지 물었습니다. 저자는 모델 가중치를 널리 사용할 수 있도록 함으로써 생성 모델과 관련된 위험의 대부분이 최소한으로 악화된다고 응답했습니다. 생성 모델과 관련된 대부분의 위험은 사용자 입력을 기반으로 믿을 수 있는 엄청난 양의 콘텐츠를 신속하게 생성할 수 있는 능력과 거의 무제한의 적용 영역으로 인해 이러한 모델에 내재되어 있습니다. 모델 가중치를 공개적으로 사용 가능하게 만드는 것은 생성 모델의 기능에 영향을 미치지 않으므로 현재 가중치를 널리 사용 가능하게 만드는 것이 독점 또는 폐쇄형 시스템에서 이미 수행할 수 있는 것 이상으로 상당한 추가 위험을 초래한다는 증거는 거의 없습니다. 독점 모델의 가중치가 널리 사용 가능하게 되면 잠재적으로 악화될 수 있는 위험 중 하나는 훈련 데이터가 노출될 가능성입니다. 훈련 데이터를 노출하기 위해 모델 가중치를 역설계할 가능성은 없지만 수학적으로 불가능한 것으로 나타나지는 않았습니다. 그러나 우리는 응답에서 생성 모델이 일반 대중에 의해 계속 많이 사용될 가능성이 높기 때문에 가장 큰 위험은 대표 기반 모델에 가중치를 공개적으로 제공하지 않는 데서 비롯된다는 점을 강조했습니다. 연구자와 관심 있는 커뮤니티 구성원이 독점 모델의 일부 모델 가중치에 액세스하는 것을 거부하면 사회가 이러한 모델의 작동 방식과 보다 포괄적이고 접근 가능한 모델을 설계하는 방법에 대해 더 나은 이해를 얻지 못하게 됩니다.

폐쇄형 모델을 계속 출시하는 관행은 기술의 다양성 부족을 계속해서 영속시킬 것이며, 대형 기술 회사가 수행할 인센티브가 없는 이러한 모델에 대한 편견 감사와 같은 특정 종류의 연구가 수행되는 것을 방지할 것입니다. 미래 인력에 대한 교육은 또 다른 매우 중요한 고려 사항입니다. 미국은 대학원 및 대학원 교육에서 이러한 유형의 모델에 대해 미래 세대 개발자를 교육하지 않고 생성 AI 분야에서 리더십을 유지하기를 바랄 수 없습니다. 학생들이 교육 중에 이러한 모델을 탐색하여 기본 기능을 이해하고 새로운 모델 개발 시 윤리적 고려 사항을 통합하는 방법을 배우는 것이 중요합니다. 대규모 기술 회사만이 차세대 교육을 위한 도구를 소유하도록 허용하면 고립된 사고가 발생할 수 있으며, 이러한 조직은 보다 효율적인 필요에 따라 학습하는 프레임워크를 선호하여 이러한 모델에 대한 액세스를 제공할 수 있는 전체적인 교육을 간과할 수 있습니다. 우리는 또한 이러한 모델 개발을 둘러싼 개방성 문화 구축의 중요성을 강조했으며, 이러한 문화 구축이 이러한 기술을 규제하는 것만큼 중요할 수 있다는 점을 강조했습니다. 기술 회사가 투명한 방식으로 생성 모델을 만들 것이라는 기대가 있다면 향후 규제를 수행하기가 훨씬 쉬워질 것입니다.

마지막으로, CCC는 이러한 모델이 실제로 어떻게 작동하고 결과에 도달하는지에 대한 대중의 현재 지식이 부족하다는 점을 언급하면서 기본 모델에 대한 추가 연구의 필요성을 강조했습니다. 우리의 응답에서 우리는 사회 문제의 연구자, 과학자, 학자 및 전문가가 현재 업계에서 활용하고 있는 대규모 기반 모델 종류에 필요한 공개 액세스를 제공받는다면 답변을 시작할 준비가 되어 있는 답변되지 않은 여러 연구 질문을 나열했습니다. . 사회로서 우리의 지속적인 성공은 이에 달려 있습니다.

여기에서 전체 CCC 답변을 읽어보세요..