인공지능은 포르투갈 리스본에서 열린 연례 웹 서밋(Web Summit)에서 다시 한 번 뜨거운 논의 주제가 되었습니다. 행사가 끝나는 날 내부고발자이자 활동가인 첼시 매닝(Chelsea Manning)은 인공지능의 발전과 인간과 기술의 충돌에 대해 우려를 표명했습니다.
Manning은 “우리는 기술로 둘러싸인 시대에 살고 있습니다. "나는 우리 인간과 기술 사이의 이러한 충돌, 그리고 기술이 우리가 서로 상호 작용하는 방식을 형성하는 방식과 기관이 그 일부가 되는 방식에 대한 수많은 사례를 접했습니다."
매닝은 노숙자 생활, 군대 입대, 2010년 WikiLeaks에 군사 문서 유출로 감옥에 가는 등 디지털 영역에 노출되면서 자신의 삶이 형성되었다고 말합니다.
Manning은 “나는 이를 통해 기술을 통합하고, 보고, 더 크고 더 나은 미래를 구축하고 싶어합니다.”라고 말했습니다.
매닝은 AI 기술의 급속한 발전 뒤에 숨어 있는 동기, 기술이 궁극적으로 누구에게 이익이 될 것인지, 그리고 인공 지능에 대한 추진이 일상 생활을 상품화하고 있는지에 대해 의문을 제기했습니다.
"우리는 단순히 인간적 요소를 잊어버리고 일상적으로 이루어지는 모든 상호 작용을 상품으로 바꾸고 있는 걸까요?" 매닝이 말했다. "이 상품은 앱을 스와이프하거나 귀여운 하트 아이콘을 클릭하는 것만큼 간단한 작업을 수행하는 것입니다."
매닝은 인공지능과 대규모 언어 모델을 오늘날의 유행어라고 부르며 위키피디아, 교과서, 비디오, 이미지 등을 예로 들며 이러한 모델이 훈련되는 엄청난 양의 데이터를 지적했습니다.
매닝은 서버에 있는 파일과 달리 이 데이터는 모델의 무게와 저울에 내장되어 있어 간단히 삭제할 수 없다는 점을 지적했는데, 이는 유럽 연합의 일반 데이터 보호 규정(GDPR) 및 개인정보 보호 권리에 따라 개인이 데이터 삭제를 요청할 수 있습니다.
"사람들이 사생활을 보호해야 한다는 사실과 의사소통이 추출되거나 상품화되는 자원이 되어서는 안 된다는 사실을 고려하는 도구를 개발하는 것은 기술자로서 우리의 책임이라고 생각합니다." 매닝이 말했다. “나는 우리가 맺고 있는 관계가 숫자로 표현되는 세상에 살고 싶지 않습니다.”
Manning은 대규모 언어 모델의 경우 일단 개인의 개인 정보나 개인 정보가 통합되면 해당 정보가 모델의 영구적인 일부가 되어 제거가 불가능하다고 경고했습니다.
2021년에 Manning은 스위스에 본사를 둔 Nym Technologies에 보안 컨설턴트 및 개인 정보 보호 옹호자로 합류했습니다. Nym Technologies는 개인 정보 보호에 초점을 맞춘 프로젝트를 시작했습니다. NYM, 분산된 신원 플랫폼, 2020년에는 코스모스 블록 체인.
매닝은 “더 광범위하고 일반적으로 내 초점은 암호화나 우리가 가지고 있는 기술적, 기술적 수단을 통해 일종의 프라이버시를 확보하고 이를 직관적으로 사용할 수 있는 것의 중요성에 있다고 생각합니다.”라고 매닝은 말했습니다. “어려워서도 안 되고, 사용하기 어려워서도 안 됩니다.”
매닝은 또한 AI로 생성된 딥페이크의 증가와 증가를 강조했습니다.
“지난 XNUMX개월 동안 내 관심을 끈 것은 사람들이 공개 담론과 토론에서 딥페이크를 사용하고 있다는 사실이 아니라 딥페이크가 만들어질 수 있고 존재하며 의심을 불러일으키는 데 사용된다는 사실이었습니다. 실제 검증된 정보에 근거한 것”이라고 매닝은 말했다. “이러한 추세로 인해 사람들은 자신의 현실에 대해 점점 더 의문을 갖게 된다고 생각합니다.”
딥페이크가 더욱 발전함에 따라 정책 입안자들은 딥페이크가 향후 영향을 미칠 수 있다고 우려합니다. 선거 또는 연료 미워 온라인. Manning이 제안한 한 가지 솔루션은 암호화를 사용하여 정보를 확인하는 것이었습니다.
매닝은 이전에 말했었습니다. 해독 비트코인은 암호화, 정보 보안, 분산형 암호화 기반 네트워크 구축에 대한 그녀의 열정에 호소했습니다.
매닝은 “나는 나 자신의 현실을 선택할 수 있고 내가 좋아하는 것을 선택할 수 있다고 말할 수 있다는 것이 매력적이라는 것을 알고 있습니다.”라고 말했습니다. “그러나 현실은 실제 물리적 물질 세계가 어느 시점에 이에 맞서게 될 것이라는 것입니다. 특히 기후 문제에 관해서는 그냥 방치할 수는 없을 것 같아요.”
에 의해 수정 라이언 오자와.
암호화 뉴스를 최신 상태로 유지하고 받은 편지함에서 매일 업데이트를 받으십시오.