영국 스파이 기관: 민감한 기업 데이터를 LLM에 제공하지 마십시오

영국 스파이 기관: 민감한 기업 데이터를 LLM에 제공하지 마십시오

타임 스탬프 : 15 년 2023 월 12 일 오후 30:XNUMX
영국 스파이 기관: LLM에 민감한 기업 데이터 PlatoBlockchain Data Intelligence를 제공하지 마세요. 수직 검색. 일체 포함.

영국 정부의 스파이 기관은 기업이 올바르게 관리하지 않으면 잠재적인 고통의 세계에 자신을 개방하고 있다고 말하면서 ChatGPT를 포함한 공개 대규모 언어 모델에 민감한 데이터를 제공하는 위험에 대해 기업에 경고하고 있습니다.

구글, Microsoft 그리고 다른 사람들은 현재 최신 기술 열풍인 LLM을 엔터프라이즈 제품에 끼워넣고 있으며 Meta's LLaMa가 최근에 유출되었습니다.. 그들은 인상적이지만 응답에 결함이 있을 수 있으며 이제 GCHQ(정부 통신 본부)는 보안 각도를 강조하려고 합니다.

저자인 Platform Research의 기술 이사인 David C와 Data Science Research의 기술 이사인 Paul J는 다음과 같이 묻습니다.느슨한 프롬프트를 사용하여 선박을 침몰시키십시오.?” 예, 그들은 어떤 경우에는 결론을 내립니다.

일반적인 걱정은 LLM이 사용자의 프롬프트에서 "학습"하고 유사한 문제에 대해 쿼리하는 다른 사람에게 해당 정보를 제공할 수 있다는 것입니다.

“여기에는 몇 가지 우려할 만한 이유가 있지만 많은 사람들이 고려하는 이유는 아닙니다. 현재 LLM은 교육을 받은 다음 결과 모델을 쿼리합니다. LLM은 (작성 당시) 다른 사람이 쿼리할 수 있도록 쿼리의 정보를 해당 모델에 자동으로 추가하지 않습니다. 즉, 쿼리에 정보를 포함해도 해당 데이터가 LLM에 통합되지 않습니다.”

쿼리는 LLM 제공자(ChatGPT용 OpenAI)에게 표시되고 저장되며 “언젠가 LLM 서비스 또는 모델을 개발하는 데 거의 확실하게 사용될 것입니다. 이것은 LLM 제공자(또는 그 파트너/계약자)가 쿼리를 읽을 수 있고 어떤 방식으로든 이를 향후 버전에 통합할 수 있음을 의미할 수 있습니다. 따라서 민감한 질문을 하기 전에 이용 약관과 개인 정보 보호 정책을 철저히 이해해야 합니다.”라고 GCHQ 듀오가 썼습니다.

현재 상황에 매우 적합한 민감한 데이터의 예에는 "직원을 해고하는 최선의 방법"을 묻는 것으로 밝혀진 CEO나 특정 건강 또는 관계 질문을 하는 사람이 포함될 수 있다고 기관은 말합니다. 우리는 Reg 경영진이 LLM에 중복에 대해 묻는다면 많은 수준에서 걱정할 것입니다.

두 사람은 다음과 같이 덧붙입니다. 여기에는 잠재적으로 사용자를 식별할 수 있는 정보가 포함될 수 있습니다. 또 다른 위험은 LLM 운영자가 사용자가 데이터를 입력했을 때와는 다른 개인 정보 보호 접근 방식을 가진 조직에 나중에 인수된다는 것입니다.”

GCHQ는 보안 파울업의 가능성을 강조한 최초의 조직과는 거리가 멉니다. Amazon 수석 법률 고문이 보낸 내부 Slack 메시지 소식통, Amazon 자체 내부 데이터와 유사하게 보이는 ChatGPT 응답 사례가 있다고 말하면서 LLM과 회사 정보를 공유하지 말라고 직원에게 경고했습니다.

그녀는 "귀하의 입력이 ChatGPT의 추가 반복을 위한 훈련 데이터로 사용될 수 있기 때문에 중요하며, 우리는 그 출력이 우리의 기밀 정보를 포함하거나 유사하게 되는 것을 원하지 않을 것"이라고 덧붙였습니다.

의 연구 이번 달 Cyberhaven Labs 민감한 데이터가 직원이 ChatGPT에 입력하는 정보의 11%를 차지함을 나타냅니다. 데이터 보안 서비스를 사용하는 회사의 직원 1.6만 명을 대상으로 ChatGPT 사용을 분석한 결과, 5.6%가 직장에서 한 번 이상 사용했으며 11%가 민감한 데이터를 입력했습니다.

JP Morgan, Microsoft 및 WalMart는 잠재적인 위험에 대해 직원들에게 경고하는 다른 기업들 중 하나입니다.

GCHQ로 돌아온 Messieurs David C와 Paul J는 기업에 공개하고 싶지 않은 데이터를 입력하지 말고, 클라우드 제공 LLM을 사용하고, 개인 정보 보호 정책을 숙지하거나, 자체 호스팅 LLM을 사용하라고 조언합니다.

Microsoft, Google 및 OpenAI에 의견을 요청했습니다. ®

타임 스탬프 :

더보기 등록