O empresário de tecnologia Wayne Chang afirma que desenvolveu uma ferramenta de IA, LLM Shield, que evita chatbots e modelos de linguagem grandes (LLMs) como ChatGPT de tomar segredos da empresa. O uso de ferramentas de IA tem aumentado ultimamente, levantando preocupações de que as empresas possam estar vulneráveis a vazamentos de dados e ações judiciais.
De acordo com um relatório da Cyberhaven, Estima-se que 2.3% dos trabalhadores colocaram informações confidenciais da empresa no ChatGPT, enquanto 11% dos dados colados no chatbot são confidenciais.
Como resultado, muitas empresas, incluindo JP Morgan Chase & Co, alegadamente bloqueou o acesso dos funcionários à ferramenta.
Veja também: Os escritórios do Metaverse estão voltando?
O LLM Shield foi projetado para proteger empresas e governos de fazer upload de dados confidenciais para ferramentas com tecnologia de IA, como ChatGPT e Bardo.
Chang disse à Fox Business que quando o ChatGPT da OpenAI foi lançado no mercado em novembro, ele viu o quão poderoso seria e que veio “com grandes, grandes riscos”.
“As coisas vão piorar muito rapidamente – isso é positivo e negativo”, disse ele.
“Meu foco aqui é que quero ter certeza de que podemos direcionar positivamente a IA em uma direção positiva e evitar o lado negativo o máximo possível.”
Tecnologia para controlar a tecnologia
Lançado apenas na semana passada, o LLM Shield alerta as organizações sempre que há uma tentativa de fazer upload de informações confidenciais. De acordo com a Fox Business, os administradores podem definir proteções para os tipos de dados que a empresa deseja proteger.
Qualquer tentativa de carregar essas informações solicitará que o LLM Shield alerte os usuários de que eles estão prestes a enviar dados confidenciais e ofuscar os detalhes para que o conteúdo seja útil, mas não legível para humanos.
🚨 Empresas e países estão BANINDO LLMs a torto e a direito. 🚨
Não há ferramentas que resolvam isso (“políticas” não funcionam).
Anunciando @LLMShield – tecnologia de prevenção de vazamentos desenvolvida para um mundo que prioriza a IA.
Você *sabe* quem está copiando e colando seus dados? https://t.co/EtO5bHJow1
-wayne chang (@Wayne) 20 de abril de 2023
Espera-se que o LLM Shield continue ficando mais inteligente, assim como as ferramentas de IA cujos poderes ele tem a tarefa de limitar. Ele também é atualizado como filtro de spam, portanto, à medida que mais bots chegam ao mercado, ele se atualiza automaticamente para fortalecer a proteção.
De acordo com Chang, há planos de lançar uma versão pessoal para download para uso doméstico.
Vazamentos de dados preocupam empresas
Este ano houve um boom no uso de ferramentas de IA pelas empresas, e é provável que olhemos para 2023 como o ano em que a revolução da IA começou para valer.
No entanto, o influxo dessas ferramentas também levantou preocupações de que os trabalhadores possam vazar intencionalmente ou acidentalmente informações confidenciais para ferramentas com tecnologia de IA, como o ChatGPT.
O risco já existe. Samsung recentemente experimentou uma série de vazamentos de dados quando seus funcionários supostamente colaram um código-fonte em novos bots, o que poderia expor informações proprietárias.
Cada vez mais, os empregadores ficando nervoso sobre como sua equipe pode usar ferramentas de IA no trabalho. Algumas empresas já proibiram o uso do ChatGPT no trabalho, embora os funcionários ainda consigam contornar as restrições.
Em um memorando vazado, Walmart alertou os funcionários para não compartilhar informações confidenciais com o ChatGPT. O grupo disse que bloqueou anteriormente o chatbot devido a “atividade que representava risco para nossa empresa”.
A Amazon também alertou seus funcionários sobre o mesmo desafio. Seu advogado corporativo disse aos funcionários que a empresa já havia visto instâncias de respostas do ChatGPT semelhantes a Amazônia interna dados.
Funcionários sorrateiros
Como em países onde o ChatGPT é proibido, mas ainda é usado – China e partes da África, por exemplo – os funcionários não foram dissuadidos de usar a ferramenta baseada em IA em suas organizações.
A Pesquisa de aquário divulgado em fevereiro revelou que quase 70% dos funcionários estão usando o ChatGPT no trabalho sem o conhecimento de seus chefes.
O CEO da Cyberhaven, Howard Ting, disse à Axios que os funcionários sempre encontraram maneiras de escapar das proibições da rede corporativa que bloqueavam o acesso aos chatbots.
Ele disse que algumas empresas acreditavam que os funcionários não tinham acesso ao chatbot antes de sua empresa dizer o contrário.
“Os usuários podem usar um proxy para contornar muitas dessas ferramentas de segurança baseadas em rede”, revelou ele.
- Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
- PlatoAiStream. Inteligência de Dados Web3. Conhecimento Amplificado. Acesse aqui.
- Cunhando o Futuro com Adryenn Ashley. Acesse aqui.
- Fonte: https://metanews.com/bill-gates-ai-chatbots-could-teach-children-to-read-in-18-months/
- :tem
- :é
- :não
- :onde
- 12
- 20
- 2023
- 7
- a
- Sobre
- Acesso
- Segundo
- administradores
- África
- AI
- Alimentado por AI
- Alertar
- Alertas
- alegadamente
- já
- tb
- sempre
- an
- e
- SOMOS
- por aí
- AS
- At
- automaticamente
- Axios
- em caminho duplo
- banido
- proibições
- baseado
- BE
- sido
- antes
- começou
- Acredita
- Grande
- Projeto de lei
- Bill Gates
- bloqueado
- bloqueio
- estrondo
- patrões
- ambos
- bots
- construído
- negócio
- negócios
- mas a
- by
- CAN
- Chefe executivo
- desafiar
- perseguição
- chatbot
- chatbots
- ChatGPT
- Crianças
- reivindicações
- CO
- código
- Volta
- Empresas
- Empresa
- Preocupações
- conteúdo
- continuar
- ao controle
- copiando
- Responsabilidade
- poderia
- países
- dados,
- projetado
- detalhes
- desenvolvido
- direção
- não
- download
- desvantagem
- dois
- cada
- Empregado
- colaboradores
- empregadores
- Empreendedor
- estimou
- esperado
- experiente
- Fevereiro
- filtro
- Encontre
- Empresa
- Foco
- Escolha
- encontrado
- Fox Business
- da
- Portões
- ter
- obtendo
- vai
- Governos
- Grupo
- Ter
- he
- SUA PARTICIPAÇÃO FAZ A DIFERENÇA
- sua
- Acertar
- Início
- Como funciona o dobrador de carta de canal
- HTTPS
- Humanos
- i
- in
- Incluindo
- aumentando
- indivíduos
- influxo
- INFORMAÇÕES
- instância
- para dentro
- IT
- ESTÁ
- se
- jp morgan
- JP Morgan Chase
- apenas por
- Conhecimento
- língua
- grande
- Sobrenome
- Atrasado
- Ações judiciais
- advogado
- vazar
- Vazamentos
- como
- Provável
- LLM
- olhar
- lote
- fazer
- Fazendo
- muitos
- mercado
- Posso..
- Memorando
- metaverso
- poder
- modelos
- mês
- mais
- Morgan
- quase
- negativo
- rede
- Novo
- não
- Novembro
- of
- escritórios
- on
- só
- or
- organizações
- de outra forma
- A Nossa
- Sobre a empresa
- peças
- pessoal
- planos
- platão
- Inteligência de Dados Platão
- PlatãoData
- positivo
- possível
- potencialmente
- poderoso
- atribuições
- apresentado
- bastante
- Prevenção
- anteriormente
- proprietário
- proteger
- proteção
- procuração
- colocar
- rapidamente
- angariado
- elevando
- Leia
- recentemente
- liberar
- liberado
- Denunciar
- restrições
- resultar
- Revelado
- Revolução
- Risco
- riscos
- Dito
- mesmo
- segurança
- visto
- enviar
- sensível
- Série
- conjunto
- Partilhar
- Proteger
- semelhante
- mais inteligente
- So
- Resolvendo
- alguns
- fonte
- código fonte
- Spam
- Staff
- Ainda
- Fortalecer
- tal
- tomar
- Tecnologia
- que
- A
- deles
- Eles
- Lá.
- Este
- deles
- isto
- aqueles
- tempo
- para
- ferramenta
- ferramentas
- verdadeiro
- tipos
- Atualizar
- Atualizações
- Upload
- usar
- usava
- usuários
- utilização
- versão
- Vulnerável
- queremos
- foi
- Caminho..
- maneiras
- we
- semana
- foram
- O Quê
- quando
- qual
- enquanto
- precisarão
- de boa vontade
- de
- sem
- Atividades:
- trabalhadores
- mundo
- seria
- WSJ
- ano
- Vocês
- investimentos
- zefirnet