'Preconceituoso, enganoso': Center for AI acusa criador do ChatGPT de violar leis comerciais

O Centro de Inteligência Artificial e Política Digital (CAIDP) apresentou uma queixa à Comissão Federal de Comércio dos EUA (FTC) para impedir a liberação de poderosos sistemas de IA aos consumidores. A reclamação centrou-se no modelo de linguagem grande recentemente lançado pela OpenAI, GPT-4, que o CAIDP descreve na sua reclamação de 30 de março como “tendencioso, enganoso e um risco para a privacidade e a segurança pública”.

A CAIDP, uma organização de pesquisa sem fins lucrativos, alegou que a liberação comercial do GPT-4 violou a Seção 5 da Lei FTC, que proíbe “atos ou práticas injustas ou enganosas no comércio ou que afetem”. Para apoiar o seu caso, a organização de ética em IA citou informações do Cartão do Sistema GPT-4, que afirmava: “Descobrimos que o modelo tem o potencial de reforçar e reproduzir preconceitos e visões de mundo específicas, incluindo associações estereotipadas prejudiciais e humilhantes para certos grupos marginalizados”. ”, escreveram os pesquisadores.

“Os sistemas de IA terão um potencial ainda maior para reforçar ideologias, visões de mundo, verdades e inverdades inteiras, e para cimentá-las ou trancá-las, impedindo futuras contestações, reflexões e melhorias”, de acordo com o mesmo documento. O CAIDP também afirmou que a OpenAI lançou o GPT-4 ao público para uso comercial, embora estivesse plenamente consciente dos riscos, e que nenhuma avaliação independente do GPT-4 foi realizada antes do seu lançamento.

Como resultado, o CAIDP solicitou que a FTC investigasse os produtos da OpenAI e de outros operadores de sistemas poderosos de IA: “Já passou da hora de a FTC agir […] O CAIDP insta a FTC a abrir uma investigação sobre a OpenAI, ordenar novos lançamentos comerciais do GPT-4 e garantir o estabelecimento das salvaguardas necessárias para proteger os consumidores, as empresas e o mercado comercial.”

Embora o ChatGPT-3 tenha sido lançado em novembro, a versão mais recente, GPT-4, é considerada dez vezes mais inteligente. Um estudo publicado em 14 de março descobriu que o GPT-4 poderia passar nos exames mais difíceis do ensino médio e de direito dos EUA no 90º percentil superior. Ele também pode detectar vulnerabilidades de contratos inteligentes Ethereum, entre outras coisas. A reclamação surge no momento em que Elon Musk, Steve Wozniack da Apple e vários especialistas em IA assinaram uma petição pedindo ao Future of Life Institute que “pausasse” o desenvolvimento de sistemas de IA mais poderosos que o GPT-4, que foi introduzido em 22 de março.

O presidente do CAIDP, Marc Rotenberg, foi um dos 2600 signatários da petição. Para o bem ou para o mal, os autores argumentaram que “a IA avançada poderia representar uma mudança profunda na história da vida na Terra”. A Organização das Nações Unidas para a Educação, a Ciência e a Cultura (UNESCO) também instou os estados a colocarem em ação a estrutura da “Recomendação sobre a Ética da IA” da ONU.

.