FTC investiga ChatGPT sobre questões de proteção ao consumidor

FTC investiga ChatGPT sobre questões de proteção ao consumidor

Carimbo de data / hora: 13 de julho de 2023, 8h
FTC investiga ChatGPT sobre questões de proteção ao consumidor PlatoBlockchain Data Intelligence. Pesquisa vertical. Ai.

A Comissão Federal de Comércio dos EUA (FTC) começou uma verificação completa da OpenAI, a empresa de São Francisco que criou o conhecido chatbot de IA, ChatGPT. Os meios de comunicação The Washington Post relataram em 13 de julho de 2023 que esta verificação visa ver se a OpenAI violou as leis que mantêm os clientes seguros, possivelmente colocando em risco sua reputação e dados pessoais.

A FTC emitiu uma demanda de registros de 20 páginas para a OpenAI, buscando saber mais sobre como a empresa lida com possíveis problemas relacionados aos seus modelos de IA. Esta agência governamental está verificando particularmente se a OpenAI foi injusta ou enganosa, causando danos à reputação das pessoas.

A investigação da FTC se estende a um incidente de segurança divulgado pela OpenAI em março de 2023. Um bug nos sistemas da OpenAI permitiu que alguns usuários visualizassem informações relacionadas ao pagamento e alguns dados do histórico de bate-papo de outros usuários. A FTC está investigando se as práticas de segurança de dados da OpenAI neste incidente violaram as leis de proteção ao consumidor.

A FTC também está buscando informações sobre qualquer pesquisa, teste ou pesquisa conduzida pela OpenAI que avaliem o quão bem os consumidores entendem a “precisão ou confiabilidade dos resultados” gerados por suas ferramentas de IA. Além disso, a FTC solicitou detalhes sobre como a OpenAI licencia seus modelos para outras empresas.

Esta investigação surge na sequência de preocupações anteriores levantadas sobre as práticas da OpenAI. Em março de 2023, o Centro de IA e Política Digital (CAIDP) perguntou a FTC para investigar a OpenAI por supostas violações das regras de proteção ao consumidor, citando que a implementação de ferramentas de geração de texto de IA foi “tendenciosa, enganosa e um risco para a segurança pública”, conforme relatado por The Verge.

O CAIDP apontou ameaças potenciais do modelo de texto generativo GPT-4 da OpenAI, incluindo a produção de código malicioso, propaganda altamente personalizada e o potencial de dados de treinamento tendenciosos para resultar em raça injusta e preferências de gênero em áreas como contratação.

A investigação da FTC sobre a OpenAI representa um passo significativo no interesse contínuo da agência em regulamentar as ferramentas de IA. Ele já havia alertado que sistemas de IA tendenciosos poderiam atrair ações de fiscalização. Uma investigação da OpenAI, um dos principais players no campo de IA generativa, marca uma grande escalada nos esforços da FTC.

Carimbo de hora:

Mais de Notícias do Blockchain