FTC opfordrede til at fastfryse OpenAI's 'biased, vildledende' GPT-4

Center for AI og Digital Policy, en non-profit forskningsorganisation, har opfordret USA's Federal Trade Commission til at undersøge OpenAI og hævder, at opkomlingen overtrådte handelslovgivningen ved at udgive GPT-4, et produkt, som centret mener, bedrager og bringer folk i fare.

I en klage [PDF] til forbrugerens vagthund, indgivet torsdag, opfordrede CAIDP embedsmænd til at undersøge og måske regulere OpenAIs generative AI-teknologi, især dens seneste GPT-4-model.

"Federal Trade Commission har erklæret, at brugen af ​​kunstig intelligens skal være 'gennemsigtig, forklarlig, retfærdig og empirisk forsvarlig, mens den fremmer ansvarlighed'," sagde politikcentret. “OpenAIs produkt GPT-4 opfylder ingen af ​​disse krav. Det er på tide, at FTC handler.

"Der bør være uafhængigt tilsyn og evaluering af kommercielle AI-produkter, der tilbydes i USA. CAIDP opfordrer indtrængende FTC til at åbne en undersøgelse af OpenAI, påbyde yderligere kommercielle udgivelser af GPT-4 og sikre etableringen af ​​nødvendige autoværn for at beskytte forbrugere, virksomheder og den kommercielle markedsplads."

Gruppen fremhævede mangler og risici fremhævet i GPT-4's systemkort, en rapport, der beskriver modellens tekniske muligheder.

OpenAI har indrømmet, at GPT-4 er langt fra perfekt; det kan fastholde skævheder, generere skadelig tekst og sprede falsk information, der vildleder brugerne. Startup'ens administrerende direktør Sam Altman er endda gået så langt til siger han er faktisk "en lille smule bange" for teknologiens indvirkning på samfundet.

Backend-systemerne, der administrerede OpenAI's modeller, viste sig også at være usikre, utæt folks personlige oplysninger og betalingsoplysninger.

Under Sektion 5 i FTC-loven er "uretfærdige eller vildledende handlinger eller praksis i eller påvirker handel" forbudt. CAIDP hævdede, at OpenAI har vildledt netbrugere ved at lancere et produkt, der er "partisk, vildledende og en risiko for privatlivets fred og offentlig sikkerhed", på trods af at de kender de farer, det udgør. OpenAI blev også kritiseret i klagen for ikke at være mere gennemsigtig omkring sin model og træningsdata.

"CAIDP opfordrer Kommissionen til at indlede en undersøgelse af OpenAI og finde ud af, at den kommercielle udgivelse af GPT-4 overtræder Section 5 of the FTC Act, FTC's veletablerede vejledning til virksomheder om brug og reklame for AI-produkter, samt nye normer for styring af kunstig intelligens, som USA's regering formelt har godkendt, og de universelle retningslinjer for kunstig intelligens, som førende eksperter og videnskabelige samfund har anbefalet."

Gruppen har bedt FTC om at standse al yderligere kommerciel udrulning af OpenAI's GPT-baserede produkter, foretage en uafhængig vurdering af sin teknologi og sikre sig, at den overholder FTC's regler, før den kan vende tilbage på markedet. Selvom handelens vagthund for nylig har offentliggjort udtalelser, der advarer virksomheder om overhyping og frigive AI-produkter, der kan være misbrugt, ville det være en meget stor opgave at slå ned på GPT-4 og OpenAI.

Registret har bedt OpenAI om en kommentar. Og nej, vi vil ikke bede ChatGPT om et svar, af grunde, der burde være tydelige nu. ®

• SEO Powered Content & PR Distribution. Bliv forstærket i dag.
• Platoblokkæde. Web3 Metaverse Intelligence. Viden forstærket. Adgang her.
• Kilde: https://go.theregister.com/feed/www.theregister.com/2023/03/30/ftc_openai_gpt4/