'Bevooroordeeld, misleidend': Centrum voor AI beschuldigt de maker van ChatGPT van het overtreden van handelswetten

Het Center for Artificial Intelligence and Digital Policy (CAIDP) heeft een klacht ingediend bij de Amerikaanse Federal Trade Commission (FTC) om te voorkomen dat krachtige AI-systemen worden vrijgegeven aan consumenten. De klacht ging over OpenAI's onlangs uitgebrachte grote taalmodel, GPT-4, dat de CAIDP in zijn klacht van 30 maart omschrijft als "bevooroordeeld, bedrieglijk en een risico voor de privacy en de openbare veiligheid".

CAIDP, een onderzoeksorganisatie zonder winstoogmerk, beweerde dat de commerciële introductie van GPT-4 in strijd was met Sectie 5 van de FTC-wet, die "oneerlijke of misleidende handelingen of praktijken in of van invloed op de handel" verbiedt. Om haar zaak te ondersteunen, citeerde de AI-ethische organisatie informatie uit de GPT-4-systeemkaart, waarin stond: “We ontdekten dat het model het potentieel heeft om specifieke vooroordelen en wereldbeelden te versterken en te reproduceren, inclusief schadelijke stereotiepe en vernederende associaties voor bepaalde gemarginaliseerde groepen ”, schreven de onderzoekers.

"AI-systemen zullen een nog groter potentieel hebben om hele ideologieën, wereldbeelden, waarheden en onwaarheden te versterken en vast te zetten of vast te zetten, waardoor toekomstige betwisting, reflectie en verbetering worden uitgesloten", aldus hetzelfde document. CAIDP verklaarde ook dat OpenAI GPT-4 voor commercieel gebruik aan het publiek heeft vrijgegeven terwijl het zich volledig bewust was van de risico's, en dat er geen onafhankelijke beoordeling van GPT-4 was uitgevoerd voorafgaand aan de release.

Als gevolg hiervan heeft de CAIDP de FTC verzocht de producten van OpenAI en andere exploitanten van krachtige AI-systemen te onderzoeken: “Het is tijd voor de FTC om actie te ondernemen […] CAIDP dringt er bij de FTC op aan een onderzoek naar OpenAI te openen, verdere commerciële releases van GPT-4, en zorgen voor de instelling van de nodige waarborgen om consumenten, bedrijven en de commerciële markt te beschermen.”

Terwijl ChatGPT-3 in november werd uitgebracht, zou de meest recente versie, GPT-4, tien keer slimmer zijn. Uit een studie die op 14 maart werd gepubliceerd, bleek dat GPT-4 de moeilijkste Amerikaanse middelbare school- en rechtenexamens in het hoogste 90e percentiel kon halen. Het kan onder andere ook kwetsbaarheden in slimme contracten van Ethereum detecteren. De klacht komt op het moment dat Elon Musk, Apple's Steve Wozniack en een hele reeks AI-experts een petitie ondertekenden waarin het Future of Life Institute wordt gevraagd de ontwikkeling van AI-systemen die krachtiger zijn dan GPT-4, dat op 22 maart werd geïntroduceerd, te "pauzeren".

CAIDP-voorzitter Marc Rotenberg was een van de 2600 ondertekenaars van de petitie. Voor beter of slechter, voerden de auteurs aan dat "geavanceerde AI een diepgaande verandering in de geschiedenis van het leven op aarde zou kunnen betekenen." De Organisatie van de Verenigde Naties voor Onderwijs, Wetenschap en Cultuur (UNESCO) heeft er ook bij staten op aangedrongen om het raamwerk "Aanbeveling over de ethiek van AI" van de VN in praktijk te brengen.

.