FTC onderzoekt ChatGPT vanwege zorgen over consumentenbescherming

FTC onderzoekt ChatGPT vanwege zorgen over consumentenbescherming

Tijdstempel: 13 juli 2023 8:30 uur
FTC onderzoekt ChatGPT vanwege zorgen over consumentenbescherming PlatoBlockchain Data Intelligence. Verticaal zoeken. Ai.

De Amerikaanse Federal Trade Commission (FTC) heeft: begonnen een grondige check bij OpenAI, het bedrijf uit San Francisco dat de bekende AI-chatbot ChatGPT heeft gemaakt. Nieuwsuitzendingen The Washington Post meldden op 13 juli 2023 dat deze controle bedoeld is om te zien of OpenAI in strijd is met wetten die klanten beschermen, waardoor hun persoonlijke reputatie en gegevens mogelijk in gevaar komen.

De FTC heeft een verzoek van 20 pagina's voor records ingediend bij OpenAI, om meer te weten te komen over hoe het bedrijf omgaat met mogelijke problemen met betrekking tot hun AI-modellen. Deze overheidsinstantie controleert met name of OpenAI oneerlijk of misleidend is geweest, waardoor de reputatie van mensen is geschaad.

Het onderzoek van de FTC strekt zich uit tot een beveiligingsincident dat OpenAI in maart 2023 openbaarde. Een bug in de systemen van OpenAI had ervoor gezorgd dat sommige gebruikers betalingsgerelateerde informatie en sommige gegevens uit de chatgeschiedenis van andere gebruikers konden bekijken. De FTC onderzoekt of de gegevensbeveiligingspraktijken van OpenAI in dit incident in strijd waren met de wetgeving inzake consumentenbescherming.

De FTC is ook op zoek naar informatie over alle onderzoeken, tests of enquêtes die door OpenAI zijn uitgevoerd om te beoordelen hoe goed consumenten de "nauwkeurigheid of betrouwbaarheid van outputs" die door haar AI-tools worden gegenereerd, begrijpen. Bovendien heeft de FTC om details gevraagd over hoe OpenAI zijn modellen in licentie geeft aan andere bedrijven.

Dit onderzoek komt in de nasleep van eerdere zorgen over de praktijken van OpenAI. In maart 2023 heeft het Centrum voor AI en Digitaal Beleid (CAIDP) gevraagd de FTC gaat OpenAI onderzoeken wegens vermeende schendingen van de regels voor consumentenbescherming, daarbij verwijzend naar het feit dat de uitrol van AI-tools voor het genereren van tekst “bevooroordeeld, bedrieglijk en een risico voor de openbare veiligheid” is, zoals gerapporteerd door The Verge.

De CAIDP had gewezen op mogelijke bedreigingen van het GPT-4-generatieve tekstmodel van OpenAI, waaronder de productie van kwaadaardige code, zeer op maat gemaakte propaganda en het potentieel voor bevooroordeelde trainingsgegevens om te resulteren in oneerlijke ras- en geslachtsvoorkeuren op gebieden zoals aanwerving.

Het onderzoek van de FTC naar OpenAI is een belangrijke stap in de aanhoudende interesse van het bureau in het reguleren van AI-tools. Het heeft eerder gewaarschuwd dat bevooroordeelde AI-systemen tot handhavingsmaatregelen kunnen leiden. Een onderzoek naar OpenAI, een van de belangrijkste spelers op het gebied van generatieve AI, markeert een grote escalatie in de inspanningen van de FTC.

Tijdstempel:

Meer van Blockchain News