Commentaires L'entreprise de stockage cloud Dropbox a passé du temps mercredi à essayer de nettoyer une fuite de désinformation parce que quelqu'un l'était mal sur l'Internet.
Grâce à l'exposition à la chambre d'écho des médias sociaux, diverses personnes – dont le CTO d'Amazon, Werner Vogels – ont été convaincues que Dropbox, qui a introduit un ensemble de Outils IA en juillet, alimentait par défaut OpenAI, créateur de ChatGPT et DALL•E 3, avec des fichiers utilisateur comme source de formation pour les modèles d'IA.
Vogels et autres informé Les clients Dropbox doivent vérifier leurs paramètres et refuser d'autoriser les services d'IA tiers à accéder à leurs fichiers. Pour certaines personnes, ce paramètre semblait être une option d'adhésion ; pour d’autres, désabonnez-vous. Aucune explication n'a été proposée par Dropbox.
L'artiste Karla Ortiz et la célébrité Justine Bateman, qui, comme Vogels, sont très suivies sur les réseaux sociaux, chacune publiquement. condamné Dropbox semble automatiquement, par défaut, permettre à des équipes d'IA extérieures d'accéder aux documents des personnes.
Ce n'était pas un scénario invraisemblable, étant donné que les entreprises technologiques ont tendance à faire de l'opt-in la valeur par défaut et qu'OpenAI a refusé de divulguer les données de formation de ses modèles. Le super laboratoire d'apprentissage automatique soutenu par Microsoft, pour ceux qui ne l'ont pas suivi de près, a été poursuivi en justice par de nombreux artistes, écrivains et développeurs pour avoir prétendument formé ses modèles sur du contenu protégé par le droit d'auteur sans autorisation. À ce jour, certains de ces différends demeurent non résolu tandis que d'autres ont été jeté.
Alors que les créateurs de contenu suscitent une indignation généralisée à l'égard des modèles d'IA entraînés sans autorisation dans le cadre de leur travail, OpenAI et ses bailleurs de fonds comme Microsoft ont parié – en proposant de indemniser les clients en utilisant les services d'IA – qu'ils auront gain de cause devant les tribunaux, ou au moins gagneront suffisamment d'argent pour ignorer les dommages potentiels.
C'est un pari que YouTube a gagné. Le site de partage de vidéos s'est fait un nom en distribuant des clips protégés par le droit d'auteur que ses utilisateurs ont mis en ligne. Poursuivi par Viacom pour violation massive du droit d'auteur en 2007, YouTube a échappé à toute responsabilité grâce au Digital Millennium Copyright Act.
Quoi qu'il en soit, le PDG de Dropbox, Drew Houston, a dû remettre Vogels au clair, en répondant au message de l'Amazonien en écriture: « Les services d'IA tiers ne sont utilisés que lorsque les clients s'engagent activement avec les fonctionnalités d'IA de Dropbox qui sont elles-mêmes clairement étiquetées…
«La bascule IA tierce dans le menu des paramètres active ou désactive l'accès aux fonctionnalités et fonctionnalités de DBX AI. Ni ce paramètre ni aucun autre paramètre n’envoie automatiquement ou passivement les données client de Dropbox à un service d’IA tiers.
En d'autres termes, le paramètre est désactivé jusqu'à ce qu'un utilisateur choisit d'intégrer un service d'IA avec leur compte, qui active ensuite le paramètre. Le désactiver coupe l’accès à ces services d’apprentissage automatique tiers.
Néanmoins, Houston a reconnu que Dropbox méritait d'être blâmé pour ne pas communiquer plus clairement avec ses clients.
Vogels, cependant, a insisté sur le contraire. "Drew, cette erreur est entièrement de ma faute", dit-il. écrit. «Certains amis m'ont signalé cela et, avec un biais de confirmation, j'ai tiré une mauvaise conclusion. Au lieu de cela, j'aurais dû vous contacter pour demander des éclaircissements. Mes sincères excuses."
La confiance est partie
Cela aurait pu être la fin, mais pour une chose : comme noté Selon le développeur Simon Willison, de nombreuses personnes ne font plus confiance à ce que disent les grandes entités technologiques ou d'IA. Willison appelle cela la « crise de la confiance dans l’IA » et propose quelques suggestions qui pourraient aider, comme OpenAI révélant les données qu’il utilise pour la formation des modèles. Il soutient qu'une plus grande transparence est nécessaire.
C’est un diagnostic juste pour ce qui afflige l’ensemble de l’industrie. Les titans de la technologie derrière ce que l'on appelle le « capitalisme de surveillance » – Amazon, Google, Meta, les facilitateurs et courtiers de collecte de données comme Adobe et Oracle, et les sociétés d'IA avides de données comme OpenAI – ont un historique d'opacité en ce qui concerne les pratiques de confidentialité. les pratiques commerciales et les algorithmes.
Il faudrait un livre pour détailler les infractions au fil des années – les scandales liés à la vie privée, les poursuites et les jugements de consentement. Rappelons que c’est l’industrie qui a développé des « modèles sombres » – des moyens de manipuler les gens via la conception d’interfaces – et qui opte systématiquement par défaut pour les clients dans les services, car ils savent que peu de gens prendraient la peine de faire ce choix.
Qu'il suffise de remarquer qu'il y a dix ans, Facebook, dans un moment d'honnêteté, faisait référence à son Données privées comme Politique d'utilisation des données. La confidentialité n’a tout simplement jamais été accessible à ceux qui utilisent les plateformes technologiques populaires – peu importe la fréquence à laquelle ces entreprises répètent leur mantra : « Nous prenons la confidentialité très au sérieux ».
Willison conclut que les technologues doivent gagner notre confiance et se demande comment nous pouvons les aider à y parvenir. La transparence fait partie de la solution : nous devons être en mesure de vérifier les algorithmes et les données utilisées. Mais cela doit être accompagné d’une terminologie mutuellement comprise. Lorsqu'un fournisseur de technologie vous dit « Nous ne vendons pas vos données », cela n'est pas censé signifier « Nous laissons des tiers que vous ne connaissez pas créer des modèles ou cibler des publicités en utilisant vos données, qui restent sur nos serveurs et ne sont techniquement pas disponibles ». Je ne suis pas vendu.
Cela nous ramène à la reconnaissance de Houston selon laquelle « toute confusion de la part des clients à ce sujet est de notre faute, et nous prendrons notre tour pour nous assurer que tout cela est parfaitement clair ! »
Il existe une grande confusion quant au fonctionnement du code, des algorithmes, des services cloud et des pratiques commerciales. Et parfois, c'est une fonctionnalité plutôt qu'un bug. ®
- Contenu propulsé par le référencement et distribution de relations publiques. Soyez amplifié aujourd'hui.
- PlatoData.Network Ai générative verticale. Autonomisez-vous. Accéder ici.
- PlatoAiStream. Intelligence Web3. Connaissance Amplifiée. Accéder ici.
- PlatonESG. Carbone, Technologie propre, Énergie, Environnement, Solaire, La gestion des déchets. Accéder ici.
- PlatoHealth. Veille biotechnologique et essais cliniques. Accéder ici.
- La source: https://go.theregister.com/feed/www.theregister.com/2023/12/15/dropbox_ai_training/
- :possède
- :est
- :ne pas
- $UP
- 7
- a
- Capable
- A Propos
- accès
- accompagné
- Compte
- Agis
- activement
- Adobe
- annonces
- depuis
- AI
- Modèles AI
- Services d'IA
- algorithmes
- Tous
- prétendument
- Permettre
- Amazon
- parmi
- an
- et les
- tous
- paru
- SONT
- Arguments
- Artistes
- AS
- demandant
- At
- audit
- automatiquement
- disponibles
- RETOUR
- backers
- BE
- est devenu
- car
- était
- derrière
- va
- Pari
- biais
- Big
- grande technologie
- biz
- livre
- déranger
- Apportez le
- courtiers
- Punaise
- construire
- la performance des entreprises
- pratiques commerciales
- mais
- by
- CAN
- capitalisme
- Celeb
- CEO
- Chambre
- ChatGPT
- vérifier
- le choix
- espace extérieur plus propre,
- clairement
- clips
- étroitement
- le cloud
- services de cloud computing
- stockage cloud
- CO
- code
- communicant
- complètement
- conclut
- conclusion
- confirmation
- confusion
- connecté
- consentement
- contenu
- créateurs de contenu
- convaincu
- droit d'auteur
- Violation du droit d'auteur
- pourriez
- Court Intérieur
- créateurs
- crise
- CTO
- des clients
- données client
- Clients
- coupes
- Foncé
- données
- Date
- décennie
- Réglage par défaut
- Conception
- détail
- développé
- Développeur
- mobiles
- diagnostic
- numérique
- Divulguer
- différends
- distribuer
- do
- INSTITUTIONNELS
- Don
- Dropbox
- chacun
- gagner
- echo
- permet
- fin
- s'engager
- assez
- assez d'argent
- Tout
- entités
- erreur
- événement
- explication
- Exposition
- juste
- FB
- Fonctionnalité
- Fonctionnalités:
- alimentation
- few
- Fichiers
- entreprises
- Flips
- Abonnement
- Pour
- amis
- rassemblement
- donné
- plus grand
- ait eu
- Vous avez
- havre
- he
- vous aider
- Histoire
- Houston
- Comment
- Cependant
- HTTPS
- i
- peu plausible
- in
- Y compris
- industrie
- violation
- plutôt ;
- Interfaces
- Internet
- développement
- introduit
- ISN
- IT
- SES
- jpg
- Juillet
- Savoir
- laboratoire
- Libellé
- Poursuites
- au
- laisser
- responsabilité
- comme
- ll
- plus long
- Lot
- LES PLANTES
- a prendre une
- fabricant
- Mantra
- de nombreuses
- Beaucoup de gens
- massif
- Matière
- me
- signifier
- Médias
- Menu
- Meta
- Microsoft
- Millennium
- Désinformation
- modèle
- numériques jumeaux (digital twin models)
- moment
- de l'argent
- PLUS
- bouche
- mutuellement
- my
- prénom
- Besoin
- Ni
- n'allons jamais
- aucune
- nombreux
- observer
- of
- de rabais
- présenté
- offrant
- Offres Speciales
- souvent
- on
- ONE
- uniquement
- OpenAI
- Options
- or
- oracle
- Autre
- Autres
- autrement
- nos
- ande
- au contrôle
- partie
- les parties
- motifs
- Personnes
- autorisation
- Plateformes
- Platon
- Intelligence des données Platon
- PlatonDonnées
- Populaire
- Post
- défaillances
- pratiques
- la confidentialité
- de voiture.
- publiquement
- plutôt
- rassure
- visée
- se réfère
- refusé
- Considérer
- rester
- reste
- répondre
- Reuters
- révélateur
- régulièrement
- s
- dire
- scandales
- scénario
- apparemment
- vendre
- envoie
- dangereux
- Serveurs
- service
- Services
- set
- mise
- Paramétres
- partage
- devrait
- hausser les épaules
- significative
- Simon
- simplement
- site
- So
- Réseaux sociaux
- réseaux sociaux
- vendu
- sur mesure
- quelques
- Quelqu'un
- parfois
- dépensé
- storage
- droit
- poursuivi
- Super
- supposé
- sûr
- surveillance
- Prenez
- Target
- technologie
- techniquement
- technologues
- Technologie
- raconte
- Avoir tendance
- terminologie
- que
- qui
- Le
- leur
- Les
- se
- puis
- Là.
- Ces
- l'ont
- chose
- Troisièmement
- des tiers
- des tiers.
- this
- ceux
- Avec
- fiable
- titans
- à
- qualifié
- Formation
- Transparence
- La confiance
- essayer
- TOUR
- compris
- jusqu'à
- téléchargé
- us
- utilisé
- d'utiliser
- Utilisateur
- utilisateurs
- Usages
- en utilisant
- divers
- très
- Vidéo
- était
- façons
- we
- Mercredi
- Quoi
- quand
- qui
- tout en
- WHO
- répandu
- comprenant
- sans
- A gagné
- des mots
- activités principales
- pourra
- écrivains
- faux
- années
- Vous n'avez
- Votre
- Youtube
- zéphyrnet