Certaines universités choisissent de ne plus utiliser le logiciel développé par Turnitin, conçu pour détecter si le texte des essais et des devoirs soumis par les étudiants a été rédigé par l'IA.
Turnitin, pour ceux qui ne le savent pas, propose des outils aux enseignants pour identifier le plagiat dans le travail scolaire des gens et a ajouté en avril la possibilité de vérifier la prose écrite à la machine. S'il est laissé activé, il analyse automatiquement les documents et traite le texte en morceaux, analysant chaque phrase et attribuant un score de 0 si elle semble avoir été composée par des humains et de 1 si elle semble avoir été générée automatiquement à l'aide de l'IA. Un score moyen est calculé pour le fichier afin de prédire la quantité de texte qui semble être écrit par l'IA.
Il y a une question plus vaste de savoir comment Turnitin détecte l'écriture de l'IA et si cela est même possible.
Cependant, diverses universités américaines, notamment Vanderbilt, Michigan State, Northwestern et l'Université du Texas à Austin, ont décidé de ne pas utiliser ce logiciel, craignant qu'il ne conduise à ce que les étudiants soient faussement accusés de tricherie, car noté par Bloomberg.
Turnitin a admis que son outil de détection de texte IA n'est pas parfait, mais a affirmé que son taux de faux positifs est inférieur à XNUMX %.
L'Université Vanderbilt a déclaré que même ce chiffre était trop élevé et entraînerait le signalement par erreur de 750 articles par an, étant donné qu'elle a publié 75,000 2022 articles via le système Turnitin en XNUMX.
« De plus, la question plus large se pose de savoir comment Turnitin détecte l’écriture de l’IA et si cela est même possible. À ce jour, Turnitin ne donne aucune information détaillée sur la façon dont il détermine si un écrit est généré par l’IA. Tout ce qu'ils ont dit, c'est que l'outil recherche des modèles courants dans l'écriture de l'IA, mais ils n'expliquent ni ne définissent ces modèles », Michael Coley, consultant en technologie pédagogique de l'institution. expliqué le mois dernier.
« Il existe de réels problèmes de confidentialité liés à la collecte des données des étudiants et à leur saisie dans un détecteur géré par une société distincte dont les politiques de confidentialité et d'utilisation des données sont inconnues. Fondamentalement, la détection de l’IA est déjà une tâche très difficile à résoudre pour la technologie (si elle est même possible) et cela ne fera que devenir plus difficile à mesure que les outils d’IA deviennent plus courants et plus avancés. Sur cette base, nous ne pensons pas que le logiciel de détection de l’IA soit un outil efficace qui devrait être utilisé.
Annie Chechitelli, directrice des produits de Turnitin, a déclaré Le registre que l'outil de signalement de l'IA ne devrait pas être utilisé pour punir automatiquement les étudiants et que 98 % de ses clients utilisent cette fonctionnalité. Cela dit, il est automatiquement activé et les enseignants qui ne souhaitent pas voir ses scores doivent explicitement se désinscrire. Ils pourraient également laisser la fonctionnalité activée et l’ignorer.
"Chez Turnitin, notre conseil est, et a toujours été, que rien ne remplace la connaissance d'un étudiant, de son style d'écriture et de sa formation", nous a expliqué Chechitelli.
« La technologie Turnitin n'est pas destinée à remplacer la discrétion professionnelle des éducateurs. Les rapports indiquant la présence d'écriture IA, comme la fonction de détection d'écriture IA de Turnitin, fournissent simplement des points de données et des ressources pour soutenir une conversation avec les étudiants, et non des déterminations de mauvaise conduite.
"Il s'agit d'une pièce d'un puzzle plus vaste qui comprend de nombreux éléments."
Les rapports indiquant la présence d'écritures IA fournissent simplement des points de données pour étayer une conversation avec les étudiants.
Même si un logiciel comme le détecteur d'IA de Turnitin n'est pas destiné à être utilisé pour pénaliser automatiquement les étudiants, les résultats influencent toujours grandement les enseignants.
Un professeur de l'Université Texas A&M-Commerce, par exemple, a haussé les sourcils lorsqu'il a utilisé ChatGPT pour tenter de détecter si les papiers qu'il notait étaient rédigés en ML ou non. Les notes des étudiants ont été suspendues et certains ont été innocentés de tricherie tandis que d'autres ont soumis à nouveau leur travail.
Il est difficile de savoir si le texte a été créé par un humain ou une machine. OpenAI décroché son classificateur de sortie IA six mois après sa sortie en raison de sa faible précision, et a déclaré qu'il essayait de proposer de nouvelles méthodes de détection du contenu généré par l'IA.
Pour compliquer encore les choses, le logiciel de détection de l’IA peut facilement être perturbé lors de l’analyse d’un texte écrit par des humains puis modifié à l’aide de l’IA et vice versa. Un précédent étude dirigé par des informaticiens de l'Université du Maryland, a découvert que les chances pour les meilleurs classificateurs de détecter le texte de l'IA ne sont pas meilleures qu'un tirage au sort. ®
- Contenu propulsé par le référencement et distribution de relations publiques. Soyez amplifié aujourd'hui.
- PlatoData.Network Ai générative verticale. Autonomisez-vous. Accéder ici.
- PlatoAiStream. Intelligence Web3. Connaissance Amplifiée. Accéder ici.
- PlatonESG. Carbone, Technologie propre, Énergie, Environnement, Solaire, La gestion des déchets. Accéder ici.
- PlatoHealth. Veille biotechnologique et essais cliniques. Accéder ici.
- La source: https://go.theregister.com/feed/www.theregister.com/2023/09/23/turnitin_ai_detection/
- :possède
- :est
- :ne pas
- $UP
- 000
- 1
- 2022
- 7
- 75
- 98
- a
- capacité
- A Propos
- précision
- accusé
- ajoutée
- En outre
- admis
- Avancée
- Après
- AI
- déjà
- aussi
- toujours
- Américaine
- an
- l'analyse
- ainsi que
- apparaît
- Avril
- SONT
- AS
- At
- austin
- automatiquement
- moyen
- fond
- basé
- BE
- devenez
- était
- va
- CROYONS
- LES MEILLEURS
- Améliorée
- Bloomberg
- plus large
- mais
- by
- calculé
- CAN
- chances
- ChatGPT
- tricherie
- vérifier
- chef
- chef de produit
- revendiqué
- CO
- Coin
- comment
- Commun
- Société
- composants électriques
- composé
- ordinateur
- Préoccupations
- considérant
- consultant
- contenu
- Conversation
- pourriez
- créée
- Clients
- données
- points de données
- Date
- décidé
- Vous permet de définir
- un
- détaillé
- détecter
- Détection
- détermine
- difficile
- discrétion
- do
- INSTITUTIONNELS
- Don
- deux
- chacun
- même
- pédagogique
- éducateurs
- Efficace
- activé
- entrant
- Pourtant, la
- exemple
- Expliquer
- non
- craintes
- Fonctionnalité
- Figure
- Déposez votre dernière attestation
- Pour
- trouvé
- fondamentalement
- plus
- généré
- donne
- considérablement
- l'orientation
- Plus fort
- Vous avez
- he
- Haute
- appuyez en continu
- Comment
- Cependant
- HTTPS
- humain
- Les êtres humains
- identifier
- if
- in
- inclut
- Y compris
- influencer
- d'information
- Institution
- éducatif
- développement
- ISN
- IT
- SES
- jpg
- Savoir
- connaissance
- plus importantes
- Nom de famille
- conduire
- Laisser
- LED
- à gauche
- moins
- comme
- LOOKS
- click
- gérés
- de nombreuses
- des
- Maryland
- compte
- signifiait
- méthodes
- Michael
- Michigan
- Mois
- mois
- PLUS
- (en fait, presque toutes)
- beaucoup
- Nouveauté
- aucune
- of
- de rabais
- Offres Speciales
- Financier
- on
- ONE
- uniquement
- OpenAI
- or
- nos
- ande
- plus de
- papiers
- motifs
- Personnes
- pour cent
- parfaite
- pièce
- Platon
- Intelligence des données Platon
- PlatonDonnées
- des notes bonus
- politiques
- pauvres
- positif
- possible
- prévoir
- présence
- précédent
- la confidentialité
- les process
- Produit
- professionels
- fournir
- mettre
- puzzle
- question
- collectés
- Tarif
- réal
- libéré
- remplacer
- Rapports
- Resources
- résultat
- Résultats
- s
- Saïd
- L'école
- scientifiques
- But
- sur le lien
- semble
- phrase
- séparé
- devrait
- simplement
- SIX
- Six mois
- Logiciels
- RÉSOUDRE
- quelques
- Région
- Encore
- Étudiant
- Étudiante
- Catégorie
- soumis
- Support
- commuté
- combustion propre
- prise
- Tâche
- enseignants
- Technologie
- Texas
- texte
- que
- qui
- La
- leur
- puis
- Là.
- l'ont
- this
- ceux
- Avec
- à
- dit
- trop
- outil
- les outils
- Lancer
- essayer
- Tourné
- Universités
- université
- inconnu
- us
- Utilisation
- utilisé
- d'utiliser
- en utilisant
- très
- vice
- souhaitez
- était
- Façon..
- we
- ont été
- Quoi
- quand
- que
- tout en
- WHO
- sera
- comprenant
- activités principales
- pourra
- écriture
- code écrit
- an
- zéphyrnet