Julkaisemme luokittelijan, joka on koulutettu erottamaan tekoälyn ja ihmisen kirjoittaman tekstin.
Olemme kouluttaneet luokittelijan erottamaan ihmisen kirjoittaman tekstin eri palveluntarjoajien tekoälyn kirjoittamasta tekstistä. Vaikka kaikkea tekoälyn kirjoittamaa tekstiä on mahdotonta havaita luotettavasti, uskomme, että hyvät luokittelijat voivat auttaa vähentämään vääriä väitteitä, joiden mukaan tekoälyn luoma teksti on ihmisen kirjoittama: esimerkiksi juoksu automatisoidut väärän tiedon kampanjat, käyttää tekoälytyökaluja akateemiseen epärehellisyyteen ja sijoittaa AI-chatbotin ihmiseksi.
Luokittelumme ei ole täysin luotettava. Englanninkielisten tekstien "haastejoukkoa" koskevissa arvioinneissamme luokittelijamme tunnistaa oikein 26 % tekoälyn kirjoittamasta tekstistä (oikeat positiiviset) "todennäköisesti tekoälyn kirjoitetuksi" ja merkitsee ihmisen kirjoittaman tekstin virheellisesti tekoälyn kirjoittamaksi 9 %. aika (vääriä positiivisia). Luokittelijamme luotettavuus yleensä paranee syötetyn tekstin pituuden kasvaessa. Verrattuna meidän aiemmin julkaistu luokitin, tämä uusi luokitin on huomattavasti luotettavampi uusimpien tekoälyjärjestelmien tekstissä.
Julkaisemme tämän luokituksen saadaksemme palautetta siitä, ovatko tämän kaltaiset epätäydelliset työkalut hyödyllisiä. Työmme tekoälyn luoman tekstin havaitsemiseksi jatkuu, ja toivomme voivamme jakaa parannettuja menetelmiä tulevaisuudessa.
Kokeile itse ilmaista keskeneräisten töiden luokitteluamme:
Rajoitukset
Luokittimellamme on useita tärkeitä rajoituksia. Sitä ei pitäisi käyttää ensisijaisena päätöksentekovälineenä, mutta sen sijaan täydentää muita menetelmiä tekstin lähteen määrittämiseksi.
- Luokitin on erittäin epäluotettava lyhyissä teksteissä (alle 1,000 merkkiä). Pidemmätkin tekstit ovat joskus luokitellut väärin.
- Joskus luokittelijamme merkitsee ihmisen kirjoittaman tekstin virheellisesti, mutta luottavaisesti tekoälyn kirjoittamaksi.
- Suosittelemme luokittimen käyttöä vain englanninkieliselle tekstille. Se toimii huomattavasti huonommin muilla kielillä, ja se on epäluotettava koodissa.
- Hyvin ennustettavaa tekstiä ei voida tunnistaa luotettavasti. On esimerkiksi mahdotonta ennustaa, ovatko ensimmäiset 1,000 alkulukua kirjoittaneet tekoäly vai ihmiset, koska oikea vastaus on aina sama.
- Tekoälyllä kirjoitettua tekstiä voidaan muokata luokittelun kiertämiseksi. Meidän kaltaisia luokituksia voidaan päivittää ja kouluttaa uudelleen onnistuneiden hyökkäysten perusteella, mutta on epäselvää, onko havaitsemisesta hyötyä pitkällä aikavälillä.
- Neuraaliverkkoihin perustuvien luokittimien tiedetään olevan huonosti kalibroituja harjoitustietojensa ulkopuolella. Jos syötteet poikkeavat suuresti harjoitussarjamme tekstistä, luokittelija on joskus erittäin varma väärästä ennustuksesta.
Luokittelijan koulutus
Luokittimemme on kielimalli, joka on hienosäädetty tietojoukolle, joka koostuu ihmisen kirjoittaman tekstin ja tekoälyn kirjoittaman tekstin pareista samasta aiheesta. Keräsimme tämän tietojoukon useista lähteistä, joiden uskomme olevan ihmisten kirjoittamia, kuten koulutusta edeltävistä tiedoista ja ihmisten esittelyistä osoitteeseen lähetettyjen kehotteiden perusteella. Ohjeita GPT. Jaoimme jokaisen tekstin kehotteeseen ja vastaukseen. Näiden kehotteiden perusteella loimme vastauksia useista erilaisista kielimalleista, joita olemme kouluttaneet ja muut organisaatiot. Verkkosovelluksessamme säädämme luottamuskynnystä pitääksemme väärän positiivisen määrän alhaisena. Toisin sanoen merkitsemme tekstin todennäköiseksi tekoälyn kirjoitetuksi vain, jos luokittelija on erittäin varma.
Vaikutus kouluttajiin ja pyytää osallistumaan
Ymmärrämme, että tekoälyn kirjoitetun tekstin tunnistaminen on ollut tärkeä keskustelunaihe opettajien keskuudessa, ja yhtä tärkeää on tunnistaa tekoälyn luomien tekstiluokittajien rajat ja vaikutukset luokkahuoneessa. Olemme kehittäneet a alustava resurssi ChatGPT:n käytöstä opettajille, jossa kuvataan joitakin käyttötapoja ja niihin liittyviä rajoituksia ja huomioita. Vaikka tämä resurssi on keskittynyt kouluttajiin, odotamme luokittelijoillamme ja siihen liittyvillä luokittelutyökaluillamme olevan vaikutusta toimittajiin, väärien tai väärien tietojen tutkijoihin ja muihin ryhmiin.
Olemme tekemisissä yhdysvaltalaisten opettajien kanssa oppiaksemme, mitä he näkevät luokkahuoneissaan, ja keskustellaksemme ChatGPT:n kyvyistä ja rajoituksista, ja jatkamme laajentamistamme oppiessamme. Nämä ovat tärkeitä keskusteluja osana missioamme on ottaa käyttöön suuria kielimalleja turvallisesti suoraan kosketuksissa asianomaisiin yhteisöihin.
Jos nämä ongelmat vaikuttavat suoraan sinuun (mukaan lukien opettajat, järjestelmänvalvojat, vanhemmat, opiskelijat ja koulutuspalvelujen tarjoajat, mutta ei niihin rajoittuen), anna meille palautetta käyttämällä tämä lomake. Suoraa palautetta aiheesta alustava resurssi on hyödyllinen, ja olemme myös tervetulleita kaikkiin opettajien kehittämiin tai hyödyllisiksi katsomiinsa resursseihin (esim. kurssiohjeet, kunniakoodit ja käytäntöpäivitykset, interaktiiviset työkalut, tekoälyn lukutaitoohjelmat).
- SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
- Platoblockchain. Web3 Metaverse Intelligence. Tietoa laajennettu. Pääsy tästä.
- Lähde: https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text/
- 000
- 1
- 26%
- 7
- a
- akateeminen
- ylläpitäjät
- Etu
- AI
- AI chatbot
- Kaikki
- aina
- keskuudessa
- ja
- vastaus
- sovelluksen
- liittyvä
- Hyökkäykset
- saatavissa
- perustua
- koska
- Uskoa
- alle
- välillä
- laajentaa
- soittaa
- ei voi
- kyvyt
- merkkejä
- chatbot
- ChatGPT
- vaatimukset
- koodi
- yhteisöjen
- verrattuna
- Täydentää
- luottamus
- luottavainen
- itsevarmasti
- näkökohdat
- ottaa yhteyttä
- jatkaa
- keskustelut
- Kurssi
- tiedot
- Päätöksenteko
- sijoittaa
- Detection
- määritetään
- kehitetty
- kehittämällä
- eri
- ohjata
- suoraan
- pohtia
- keskustelu
- erottaa
- jaettu
- kukin
- koulutus
- kasvattajien
- harjoittaa
- Englanti
- yhtä
- arvioinnit
- Jopa
- esimerkki
- odottaa
- erittäin
- palaute
- Etunimi
- keskityttiin
- löytyi
- Ilmainen
- alkaen
- täysin
- tulevaisuutta
- syntyy
- saada
- hyvä
- Ryhmän
- suuntaviivat
- hyödyllinen
- toivoa
- HTTPS
- ihmisen
- Ihmiset
- tunnistettu
- tunnistaa
- tunnistaminen
- Vaikutus
- vaikutti
- Vaikutukset
- tärkeä
- mahdoton
- parani
- in
- Muilla
- Mukaan lukien
- virheellisesti
- Lisäykset
- panos
- sen sijaan
- vuorovaikutteinen
- kysymykset
- IT
- journalistit
- Pitää
- tunnettu
- merkinnät
- Kieli
- kielet
- suuri
- käynnistäminen
- OPPIA
- Pituus
- Todennäköisesti
- rajoitukset
- rajallinen
- rajat
- Lista
- lukutaito
- pitkän aikavälin
- kauemmin
- Matala
- Tekeminen
- Merkitse
- menetelmät
- väärät tiedot
- Tehtävä
- malli
- mallit
- lisää
- verkot
- hermoverkkoihin
- Uusi
- numero
- numerot
- ONE
- OpenAI
- organisaatioiden
- Muut
- ääriviivat
- Outreach
- ulkopuolella
- paria
- vanhemmat
- osa
- suorittaa
- kappale
- Platon
- Platonin tietotieto
- PlatonData
- Ole hyvä
- Kohta
- politiikka
- paikannus
- positiivinen
- ennustaa
- Ennustettavissa
- ennustus
- ensisijainen
- tärkein
- Ohjelmat
- toimittaa
- tarjoajat
- julkisesti
- hinta
- äskettäinen
- tunnistaa
- suositella
- julkaistu
- luotettavuus
- luotettava
- Tutkijat
- resurssi
- Esittelymateriaalit
- vastaus
- juoksu
- turvallisesti
- sama
- koska
- palvelu
- palveluntarjoajat
- setti
- Jaa:
- Lyhyt
- shouldnt
- merkittävästi
- jonkin verran
- lähde
- Lähteet
- Opiskelijat
- toimitettu
- onnistunut
- niin
- järjestelmät
- opettajat
- -
- Lähde
- heidän
- kynnys
- että
- työkalut
- aihe
- koulutettu
- koulutus
- totta
- tyypillisesti
- päivitetty
- Päivitykset
- us
- käyttää
- lajike
- verkko
- tervetuloa
- Mitä
- onko
- joka
- vaikka
- tulee
- sanoja
- Referenssit
- kirjallinen
- Väärä
- itse
- zephyrnet