Käivitame klassifikaatori, mis on koolitatud eristama tehisintellekti kirjutatud ja inimese kirjutatud teksti.
Oleme välja õpetanud klassifikaatori, et eristada inimese kirjutatud teksti ja erinevate pakkujate tehisintellekti kirjutatud teksti. Kuigi kogu tehisintellektiga kirjutatud teksti on võimatu usaldusväärselt tuvastada, usume, et head klassifikaatorid võivad aidata leevendada valeväiteid, et tehisintellekti loodud teksti on kirjutanud inimene: näiteks jooksmine. automatiseeritud väärinfo kampaaniad, kasutades AI tööriistu akadeemilise ebaaususe eesmärgil ja positsioneerides tehisintellekti vestlusrobot inimesena.
Meie klassifikaator ei ole täiesti usaldusväärne. Ingliskeelsete tekstide "väljakutsekomplekti" hindamisel tuvastab meie klassifikaator õigesti 26% tehisintellektiga kirjutatud tekstist (tõelised positiivsed omadused) kui "tõenäoliselt tehisintellekti kirjutatud", samas märgib meie klassifikaator valesti 9% tehisintellekti kirjutatud tekstist. kellaaeg (valepositiivsed tulemused). Meie klassifikaatori töökindlus paraneb tavaliselt sisendteksti pikkuse suurenedes. Võrreldes meiega varem välja antud klassifikaator, on see uus klassifikaator uuemate AI-süsteemide teksti puhul oluliselt usaldusväärsem.
Teeme selle klassifikaatori avalikult kättesaadavaks, et saada tagasisidet selle kohta, kas sellised ebatäiuslikud tööriistad nagu see on kasulikud. Meie töö tehisintellekti loodud teksti tuvastamisel jätkub ja loodame tulevikus jagada täiustatud meetodeid.
Proovige ise meie tasuta pooleliolevate tööde klassifikaatorit:
Piirangud
Meie klassifikaatoril on mitmeid olulisi piiranguid. Seda ei tohiks kasutada peamise otsustusvahendina, vaid hoopis täiendusena teistele tekstilõigu allika määramise meetoditele.
- Klassifikaator on lühikeste tekstide puhul (alla 1,000 tähemärgi) väga ebausaldusväärne. Isegi pikemad tekstid on mõnikord klassifikaatori poolt valesti märgistatud.
- Mõnikord märgib meie klassifikaator inimese kirjutatud teksti valesti, kuid enesekindlalt tehisintellekti kirjutatud tekstiks.
- Soovitame klassifikaatorit kasutada ainult ingliskeelse teksti puhul. See toimib teistes keeltes oluliselt halvemini ja see on koodis ebausaldusväärne.
- Väga etteaimatavat teksti ei saa usaldusväärselt tuvastada. Näiteks on võimatu ennustada, kas loendi esimesest 1,000 algarvust on kirjutanud tehisintellekt või inimesed, sest õige vastus on alati sama.
- Tehisintellektiga kirjutatud teksti saab klassifikaatorist kõrvalehoidmiseks redigeerida. Meiesuguseid klassifikaatoreid saab edukate rünnakute põhjal värskendada ja ümber õpetada, kuid pole selge, kas tuvastamisel on pikas perspektiivis eeliseid.
- Närvivõrkudel põhinevad klassifikaatorid on teadaolevalt halvasti kalibreeritud väljaspool nende koolitusandmeid. Sisendite puhul, mis meie koolituskomplekti tekstist väga erinevad, on klassifikaator mõnikord väga kindel vales ennustuses.
Klassifikaatori koolitamine
Meie klassifikaator on keelemudel, mis on peenhäälestatud samal teemal inimese kirjutatud teksti ja tehisintellekti kirjutatud teksti paaride andmestiku põhjal. Kogusime selle andmestiku erinevatest allikatest, mis on meie arvates inimeste kirjutatud, näiteks koolituseelsed andmed ja inimeste demonstratsioonid, mis on esitatud viipadel. Juhenda GPT. Jagasime iga teksti viipeks ja vastuseks. Nendele viipadele koostasime vastuseid mitmesugustest meie ja teiste organisatsioonide koolitatud keelemudelitest. Meie veebirakenduse jaoks kohandame usaldusläve, et hoida valepositiivsete näitajate määr madalana; teisisõnu märgime teksti tõenäoliseks tehisintellekti kirjutatud tekstiks ainult siis, kui klassifikaator on väga enesekindel.
Mõju pedagoogidele ja kutsuge üles panustama
Mõistame, et tehisintellektiga kirjutatud teksti tuvastamine on olnud õpetajate seas oluline arutelupunkt ning sama oluline on tunnistada AI-ga loodud teksti klassifikaatorite piiranguid ja mõju klassiruumis. Oleme välja töötanud a esialgne ressurss ChatGPT kasutamise kohta koolitajatele, mis kirjeldab mõningaid kasutusviise ning sellega seotud piiranguid ja kaalutlusi. Kuigi see ressurss on keskendunud koolitajatele, eeldame, et meie klassifikaator ja sellega seotud klassifikaatori tööriistad avaldavad mõju ajakirjanikele, vale-/desinformatsiooni uurijatele ja teistele rühmadele.
Teeme koostööd USA pedagoogidega, et õppida, mida nad oma klassiruumides näevad, ja arutada ChatGPT võimaluste ja piirangute üle, ning jätkame õppimise käigus oma haarde laiendamist. Need on olulised vestlused, mis on osa meie missioonist suurte keelemudelite turvaline kasutuselevõtt, otsekontaktis mõjutatud kogukondadega.
Kui need probleemid puudutavad teid otseselt (sh, kuid mitte ainult, õpetajad, administraatorid, vanemad, õpilased ja haridusteenuste pakkujad), andke meile tagasisidet, kasutades Selle vormi. Otsene tagasiside selle kohta esialgne ressurss on abiks ning me tervitame ka kõiki ressursse, mida koolitajad arendavad või on abiks pidanud (nt kursuse juhised, aukoodeks ja poliitikavärskendused, interaktiivsed tööriistad, tehisintellekti kirjaoskuse programmid).
- SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
- Platoblockchain. Web3 metaversiooni intelligentsus. Täiustatud teadmised. Juurdepääs siia.
- Allikas: https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text/
- 000
- 1
- 26%
- 7
- a
- akadeemiline
- administraatorid
- ADEelis
- AI
- AI vestlusrobot
- Materjal: BPA ja flataatide vaba plastik
- alati
- vahel
- ja
- vastus
- app
- seotud
- Reageerib
- saadaval
- põhineb
- sest
- Uskuma
- alla
- vahel
- laiendada
- helistama
- ei saa
- võimeid
- märki
- chatbot
- ChatGPT
- nõuete
- kood
- Ühenduste
- võrreldes
- Täiendus
- usaldus
- kindel
- enesekindlalt
- kaalutlused
- kontakt
- jätkama
- vestlused
- Kursus
- andmed
- Otsuse tegemine
- juurutada
- Detection
- määrates kindlaks
- arenenud
- arenev
- erinev
- otsene
- otse
- arutama
- arutelu
- eristama
- jagatud
- iga
- Käsitöö
- kasvatajad
- kaasamine
- Inglise
- Võrdselt
- hindamised
- Isegi
- näide
- ootama
- äärmiselt
- tagasiside
- esimene
- keskendunud
- avastatud
- tasuta
- Alates
- täielikult
- tulevik
- loodud
- saama
- hea
- Grupi omad
- suunised
- kasulik
- lootus
- HTTPS
- inim-
- Inimestel
- tuvastatud
- identifitseerib
- identifitseerimiseks
- mõju
- mõjutatud
- Mõjud
- oluline
- võimatu
- paranenud
- in
- Teistes
- Kaasa arvatud
- valesti
- Tõstab
- sisend
- selle asemel
- interaktiivne
- küsimustes
- IT
- Ajakirjanikud
- hoidma
- teatud
- märgistamine
- keel
- Keeled
- suur
- käivitamine
- Õppida
- Pikkus
- Tõenäoliselt
- piirangud
- piiratud
- piirid
- nimekiri
- kirjaoskus
- pikaajaline
- enam
- Madal
- Tegemine
- märk
- meetodid
- Väärinformatsioon
- missioon
- mudel
- mudelid
- rohkem
- võrgustikud
- närvivõrgud
- Uus
- number
- numbrid
- ONE
- OpenAI
- organisatsioonid
- Muu
- piirjooned
- teavitustegevuse
- väljaspool
- paari
- vanemad
- osa
- täidab
- tükk
- Platon
- Platoni andmete intelligentsus
- PlatoData
- palun
- Punkt
- poliitika
- positsioneerimine
- positiivne
- ennustada
- ennustatav
- ennustus
- esmane
- Peamine
- Programmid
- anda
- pakkujad
- avalikult
- määr
- hiljuti
- tunnistama
- soovitama
- vabastatud
- usaldusväärsus
- usaldusväärne
- Teadlased
- ressurss
- Vahendid
- vastus
- jooksmine
- ohutult
- sama
- nägemine
- teenus
- teenusepakkujad
- komplekt
- Jaga
- Lühike
- peaks
- märgatavalt
- mõned
- allikas
- Allikad
- Õpilased
- esitatud
- edukas
- selline
- süsteemid
- õpetajad
- .
- Allikas
- oma
- künnis
- et
- töövahendid
- teema
- koolitatud
- koolitus
- tõsi
- tüüpiliselt
- ajakohastatud
- Uudised
- us
- kasutama
- sort
- web
- teretulnud
- M
- kas
- mis
- kuigi
- will
- sõnad
- Töö
- kirjalik
- Vale
- ise
- sephyrnet