Uniwersytety oferowały oprogramowanie do wyszukiwania esejów napisanych przez ChatGPT

Cecha Turnitin, najbardziej znany ze swojego oprogramowania antyplagiatowego używanego przez dziesiątki tysięcy uniwersytetów i szkół na całym świecie, buduje narzędzie do wykrywania tekstu generowanego przez sztuczną inteligencję.

Duże modele językowe zyskały na popularności od czasu komercyjnego wydania GPT-3 OpenAI w 2020 roku. Teraz wiele firm zbudowały własne konkurencyjne systemy uczenia maszynowego, rozpoczynając nową falę startupów opracowujących produkty oparte na generatywnej sztucznej inteligencji. Modele te działają jak chatboty ogólnego przeznaczenia. Użytkownicy wpisują instrukcje, na które odpowiadają fragmentami spójnego, przekonującego tekstu.

Uczniowie coraz częściej korzystają z narzędzi sztucznej inteligencji, aby wykonywać zadania, podczas gdy nauczyciele dopiero zaczynają rozważać ich wpływ i rolę w edukacji. Opinie są podzielone. Niektórzy uważają, że technologia może doskonalić umiejętności pisania, podczas gdy inni postrzegają to jako oszustwo. Szkoły w Kalifornii, Nowym Jorku, Wirginii i Alabamie zablokowały uczniom dostęp do najnowszego modelu ChatGPT w sieciach publicznych, według do Forbesa.

Wydziały edukacji nie są do końca pewne, jakie zasady akademickie należy wprowadzić, aby uregulować korzystanie z generatorów tekstu AI. Poza tym wszystkie zasady i tak byłyby trudne do wyegzekwowania, biorąc pod uwagę, że obecnie nie ma skutecznego sposobu na wykrycie pracy napisanej maszynowo. Wejście do Turnitina. Założona w 1998 roku amerykańska firma sprzedaje oprogramowanie, które oblicza podobieństwo konkretnego eseju do treści z dużej bazy danych dokumentów, stron internetowych i książek w celu wyszukania oznak plagiatu.

Turnitin został przejęty przez medialnego giganta Advanced Publications za 1.75 miliarda dolarów w 2019 roku, a jego oprogramowanie zostało używany przez 15,000 140 instytucji w XNUMX krajach. Dzięki ponad dwudziestoletniemu doświadczeniu Turnitin ma szeroki zasięg w edukacji i zgromadził ogromne repozytorium pism uczniów, co czyni go idealną firmą do opracowania akademickiego detektora tekstu opartego na sztucznej inteligencji.

Turnitin po cichu tworzy oprogramowanie od lat, odkąd wypuszczono GPT-3, powiedziała Annie Chechitelli, dyrektor ds. produktu Rejestr. Pośpiech, aby dać nauczycielom możliwość identyfikowania tekstu napisanego przez ludzi i komputery, stał się jeszcze bardziej intensywny wraz z uruchomieniem jego potężniejszego następcy, ChatGPT. Ponieważ sztuczna inteligencja stale się rozwija, uniwersytety i szkoły muszą teraz bardziej niż kiedykolwiek być w stanie chronić uczciwość akademicką.

„Szybkość ma znaczenie. Słyszymy od nauczycieli, po prostu dajcie nam coś” – powiedział Chechitelli. Turnitin ma nadzieję uruchomić swoje oprogramowanie w pierwszej połowie tego roku. „Na początku będzie to dość podstawowe wykrywanie, a następnie wypuścimy kolejne szybkie wydania, które stworzą przepływ pracy, który będzie bardziej przystępny dla nauczycieli”. Plan jest taki, aby prototyp był bezpłatny dla obecnych klientów, ponieważ firma zbiera dane i opinie użytkowników.

„Na początku tak naprawdę chcemy po prostu pomóc branży i pomóc nauczycielom stanąć na nogi i poczuć się pewniej. I aby uzyskać jak największe wykorzystanie na wczesnym etapie; to ważne, aby stworzyć skuteczne narzędzie. Później ustalimy, w jaki sposób zamierzamy to wyprodukować” – powiedziała.

Wzorce w piśmie AI

Chociaż tekst generowany przez sztuczną inteligencję jest przekonujący, istnieją charakterystyczne znaki, które ujawniają dzieło algorytmu. Pismo jest zwykle nijakie i nieoryginalne; narzędzia takie jak ChatGPT powtarzają istniejące pomysły i punkty widzenia i nie mają odrębnego głosu. Ludzie czasami potrafią dostrzec tekst generowany przez sztuczną inteligencję, ale maszyny radzą sobie z tym znacznie lepiej.

Wiceprezes Turnitin ds. sztucznej inteligencji, Eric Wang, powiedział, że w pisaniu AI istnieją oczywiste wzorce, które komputery mogą wykryć. „Chociaż wydaje nam się to ludzkie, [maszyny piszą przy użyciu] zasadniczo innego mechanizmu. To wybieranie najbardziej prawdopodobnego słowa w najbardziej prawdopodobnym miejscu, a to zupełnie inny sposób konstruowania języka [w porównaniu] do ciebie i mnie” – powiedział Rejestr.

„Czytamy, skacząc oczami w tę iz powrotem, nawet o tym nie wiedząc, lub przeskakując między słowami, między akapitami, a czasem między stronami. Będziemy się obracać w tę iz powrotem. Mamy również tendencję do pisania z myślą o przyszłości. Być może piszę i myślę o czymś, akapicie, zdaniu, rozdziale; koniec eseju jest w moim umyśle połączony ze zdaniem, które piszę, mimo że zdania od czasu do czasu jeszcze nie zostały napisane”.

ChatGPT nie ma jednak takiej elastyczności i może generować nowe słowa tylko na podstawie poprzednich zdań, wyjaśnił. Detektor firmy Turnitin działa na zasadzie przewidywania, jakie słowa sztuczna inteligencja z większym prawdopodobieństwem wygeneruje w danym fragmencie tekstu. „Statystycznie jest to bardzo nijakie. Ludzie nie mają tendencji do konsekwentnego używania słowa o wysokim prawdopodobieństwie w miejscach o wysokim prawdopodobieństwie, ale GPT-3 to robi, więc nasz detektor naprawdę to wykrywa” – powiedział.

Wang powiedział, że detektor Turnitin oparty jest na tej samej architekturze co GPT-3 i opisał go jako miniaturową wersję modelu. „Na wiele sposobów, powiedziałbym, walczymy z ogniem. Jest do niego dołączony komponent detektora zamiast komponentu generowania. Więc to, co robi, to czytanie języka w dokładnie taki sam sposób, w jaki GPT-3 czyta język, ale zamiast wypluwać więcej języka, daje nam prognozę, czy uważamy, że ten fragment wygląda jak [pochodzi z] GPT-3.

Firma wciąż zastanawia się, jak najlepiej zaprezentować wyniki swojego detektora nauczycielom korzystającym z narzędzia. „To trudne wyzwanie. Jak powiedzieć instruktorowi na niewielkiej przestrzeni, co chce zobaczyć?” — powiedział Chechitelli. Mogą chcieć zobaczyć procent, który pokazuje, jaka część eseju wydaje się być napisana przez sztuczną inteligencję, lub mogą chcieć poziomów ufności pokazujących, czy pewność przewidywania detektora jest niska, średnia czy wysoka, aby ocenić dokładność.

Oprogramowanie nie zostało zaprojektowane w celu zbanowania ChatGPT w środowisku akademickim. Chociaż może to zniechęcić uczniów do korzystania z tego typu narzędzi, Turnitin wierzy, że zamiast tego wykrywacz umożliwi nauczycielom i uczniom wzajemne zaufanie i technologię. 

„Myślę, że nastąpiła poważna zmiana w sposobie tworzenia treści i sposobie pracy” — powiedział Wang. „Z pewnością dotyczy to sposobu, w jaki się uczymy. Musimy myśleć długoterminowo o tym, jak uczymy. Jak uczyć się w świecie, w którym istnieje ta technologia? Myślę, że nie da się wsadzić dżina z powrotem do butelki. Każde narzędzie, które zapewnia widoczność korzystania z tych technologii, będzie cenne, ponieważ są to podstawowe elementy budujące zaufanie i przejrzystość”. ®

• Dystrybucja treści i PR oparta na SEO. Uzyskaj wzmocnienie już dziś.
• Platoblockchain. Web3 Inteligencja Metaverse. Wzmocniona wiedza. Dostęp tutaj.
• Źródło: https://go.theregister.com/feed/www.theregister.com/2023/01/23/turnitin_chatgpt_detector/