대학에서는 ChatGPT로 작성된 에세이를 찾아내는 소프트웨어를 제공했습니다.

대학에서는 ChatGPT로 작성된 에세이를 찾아내는 소프트웨어를 제공했습니다.

타임 스탬프 : 23 년 2023 월 2 일 오후 40:XNUMX
대학에서는 ChatGPT가 작성한 에세이 PlatoBlockchain Data Intelligence를 알아낼 수 있는 소프트웨어를 제공했습니다. 수직 검색. 일체 포함.

특색 전 세계 수만 개의 대학과 학교에서 사용하는 표절 방지 소프트웨어로 가장 잘 알려진 Turnitin은 AI가 생성한 텍스트를 감지하는 도구를 구축하고 있습니다.

대규모 언어 모델은 3년 OpenAI의 GPT-2020 상용 출시 이후 관심을 끌었습니다. 현재 여러 회사 자체 라이벌 기계 학습 시스템을 구축하여 제너레이티브 AI로 구동되는 제품을 개발하는 스타트업의 새로운 물결을 시작했습니다. 이러한 모델은 범용 챗봇처럼 작동합니다. 사용자가 지침을 입력하면 일관되고 설득력 있는 텍스트로 응답합니다.

학생들은 점점 더 AI 도구를 사용하여 과제를 완료하고 있으며 교사는 교육에서 자신의 영향과 역할을 고려하기 시작했습니다. 의견이 분분합니다. 어떤 사람들은 이 기술이 글쓰기 능력을 연마할 수 있다고 믿는 반면, 다른 사람들은 그것을 부정 행위로 간주합니다. 캘리포니아, 뉴욕, 버지니아, 앨라배마의 학교는 학생들이 공용 네트워크에서 최신 ChatGPT 모델에 액세스하지 못하도록 차단했습니다. 따라 포브스에게.

교육부는 AI 텍스트 생성기의 사용을 규제하기 위해 어떤 학술 정책을 도입해야 하는지 확신하지 못하고 있습니다. 게다가 현재 기계 작성 작업을 탐지하는 효과적인 방법이 없다는 점을 고려하면 모든 규칙을 시행하기 어려울 것입니다. Turnitin에 들어가십시오. 1998년에 설립된 이 미국 회사는 표절의 징후를 찾기 위해 특정 에세이가 대규모 논문, 웹페이지 및 책의 콘텐츠와 비교하여 얼마나 유사한지 계산하는 소프트웨어를 판매합니다.

Turnitin은 1.75년 미디어 거인 Advanced Publications에 2019억 XNUMX천만 달러에 인수되었으며 그 소프트웨어는 익숙한 15,000개국 140개 기관에서 XNUMX년 이상의 경험을 바탕으로 Turnitin은 교육 분야에서 광범위한 범위를 보유하고 있으며 방대한 학생 작문 저장소를 축적하여 학술 AI 텍스트 감지기를 개발하는 데 이상적인 회사가 되었습니다.

Turnitin은 GPT-3 출시 이후 수년 동안 조용히 소프트웨어를 구축해 왔다고 최고 제품 책임자인 Annie Chechitelli가 말했습니다. 등록. 교육자들에게 사람과 컴퓨터가 쓴 텍스트를 식별할 수 있는 기능을 제공하려는 노력은 더 강력한 후속 제품인 ChatGPT의 출시와 함께 더욱 강렬해졌습니다. AI가 계속 발전함에 따라 대학과 학교는 그 어느 때보다 학문적 무결성을 보호할 수 있어야 합니다.

“속도가 중요합니다. 우리는 선생님들로부터 우리에게 무언가를 제공한다는 말을 듣고 있습니다.”라고 Chechitelli는 말했습니다. Turnitin은 올해 상반기에 소프트웨어를 출시하기를 희망합니다. "처음에는 매우 기본적인 감지가 될 것이며 교사가 보다 실행 가능한 워크플로를 생성할 후속 빠른 릴리스를 폐기할 것입니다." 계획은 회사가 데이터와 사용자 피드백을 수집함에 따라 기존 고객에게 프로토타입을 무료로 제공하는 것입니다.

“처음에 우리는 업계를 돕고 교육자들이 다리를 짚고 더 자신감을 가질 수 있도록 돕고 싶었습니다. 그리고 초기에 가능한 한 많은 사용량을 얻기 위해 성공적인 도구를 만드는 것이 중요합니다. 나중에 어떻게 제품화할지 결정할 것입니다.”라고 그녀는 말했습니다.

AI 쓰기의 패턴

AI가 생성한 텍스트는 설득력이 있지만 알고리즘의 작업을 드러내는 숨길 수 없는 징후가 있습니다. 글은 일반적으로 단조롭고 독창적이지 않습니다. ChatGPT와 같은 도구는 기존 아이디어와 관점을 역류시키고 뚜렷한 목소리가 없습니다. 인간은 때때로 AI가 생성한 텍스트를 발견할 수 있지만 기계가 작업을 훨씬 더 잘 수행합니다.

Turnitin의 AI 부사장인 Eric Wang은 컴퓨터가 감지할 수 있는 AI 쓰기에는 분명한 패턴이 있다고 말했습니다. “우리에게는 인간처럼 느껴지지만 [기계는] 근본적으로 다른 메커니즘을 사용합니다. 가장 가능성이 높은 위치에서 가장 가능성 있는 단어를 선택하는 것인데, 언어를 구성하는 방식은 당신과 나와는 매우 다릅니다.”라고 그는 말했습니다. 등록.

“우리는 자신도 모르게 눈을 앞뒤로 점프하거나 단어 사이, 단락 사이, 때로는 페이지 사이를 왔다 갔다 하면서 읽습니다. 앞뒤로 뒤집겠습니다. 우리는 또한 미래의 마음 상태로 글을 쓰는 경향이 있습니다. 나는 글을 쓰고 있을 수도 있고, 무엇인가, 문단, 문장, 장에 대해 생각하고 있을 수도 있습니다. 에세이의 끝은 지금부터 지금까지의 문장이 아직 작성되지 않았음에도 불구하고 내가 쓰고 있는 문장과 내 마음 속에서 연결되어 있습니다.”

그러나 ChatGPT에는 이러한 종류의 유연성이 없으며 이전 문장을 기반으로 새로운 단어만 생성할 수 있다고 그는 설명했습니다. Turnitin의 탐지기는 주어진 텍스트 스니펫에서 AI가 생성할 가능성이 더 높은 단어를 예측하여 작동합니다. “통계적으로 매우 단조롭습니다. 인간은 확률이 높은 장소에서 확률이 높은 단어를 일관되게 사용하지 않는 경향이 있지만 GPT-3는 그렇게 하므로 탐지기가 실제로 그 신호를 보냅니다.”라고 그는 말했습니다.

Wang은 Turnitin의 검출기가 GPT-3와 동일한 아키텍처를 기반으로 하며 모델의 미니어처 버전이라고 설명했습니다. “우리는 여러 면에서 불로 불과 싸우고 있습니다. 생성 구성 요소 대신 감지기 구성 요소가 연결되어 있습니다. 그래서 그것이 하는 일은 GPT-3가 언어를 읽는 것과 똑같은 방식으로 언어를 읽는 것입니다. 하지만 더 많은 언어를 내뱉는 대신 이 구절이 GPT-3에서 온 것처럼 보이는지 예측할 수 있습니다.”

이 회사는 도구를 사용하는 교사에게 탐지기 결과를 가장 잘 제시하는 방법을 여전히 결정하고 있습니다. “어려운 도전입니다. 좁은 공간에 있는 강사에게 그들이 보고 싶은 것을 어떻게 말합니까?” 체치텔리가 말했다. 그들은 얼마나 많은 에세이가 AI로 작성된 것처럼 보이는지를 보여주는 백분율을 보거나 정확도를 평가하기 위해 감지기의 예측 신뢰도가 낮은지, 중간인지 또는 높은지를 보여주는 신뢰 수준을 원할 수 있습니다.

이 소프트웨어는 학계에서 ChatGPT를 금지할 목적으로 설계되지 않았습니다. 학생들이 이러한 유형의 도구를 사용하는 것을 막을 수 있지만 Turnitin은 탐지기가 대신 교사와 학생이 서로 그리고 기술을 신뢰하도록 할 것이라고 믿습니다. 

"콘텐츠를 만드는 방식과 작업 방식에 큰 변화가 있다고 생각합니다."라고 Wang은 말했습니다. “확실히 그것은 우리가 배우는 방식으로 확장됩니다. 우리는 가르치는 방법에 대해 장기적으로 생각해야 합니다. 이 기술이 존재하는 세상에서 우리는 어떻게 학습합니까? 지니를 병에 다시 넣을 수는 없다고 생각합니다. 이러한 기술의 사용에 대한 가시성을 제공하는 모든 도구는 신뢰와 투명성의 기본 구성 요소이기 때문에 가치가 있을 것입니다.” ®

타임 스탬프 :

더보기 등록