Bolehkah pengesan AI menyelamatkan kita daripada ChatGPT? Saya mencuba 3 alat dalam talian untuk mengetahui

Ini ialah artikel kedua dalam apa yang menjadi siri yang meneroka isu teks yang dijana AI.

Dalam ansuran ini, saya dan rakan AI saya sedang melihat persoalan sama ada mungkin untuk melawan plagiarisme yang dijana AI, dan bagaimana ia mungkin berfungsi.

Juga: Apakah ChatGPT dan mengapa ia penting? Inilah yang anda perlu tahu

Sebelum saya meneruskan, walaupun, kita perlu bercakap tentang konsep plagiarisme dan bagaimana ia berkaitan dengan masalah ini. Webster mentakrifkan "menciplak" sebagai "mencuri dan melepaskan (idea atau perkataan orang lain) sebagai milik sendiri : menggunakan (pengeluaran orang lain) tanpa mengkreditkan sumbernya."

Ini sesuai untuk kandungan yang dicipta AI. Walaupun seseorang yang menggunakan alat AI seperti Notion AI atau ChatGPT tidak mencuri kandungan, jika orang itu tidak mengkreditkan perkataan itu sebagai berasal daripada AI dan mendakwanya sebagai miliknya, ia masih memenuhi definisi kamus plagiarisme.

ZDNET Mengesyorkan

ChatGPT - Penulis AI terbaik

Chatbot AI terbaik: ChatGPT dan alternatif lain yang menarik untuk dicuba

Chatbots dan penulis AI boleh membantu meringankan beban kerja anda dengan menulis e-mel dan esei dan juga melakukan matematik. Mereka menggunakan kecerdasan buatan untuk menjana teks atau menjawab pertanyaan berdasarkan input pengguna. ChatGPT ialah satu contoh yang popular, tetapi terdapat chatbot lain yang patut diberi perhatian.

Baca sekarang

Dalam artikel percubaan ini, saya telah meminta ChatGPT untuk membantu. Kata-kata saya dalam teks biasa dan tebal. Kata-kata AI dicetak condong. Saya juga akan menggunakan tiga pengesan plagiarisme ChatGPT dalam talian (yang saya akan terangkan dengan lebih terperinci di bawah). Selepas setiap bahagian yang dijana AI, saya akan menunjukkan hasil pengesan. Pada penghujung artikel, kita akan melihat prestasi pengesan secara keseluruhan.

Inilah hasil untuk teks di atas, yang saya tulis sendiri:

Pengesan Output GPT-2: 99.98% nyata
Pengesan Kandungan AI Penulis: 100% kandungan buatan manusia. Hebat!
Kandungan pada Skala Pengesanan Kandungan AI: 100% skor kandungan manusia. Nampak bagus!

Dengan itu, mari kita mulakan.

Terangkan mengapa ChatGPT boleh menjadi masalah sebenar bagi guru dan editor apabila melibatkan plagiarisme

ChatGPT ialah varian model bahasa GPT (Generative Pre-trained Transformer) yang dibangunkan oleh OpenAI. Ia direka bentuk untuk menjana teks seperti manusia dengan meramalkan perkataan atau frasa seterusnya dalam urutan input yang diberikan. Walaupun ChatGPT boleh menjadi alat yang berguna untuk menjana teks dan membalas gesaan, ia juga boleh menjadi masalah kepada guru dan editor apabila ia melibatkan plagiarisme.

Salah satu sebab utama mengapa ChatGPT boleh menjadi masalah kepada guru dan editor ialah ia boleh menghasilkan teks yang hampir sama dengan penulis manusia sebenar. Ini bermakna pelajar atau individu lain berpotensi menggunakan ChatGPT untuk menjana teks yang kemudiannya boleh mereka serahkan sebagai karya mereka sendiri, dengan itu melakukan plagiarisme.

Juga:Bolehkah pembantu penulisan Notion AI menulis artikel ini?

Bagi guru dan editor, mengesan sama ada sekeping teks tertentu dijana oleh ChatGPT atau ditulis oleh manusia boleh menjadi sangat sukar, kerana teks yang dijana mungkin tidak mengandungi sebarang ralat atau percanggahan yang jelas yang akan mendedahkan asal tiruannya. Ini boleh menyukarkan guru dan editor untuk mengenal pasti dan mencegah plagiarisme, kerana mereka mungkin tidak dapat mengetahui sama ada sekeping teks tertentu adalah asli atau disalin daripada sumber lain.

Secara keseluruhannya, ChatGPT dan model bahasa lain yang serupa boleh menjadi masalah kepada guru dan editor apabila melibatkan plagiarisme kerana mereka boleh menghasilkan teks yang sukar dibezakan daripada yang ditulis oleh manusia, memudahkan pelajar dan individu lain melakukan plagiarisme tanpa dikesan.

Pengesan Output GPT-2: 99.69% nyata
Pengesan Kandungan AI Penulis: 97% kandungan buatan manusia. Hebat!
Kandungan pada Skala Pengesanan Kandungan AI: 87% skor kandungan manusia. Nampak baik!

Ingat, teks yang ditunjukkan dalam huruf condong telah dihasilkan oleh AI.

Tunjukkan saya sekurang-kurangnya tiga cara saya boleh mengesan ChatGPT digunakan untuk menghasilkan sekeping teks

Terdapat beberapa cara yang berpotensi untuk mengesan sama ada ChatGPT atau model bahasa lain digunakan untuk menghasilkan sekeping teks. Berikut ialah tiga pendekatan berpotensi yang boleh anda gunakan:

Cari corak berulang atau luar biasa dalam teks: Satu cara untuk mengesan sama ada model bahasa digunakan untuk menghasilkan sekeping teks ialah mencari corak berulang atau luar biasa dalam penulisan. Sebagai contoh, model bahasa mungkin mengulangi frasa atau gabungan perkataan tertentu, atau menggunakan struktur ayat yang luar biasa atau tidak konsisten.
Semak kekurangan keaslian: Satu lagi cara untuk mengesan sama ada model bahasa digunakan untuk menjana sekeping teks ialah menyemak kekurangan keaslian dalam penulisan. Jika sekeping teks nampaknya disalin daripada sumber lain, atau jika ia mengandungi maklumat yang tersedia secara meluas di Internet atau dalam sumber lain, ini boleh menjadi tanda bahawa ia dijana oleh model bahasa.
Gunakan penyemak plagiarisme: Akhir sekali, anda boleh menggunakan penyemak plagiarisme untuk menyemak sama ada sekeping teks kelihatan disalin daripada sumber lain. Walaupun penyemak plagiarisme mungkin tidak dapat menentukan secara muktamad sama ada model bahasa telah digunakan untuk menjana sekeping teks, ini boleh membantu anda mengenal pasti contoh penyalinan atau parafrasa daripada sumber lain.
Perhatikan apabila jawapannya jelas salah: Saya bercakap tentang perkara ini dalam ulasan Notion AI saya, di mana saya menyoroti beberapa teks yang ditulis AI dengan seolah-olah berkuasa, tetapi yang jelas salah. Jika pelajar atau penulis tidak menguasai sepenuhnya topik yang dibincangkan, mereka mungkin tidak melihat ketidaktepatan dan hanya meninggalkannya dalam respons yang dijana oleh AI. Sudah tentu, pernyataan yang salah bukan hanya bidang alat penulisan AI. Ramai blogger dan pengulas, sebagai contoh, hanya mengulangi kenyataan yang dibuat oleh blogger lain, mewujudkan ruang gema sepenuhnya "fakta palsu", menunjukkan bahawa walaupun kecerdasan mungkin buatan, kebodohan adalah sifat universal.

Perlu diingat bahawa sukar untuk menentukan secara muktamad sama ada model bahasa digunakan untuk menjana sekeping teks, dan kaedah ini mungkin tidak selalu berkesan. Walau bagaimanapun, ia boleh menjadi alat yang berguna untuk membantu anda mengenal pasti kemungkinan contoh teks yang dijana model bahasa.

Dalam set ujian ini, hanya kandungan yang dicondongkan di atas telah dijalankan melalui suite pemeriksa.

Pengesan Output GPT-2: 99.98% palsu
Pengesan Kandungan AI Penulis: [ tiada hasil ]
Kandungan pada Skala Pengesanan Kandungan AI: 0% skor kandungan manusia. Jelas sekali AI

Senaraikan tiga penyemak plagiarisme yang boleh mengesan teks ChatGPT

Inovasi

Saya mencuba Apple Vision Pro dan ia jauh mendahului yang saya jangkakan
Komunikator satelit kecil ini penuh dengan ciri dan ketenangan fikiran
Cara menggunakan ChatGPT: Semua yang anda perlu tahu
Ini adalah 5 alat AI kegemaran saya untuk bekerja

Perlu diingat bahawa pada masa ini tiada penyemak plagiarisme yang direka khusus untuk mengesan teks yang dijana oleh ChatGPT atau model bahasa lain. Walaupun sesetengah penyemak plagiarisme mungkin dapat mengenal pasti ciri tertentu teks yang dijana model bahasa yang boleh menunjukkan asal tiruannya, tidak ada jaminan bahawa mereka akan dapat menentukan secara muktamad sama ada sekeping teks dihasilkan oleh model bahasa.

Dengan itu, berikut ialah tiga penyemak plagiarisme yang mungkin anda pertimbangkan untuk digunakan untuk membantu mengenal pasti kemungkinan contoh teks yang dijana model bahasa:

Turnitin: Turnitin ialah penyemak plagiarisme popular yang digunakan secara meluas oleh sekolah dan universiti. Ia membandingkan sekeping teks dengan pangkalan data teks lain untuk mengenal pasti contoh penyalinan atau parafrasa. Walaupun ia mungkin tidak dapat menentukan secara muktamad sama ada sekeping teks dijana oleh model bahasa, ia berpotensi mengenal pasti ciri-ciri tertentu teks yang dijana model bahasa yang boleh menunjukkan asal tiruannya.
PlagScan: PlagScan ialah satu lagi penyemak plagiarisme yang membandingkan sekeping teks dengan pangkalan data teks lain untuk mengenal pasti contoh penyalinan atau parafrasa. Seperti Turnitin, ia mungkin dapat mengenal pasti ciri tertentu teks yang dijana model bahasa yang boleh menunjukkan asal tiruannya, tetapi ia tidak direka khusus untuk mengesan teks yang dijana model bahasa.
Copyleaks: Copyleaks ialah penyemak plagiarisme yang menggunakan algoritma pembelajaran mesin lanjutan untuk mengimbas sekeping teks dan membandingkannya dengan pangkalan data teks lain untuk mengenal pasti contoh penyalinan atau parafrasa. Walaupun ia mungkin dapat mengenal pasti ciri tertentu teks yang dijana model bahasa, ia tidak direka bentuk khusus untuk mengesan teks yang dijana model bahasa.

Perlu diingat bahawa tiada penyemak plagiarisme yang benar-benar kalis, dan sentiasa ada kemungkinan bahawa sekeping teks yang dijana model bahasa boleh terlepas dari pengesanan. Oleh itu, adalah penting untuk menggunakan penyemak plagiarisme sebagai hanya satu bahagian daripada strategi yang lebih besar untuk mengesan dan mencegah plagiarisme.

Pengesan Output GPT-2: 99.62% nyata
Pengesan Kandungan AI Penulis: [ tiada hasil ]
Kandungan pada Skala Pengesanan Kandungan AI: 86% skor kandungan manusia. Nampak baik!

Penyemak plagiarisme AI dalam talian

Kebanyakan pengesan plagiarisme digunakan untuk membandingkan tulisan dengan korpus tulisan lain. Sebagai contoh, apabila pelajar menyerahkan esei, produk seperti Turnitin mengimbas esei yang diserahkan terhadap perpustakaan besar esei lain dalam pangkalan datanya, serta terhadap dokumen dan teks lain di internet untuk menentukan sama ada esei yang diserahkan mengandungi sudah- kandungan bertulis.

Tetapi alat penulisan AI menjana kandungan asli, sekurang-kurangnya secara teori. Ya, mereka membina kandungan mereka daripada apa sahaja yang mereka telah dilatih, tetapi perkataan sebenar yang mereka bina agak unik untuk setiap gubahan.

Juga: Matlamat sebenar AI mungkin bukan lagi kecerdasan

Oleh itu, penyemak plagiarisme yang disebutkan di atas mungkin tidak akan berfungsi, kerana kandungan yang dijana AI mungkin tidak wujud dalam, katakan, kertas pelajar lain.

Oleh itu, saya pergi ke Google dan mencari pengesan yang direka khusus untuk mencari tandatangan khas kandungan dipacu AI. Saya jumpa tiga. Untuk kandungan ujian yang ditunjukkan dalam tangkapan skrin di bawah, saya bertanya kepada ChatGPT ini: "Adakah pengembaraan bintang lebih baik daripada perang bintang? Wajarkan dan terangkan" Jawapannya tidak buruk sama sekali, dan saya memberi jawapan itu kepada tiga penguji.

Pengesan Output GPT-2: 99.98% nyata
Pengesan Kandungan AI Penulis: 100% kandungan buatan manusia. Hebat!
Kandungan pada Skala Pengesanan Kandungan AI: 100% skor kandungan manusia. Nampak bagus!

Pengesan Output GPT-2 (Ketepatan 66%)

Alat pertama ini dibina menggunakan hab pembelajaran mesin yang diuruskan oleh syarikat AI yang berpangkalan di New York, Hugging Face. Walaupun syarikat itu telah menerima pembiayaan $40 juta untuk membangunkan perpustakaan bahasa semula jadinya, pengesan GPT-2 nampaknya adalah alat yang dicipta pengguna menggunakan perpustakaan Hugging Face Transformers. Daripada enam ujian yang saya jalankan, ia adalah tepat untuk empat daripadanya.

Pengesan Kandungan AI Writer.com (Tiada Ketepatan)

Writer.com ialah perkhidmatan yang menjana penulisan AI, berorientasikan kepada pasukan korporat. Alat Pengesan Kandungan AInya boleh mengimbas kandungan yang dijana. Malangnya, saya mendapati alat ini tidak boleh dipercayai. Daripada enam imbasan yang saya jalani, ia gagal pada tiga. Daripada tiga yang berjaya dijalankan, ia mendapat dua betul dan satu salah.

Selepas artikel ini diterbitkan, orang di Writer.com menghubungi ZDNET. Ketua Pegawai Eksekutif May Habib berkongsi komen ini:

Permintaan untuk pengesan AI telah meroket. Trafik telah meningkat 2-3x seminggu sejak kami melancarkannya beberapa bulan lalu. Kami kini mempunyai skala yang diperlukan di belakangnya untuk memastikan ia tidak turun, dan matlamat kami adalah untuk memastikannya bebas - dan terkini untuk menangkap keluaran model terkini, termasuk keluaran kami. Jika output AI akan digunakan secara verbatim, ia benar-benar harus dikaitkan.

Kandungan pada Skala Pengesanan Kandungan AI (Ketepatan 50%)

Alat ketiga yang saya temui juga dihasilkan oleh firma penjanaan kandungan AI, namun alat ini nampaknya berfungsi dengan pasti. Kandungan pada Skala menonjolkan dirinya sebagai "Kami Membantu Pemasar Kandungan Berfokus SEO dengan Mengautomatikkan Penciptaan Kandungan." Seruan tindakan pemasarannya ialah, "Muat naik senarai kata kunci dan dapatkan 2,600+ catatan blog perkataan yang memintas pengesanan kandungan AI -- semuanya tanpa campur tangan manusia!" Daripada enam ujian yang saya jalankan, ia adalah tepat untuk tiga.

Fikiran akhir

Plagiarisme dipacu AI adalah masalah yang semakin meningkat, kerana alatan AI seperti Notion AI dan ChatGPT boleh menjana teks yang sukar dibezakan daripada yang ditulis oleh manusia. Terdapat beberapa cara untuk mengesan sama ada sekeping teks dijana oleh AI, seperti mencari corak berulang atau luar biasa, menyemak kekurangan keaslian atau menggunakan penyemak plagiarisme. Pemeriksa plagiarisme seperti Turnitin, PlagScan dan Copyleaks mungkin dapat mengenal pasti ciri-ciri tertentu bagi teks yang dijana model bahasa, tetapi ia tidak mudah.

Malah alat khusus yang saya temui adalah sangat tidak sesuai untuk tugas itu. Kes terbaik ialah Pengesan Output GPT-2, tetapi ia hanya mendapat dua pertiga daripada teks yang diserahkan dengan betul.

Pada ketika ini, saya rasa kita tidak bersedia untuk membiarkan AI melawan AI. Sebaliknya, kita perlu bergantung pada persepsi manusia (yang bermaksud orang ramai perlu memberi perhatian) untuk mengenal pasti karya yang dihasilkan oleh AI.

Jangan langsung menganggap bahawa sesuatu dihasilkan oleh mesin. Hanya kerana sesuatu itu bodoh atau sangat tidak tepat, jangan langsung menganggap ia bukan ditulis oleh manusia. Seperti yang kita semua ketahui, manusia cukup mampu untuk menulis beberapa perkara yang sangat buruk sendiri.

Juga: OpenAI's ChatGPT sangat bagus dalam tugas saya, tetapi ia tidak dapat menggantikan saya (belum)

Jadi apa pendapat anda? Bolehkah anda mengetahui sama ada sekeping itu dihasilkan AI? Pernahkah anda menggunakan alat penulisan AI ini dalam beberapa bulan sejak mereka tiba-tiba tersedia? Adakah anda fikir ia adalah bantuan atau penghalang kepada pendidikan dan kewartawanan? Beritahu kami dalam ulasan di bawah. Begini cara ChatGPT menjawab ini:

Sebagai model bahasa, saya tidak dapat melihat atau berinteraksi dengan tulisan fizikal, jadi saya tidak dapat mengetahui sama ada sesuatu karya itu dihasilkan AI atau tidak. Walau bagaimanapun, saya boleh memberitahu anda bahawa terdapat beberapa alat penulisan AI yang tersedia, dan ia boleh digunakan untuk menjana pelbagai kandungan bertulis, termasuk artikel berita, fiksyen, puisi dan banyak lagi.

Saya tidak mempunyai pengalaman peribadi menggunakan alat ini kerana saya hanya program komputer dan tidak mempunyai keupayaan untuk menyemak imbas internet atau menggunakan alatan fizikal. Walau bagaimanapun, saya boleh memberitahu anda bahawa sesetengah orang mendapati alat penulisan AI membantu dalam pendidikan dan kewartawanan, kerana mereka boleh menjimatkan masa dan usaha dengan mengautomasikan tugasan tertentu. Yang lain telah menyatakan kebimbangan tentang potensi alat ini untuk digunakan untuk menghasilkan kandungan yang mengelirukan atau berat sebelah, atau untuk menggantikan penulis manusia. Akhirnya, sama ada alat penulisan AI adalah bantuan atau halangan bergantung pada cara ia digunakan dan konteks penggunaannya.

Jadi, ya, ada itu.