Нов инструмент може да идентифицира научни статии, написани с помощта на ИИ в 99% от случаите

Плагиатството, базирано на изкуствен интелект се превръща във все по-досадно и опасно явление, особено за научните публикации. Много хора (и изследователи) се опитват да разработят практическо решение срещу този вид злоупотреби, а един нов подход изглежда работи особено добре за определен вид научни статии.

ChatGPT е изключително добър във фалшифицирането на създадено от човека творческо съдържание. Когато става въпрос за научно писане, чатботовете могат да се превърнат от обикновени досадници или инструменти за училищни измами в реални заплахи срещу науката и правилните изследователски практики.

Новопубликувано изследване на учени от Университета на Канзас предлага потенциално решение на проблема с плагиатството, базирано на изкуствен интелект, като се гордее с доста забележителната способност да различава истинското научно писане, създадено от човек, от продукцията на ChatGPT „с над 99% точност“. Този резултат очевидно е постигнат чрез алгоритми на изкуствения интелект и специално обучен езиков модел.

Професорът по химия Хедър Дезер и нейните колеги се борят с ИИ, и изглежда постигат много добри резултати в това отношение: изследователите са съсредоточили усилията си върху „перспективни“ статии – специфичен стил статии, публикувани в научни списания.

Учените избрали 64 перспективни статии на различни теми – от биология до физика, след което помолили ChatGPT да генерира нови параграфи по същите статии, за да съберат 128 „фалшиви“ статии. ИИ генерирал 1276 параграфа, които след това били използвани за обучение на езиковия модел, избран от изследователите, за да се опитат да класифицират текста, създаден от ИИ.

За тестване на новообучения алгоритъм са съставени още два набора от данни, единият от които съдържа 30 реални перспективни статии, а другият – 60 статии, генерирани от ChatGPT. Алгоритъмът привидно издържал с лекота тестовете, подготвени от изследователите: инструментът успял да открие статиите от ChatGPT в 100% от случаите, докато точността за откриване на отделни фалшиви параграфи спада до 92%.

Учените твърдят, че чатботовете манипулират текстово съдържание, като използват специфичен стил на писане, следователно тяхната „ръка“ може да бъде идентифицирана по доста ефективен начин. Учените обикновено имат по-богат речник и пишат по-дълги параграфи, съдържащи по-разнообразни думи и препинателни знаци. Освен това ChatGPT не се слави с нивото си на прецизност и обикновено избягва да предоставя конкретни цифри или да цитира имена на други учени.

Изследователите от Канзас определят своя подход срещу плагиатството с изкуствен интелект като проучване, въпреки че то се оказва много ефективно при идентифицирането на фалшиви перспективни статии. Необходими са допълнителни изследвани, за да се установи дали същият подход може да се приложи към други видове научни статии или общи текстови резултати, създадени от ИИ.