Компания Turnitin представила свой инструмент для обнаружения текста с искусственным интеллектом
Turnitin, наиболее известная своим программным обеспечением для защиты от плагиата, используемым десятками тысяч университетов и школ по всему миру, создает инструмент для обнаружения текста, сгенерированного искусственным интеллектом. Регистр сообщает: Turnitin незаметно создавала программное обеспечение в течение многих лет с момента выпуска GPT-3, сообщила The Register Энни Чечителли, директор по продукту. Спешка дать преподавателям возможность идентифицировать текст, написанный людьми и компьютерами, усилилась с запуском более мощного преемника ChatGPT. Поскольку ИИ продолжает развиваться, университетам и школам сейчас как никогда необходимо иметь возможность защищать академическую честность. «Скорость имеет значение. Мы слышим от учителей, просто дайте нам что-нибудь», — сказал Чечителли. Turnitin надеется выпустить свое программное обеспечение в первой половине этого года. «Сначала это будет довольно простое обнаружение, а затем мы выпустим последующие быстрые выпуски, которые создадут рабочий процесс, более действенный для учителей». План состоит в том, чтобы сделать прототип бесплатным для существующих клиентов, поскольку компания собирает данные и отзывы пользователей. «Вначале мы просто хотим помочь индустрии и помочь преподавателям встать на ноги и почувствовать себя более уверенно. И получить как можно больше использования на раннем этапе; это важно для создания успешного инструмента. Позже мы Определим, как мы собираемся это реализовать», — сказала она.
Вице-президент Turnitin по ИИ Эрик Ван сказал, что в написании ИИ есть очевидные закономерности, которые компьютеры могут обнаружить. «Несмотря на то, что нам это кажется человеческим, [машины пишут, используя] принципиально другой механизм. Это выбор наиболее вероятного слова в наиболее вероятном месте, и это совсем другой способ построения языка [по сравнению с вами и мной, «, — сказал он The Register. ChatGPT, однако, не обладает такой гибкостью и может генерировать новые слова только на основе предыдущих предложений, объяснил он. Детектор Turnitin работает, предсказывая, какие слова ИИ с большей вероятностью сгенерирует в данном текстовом фрагменте. «Статистически это очень скучно. Люди не склонны постоянно использовать слово с высокой вероятностью в местах с высокой вероятностью, но GPT-3 делает это, поэтому наш детектор действительно намекает на это», — сказал он.
Ван сказал, что детектор Turnitin основан на той же архитектуре, что и GPT-3, и описал его как миниатюрную версию модели. «Мы во многих отношениях, я бы сказал, боремся с огнём огнём. К нему присоединен компонент детектора вместо компонента генерации. Так что он читает язык точно так же, как GPT-3 читает язык, но вместо этого выплевывая больше языка, это дает нам предсказание того, думаем ли мы, что этот отрывок похож на [это из] GPT-3». Компания все еще решает, как лучше представить результаты своего детектора учителям, использующим этот инструмент. «Это сложная задача. Как сказать инструктору в небольшом пространстве, что он хочет увидеть?» — сказал Чечителли. Они могут захотеть увидеть процентное соотношение, показывающее, какая часть эссе написана искусственным интеллектом. «Я думаю, что произошли серьезные изменения в том, как мы создаем контент и как мы работаем», — добавил Ван. «Конечно, это распространяется и на то, как мы учимся. Нам нужно думать о том, как мы учим, в долгосрочной перспективе. Как мы учимся в мире, где существуют эти технологии? дает представление об использовании этих технологий, будет ценным, потому что они являются фундаментальными строительными блоками доверия и прозрачности».
фото: Forbes