Американских студентов лишили дипломов из-за использования ChatGPT

Преподаватель Техасского университета A&M в Коммерсе обвинил студентов в мошенничестве с использованием искусственного интеллекта для написания эссе. Об этом пишет The Register. Координатор факультета сельскохозяйственных наук и природных ресурсов Джаред Мамм проверил аутентичность текстов с помощью ChatGPT. По его словам, инструмент пометил некоторые работы как созданные машиной. Ситуация привела к заморозке оценок и дальнейшему расследованию. Попавшие под подозрение студенты признались в использовании ИИ для написания эссе. В результате половине академической группы временно отказали в выдаче дипломов. «Я поставлю всем на этом курсе X. Я не оцениваю ИИ-чепуху», — сказал Мамм студентам. Руководство университета подтвердило использование оценки X. По их словам, это временная мера, пока идет расследование. В вузе отметили, что исключили возможности списывания для некоторых студентов, в то время как другие решили сдать свежее эссе для оценки. По крайней мере один ученик признался в использовании ChatGPT для выполнения задания. «A&M в Коммерсе подтверждает, что ни один студент не провалил занятия и не был отстранен от выпуска из-за этой проблемы. Должностные лица расследуют инцидент и разрабатывают политику по борьбе с неправильным использованием ИИ-технологий», — говорится в заявлении. Администрация также приступила к разработке и внедрению инструментов, идентифицирующих ИИ-тексты в курсовых работах. Знакомый с ситуацией источник сообщил, что конфликт близится к завершению. Вуз якобы признал неправомерность решения преподавателя. «Это было полностью вне протокола и неуместным использованием ChatGPT. Ну хоть никто не использовал нецензурную брань в обвинениях», — сказал он. По словам экспертов, даже продвинутые детекторы сгенерированных текстов не способны точно распознать подделку. «По мере совершенствования больших языковых моделей для имитации людей наилучший возможный детектор достигнет точности почти в 50%», — считает аспирант Университета Мэриленда Вину Санкар Садасиван. Он добавил, что детекторы можно обмануть, перефразируя выходные данные большой языковой модели. Садасиван призвал научиться жить с тем фактом, что мы, возможно, никогда не сможем достоверно отличить ИИ-текст от человеческого. «Мы не должны использовать эти детекторы, чтобы вынести окончательный вердикт», — считает он. Напомним, в декабре 2022 года профессор уличил студентов в подделке эссе с помощью ChatGPT. В январе государственные школы Нью-Йорка запретили использовать чат-бота на территории учреждений. Позже к ним присоединились крупнейшие вузы Австралии. В том же месяце OpenAI выпустила детектор сгенерированных текстов. Вскоре ChatGPT научили обходить ограничения инструмента.