Профессор Владимир Крылов: отличить авторство ИИ и человека — принципиально невозможно

Владимир Крылов, известный профессор математики и доктор технических наук, недавно выразил сомнение в возможности точного определения различий между текстами и изображениями, созданными человеком и искусственным интеллектом. Во время публичной лекции, отвечая на вопрос Digital Report он подчеркнул принципиальные трудности в создании детекторов, способных с высокой достоверностью определять авторство.

“Невозможно с заданной вероятностью построить обнаружение”, — заявил Крылов, комментируя эффективность инструментов для определения авторства текстов и изображений. Он подчеркнул, что детекторы, используемые сегодня, могут обеспечить точность в 80%, но со временем эта цифра может упасть до 50-60%. Таким образом, становится ясно, что разграничить продукты творчества, созданные человеком или ИИ, становится всё более сложной задачей.

Профессор также поднял вопрос о качестве продукции ИИ, спрашивая, является ли “аишность” доказательством низкого качества. По его мнению, это не так. Крылов утверждает, что основная проблема не в гонке вооружений между человеком и машиной, а в принципиальной невозможности определить источник происхождения продукта, будь то кремниевый или органический мозг.

Эти высказывания бросают вызов современным представлениям о творчестве и авторстве, ставя вопрос о будущем взаимодействия человека и машин. Они также подчеркивают необходимость переосмысления наших подходов к оценке и использованию ИИ в различных сферах жизни.

Недавние исследования поднимают важные вопросы о точности детекторов ИИ, используемых для различения человеческих текстов и контента, созданного искусственным интеллектом. Согласно исследованию, опубликованному в International Journal for Educational Integrity, несмотря на значительные усилия и развитие этой области, до сих пор не существует полностью надежного метода для точного различения человеческих и искусственно созданных текстов. Исследование включало анализ текстов, сгенерированных как человеком, так и различными моделями ChatGPT (3.5 и 4), и обнаружило, что даже современные детекторы ИИ не всегда способны с высокой точностью определить источник текста​​.

В дополнение к этому, сайт Scribbr провел собственное исследование, сравнивая различные детекторы ИИ, включая как бесплатные, так и платные инструменты. Они обнаружили, что наиболее точный детектор ИИ на данный момент – это Winston AI с показателем точности в 84%, в то время как лучший бесплатный инструмент – Sapling – демонстрирует точность на уровне 68%. Однако стоит отметить, что даже самые передовые инструменты не обеспечивают 100% точности, а некоторые из них допускали ложные срабатывания, ошибочно классифицируя тексты, написанные человеком, как сгенерированные ИИ​​.

Эти результаты подчеркивают сложность задачи, с которой сталкиваются разработчики детекторов ИИ, и ставят под вопрос надежность использования этих инструментов в качестве единственного метода определения авторства текста. В свете этих открытий важно продолжать исследования и разработки в этой области, чтобы повысить точность и надежность таких систем.