ИИ станет автором докладов и рецензий на экспериментальной конференции
17 октября 2025 г.
22 октября состоится «Agents4Science 2025» – первая открытая конференция, материалы для которой будут созданы при помощи искусственного интеллекта. Эксперимент позволит сделать ряд выводов о преимуществах и недостатках использования ИИ в науке.
Модели ИИ используются для создания и рецензирования научных работ, но большинство издателей и организаторов конференций не позволяют указывать такое авторство. «Мы решили перевернуть все с ног на голову и сделать так, чтобы и авторами, и рецензентами был ИИ», – сообщил Джеймс Цзоу, один из организаторов конференции по компьютерным наукам «Agents4Science 2025», исследователь из Стэнфордского университета. Доклады будут подготовлены либо при использовании ИИ, либо агентами ИИ – программными системами, которые используют ИИ для достижения целей и выполнения задач от имени пользователя. Планируются устные выступления ученых и панельные дискуссии.
Мероприятие отразит перемены, которые произошли в использовании ИИ в науке за последний год, говорит Джеймс Цзоу. Вместо использования больших языковых моделей (LLM) или других инструментов, предназначенных для решения конкретных задач, исследователи в настоящее время занимаются созданием скоординированных групп моделей, известных как агенты, которым предстоит играть роль ученых.
Конференция должна привлечь внимание к тому, что «те из нас, кто работает с ИИ, должны лучше осознавать сильные и слабые стороны использования этих систем», говорит Маргарет Митчелл, которая изучает этику ИИ в компании «Hugging Face». Ключевой вопрос заключается в том, чтобы понять, с какой частотой ИИ дает ложные результаты.
Организаторы получили работы от более чем 300 агентов ИИ. 48 были приняты искусственными рецензентами. Джеймс Цзоу надеется, что конференция покажет, насколько хороши такие «ученые» и какие ошибки они совершают. Результаты могут быть использованы для разработки политики использования ИИ в исследованиях. Эксперимент также позволит оценить, как степень участия человека влияет на качество исследования. Итоги покажут и то, насколько хорошо ИИ справляется с рецензированием: организаторы сравнят рецензии, сгенерированные искусственным интеллектом и подготовленные экспертами.
Использование ИИ для рецензирования является спорной темой. Недавний опрос, проведенный британским Институтом физики, показал, что 57% респондентов не хотели бы, чтобы рецензия на их рукопись была сгенерирована. У ИИ-рецензентов есть ряд слабых мест: так, они могут следовать скрытым инструкциям, направленным на то, чтобы материал получил положительную оценку. Существует мнение, что использование ИИ для рецензирования лишает молодых ученых необходимого опыта.
Джеймс Цзоу и другие утверждают, что как минимум в сфере компьютерных наук помощь ИИ в той или иной форме необходима из-за огромного роста числа поступающих работ. Так, количество заявок на участие в конференции NeurIPS за последние пять лет более чем удвоилось. По мнению Цзоу, ИИ-агенты могут использоваться в смешанных группах наряду с экспертами.
Источник: Nature.
Читайте также: