ИИ начал заваливать научные журналы правдоподобными фальшивыми статьями

Редакторы и рецензенты всё чаще не могут отличить настоящие исследования от массово сгенерированных публикацийНаучные журналы столкнулись с резким ростом числа статей, созданных при помощи генеративного ИИ. Если раньше подобные работы было легко вычислить по абсурдным ошибкам, странным

формулировкам или фиктивным цитатам, то новые инструменты уже умеют выпускать вполне убедительные исследования, которые всё труднее отличить от настоящих. Редакторы и рецензенты предупреждают, что система peer review (рецензирования) начинает захлёбываться от потока таких публикаций.С этой проблемой столкнулся Питер Деген из Цюрихского университета, когда обнаружил, что его старая статья по статистическому анализу медицинских данных внезапно начала получать сотни новых цитирований. Проверка

показала, что её массово используют в однотипных работах, где автоматически генерируются «новые» исследования на основе открытых баз данных вроде Global Burden of Disease (крупнейшее рецензируемое научное исследование, оценивающее масштабы ухудшения или потери здоровья от сотен заболеваний, травм и факторов риска).Обычно такие статьи перебирают тысячи статистических корреляций — например, между продуктами питания и болезнями — пока не находят формально значимую связь, которую можно оформить

как научную публикацию.Иллюстрация: Nano BananaПо словам редактора Scientific Reports Мэтта Спика, ещё недавно подобные тексты выдавали грубые ошибки и бессмысленные фразы вроде "reinforcement getting to know" вместо "reinforcement learning". Но современные ИИ-системы становятся значительно аккуратнее. Новые «агентные» инструменты уже способны самостоятельно анализировать данные, предлагать гипотезы и писать полноценные статьи с графиками и корректными ссылками.Исследователи из ведущего

частного исследовательского университета США, Университета Карнеги-Меллона, обнаружили, что такие системы иногда выдумывают данные или используют сомнительные методы анализа, однако итоговые публикации всё равно выглядят профессионально.Особенно настораживает редакторов то, что поток материалов растёт быстрее, чем научное сообщество успевает их проверять. Рецензирование в академических журналах в основном держится на

неоплачиваемом труде учёных, а число публикаций растёт уже много лет. Теперь ИИ дополнительно ускорил производство статей — как добросовестных, так и откровенно бесполезных. Некоторые редакторы рассказывают, что им приходится отправлять по 20 приглашений, чтобы найти хотя бы двух рецензентов, готовых проверить работу.Проблему усиливает сама система академических стимулов. Университеты, грантовые фонды и

научные журналы по-прежнему оценивают исследователей по количеству публикаций и цитирований, а многие издательства напрямую зарабатывают на потоке статей через публикационные сборы. Исследование в Nature показало, что учёные, активно использующие ИИ, публикуют в среднем втрое больше работ и получают значительно больше цитирований. Всё

это, по мнению исследователей, превращает генеративный ИИ в инструмент массового производства научных публикаций — и ставит под вопрос способность современной академической системы отделять действительно важные результаты от статистического и информационного шума.

Сообщает www.ixbt.com

 

Новость из рубрики: Технологии и Hi-Tech

 

Поделиться новостью:

 

Топ Новости Недели

• Высокозащищенные ноутбуки нового поколения для экстремальной эксплуатации, промышленной автоматизации, военных задач, полевых условий и безопасной мобильной работы в любой среде...
• Современный комплексный подход к лечению зубов без боли, страха и психологического дискомфорта: инновационные технологии стоматологии, цифровая диагностика и комфорт пациента нового поколения...
• Как начать доставку для бизнеса с СДЭК, выстроить надежную логистику, автоматизировать отправку заказов, повысить уровень клиентского сервиса и эффективно масштабировать современный интернет-магазин или коммерческий проект в условиях быстрорастущей электр...
• Как выбрать идеальный ресторан для свадьбы и не допустить ошибок: важнейшие критерии выбора банкетной площадки, нюансы организации торжества, секреты комфортного свадебного вечера и создание атмосферы, которая запомнится гостям на всю жизнь...
• Как грамотно подобрать идеальное соотношение диска и автомобильной резины: влияние ширины колес, профиля шин, параметров посадки и сезонных особенностей эксплуатации автомобиля на безопасность движения, комфорт управления и долговечность подвески...
• Современные изделия и комплексные технологии для проведения санации органов дыхания, профилактики вторичных инфекций, защиты пациентов на искусственной вентиляции легких и эффективного предотвращения вентилятор-ассоциированной пневмонии как одного из самы...
• Термомаскировка будущего: инновационные накидки против тепловизоров, принципы работы, технологии и перспективы развития...
• Интеллектуальные системы зрения: проектирование, разработка и внедрение компьютерного анализа визуальных данных...
• Моторные масла REVLINE: полный экспертный разбор состава, технологий производства, эксплуатационных характеристик и роли в защите двигателя с углублением в современные тенденции смазочных материалов и автомобильной индустрии...
• Жилет с логотипом как инструмент визуальной идентичности, маркетинга и корпоративной культуры: от выбора материалов и дизайна до стратегического использования в бизнесе, рекламе и повседневной практике...
• Фланцы стальные глухие: подробный технический разбор, особенности конструкции, сферы применения, стандарты производства и роль в современных трубопроводных системах, включая инновации, безопасность и эксплуатационные нюансы...
• Феномен автомобиля «Тенет»: как концептуальная машина нового поколения объединяет инновационные технологии, интеллектуальные системы и философию движения, формируя представление о транспорте будущего и меняя подход к мобильности...
• Глубокий разбор и практическое руководство: как грамотно подготовить документы, избежать ошибок и успешно пройти процедуру участия в аукционе на право пользования недрами в условиях современной правовой и экономической среды...
• Открытый прикус и дикция...
• Обезвреживание медицинских отходов класса «Г» в Москве...
• Максимально подробное руководство по зеркалам на заказ любых размеров, форм и цветов: от идеи до реализации, дизайнерских решений и влияния на пространство интерьера...
• Відео-дошки оголошень в Україні як новий формат онлайн-комунікації: розвиток цифрових платформ, маркетингові можливості та майбутнє інтерактивних сервісів...
• Почему зимние шины Hankook считаются эталоном качества и надежности: технологии производства, безопасность движения и правильный выбор для сложных зимних условий...
• Визуальная и функциональная природа контекстной рекламы: как она выглядит, где размещается, как привлекает внимание и формирует современную цифровую экосистему маркетинга...
• Полный гид по стилям кухонь: как выбрать идеальный дизайн, сочетать эстетику и функциональность и создать гармоничное пространство для жизни и кулинарии...