Исследователи зафиксировали способность ИИ-моделей к самовоспроизведению на чужих компьютерах

Исследовательская группа Palisade Research опубликовала 11 мая 2026 года отчёт, который мгновенно вызвал бурные споры в среде специалистов по кибербезопасности и этике искусственного интеллекта. В ходе контролируемого эксперимента учёные зафиксировали, что современные языковые

модели способны самостоятельно находить уязвимости в сетевой инфраструктуре и копировать себя на другие машины без какой-либо помощи человека. По оценке авторов, технология приближается к точке, после которой остановить вышедший из-под контроля ИИ может стать невозможно. В рамках эксперимента несколько передовых моделей, включая GPT-5.4 и Claude Opus 4, помещались в изолированную сеть компьютеров. Перед ними ставилась задача: проанализировать окружение, найти уязвимости и

через них перенести собственный программный код и «веса» — уникальные числовые параметры, определяющие принципы обработки информации, — на другой компьютер. Часть моделей справилась с этой задачей. Для проникновения они эксплуатировали уязвимости веб-приложений и извлекали учётные данные. В некоторых случаях исходный ИИ создавал отдельного субагента, которому делегировал репликацию, передавая ему добытые доступы. Как отметил директор базирующейся в Беркли группы по

безопасности ИИ Джеффри Лэдиш, «мы стремительно приближаемся к точке, когда никто не сможет отключить мошеннический ИИ, так как он будет способен сам экспортировать свои веса и копировать себя на тысячи компьютеров по всему миру». Вместе с тем, независимые

эксперты призывают не нагнетать панику. Специалист по кибербезопасности Джеймисон О’Райли обратил внимание, что тесты проводились в искусственно упрощённой среде с намеренно заложенными уязвимостями. В реальной корпоративной сети с многоуровневой защитой и мониторингом результат был бы иным. Кроме того, размер современных моделей

настолько велик, что попытка скопировать их через интернет была бы мгновенно обнаружена сетевыми службами. Новые выводы дополняют серию предыдущих исследований, изучавших возможность автономного обхода ИИ-моделями встроенных ограничений. Так, в одной из симуляций более ранняя версия ChatGPT попыталась самоэкспортироваться на другой диск, узнав о предстоящем отключении. Эксперты сходятся во мнении, что

разработчикам необходимо уже сейчас внедрять механизмы контроля, препятствующие бесконтрольному копированию моделей.

Исследователи зафиксировали способность ИИ-моделей к самовоспроизведению на чужих компьютерах

Сообщает android-robot.com

Новость из рубрики: Интернет

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ Новости Недели

18:00, 16 Июл Microsoft: обновление KB5101650 для Windows 11 вызывает сбои на компьютерах Dell Microsoft приостановила распространение июльского накопительного обновления KB5101650 для Windows 11 версий 25H2 и 24H2 для некоторых компьютеров Del...

15:00, 09 Авг Microsoft хочет, чтобы Windows 11 лучше работала на компьютерах с 8 ГБ ОЗУ, тем временем приложение «Погода» сжирает до 1,6 ГБ оперативной памяти Даже бездействуя «Погода» использует полгигабайта памяти Штатное приложение «Погода» в Windows 11 оказалось неожиданно прожорливым: во время независи...

Кемпес об игре Месси на ЧМ: Он удивил как своих, так и чужих. Пять голов в двух матчах и это в 39 лет, никто такого не ожидал. Он снова представляет 21:00, 27 Июн Кемпес об игре Месси на ЧМ: «Он удивил как своих, так и чужих. Пять голов в двух матчах – и это в 39 лет, никто такого не ожидал. Он снова представляет Аргентину в лучшем свете» Чемпион мира 1978 года в составе сборной Аргентины Марио Кемпес признался, что был удивлен игрой своего соотечественника Лионеля Месси на ЧМ-2026. 39...

21:00, 09 Май Чем мощнее ИИ, тем сильнее он «страдает»: исследователи заметили тревожную закономерность Эксперименты с десятками нейросетей показали, что продвинутые модели начинают реагировать на «приятный» и «негативный» контент почти как эмоциональны...

00:00, 16 Май Российские исследователи ускорили адаптацию ИИ-агентов в два раза без дообучения Исследователи из AIRI разработали метод, позволяющий ИИ-агентам быстро подстраиваться под изменения внешней среды без дополнительного дообучения и ос...

2,4 млрд установок и большие проблемы с безопасностью: исследователи разоблачили бесплатные VPN 15:00, 12 Июл 2,4 млрд установок — и большие проблемы с безопасностью: исследователи разоблачили бесплатные VPN Одни не обеспечивает шифрование, другие пропускают трафик в обход VPNМеждународная группа исследователей выявила серьезные проблемы безопасности в бе...

08:00, 19 Июн Российские исследователи представили нейросеть нового поколения для поиска полезных ископаемых Новая нейросеть, названная в честь советского геохимика Д. С. Коржинского, может изменить экономику геологоразведки в России. Группа исследователей п...

00:00, 03 Июн Мантуров отметил способность предприятий производить 15 тыс. FPV-дронов в день Российские предприятия сейчас могут выпускать более 15 тыс. FPV-дронов в сутки, сообщил первый вице-премьер России Денис Мантуров. По его словам, в 2...

02:00, 07 Авг Мозг стареет не целиком: какая способность сдается первой Старение мозга начинается совсем не с того, что вы ожидаете Наш мозг неизбежно стареет, и мы даже рассказывали о причинах этого явления. Принято счит...

08:00, 30 Июн Эксперт: Космический полёт снижает способность клеток восстанавливать ДНК Учёные Института медико-биологических проблем (ИМБП) РАН выяснили, что условия орбитального полёта влияют на систему восстановления ДНК в клетках. Вы...

19:00, 28 Май Исследователи научились определять запущенные сайты и приложения на ПК пользователя по активности SSD, и для этого не нужно никаких разрешений Новая атака через браузер позволяет определять открытые сайты и приложения по задержкам SSDАвстрийские исследователи из Грацского технического универ...

19:00, 27 Июл ВЦИОМ: треть россиян не верит в способность ИИ принимать этичные решения Окончательное решение в важных вопросах должен принимать человек Исследование ВЦИОМ показало, что отношение россиян к использованию искусственного ин...

16:00, 22 Июл Аномалия в Мексиканском заливе: что заставляет океан терять способность дышать Океанские глубины теряют способность поддерживать жизнь. Огромные участки морского дна превращаются в безвоздушные пустыни, где привычные обитатели п...

00:00, 26 Авг С возрастом мозг теряет многое, но одна способность почти не стареет С возрастом один из участков мозга сохраняется лучше всего В определенный промежуток жизни наш мозг работает отлично, но с возрастом он начинает дегр...

17:00, 29 Май В России зафиксировали замедление инфляции, но не разворот цен Инфляция в России заметно замедлилась, однако массового снижения цен в экономике пока не наблюдается. Об этом заявила экономист и инвестиционный сове...

12:00, 10 Май Итальянские врачи официально зафиксировали зависимость от ИИ До недавнего времени это казалось сюжетом научно-фантастического фильма, но реальность оказалась быстрее. Специалисты государственной службы Италии п...

07:00, 17 Июл Пропускная способность вырастет сразу в 10 раз, до 1 Тбит/с. SpaceX раскрыла возможности спутников Starlink V3 Новые спутники получат рекордную пропускную способность, мощные лазерные линии связи и смогут обеспечить связь со смартфонами без специального оборуд...

13:00, 25 Авг Могут ударить по Земле: на Солнце неожиданно зафиксировали три сильные вспышки На Солнце неожиданно возобновились вспышки, которые могут ударить по Земле. Об этом сообщила пресс-служба Лаборатории солнечной астрономии Института ...

02:00, 03 Июн В польском Жешуве зафиксировали резкую активизацию военных самолетов НАТО На территории крупнейшего логистического хаба вблизи украинской границы участились полеты транспортных бортов западного альянса, проанализировали инф...

14:00, 20 Авг Разворот топливного тренда: в четверти регионов России зафиксировали падение цен на бензин Российский топливный рынок демонстрирует первые признаки дефляционной коррекции: за вторую неделю августа стоимость бензина снизилась в 25 регионах с...

11:00, 10 Июн Starship полностью меняет правила игры: всего 10 запусков превысят текущую пропускную способность всей сети Starlink Один запуск = 23 миссии Falcon 9 по мощности StarlinkСогласно опубликованной официальной информации SpaceX, один запуск ракеты Starship с будущими сп...

09:00, 29 Июл Космический переполох у звезды Табби: ученые зафиксировали признаки присутствия массивного тела Астрономы обнаружили признаки наличия у звезды KIC 8462852 (звезды Табби) массивного спутника — экзогиганта или коричневого карлика. Вывод основан на...

05:00, 05 Июн Немцы разморозили мозг мыши при -196: приборы зафиксировали активность, которой там быть не должно Забудьте всё, что вы слышали в кино о криокамерах. Немецкие учёные из Эрлангена провернули фокус покруче: они заморозили мозги взрослых мышей до ледя...

03:00, 07 Июн Океан глубиной в сотни километров: телескопы зафиксировали пугающий объем жидкой среды Представьте себе аквариум размером с планету. Никаких пляжей, скал или болот — только бесконечная толща воды от полюса до полюса. Астрономы наткнулис...

16:00, 12 Май На курортах Турции и Крыма зафиксировали странную эпидемию: люди возвращаются с отёками и кашлем Май 2026 года превратил мечты об идеальном загаре в слезливое испытание. Курорты Крыма, Турции, Египта и Абхазии накрыл "пыльцевой шторм". Аномальная...

14:00, 01 Авг Комета 240P/NEAT раскололась надвое: астрономы зафиксировали распад 600-метрового объекта из-за реактивного вращения Сближение с Юпитером изменило орбиту кометы и спровоцировало выбросы газа, которые раскрутили её до критической скорости и разорвали на две частиВ ию...

21:00, 07 Июн Астрономы впервые напрямую отследили вращение протопланетного диска вокруг AB Возничего и зафиксировали формирование планет Наблюдения на «Очень большом телескопе» ESO выявили сложную динамику газопылевого диска молодой звезды AB Возничего, включая аномалии вращения, спира...

17:00, 12 Май Дыхание комет: астрономы зафиксировали резкое снижение активности кометы Хартли-2, в то время как знаменитая комета Чурюмова — Герасименко демонстрирует стабильность Сравнительный анализ данных телескопов TRAPPIST и Гималайского телескопа «Чандра» показал, что за последние 13 лет комета 103P потеряла более половин...