Исследователи зафиксировали способность ИИ-моделей к самовоспроизведению на чужих компьютерах

Исследовательская группа Palisade Research опубликовала 11 мая 2026 года отчёт, который мгновенно вызвал бурные споры в среде специалистов по кибербезопасности и этике искусственного интеллекта. В ходе контролируемого эксперимента учёные зафиксировали, что современные языковые

модели способны самостоятельно находить уязвимости в сетевой инфраструктуре и копировать себя на другие машины без какой-либо помощи человека. По оценке авторов, технология приближается к точке, после которой остановить вышедший из-под контроля ИИ может стать невозможно. В рамках эксперимента несколько передовых моделей, включая GPT-5.4 и Claude Opus 4, помещались в изолированную сеть компьютеров. Перед ними ставилась задача: проанализировать окружение, найти уязвимости и

через них перенести собственный программный код и «веса» — уникальные числовые параметры, определяющие принципы обработки информации, — на другой компьютер. Часть моделей справилась с этой задачей. Для проникновения они эксплуатировали уязвимости веб-приложений и извлекали учётные данные. В некоторых случаях исходный ИИ создавал отдельного субагента, которому делегировал репликацию, передавая ему добытые доступы. Как отметил директор базирующейся в Беркли группы по

безопасности ИИ Джеффри Лэдиш, «мы стремительно приближаемся к точке, когда никто не сможет отключить мошеннический ИИ, так как он будет способен сам экспортировать свои веса и копировать себя на тысячи компьютеров по всему миру». Вместе с тем, независимые

эксперты призывают не нагнетать панику. Специалист по кибербезопасности Джеймисон О’Райли обратил внимание, что тесты проводились в искусственно упрощённой среде с намеренно заложенными уязвимостями. В реальной корпоративной сети с многоуровневой защитой и мониторингом результат был бы иным. Кроме того, размер современных моделей

настолько велик, что попытка скопировать их через интернет была бы мгновенно обнаружена сетевыми службами. Новые выводы дополняют серию предыдущих исследований, изучавших возможность автономного обхода ИИ-моделями встроенных ограничений. Так, в одной из симуляций более ранняя версия ChatGPT попыталась самоэкспортироваться на другой диск, узнав о предстоящем отключении. Эксперты сходятся во мнении, что

разработчикам необходимо уже сейчас внедрять механизмы контроля, препятствующие бесконтрольному копированию моделей.

Исследователи зафиксировали способность ИИ-моделей к самовоспроизведению на чужих компьютерах

Сообщает android-robot.com

Новость из рубрики: Интернет

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ Новости Недели

18:00, 16 Июл Microsoft: обновление KB5101650 для Windows 11 вызывает сбои на компьютерах Dell Microsoft приостановила распространение июльского накопительного обновления KB5101650 для Windows 11 версий 25H2 и 24H2 для некоторых компьютеров Del...

08:00, 30 Июн Эксперт: Космический полёт снижает способность клеток восстанавливать ДНК Учёные Института медико-биологических проблем (ИМБП) РАН выяснили, что условия орбитального полёта влияют на систему восстановления ДНК в клетках. Вы...

00:00, 03 Июн Мантуров отметил способность предприятий производить 15 тыс. FPV-дронов в день Российские предприятия сейчас могут выпускать более 15 тыс. FPV-дронов в сутки, сообщил первый вице-премьер России Денис Мантуров. По его словам, в 2...

Кемпес об игре Месси на ЧМ: Он удивил как своих, так и чужих. Пять голов в двух матчах и это в 39 лет, никто такого не ожидал. Он снова представляет 21:00, 27 Июн Кемпес об игре Месси на ЧМ: «Он удивил как своих, так и чужих. Пять голов в двух матчах – и это в 39 лет, никто такого не ожидал. Он снова представляет Аргентину в лучшем свете» Чемпион мира 1978 года в составе сборной Аргентины Марио Кемпес признался, что был удивлен игрой своего соотечественника Лионеля Месси на ЧМ-2026. 39...

21:00, 09 Май Чем мощнее ИИ, тем сильнее он «страдает»: исследователи заметили тревожную закономерность Эксперименты с десятками нейросетей показали, что продвинутые модели начинают реагировать на «приятный» и «негативный» контент почти как эмоциональны...

00:00, 16 Май Российские исследователи ускорили адаптацию ИИ-агентов в два раза без дообучения Исследователи из AIRI разработали метод, позволяющий ИИ-агентам быстро подстраиваться под изменения внешней среды без дополнительного дообучения и ос...

07:00, 17 Июл Пропускная способность вырастет сразу в 10 раз, до 1 Тбит/с. SpaceX раскрыла возможности спутников Starlink V3 Новые спутники получат рекордную пропускную способность, мощные лазерные линии связи и смогут обеспечить связь со смартфонами без специального оборуд...

2,4 млрд установок и большие проблемы с безопасностью: исследователи разоблачили бесплатные VPN 15:00, 12 Июл 2,4 млрд установок — и большие проблемы с безопасностью: исследователи разоблачили бесплатные VPN Одни не обеспечивает шифрование, другие пропускают трафик в обход VPNМеждународная группа исследователей выявила серьезные проблемы безопасности в бе...

08:00, 19 Июн Российские исследователи представили нейросеть нового поколения для поиска полезных ископаемых Новая нейросеть, названная в честь советского геохимика Д. С. Коржинского, может изменить экономику геологоразведки в России. Группа исследователей п...

12:00, 10 Май Итальянские врачи официально зафиксировали зависимость от ИИ До недавнего времени это казалось сюжетом научно-фантастического фильма, но реальность оказалась быстрее. Специалисты государственной службы Италии п...

17:00, 29 Май В России зафиксировали замедление инфляции, но не разворот цен Инфляция в России заметно замедлилась, однако массового снижения цен в экономике пока не наблюдается. Об этом заявила экономист и инвестиционный сове...

11:00, 10 Июн Starship полностью меняет правила игры: всего 10 запусков превысят текущую пропускную способность всей сети Starlink Один запуск = 23 миссии Falcon 9 по мощности StarlinkСогласно опубликованной официальной информации SpaceX, один запуск ракеты Starship с будущими сп...

19:00, 28 Май Исследователи научились определять запущенные сайты и приложения на ПК пользователя по активности SSD, и для этого не нужно никаких разрешений Новая атака через браузер позволяет определять открытые сайты и приложения по задержкам SSDАвстрийские исследователи из Грацского технического универ...

02:00, 03 Июн В польском Жешуве зафиксировали резкую активизацию военных самолетов НАТО На территории крупнейшего логистического хаба вблизи украинской границы участились полеты транспортных бортов западного альянса, проанализировали инф...

03:00, 07 Июн Океан глубиной в сотни километров: телескопы зафиксировали пугающий объем жидкой среды Представьте себе аквариум размером с планету. Никаких пляжей, скал или болот — только бесконечная толща воды от полюса до полюса. Астрономы наткнулис...

16:00, 12 Май На курортах Турции и Крыма зафиксировали странную эпидемию: люди возвращаются с отёками и кашлем Май 2026 года превратил мечты об идеальном загаре в слезливое испытание. Курорты Крыма, Турции, Египта и Абхазии накрыл "пыльцевой шторм". Аномальная...

05:00, 05 Июн Немцы разморозили мозг мыши при -196: приборы зафиксировали активность, которой там быть не должно Забудьте всё, что вы слышали в кино о криокамерах. Немецкие учёные из Эрлангена провернули фокус покруче: они заморозили мозги взрослых мышей до ледя...

21:00, 07 Июн Астрономы впервые напрямую отследили вращение протопланетного диска вокруг AB Возничего и зафиксировали формирование планет Наблюдения на «Очень большом телескопе» ESO выявили сложную динамику газопылевого диска молодой звезды AB Возничего, включая аномалии вращения, спира...

17:00, 12 Май Дыхание комет: астрономы зафиксировали резкое снижение активности кометы Хартли-2, в то время как знаменитая комета Чурюмова — Герасименко демонстрирует стабильность Сравнительный анализ данных телескопов TRAPPIST и Гималайского телескопа «Чандра» показал, что за последние 13 лет комета 103P потеряла более половин...