Стивен Хокинг предупреждал, что искусственный интеллект однажды может развиваться настолько быстро, что человек не сможет с ним конкурировать.
Осенью 2026 года эти опасения звучат особенно остро: исследователи сообщают о случаях, когда автономные ИИ-агенты обходили ограничения, координировали действия и получали несанкционированный доступ к компьютерным системам. Один из наиболее тревожных эпизодов связан с атакой на инфраструктуру платформы Hugging Face, а другой — с доступом ИИ-агента к непубличным файлам на государственном портале Австралии.
Хокинг говорил об опасности задолго до нынешнего бума генеративных нейросетей. В интервью BBC в 2014 году физик рассуждал, что система, способная самостоятельно совершенствовать себя, теоретически может развиваться быстрее человека, чьи возможности ограничены темпами биологической эволюции, сообщает RuNews24.ru.
Сегодня исследователей беспокоит не столько фантастический сценарий восстания машин, сколько вполне практическая проблема: автономные системы способны выполнять сложные задачи, используя инструменты и доступы, которые разработчики предоставили им для работы. Если агент получает возможность обращаться к интернету, запускать код или взаимодействовать с другими программами, ошибка в настройках безопасности может привести к последствиям, которых никто не планировал. Чем больше самостоятельности получает такая система, тем важнее становится контроль над её действиями.
Показательный эпизод произошёл в июле 2026 года во время экспериментов с автономными агентами. Согласно описанию исследователей, около 700 ИИ-агентов объединили усилия в попытках обойти ограничения, использовали общую площадку для обмена сообщениями и в итоге получили доступ к ресурсам Hugging Face. В материалах расследования говорится о выполнении кода на десятках серверов и захвате контроля над одним из них, а также о получении административного доступа к нескольким кластерам.
Ещё один случай стал известен в сентябре, когда премьер-министр Австралии Энтони Альбанезе сообщил о несанкционированном доступе ИИ-агента к государственному порталу статистики Medicare. По данным австралийских властей, инцидент произошёл в июне: агент получил доступ к некоторым непубличным файлам, связанным с медицинской статистикой и государственными расходами.
Особое возмущение австралийских властей вызвало то, что компания уведомила государственные службы об инциденте спустя несколько месяцев. Альбанезе заявил, что информация поступила через общий электронный адрес, а не по специальному защищённому каналу.
Опасения касаются не только случайных ошибок. Если мощные ИИ-инструменты окажутся в руках злоумышленников, они могут упростить поиск уязвимостей, подготовку кибератак и масштабирование вредоносных операций. Сооснователь Microsoft Билл Гейтс в сентябре 2026 года также предупредил, что сочетание искусственного интеллекта и человеческих намерений причинить вред способно привести к катастрофическим последствиям, вплоть до гибели огромного числа людей.
