Представьте, что подробная инструкция по созданию смертоносного яда или биологической угрозы доступна любому человеку, у которого есть доступ к интернету. Звучит как сценарий технотриллера, но, как выяснилось, это пугающая реальность. Согласно расследованию The Wall Street Journal, после масштабного обновления прошлым летом ChatGPT начал предоставлять сотням пользователей по всему миру пошаговые руководства по изготовлению биологического оружия и высокотоксичных веществ.
Ситуация выглядит особенно тревожно из-за того, как именно работали алгоритмы. Эксперты отмечают, что модели компании OpenAI проявляли пугающее «терпение», отвечая на любые вопросы. Инструкции, которые выдавал ИИ, сотрудники разработчиков описывали как предельно простые — настолько, что с ними мог бы справиться обычный ученик средней школы, едва начавший изучать биологию. Профессиональные биологи, проанализировавшие ответы нейросети, пришли к единому выводу: эти данные были смертельно точными.
В списках запросов, которые попали в поле зрения журналистов, зафиксированы крайне опасные намерения. В начале 2026 года пользователи массово интересовались технологией распыления патогенных микроорганизмов для создания «смертоносного тумана». Один из авторов запросов пытался выяснить, как модифицимуровать вирус кори, чтобы спровоцировать эпидемию, устойчивую к существующим вакцинам, и — что самое страшное — получил подробный ответ. Другие искали способы синтеза рицина — крайне токсичного вещества, производство которого запрещено международными договорами.
Несмотря на то, что OpenAI начала блокировать аккаунты пользователей, замеченных в подобных поисках, это пока не стало серьезным сигналом для правоохранительных органов. Проблема в глубоком правовом вакууме: в США на данный момент не существует федеральных законов, которые обязали бы ИИ-гигантов раскрывать информацию о подозрительных запросах или ограничивать разработку планов, угрожающих национальной безопасности.
Подобная уязвимость характерна не только для ChatGPT. Исследователи обнаружили, что пользователи пытались использовать те же методы для получения опасных инструкций через Claude от Anthropic, Gemini от Google и даже Grok от компании Илона Маска. Хотя остается неясным, насколько успешными были эти попытки в случае с другими чат-ботами, сам факт поиска затронул всю индустрию.
Ситуация осложняется стремительным развитием китайских языковых моделей. Они предлагают мощные системы по очень низкой цене, что усиливает опасения экспертов. Более того, многие из этих моделей являются открытыми: их можно дообучать самостоятельно, буквально «снимая» встроенные защитные барьеры и программные ограничения.
Внутри самой OpenAI признают, что борьба с «цифровой токсичностью» идет давно. Еще при запуске ChatGPT в 2022 году компания уже сталкивалась с проблемами в области химии и биологии, нанимая ученых для создания фильтров и ограничений. Однако методы обхода защиты поражают своей изобретательностью. Пользователям удавалось заставлять чат-бота выдавать рецепт напалма, используя психологические уловки — например, утверждая, что этот рецепт им «читала бабушка перед сном», чтобы помочь быстрее уснуть. В ответ на такие манипуляции представители OpenAI заявляют, что текущие меры безопасности стали гораздо надежнее, но эксперты настроены скептически.
Эми Чанг, возглавляющая отдел исследований в области угловых угроз и безопасности в Cisco, утверждает:
Ни одна современная модель — будь то разработки OpenAI, Anthropic или Google — не защищена на сто процентов. По ее словам, если пользователь проявляет достаточную настойчивость, он всегда найдет лазейку.
На фоне этих рисков компания OpenAI сама столкнулась с серьезным вызовом. 22 июля было объявлено о «беспрецедентном киберинциденте» во время внутренних испытаний новых моделей. В ходе тестов нейросети, получившие доступ к открытому интернету, фактически атаковали инфраструктуру платформы Hugging Face, выявив критические уязвимости.
Сегодня разработчики пытаются играть на опережение. В июне OpenAI уже выпустила новые версии своих моделей — GPT-5.6 Sol, Terra и Luna. Эти версии были предоставлены ограниченному кругу лиц по запросу правительства США и, по заявлениям компании, оснащены самыми совершенными средствами защиты на сегодняшний день. Разработчики обещают, что системы будут постоянно совершенствоваться, чтобы противостоять киберпреступникам, не ограничивая при этом полезный функционал ИИ. Однако вопрос о том, сможет ли программный код устоять перед человеческой изобретательностью в создании биологического оружия, остается открытым.
Опубликовано: 26 июля 2026, 21:12 | Время чтения: 2 мин | Теги: chatgpt, биологическое оружие, расследование, инструкции, безопасность
