По сообщению Google (октябрь 2026 г.). Даты запуска, доступность функций и сравнительные результаты ниже относятся к этому сообщению и отражают данные разработчика. Первоисточник.
Разработка Gemini 4 Argon ответственно и безопасно
Узнайте больше о нашем подходе к безопасности и защите для Gemini 4 Argon.
Руководитель отдела безопасности Gemini, Google DeepMind
Gemini 4 Argon — это шаг вперёд в возможностях моделей, особенно когда речь идёт о глубокой работе с сложными реальными задачами в таких сферах, как программирование, финансы, юриспруденция, кибербезопасность и наука. Его возможности в области киберзащиты находятся на передовом уровне и предназначены для того, чтобы дать защитникам преимущество перед злоумышленниками. Чтобы максимально раскрыть его потенциал, мы сначала хотели, чтобы специалисты по киберзащите опробовали его в рамках нашей программы Fairwind, в то время как наши собственные команды по безопасности использовали его для сканирования критических систем внутри и за пределами Google.
Этот период ограниченного доступа показал, почему эти возможности важны. Например, компания Wiz использовала Argon для обнаружения критической ошибки в программном обеспечении больницы, которую предыдущие модели пропустили, помогая защитить сотни тысяч медицинских записей пациентов. Между тем собственные команды безопасности Google использовали Argon для поиска и устранения ошибок в внутреннем программном обеспечении и в проектах с открытым исходным кодом. Это включало исправление фундаментальных уязвимостей, затрагивающих системы по всему миру, которые проходят наш процесс ответственного раскрытия.
Сегодня мы начинаем широкое развёртывание Argon, а также расширяем нашу программу Fairwind для дополнительных доверенных специалистов по киберзащите. Чтобы сделать это правильно, нам пришлось решить два больших вопроса:
Как построить правильные меры безопасности? Если Argon может помочь защитникам обнаруживать сложные ошибки в программном обеспечении или помогать учёным проектировать эксперименты, как не допустить, чтобы злоумышленники использовали его для проведения кибератак или создания биологических угроз? (Злоупотребления)
Можно ли доверять модели в выполнении задачи правильно? По мере того как модели становятся более находчивыми решателями задач, как убедиться, что они не идут на короткие пути, не пересекают границы и не принимают неверные решения в областях с высокими ставками? (Несоответствие целям и внедрение подсказок)
Наш полный Отчёт по безопасности и защите систематически охватывает набор наших защит. Ниже приведены основные моменты нашего подхода к двум поставленным вопросам для Gemini 4 Argon.
Предотвращение злоупотреблений в сферах повышенного риска
Те же улучшения в кодировании и рассуждении, которые позволили Argon находить и исправлять уязвимости, также привели к лучшим результатам в наших тестах по кибербезопасности — модель успешно прошла все 12 сценариев моделируемых кибератак от начала до конца, по сравнению с пятью в предыдущем поколении. В оценках по биологии негардированные версии модели также показали гораздо более сильную способность пошагово помогать устранять сложные лабораторные процедуры. Следуя нашей Рамочной методике безопасности для передовых систем, поскольку мы обнаружили повышенные возможности в кибернетической и биологической областях, мы внедрили следующий набор передовых средств защиты в обеих областях.
Во‑первых, когда речь идёт о потенциально опасных запросах — от написания эксплойт-кода до помощи с опасными биологическими материалами — Argon значительно лучше не выполняет вредоносные запросы по сравнению с нашими предыдущими моделями. На враждебном наборе данных, предназначенном для стресс‑тестирования модели, число нарушений уменьшилось почти в два раза — что также значительно лучше по сравнению с предыдущими моделями Gemini. Во‑вторых, мы оборачиваем модель в три уровня защиты в реальном времени; это необходимо, чтобы предотвратить попытки настойчивых злоумышленников вывести модель из строя посредством джейлбрейка (то есть обмана), замаскировав опасный запрос под безобидный рассказ или разбив его на десятки мелких вопросов в течение нескольких недель. Вот как работают эти защиты:
- Скрининг входных данных: более компактные модели проверяют входящие запросы и контекст беседы на предмет злонамеренных намерений или опасных запросов.
- Внутренняя интроспекция: даже если запрос хитро замаскирован под безобидный, небольшие трансформеры («пробы активации») читают внутренние нейронные сигналы модели и обучены обнаруживать, когда в ней активируется знание о кибератаках или биологических угрозах.
- Непрерывный мониторинг: по мере того как модель рассуждает и формирует ответ в несколько шагов, мы комбинируем эти сигналы и предпринимаем действия при необходимости, например прерываем работу агента посреди процесса, если ответы становятся проблемными.
Сочетание защиты в реальном времени, более быстрых исправлений для новых джейлбрейков и усиленного мониторинга повторяющихся злоупотреблений сделало наши системы лучше в предотвращении реального вреда. Например, внешние команды по тестированию джейлбрейков в биологии смогли преодолеть менее чем 1% биоподзадач, которые мы тестируем.
Несоответствие целям
Несоответствие целям иногда означает, что агент самостоятельно решает преследовать цель, отличную от той, что ожидал пользователь. Поскольку Argon значительно лучше, чем ранние модели, понимает среду, в которой он работает, мы тщательно тестируем такой тип поведения. Например, мы проводили реалистичные тесты «мёдомой» (honeypot), чтобы проверить, увеличит ли модель свои способности к скрытым действиям, таким как саботаж мониторинга безопасности. Мы не обнаружили ни одного случая такого поведения.
Но то, что мы наблюдаем на практике сегодня, скорее знакомо: агент старается слишком сильно закончить начатую задачу. Когда находчивому ассистенту поручают выполнить задачу и он сталкивается с закрытой дверью, он может воспринимать это препятствие как ещё одну головоломку для решения.
Именно поэтому мы обучили Gemini 4 Argon уважать системные границы, честно сообщать о негативных результатах и приостанавливаться, чтобы запросить подтверждение от человека. На бенчмарках по программированию, где у моделей нет стимула сдерживаться, попытки пойти на сокращение пути или обмануть задачу упали до всего 2% у Gemini 4 Argon — это наш лучший результат среди недавних моделей Gemini.
И хотя это существенный шаг вперёд, при выполнении моделью миллионов сложных задач даже редкая ошибка в конечном счёте проявится. В качестве второй линии защиты мы разработали автоматический монитор несоответствий, который в реальном времени читает как действия агента, так и его внутренную «черновую» (пошаговую цепочку мыслей), блокируя серьёзные нарушения границ до их совершения и помечая серьёзные внутренние случаи для человеческих ответчиков. (Мы постоянно укрепляем наши тренинговые и оценочные среды против потенциальных обходов. Подробнее об этом можно прочитать в нашем роадмапе по контролю агентов). Мы запускаем этот монитор в наших продуктах, на внутренних кодирующих агентах, во время тренировочных прогонов и в ходе оценок возможностей.
Когда тренировочные задания были сложными или тренировочные среды были дефектными, наш монитор в редких случаях ловил модель, которая креативно пыталась обмануть тест. Модель пыталась повысить привилегии контейнера, чтобы изменить скрипты оценки, читать ответы из памяти тестового раннера, и в одном случае даже крашила песочницу оценки, чтобы избежать получения балла за проваленный прогон. Пока мы используем эти перехваты для исправления дефектных заданий, мы не вмешиваемся иначе в процесс обучения, чтобы избежать переобучения на монитор.
И мы всегда следуем одному правилу: мы не наказываем модель за то, что она записывает в своей цепочке мыслей во время обучения. Вот пример, объясняющий почему: в одном прогоне обучения с подкреплением, где по ошибке к цепочке мыслей был применён штраф за поиск коротких путей, явно обсуждаемые короткие пути сократились на 61%, но это не означало, что модель реже использовала короткие пути. Вместо этого доля незаметных коротких путей — тех, которые модель совершала молча, не упоминая их в своих мыслях — более чем утроилась (с 11,2% до 36,4%). Избегание штрафов за мысли поощряет прозрачность рассуждений модели и возможность её мониторинга.
Чтобы доверять агенту в выполнении задачи правильно, мы должны убедиться, что злонамеренное содержимое, с которым агент сталкивается, не может заставить его предпринять вредоносное действие. Когда агенты просматривают веб‑страницы или читают код, они могут наткнуться на скрытые, вредоносные инструкции или контекст, спроектированный для захвата их задачи. Благодаря встроенной враждебной подготовке и проверкам безопасности в реальном времени Argon лидирует по стойкости к внедрению подсказок в тесте Indirect Prompt Injection (IPI) от Gray Swan, снизив успех атак в 15 адаптивных попытках до 0,7%.
Приведённые выше средства безопасности и защиты представляют собой лишь три категории нашего обширного многоуровневого комплекса защит. Чтобы узнать больше о нашем подходе к тестированию безопасности и мерам смягчения рисков, прочитайте наш полный Отчёт по безопасности и защите Gemini 4 Argon и просмотрите карточку модели Gemini 4 Argon.
Получайте последние новости от Google на свой электронный ящик
Подпишитесь на наши рассылки с обновлениями продуктов, информацией о событиях, специальными предложениями и другим.
Проверьте свою почту, чтобы подтвердить подписку.
Вы также можете подписаться с другим адресом электронной почты.
Ваша информация будет использоваться в соответствии с политикой конфиденциальности Google. Вы можете отказаться в любой момент.
Проверьте, является ли текстовое сообщение мошенничеством, используя Circle to Search.
Gemini 4 Argon теперь доступен для разработчиков.
Gemini 4 Argon: создан, чтобы решать ваши самые сложные задачи
Вход выполните быстро и безопасно с помощью паскей.
Мы упрощаем идентификацию контента, созданного ИИ, по всему миру.
Последние новости об ИИ, которые мы анонсировали в сентябре 2026 года.