Google опубликовала описание механизмов безопасности модели Gemini 4 Argon и результаты её тестирования. В описании выделены три группы рисков: злоупотребления возможностями модели, отклонение агента от поставленной цели и внедрение посторонних инструкций через читаемые материалы.
Защита сочетает проверку входящего контекста, анализ внутренних сигналов модели и наблюдение за её действиями во время выполнения задачи. Система способна прервать опасный процесс, а серьёзные инциденты передаёт на рассмотрение специалистов.
Компания также описывает тренировку модели на соблюдение ограничений среды и честное отражение отрицательных результатов. В то же время разработчики отмечают, что редкие ошибки сохраняются и могут быть существенны для большого числа задач.
Указанные в отчёте показатели относятся к конкретным наборам испытаний и не доказывают, что модель безопасна при любом развёртывании или полностью устойчива к приёмам внедрения внешних инструкций. Практический вывод заключается в том, что безопасность достигается сочетанием обучения, внешних ограничений и непрерывного мониторинга, а не одной метрикой или единой мерой.