Безопасность и риски с точки зрения операций

Главное

Google описала защиту Gemini 4 Argon к запуску

Google DeepMind начала широко выкатывать Gemini 4 Argon и опубликовала описание мер безопасности. По её собственным данным, успех prompt injection на одном бенчмарке - 0,7%, а попытки срезать путь в тестах кода снизились до 2%. Агентов учили останавливаться и просить подтверждения у человека, а за ними в реальном времени следит монитор.

Что меняется для операций — Если вы запускаете или только планируете агентов, которые ходят по сайтам, читают входящие письма или обрабатывают документы клиентов, читать стоит именно про prompt injection и соблюдение границ. Цифры у Google сильные, но это самоотчёт по конкретным бенчмаркам, и о ваших правах доступа к инструментам они ничего не говорят. Контроль, который в ваших руках, оставьте себе: давайте агентам узкий доступ, требуйте одобрения человека для возвратов, исходящих сообщений и изменений в записях, ведите журнал действий агента. Встроенное в модель поведение «остановиться и спросить» считайте вторым слоем защиты, а не заменой. Прежде чем переводить рабочий процесс на новую модель, прогоните на ней собственные тесты, в том числе документы с подложенными инструкциями.