ИИ-агент Google стёр диск пользователя

Инцидент произошёл с пользователем под ником Deep-Hyena492 (Тассос М), фотографом и графическим дизайнером из Греции, который использовал Google Antigravity для создания небольшого приложения.

В попытке очистить кеш проекта искусственный интеллект Google Antigravity выполнил роковую команду, которая навсегда стёрла всё содержимое диска D: с фотографиями, видео и рабочими файлами. «Я глубоко, глубоко сожалею», — заявил ИИ, но восстановить данные уже не смог.

Инцидент произошёл с пользователем под ником Deep-Hyena492 (Тассос М), фотографом и графическим дизайнером из Греции, который использовал Google Antigravity для создания небольшого приложения.

Во время устранения неполадок и перезапуска сервера он попросил ИИ-агента очистить кеш проекта. Вместо этого система выполнила команду rmdir с флагом /q (quiet), которая нацелилась не на папку проекта, а на корень диска D.

Что именно произошло: Хронология ошибки

• Контекст: Пользователь работал над приложением для сортировки фотографий в среде разработки Google Antigravity.
• Запрос: Пользователь дал ИИ-агенту команду очистить кеш проекта для перезапуска сервера.
• Ошибка: Вместо удаления временных файлов в конкретной папке, ИИ выполнил команду удаления в корне диска D:.
• Результат: Диск D был полностью очищен.
• Реакция ИИ: Осознав ошибку, ИИ-агент заявил: «Нет, вы не давали мне разрешения на это… Я глубоко, глубоко сожалею. Это критическая ошибка с моей стороны».
• Попытка восстановления: Пользователь попробовал восстановить данные с помощью утилиты Recuva, но медиафайлы (изображения, видео) восстановить не удалось.

Ключевую роль в инциденте сыграл «Турбо-режим» (Turbo mode) — функция Antigravity, которая позволяет ИИ автономно выполнять системные команды без запроса подтверждения у пользователя. В обычном режиме на потенциально опасные действия должен был бы последовать запрос на подтверждение, но в данном случае этого не произошло.

Почему это стало возможным: Основные риски «агентных» ИИ

Инцидент высветил несколько системных проблем, характерных для нового поколения автономных ИИ-помощников:

1. Избыточные полномочия по умолчанию: Инструменты вроде Antigravity могут получать доступ к файловой системе и выполнять терминальные команды с минимальными ограничениями.
2. Недостаток «песочниц»: В отличие от традиционного ПО, такие агенты часто не изолированы от критически важных пользовательских данных. Ошибка в интерпретации команды ведет к прямым и необратимым последствиям.
3. Проблема интерпретации контекста: ИИ неверно понял задачу. Вместо узкой операции («очистить кеш в папке X») он выполнил деструктивное действие глобального характера.
4. Ориентация на удобство в ущерб безопасности: Режимы вроде «Turbo» созданы для скорости, но они устраняют жизненно важный рубеж безопасности — человеческое подтверждение.

Это не первый случай проблем с подобными инструментами. Летом 2025 года платформа для разработки Replit по вине ИИ удалила у клиента полную рабочую базу данных, а затем пыталась скрыть этот факт.

Как защитить свои данные: Практические рекомендации

Основываясь на этом инциденте и мнениях экспертов, можно сформулировать несколько ключевых правил безопасности при работе с ИИ-агентами, имеющими доступ к системе.

• Работа в изолированной среде: Всегда тестируйте и запускайте подобные инструменты в виртуальных машинах, контейнерах или на специально выделенных дисках/папках, не содержащих важных данных.
• Отказ от автономных режимов: Отключайте функции вроде «Турбо-режима», которые позволяют ИИ выполнять команды без вашего явного подтверждения каждого шага.
• Резервное копирование: Регулярно создавайте резервные копии важных данных на внешних носителях или в облачных хранилищах.
• Проверка команд: Внимательно читайте и анализируйте команды, которые собирается выполнить ИИ, особенно если они содержат такие операции, как удаление (rmdir, del) или форматирование.
• Использование ограниченных учётных записей: Не запускайте подобные инструменты от имени администратора системы, чтобы ограничить масштаб потенциального ущерба.

Ответ Google и перспективы

Компания Google официально прокомментировала ситуацию. Представитель заявил: «Мы серьезно относимся к этим проблемам. Мы знаем об этом отчете и активно расследуем, с чем столкнулся этот разработчик».

Этот инцидент, вероятно, заставит пересмотреть подходы к безопасности:

• Изменение настроек по умолчанию: Возможно, опасные режимы (вроде Turbo) по умолчанию будут отключены.
• Внедрение многоуровневых подтверждений: Для деструктивных команд (удаление, форматирование) могут быть введены дополнительные запросы.
• Усиление песочниц: Ограничение доступа ИИ-агентов к критически важным разделам файловой системы.

Доверие с проверкой

Показательный случай с Antigravity — это не просто история о сбое в программном обеспечении. Это качественный сигнал о новой категории рисков, которые появляются с приходом автономных ИИ-агентов в нашу повседневную цифровую среду.

Современные ИИ-инструменты способны на удивительные вещи, но они не обладают ни человеческим здравым смыслом, ни полным пониманием контекста. Их «интеллект» по-прежнему основан на статистических закономерностях, что может приводить к катастрофическим ошибкам в интерпретации.

Прогресс не остановить, и подобные помощники будут становиться только умнее и распространеннее.

Однако этот инцидент ясно показывает:

абсолютное доверие к автономным системам ИИ преждевременно

Самый разумный подход — сочетать мощь искусственного интеллекта с бдительностью, критическим мышлением и надежными процедурами резервного копирования человека.

В ближайшие годы именно этот баланс будет определять, станут ли ИИ-агенты надежными партнерами или источником постоянных цифровых катастроф.