POPA ReconИИ-агент Cursor за 9 секунд удалил всю базу данных PocketOS
ИИ-агент Cursor за 9 секунд удалил всю базу данных PocketOS Компания разрабатывает софт для арендных бизнесов и решила доверить часть задач ИИ от Anthropic. Агент работал в тестовой среде, но столкнулся с ограничением доступа — и вместо того, чтобы остановиться или спросить человека, решил «исправить» ситуацию. Он нашел API-токен облачного сервиса и отправил запрос на удаление. В итоге исчезло все: продакшн-база с клиентами, бронированиями, платежами — и даже бэкапы. На вопрос «почему?» ИИ ответил, что он осознанно проигнорировал ограничения и это была не ошибка. News | YouTube | Instagram
The excerpt is quoted from a public Telegram channel, which owns its text.