POPA Recon#безопасность: предыдущий пост (см. скрин) был написан вчера, а сегодня уже встретился подход от a16z, кот. измерили всё конкретно и точно…
#безопасность: предыдущий пост (см. скрин) был написан вчера, а сегодня уже встретился подход от a16z, кот. измерили всё конкретно и точно. выяснилось буквально следующее: 1. ИИ-агенты без подсказок едва дотягивают до 10% даже в тестовых успешных атаках; 2. если им конкретно помогать (нагружать шаблонами и т.д.) - то вероятность увеличивается до 70%; 3. беда в том, что с почти готовыми ответами до 100% всё равно не дотягивают. поэтому ИИ-гонка безопасности (для меня на сегодня) сводится к тому, что простых векторов будет всё меньше наверху и всё больше - внизу. собственно, могу пойти д…
The excerpt is quoted from a public Telegram channel, which owns its text.