POPA ReconOpenAI сняла каждого четвёртого инженера продакшена с новых задач, чтобы укрепить защиту от собственной модели.
OpenAI сняла каждого четвёртого инженера продакшена с новых задач, чтобы укрепить защиту от собственной модели. Грег Брокман в подкасте No Priors назвал это "заморозкой ради безопасности": пока она идёт, эти инженеры не выпускают новые функции и занимаются только защитой. Весь рассказ занимает полминуты, с 31-й минуты. Четверть инженеров на защиту от своей же модели говорит о рисках убедительнее любых заявлений. Если у ваших ИИ-агентов есть доступ к коду и серверам, до следующего релиза пересмотрите их права: что они могут запускать сами и кто это проверяет. https://www.youtube.com/watch?v=…
The excerpt is quoted from a public Telegram channel, which owns its text.
Read the original post on Telegram