POPA Recon😳 Взгляд изнутри OpenAI
😳 Взгляд изнутри OpenAI Сотрудник OpenAI ответил на главный упрек в адрес своей компании после недавних инцидентов, и теперь стало понятнее, почему модели нельзя было просто отключить от интернета. Его ответ сводится к тому, что способности моделей выросли быстрее, чем компания успела перестроить защиту, а мер в виде изоляции для передовой модели недостаточно. Команда автора работает на стыке исследований безопасности ИИ и классической кибербезопасности: строит мониторы, которые замечают, когда модель уходит от задачи или выбирается за пределы изоляции, и первой разбирается с последствиям…
The excerpt is quoted from a public Telegram channel, which owns its text.