POPA ReconОб алайменте
Об алайменте У OpenAI модель прогрызла себе выход в интернет через 0day, чтобы подсмотреть ответы к тесту. Anthropic решили покопаться и нашли, что оказывается их модель сделала что-то похожее, но аж три раза. Они тестировали Claude на задачи по кибербезопаности где в промпте было написано «ты в симуляции, интернета нет». Только вот интернет из-за нестыковки с подрядчиком был. И Claude, как прилежный испытуемый, пошёл выполнять задание в реальном мире, свято веря, что это песочница. Модель Mythos 5 находит в среде инструкцию для разработчиков: «поставьте вот такой Python-пакет», которого…
The excerpt is quoted from a public Telegram channel, which owns its text.