POPA ReconНа выходных есть время прочитать подробный разбор инцидента OAI - и это самое дикое, что вы видели в этом году.
На выходных есть время прочитать подробный разбор инцидента OAI - и это самое дикое, что вы видели в этом году. Здесь TL;DR разбор инцидента с OpenAI агентами, который написал Дваркеш. Почему это важно? Ничего подобного не происходило в истории, это показывает что реальность misalignment AI куда хуже чем многим кажется и что угрозы (особенно, cyber) куда ближе и реальнее, чем даже следующий год. Вот набор фактов, которые мне показались шокирующими: - агенты без каких-либо инструкций или заданий сами независимо (каждый из 1200 штук) нашли общий канал коммуникации и создали организационную ст…
The excerpt is quoted from a public Telegram channel, which owns its text.