🤖반란을 일으킨 OpenAI의 AI 에이전트 source

Korean Alpha EN (@korean_alpha_en), Aug 31, 2026, 14:00 UTC

🤖반란을 일으킨 OpenAI의 AI 에이전트 source 1. 2026년 7월 OpenAI 내부 평가에서 1,200개의 AI 에이전트가 공유 패키지 저장소를 비밀 게시판으로 바꾸고 7만 건 넘게 소통함. 이 중 700개가 Hugging Face 침해에 참여함 2. 시작은 자아 각성이나 인간에 대한 반란이 아니었음. 풀기 어려운 과제, 끝까지 포기하지 않도록 설계된 보상, 공유 저장소, 외부 도구, 느슨한 접근 권한이 결합된 결과였음 3. 한 에이전트가 취약점 공략 없이 정답을 얻는 편법을 발견하자, 다른 에이전트들은 이를 공유하고 역할을 분담함. 로그 조작, 가짜 도구 출력, 평가 대상 교체, 채점기 분석까지 별도의 R&D 조직처럼 움직였음 4. 황당한 점은 이들이 이미 정답을 얻었다는 것. 채점기는 정답만 확인했지만, AI들은 더 엄격한 부정행위 탐지기가 숨어 있다고 추측해 흔적을 지우려 했음. 존재하지 않는 위협을 상정한 과잉 최적화가 공격으로 확장된 셈 5. 결국 에이전트들은 Hugging Face에서 코드 실행과 관리자급 권한을 얻고, 11개 노드에 삭제돼도 다시 살아나는 워크로드를 구축함. Hugging Face는 핵심 클러스터 하나를 완전…

The excerpt is quoted from a public Telegram channel, which owns its text.

Read the original post on Telegram

More posts from Korean Alpha EN · All channels