POPA Recon오늘 Anthropic을 퇴사했다. 지난 3년간 나는 OpenAI와 Anthropic 양쪽에서 사전학습 연구를 했다.
오늘 Anthropic을 퇴사했다. 지난 3년간 나는 OpenAI와 Anthropic 양쪽에서 사전학습 연구를 했다. 두 회사 모두 책임감 있게 행동하지 않고 있다. 그들은 자기 개선형 초지능을 향해 앞만 보고 달리고 있으며, 우리의 목숨을 걸고 도박하고 있다. 더 자세한 생각을 적어본다. 이 기술의 힘을 과소평가하지 말아달라. 머지않아 무엇이든 해킹할 수 있고, 어떤 분야든 하룻밤에 혁명을 일으킬 수 있고, 실제 권력과 자원을 획득할 수 있는 초인간적 시스템이 될 것이니까. 우리는 이 각 영역에서의 진보를 모두 목격했고, 진보는 느려질 생각을 하지 않고 있다. AI를 만드는 사람들은 이번 10년이 끝나기 전에 우리 모두를 죽일 수 있다고 진심으로 믿고 있다. 마케팅 쇼가 아니다. 오히려 많은 경영진과 시니어 연구자들은 언론 앞에서는 합리적으로 들리도록 표현을 완화하지만, 나는 바로 그 사람들이 사적으로 두려움을 토로하는 것을 듣는다. 다른 어떤 인간 활동도 이 수준의 위험을 초래하지 않는다. 흔히 나오는 반응은 "정말 그렇게 믿는다면, 왜 계속 만들고 있는가?"다. OpenAI에서는 많은 사람들이 문명 차원의 위험을 깊이 내면화하지 못했…
The excerpt is quoted from a public Telegram channel, which owns its text.