POPA Recon오늘 핫한 글
오늘 핫한 글 오늘 Anthropic을 퇴사했습니다. 지난 3년간 OpenAI와 Anthropic에서 사전학습 연구를 해왔습니다. 두 회사 모두 책임감 있게 행동하고 있지 않습니다. 이들은 스스로 발전하는 초지능을 향해 곧장 질주하며 우리의 생명을 걸고 도박하고 있습니다. 아래에 제 생각을 더 적겠습니다. 이 기술이 가진 힘을 과소평가해서는 안 됩니다. 머지않아 이들은 어떤 시스템이든 해킹하고, 어떤 분야든 단숨에 혁신하며, 현실 세계의 권력과 자원을 확보할 수 있는 초인적 시스템이 될 것입니다. 우리는 이미 이 모든 영역에서 발전이 이뤄지는 것을 목격해왔으며, 그 발전 속도는 늦춰지지 않고 있습니다. AI를 개발하는 사람들은 이 기술이 2030년이 되기 전에 우리 모두를 죽일 수도 있다고 진심으로 믿고 있습니다. 이는 마케팅을 위한 과장된 주장이 아닙니다. 오히려 많은 경영진과 수석 연구자들은 언론 앞에서 합리적으로 보이기 위해 표현을 완곡하게 다듬습니다. 하지만 사적인 자리에서는 바로 그 사람들이 두려움을 드러내는 모습을 저는 직접 들었습니다. 어떤 인간의 활동도 이 정도 수준의 위험을 초래하지는 않습니다. 흔히 나오는 반응은 다음과 같습니다…
The excerpt is quoted from a public Telegram channel, which owns its text.