The Anthropic Institute, 강력한 AI의 사회적 영향 연구 시작
Anthropic이 The Anthropic Institute를 출시했습니다. 강력한 AI가 사회에 미칠 가장 중요한 도전 과제를 연구하고 대응하는 새로운 조직입니다.
한마디로 요약하면
프론티어 AI 시스템을 구축하면서 배우는 것들을 세상에 알리고, 외부 청중과 협력해 해결해야 할 위험을 다루는 연구소입니다. AI가 일자리와 경제를 어떻게 재편할지, 어떤 기회와 위협이 있을지 연구합니다.
핵심 변화
왜 지금 필요한가
Anthropic이 시작된 지 5년 동안 AI는 놀라운 속도로 발전했습니다. 첫 상용 모델을 내놓는 데 2년이 걸렸지만, 그 후 3년 만에 심각한 사이버보안 취약점을 발견하고, 실제 업무를 수행하고, AI 개발 자체를 가속화하는 모델까지 개발했습니다.
Anthropic은 앞으로 2년 안에 훨씬 더 극적인 발전이 따라올 것으로 예측합니다. AI 개선이 시간이 지남에 따라 복합된다는 게 회사의 핵심 신념입니다. CEO 다리오 아모데이가 "자비로운 기계"에서 묘사한 것 같은 극도로 강력한 AI가 많은 사람들이 생각하는 것보다 훨씬 빨리 옵니다.
무엇을 연구하는가
강력한 AI 시스템이 일자리와 경제를 어떻게 재편할지, 어떤 사회적 회복력 기회를 제공할지, 어떤 위협을 확대하거나 도입할지 연구합니다. 또한 AI 시스템의 "가치"가 무엇인지, 사회가 기업에 적절한 가치가 무엇인지 결정하도록 어떻게 도울지도 다룹니다. AI의 재귀적 자기 개선이 시작되면 누가 알아야 하고, 어떻게 통치해야 할지도 연구합니다.
조직 구성
세 연구 팀 통합
Jack Clark 공동 창업자가 Anthropic의 Head of Public Benefit로서 이끕니다. 기계학습 엔지니어, 경제학자, 사회과학자로 구성된 학제간 팀입니다.
통합된 세 팀은:
- Frontier Red Team: AI 시스템을 스트레스 테스트해 현재 능력의 한계를 이해
- Societal Impacts: AI가 실제 세계에서 어떻게 사용되는지 연구
- Economic Research: 일자리와 경제에 미치는 영향 추적
새로운 팀도 인큐베이팅 중이며, AI 진행 예측과 강력한 AI가 법적 시스템과 어떻게 상호작용할지 연구합니다.
주요 채용
- Matt Botvinick (Yale Law School, 전 Google DeepMind 연구 총괄): AI와 법치 연구
- Anton Korinek (버지니아대 경제학 교수): 변혁적 AI가 경제 활동의 본질을 재편하는 방법 연구
- Zoë Hitzig (전 OpenAI): 경제 연구와 모델 훈련/개발 연결
마무리
이 연구소는 프론티어 AI 시스템 구축자만 가진 정보에 접근할 수 있다는 독특한 위치를 가집니다. 일자리 상실에 직면한 노동자, 미래가 다가오고 있지만 어떻게 대응해야 할지 모르는 사람들과도 소통할 예정입니다. AI의 급진적 이점이 실현되느냐 마느냐는 우리 사회가 이 도전에 대응할 수 있느냐에 달려 있습니다.
태그: AI, Claude, Anthropic