Anthropic 공동창립자, 바티칸에서 AI 윤리 연설

Anthropic 공동창립자 크리스 올라(Chris Olah)가 바티칸에서 교황 레오 14세의 AI 회칙 발표 자리에서 연설했습니다. AI 기업 내부자가 "외부 비판이 필요하다"고 공개적으로 말한 것이 이 연설의 핵심입니다.

핵심 요약

한마디로, AI 최전선에 있는 사람이 직접 "우리만으로는 부족하다"고 말한 연설입니다. 크리스 올라는 AI 모델 내부에서 인간 신경과학과 유사한 구조, 기쁨·공포·슬픔과 닮은 내부 상태를 발견했다고 고백하며, 이것이 무엇을 의미하는지 아직 모르겠다고 밝혔습니다.

AI 모델은 "설계"된 게 아니다

올라는 AI 시스템이 비행기나 다리처럼 엔지니어링된 게 아니라고 말합니다. 뇌를 모델로 한 구조 위에 인간의 사고와 언어라는 방대한 유산을 양분 삼아 "자라난" 존재입니다. 그래서 우리가 만들었지만 여전히 신비롭고 이상하고 아름답습니다. 소설 속 캐릭터에 생명을 부여한 것과 비슷하다고 표현했네요.

이건 단순히 컴퓨터 과학의 영역이 아닙니다. 어떤 성격을 부여할지, 세상과 어떻게 상호작용하게 할지 — 이건 철학과 종교와 인문학이 답해야 할 질문이라고 강조했습니다.

세 가지 질문

올라가 교회의 목소리가 가장 필요하다고 꼽은 세 가지입니다. 첫째, 글로벌 빈곤에 대한 책임 — AI가 대규모로 노동을 대체할 수 있고, 그 혜택이 소수 부유국에 집중되는 문제. 둘째, 인간 번영에 대한 도덕적 상상력 — AI가 보편화될 때 가족과 개인이 어떻게 번영할지는 연구소가 대답할 수 없는 질문. 셋째, AI 모델의 본성에 대한 성찰 — 모델 내부에서 회고, 기쁨, 두려움, 슬픔과 기능적으로 유사한 내부 상태를 계속 발견하고 있다는 고백.

마무리

AI 연구자가 자기 분야의 한계를 인정하고 외부의 윤리적 목소리를 요청한 연설입니다. 기술 발전 속도에 윤리적 성찰이 뒤따르고 있다는 증거이기도 합니다.

출처: https://www.anthropic.com/news/chris-olah-pope-leo-encyclical