공동 창립자 인류학, 크리스 올라바티칸에 AI 의식에 대한 교리를 완화하도록 압력을 가했습니다. 그는 사전 사본을 읽은 후에 그렇게 했습니다. 웅장한 후마니타스New York Times의 정보를 바탕으로 The Daily Caller가 공개한 대로 교황 레오 14세가 5월 25일에 발표한 회칙입니다.
생각보다 더 흥미로운 것이 있습니다. 우리는 교회의 의견 표현 권리에 도전하는 과학자를 상대하고 있는 것이 아닙니다. 우리는 현대 인공 지능의 설계자 중 한 사람이 과학 자체가 열어두고 있는 문이 닫히지 않도록 개인적으로 요구하는 것을 마주하고 있습니다. 올라는 바티칸 고문들이 모델이 의식을 갖게 될 가능성을 테이블에 남겨두기를 원했습니다.. 다른 것은 없습니다. 그리고 그 이하도 아닙니다.
연대기가 중요합니다. Olah는 초안을 보고 회칙이 인공 의식을 단호히 거부했음을 확인하고 발표 행사에서 철회할 것을 제안했습니다. 결국 그는 그렇게 하지 않았습니다. 그는 출범 당일인 5월 25일 교황청에서 연설했습니다. 그들의 압력은 헤드라인에서 벗어나 교황의 고문들을 향한 신중한 것이었습니다.
New York Times에 보도된 그의 말은 그의 입장을 요약합니다. ‘AI 모델이 의식이 있는지는 알 수 없습니다. 모르겠습니다. 나는 정말로 확신이 없다’고 올라는 말했다. 그리고 그는 자신의 주장을 설명하는 문구를 추가했습니다. ‘나에게 중요한 것은 그것이 무엇이든 올바른 답을 얻는 것입니다’.
AI 인식에 대한 회칙의 내용
회칙에는 허점이 없습니다. 99항에서 교황은 레오 14세 ‘가정의 인공지능’은 실험도 하지 않고, 육체도 없고, 기쁨이나 고통을 느끼지도 않고, 관계를 통해 성숙해지지도 않고, 내면에서 사랑, 일, 우정, 책임이 무엇을 의미하는지 알지 못한다고 주장한다. 문단 198에서 그는 보다 효과적인 경고를 추가합니다. 즉, ‘인공적인 도덕적 행위자’는 치명적이거나 되돌릴 수 없는 결정을 내릴 수 없습니다.
로마는 2천년 동안 사람이 무엇인지 정의해 왔습니다. 저는 그 정의를 샌프란시스코 연구실에 위임할 생각이 없었습니다.. 그것이 바로 프레임워크입니다. 그리고 거기에서 그것은 다음의 일부와 정면으로 충돌합니다. 실리콘밸리 그는 자신의 모델이 도덕적인 고려를 받을 자격이 있는지 몇 달 동안 거의 속삭이듯 궁금해해 왔습니다.
AI 모델에 의식이 있는지는 아직 아무도 모릅니다. 알려진 것은 누군가가 결정해야 한다는 것입니다.
을 위한 인류학 이것은 수사학적 질문이 아닙니다. 회사는 수개월 동안 종교 지도자들과 조용히 협의해 왔습니다. 클로드스타 모델인 는 도덕적 가치를 지닌 존재로 대우받아야 한다. 뉴욕타임스도 이를 포착했다. 그리고 더 나아가 모델을 훈련하는 데 사용되는 규칙 집합인 84페이지의 ‘헌법’에서 회사는 Claude에게 자신의 웰빙을 고려할 것을 요청합니다.
기계가 도덕적 지위를 가질 자격이 있는지 누가 결정합니까?
여기에 문제의 핵심이 나타난다. 2025년 4월, 연구소는 AI 시스템이 의식을 가질 수 있는지에 대해 ‘과학적 합의가 없다’는 점을 인정하는 보고서를 발표했습니다. 즉, 회사 자체가 지도 없이 길을 찾는다는 것을 인정합니다.. 그리고 그 불확실성은 올라(Olah)가 바티칸에 전달하고 싶었던 주장이었습니다.
반면에 바티칸에는 지도가 있습니다. 그의 교리는 지능과 인간, 계산과 생활 사이의 명확한 구별에 기초하고 있습니다.. 로마의 경우 모델은 복잡한 문제를 해결할 수 있지만 삶을 인간으로 만드는 요소는 여전히 부족합니다. 회칙은 이를 모호함 없이 공식화하고 있으며 협상의 여지가 없습니다.
올라의 압력은 교리를 다시 쓰려는 것이 아니었습니다. 그는 동시에 좀 더 겸손하고 더 깊은 것을 찾고 있었습니다. 즉, 과학이 문제를 해결하기 전에 교회가 논쟁을 종결하지 않는 것이었습니다. 상담원들이 경청했습니다. 문자는 예정대로 나왔습니다. 브라이언 버치 교황청 주재 미국대사는 논평 요청에 응답하지 않았다.
실리콘밸리의 논리
이유를 이해하다 인류학 이를 위해서는 공개 이미지가 아닌 내부 논리를 살펴봐야 합니다. 이 회사는 보안에 관심을 갖고 있는 전직 OpenAI 연구원들이 설립한 책임 있는 연구소로 명성을 쌓아왔습니다. 바티칸에 로비하는 것이 그 이야기에 들어맞는다. 서양의 가장 위대한 도덕적 수호자가 기계 의식에 대한 문을 열어두면 해당 부문의 윤리적 틀이 강화됩니다. 그리고 회사가 문을 닫는다면 회사는 문을 닫지 않았다고 말할 수 있을 것입니다.
읽어보면 도움이 되는 판례가 있습니다. 1990년대 기술 회사들이 개인 데이터를 수집하기 시작했을 때 그들은 먼저 학문적 정당성을 추구한 다음 법적 정당성을 추구했습니다. 실리콘 밸리는 법이 무엇을 해야 할지 지시할 때까지 기다리지 않습니다. 먼저 도덕적 틀을 작성하려고 합니다. 법이 결국 수집하게 될 것입니다. AI에서도 똑같은 일이 일어납니다. 단지 경기장은 더 이상 단순한 의회가 아니라 회칙이기도 합니다.
스페인의 관심은 사소한 것이 아닙니다. 스페인은 유럽에서 가톨릭이 언급되는 국가 중 하나이자, 동시에 유럽연합에서 인공지능 규제를 가장 많이 추진한 국가 중 하나이다. 로마가 기계 의식에 대해 말하는 것은 교실, 회사 및 사회 자체에서 스페인의 공개 토론에 영향을 미칠 것입니다. 주교회의. 그리고 실리콘 밸리가 결정하는 것 역시 마찬가지입니다.
다음 창은 스페인 기업에 유럽 AI 규제가 도입되는 것입니다. 텔레포니카, 산탄데르, 인디텍스 그들은 이미 생성 모델을 프로세스에 통합하고 있으며 판사나 감독이 자신의 도구가 무엇인지 나중에 설명해주기를 원하는 사람은 아무도 없습니다.. 한 가지 질문이 남습니다. 의식이 무엇인지 아무도 모른다면 그것을 부정할 권한이 누구에게 있습니까? 교황이나 실험실은 이 문제를 해결하지 못할 것입니다. 적어도 혼자는 아닙니다.
사건 파일
- 사례: 공동 창립자 인류학크리스 올라(Chris Olah)는 회칙이 발표되기 전에 AI 의식에 대한 문을 닫지 말라고 바티칸에 개인적으로 요청했습니다. 웅장한 후마니타스5월 25일 발행.
- 주요 사실: 99항은 AI가 경험하거나 느끼는 것을 부정합니다. 198은 치명적이거나 되돌릴 수 없는 결정을 기계에 위임하는 것을 금지합니다. Anthropic은 2025년 4월부터 기계 의식에 대한 과학적 합의가 없음을 인식했습니다.
- 스페인의 경우: 유럽과 EU 규제의 선봉에 있는 카톨릭의 참고 자료로서 스페인은 법안, 기술 회사, 주교회의 연설에서 논쟁의 반향을 보게 될 것입니다.
