The Future is for Everyone

마크 저커버그(Mark Zuckerberg)가 작성한 "미래는 모두를 위한 것입니다(The Future is for Everyone)"라는 제목의 에세이. 소수 기관의 권력 독점을 비판하고, AI(초지능)가 모든 개인에게 널리 보급되어야만 긍정적인 미래를 만들 수 있다는 메타의 철학과 비전을 담고 있다.

 

미래는 모두를 위한 것입니다 (The Future is for Everyone)

긍정적인 AI 미래를 향한 길 (The Path to a Positive AI Future)

우리는 역사의 놀라운 순간에 살고 있는 행운아들입니다. 향후 몇 년 안에 사람들은 인간의 능력을 넘어서는 초지능(superintelligence)을 활용하여 특별하고 새로운 것을 창조 및 발견하고, 새로운 비즈니스를 구축하며, 새로운 아이디어를 표현하고, 새로운 개념을 배우며, 우리의 건강과 삶의 질을 발전시킬 수 있게 될 것입니다. 이 순간이 다가옴에 따라, 우리는 초지능이 우리 모두의 삶, 업무, 커뮤니티, 자유 및 안전을 향상시킬 수 있도록 가장 잘 활용하는 방법에 대한 철학을 정립하는 것이 중요합니다.

우리 시대의 가장 결정적인 질문은 '누가 초지능에 접근할 것인가' 그리고 '우리가 그것을 어디에 사용할 것인가'입니다. 그것은 중앙 집중화되어 소수의 기관에만 제한될 것인가요, 아니면 모두에게 권한을 실어주는 도구가 될 것인가요?

우리는 번영의 원천으로서의 개인의 권한 강화(individual empowerment), 초지능의 주요 목적로서의 발명(invention), 그리고 안전의 기반으로서의 권력의 균형(balance of power)에 기초한 철학을 제안합니다.

모든 신기술은 기회와 과제를 동시에 창출합니다. 초지능은 역사상 가장 중요한 기술 중 하나가 될 것이며, 따라서 그 기회와 과제는 우리가 평생 동안 보아온 그 어떤 것보다 클 것입니다. 우리는 이를 매우 진지하게 받아들여야 합니다.

그럼에도 불구하고, AI를 개발하는 많은 이들의 담론이 파멸론으로 가득 차 있다는 사실은 놀랍습니다. AI가 대부분의 일자리와 인류의 중요성 대부분을 없앨 것이라고 믿는 사람들이 도대체 왜 그런 미래를 앞장서서 구축하려는지 저는 이해할 수 없습니다. AI가 너무 위험해서 유일하게 안전한 길이 '극단적인 권력 집중'뿐이라는 개념은 본질적으로 문제가 있어 보입니다. 역사적으로, 절대 권력이 충분히 계몽된다면 인류에게 자비롭게 베풀어줄 것이라고 기대하는 것이 안전하거나 긍정적인 결과로 이어진 적은 없었습니다.

인류는 수많은 혁신적인 진보를 목격해왔습니다. 그때마다 도태될 사람들이 생길 것이라는 두려움이 있었습니다. 하지만 매번 인류는 더 많은 사람들이 더 큰 번영, 건강, 자유를 공유하는 결과를 낳았습니다. 우리는 AI 역시 마찬가지일 것이며, 미래의 풍요로움은 모두가 공유할 수 있을 것이라 믿습니다. 또한 우리는 우리를 지금의 자리까지 오게 한 가치들(자유, 열린 탐구, 자유 기업, 기회 균등)이 긍정적인 미래를 구축하기 위한 올바른 가치라고 믿습니다.

사람들의 손에 권한을 쥐어주어 그들 자신의 열망을 추구하게 하는 것이야말로 인류가 가장 큰 진보를 이룬 방식입니다. 참신한 아이디어와 중대한 진보는 기존의 거대 기관에서만 비롯되는 경우가 드뭅니다. 그것들은 인간이 날 수 있다고 믿었던 자전거 가게 형제들, 전기를 생성하는 방법을 알아낸 정규 교육을 받지 못한 제본소 견습생, 개인용 컴퓨터가 모두를 위한 것이 될 수 있다고 생각한 차고 안의 아이들로부터 나왔습니다. 우리는 이것이 앞으로도 진실일 것이라 믿습니다. 모든 사람이 더 강력한 도구를 얻게 됨에 따라, 각 개인은 덜어지는 것이 아니라 미래를 형성하는 데 있어 더욱 유능해질 것입니다.

자동화가 아닌 '발명'이 초지능의 가장 큰 기여가 될 것입니다. 초기 AI는 질문에 답하고 일상적인 작업을 수행할 수 있었습니다. 머지않아 AI는 가족의 질병을 치료할 신약 발견부터 비즈니스를 개선할 새로운 방법 모색에 이르기까지 새로운 지식을 발견하는 데 점점 더 큰 도움을 줄 것입니다. 사람이 하루에 할 수 있는 질문의 수는 제한되어 있지만, 초지능이 당신의 목표 달성을 돕기 위해 발명할 수 있는 가치 있는 것들의 수는 무제한입니다.

지능이 풍부해짐에 따라 가장 중요한 질문은 '우리가 그것을 어떻게 지휘할 것인가'가 될 것입니다. 어떤 사람들은 초지능 그 자체나 그것을 통제하는 소수의 전문가 그룹이 인류에게 가장 좋은 것을 결정해야 한다고 주장합니다. 우리는 동의하지 않습니다. 민주주의와 경제학의 역사는 사람들이 최고의 삶을 정의하는 방식에 단 하나의 객관적인 정답은 없으며, 따라서 최고의 접근법은 사람들이 자신의 삶에서 중요한 것을 스스로 결정하도록 내버려 두는 것임을 보여주었습니다.

우리는 모두에게 초지능을 제공하는 것이 이 질문에 답하는 방법이라고 믿습니다. 이는 슈퍼컴퓨터와 인터넷의 힘을 모든 사람의 주머니와 책상 위에 놓아온 전통을 따르는 것입니다. 초지능을 중앙 집중화하는 대신, 우리는 그것을 널리 배포하고 모든 사람에게 그것을 지휘할 수 있는 능력을 부여해야 합니다. 이는 개인들이 이 새롭고 강력한 능력을 사용하여 잠재력을 최대한 발휘하고, 관심사를 추구하며, 삶과 세상을 그 어느 때보다 더 낫게 만들 수 있는 개인 역량 강화의 새로운 시대를 열 잠재력을 가지고 있습니다.

이를 좀 더 피부에 와닿게 설명하기 위해, 메타(Meta)가 우리 모두의 삶을 개선할 '개인용 초지능'을 구축하는 몇 가지 구체적인 방법을 소개합니다.

• 모두가 당신과 당신의 목표, 당신이 아끼는 모든 것을 이해하는 매우 뛰어난 개인 비서(Agent)를 갖게 될 것입니다. 당신의 에이전트는 당신의 관계, 건강, 경력, 재정, 집안 관리, 취미 등을 향상시키기 위해 연중무휴 24시간 일할 것입니다. 이 비서는 당신이 즐기는 일에 시간을 할애할 수 있게 여유를 주고, 당신 혼자였다면 해낼 수 있었을 것보다 더 많은 것을 성취하도록 도울 것입니다. 또한, WhatsApp의 암호화 방식과 유사하게 다른 누구도 귀하의 정보에 접근할 수 없다는 것을 신뢰할 수 있도록 강력한 개인정보 보호 및 보안 옵션을 갖게 될 것입니다. 당신은 스마트 안경을 포함한 모든 기기를 통해 에이전트와 상호 작용할 수 있어, 사랑하는 사람들과 함께하는 지금 이 순간에 집중할 수 있습니다. (예를 들어, 제 에이전트는 흥미로운 정보를 표시해주고 아이디어를 프로토타입으로 만드는 데 도움을 줍니다. 내 수면을 모니터링하고 운동할 때 지켜보고 피드백을 제공하여 건강을 유지하도록 도와줍니다. 제 딸은 베이킹을 좋아해서 에이전트가 매 주말마다 우리가 함께 만들 수 있는 맞춤형 레시피를 계획하고, 재료를 주문하며, 우리가 베이킹하는 동안 제안을 제공하기도 합니다.)
• 모두가 자신의 아이디어를 표현할 수 있는 놀라운 창작 도구를 갖게 될 것입니다. 제 8살 딸은 예전 같았으면 제가 몇 달이 걸렸거나 불가능했을 아이디어들을 하룻밤 만에 코딩하고 비디오로 제작할 수 있습니다. 지금 우리는 로봇을 함께 디자인하고 있습니다. 한편 메타의 연구원들은 증강 현실(AR) 안경에 이상적인 새로운 결정 구조를 생성하고 있으며, 엔지니어들은 이전보다 훨씬 짧은 시간 안에 새로운 앱을 만들고 있습니다. 모두가 곧 발명의 슈퍼파워를 갖게 될 것입니다.
• 모두가 새로운 비즈니스를 창출할 강력한 도구를 갖게 될 것이며, 경제는 더욱 창업가(entrepreneurial) 중심으로 변할 것입니다. 사람들은 자금을 조달하거나 대규모 팀을 꾸리지 않고도 아이디어를 스스로 구현할 수 있게 되었습니다. 이전에는 시도하기 너무 어렵거나 비쌌던 많은 아이디어들이 이제 가능해질 것입니다. 이는 우리가 훨씬 더 많은 아이디어와 비즈니스를 보게 될 것임을 의미합니다. 저는 이것이 훨씬 더 큰 경제 성장뿐만 아니라 시간이 지남에 따라 일자리를 줄이는 것이 아니라 더 많은 고용을 창출할 것이라고 예측합니다.
• 모두가 모든 과목에서 박사 학위를 가진 개인 맞춤형 가정교사이자 코치를 갖게 될 것이며, 당신이 배우고 싶은 것이 무엇이든 무한한 인내심으로 도울 것입니다. 학생들은 현재 부모가 학비를 낼 여력이 있는 사람들에게만 제공되는 영역에서 추가적인 도움을 받게 될 것입니다. 성인들은 새로운 직업 기술, 새로운 언어, 새로운 취미 또는 관심 있는 다른 것을 가르치는 방법을 정확히 아는 초지능 학습 도우미를 갖게 될 것입니다.
• 모두가 과학적 발전의 혜택을 받고 과학적 진보에 기여할 수 있게 될 것입니다. 예를 들어 바이오허브(Biohub)는 과학자들이 새로운 발견을 하고 신약을 설계하는 데 도움을 주고 있는 '가상 세포 및 단백질과 관련된 오픈소스 생물학적 모델'을 이미 출시했습니다. 아내 프리실라와 제가 이 일을 시작했을 때 목표는 이번 세기 안에 과학자들이 모든 질병을 치료하거나 예방하도록 돕는 것이었으며, 이제 AI의 발전으로 이것이 훨씬 더 빨리 가능해질 것으로 기대합니다. 인간의 생물학은 사람마다 다르기 때문에, 사람들의 직접적인 참여는 맞춤형 치료법을 열고 임상 시험을 가속화하여 업계가 흔한 질병에만 불균형적으로 집중하는 것을 넘어설 수 있게 도울 것입니다. 과학적 발견은 아마도 사회를 위한 가장 가치 있는 발명의 형태 중 하나가 될 것입니다.
• 모두가 이러한 도구를 무료 또는 저렴하게 이용할 수 있게 될 것입니다. 모두가 미래의 일부가 되려면, 모두가 초지능을 사용하여 자신의 삶을 개선하고 세계를 형성할 수 있는 능력을 가져야 합니다. 우리는 수십억 명의 사람들이 접근할 수 있는 무료 버전을 제공할 것입니다. 더 많은 컴퓨팅을 사용하기 위해 비용을 지불하려는 사람들을 위해서는 가능한 최저 가격을 보장하는 동적 경매 메커니즘을 도입할 것입니다. 이는 초지능의 혜택이 널리 분배되도록 보장할 것입니다.

이것이 메타가 집중하고 있는 주요 노력들입니다. 각 영역은 개인의 권한 강화라는 가치를 진전시키며, 모두가 오늘날보다 세상을 만들어가는 데 더 큰 역할을 하는 미래에 기여합니다. 이러한 노력이 성공한다면 미래는 풍부한 개인의 주도권, 아이디어의 표현, 관계의 심화, 경제적·재정적 번영, 향상된 건강, 그리고 오늘날 우리가 상상조차 할 수 없는 발명을 가져올 것입니다. 그러나 가장 중요한 것은 그 미래가 우리 모두에 의해 창조되고 우리 모두의 가치와 관점을 반영할 것이라는 점입니다.

동시에 신기술은 새로운 위험도 수반합니다. 일자리 감소에 대한 우려부터 데이터 센터 건설로 지역 사회가 이익을 얻도록 하는 것, 사이버 보안 및 생물학적 위험과 관련된 AI 오용 안전 문제, 정부의 독재 및 감시 방지, 궁극적으로 인류가 초지능에 대한 통제권을 유지하여 우리를 위험에 빠뜨리지 않고 인류에 봉사하도록 보장하는 것에 이르기까지 우리가 해결하는 데 집중하고 있는 중요한 문제들이 많습니다.

전통적인 견해는 이러한 우려가 '기술'에 관한 것이며, 충분한 시간을 가지면 기술을 완벽하게 다듬거나 정렬(align)하여 '단 하나의 자비로운 초지능'을 만들어 낼 수 있다는 것입니다. 저는 이러한 관점이 근본적으로 결함이 있다고 생각합니다.

인류는 단일 문화가 아닙니다. 사람들의 다양한 가치관은 중요한 문제에 대해 그들이 취하는 서로 다른 절충안을 의미합니다. 모든 사람의 상충되는 이익과 가치에 동시에 부합할 수 있는 기술적 해결책은 존재하지 않습니다. 어떠한 단일한 초지능이라도 특정 가치를 다른 가치보다 우선시해야 하며, 그 과정에서 모두에게 자비로울 수는 없습니다.

대신, 우리는 서구 사회가 민주적 통치 기관에서 해왔듯이 권력의 올바른 균형(balance of power)을 달성하는 관점을 통해 이러한 각각의 우려 사항을 바라보는 것이 더 생산적이라고 제안합니다. 상충되는 이익을 가진 사람들과 기관들은 자연스럽게 서로를 견제하고 균형을 맞춰 긍정적인 결과로 이끌어냅니다. 긍정적인 AI 미래를 구축하는 가장 현실적인 길은 모든 사람에게 초지능을 제공하는 것입니다.

사고 실험으로, 오직 한 사람만이 '초지능 변호사'를 가지고 있다고 상상해 보십시오. 그들은 법정에서 부당한 이점을 갖게 될 것입니다. 설령 그들의 주장이 틀렸더라도 말입니다. 그것은 더 나쁜 사회로 이어질 것입니다. 하지만 이제 모든 사람이 초지능 변호사를 가지고 있다고 상상해 보십시오. 이 경우 정의는 소송에서 기술과 자원의 불균형이 만연한 오늘날보다 훨씬 공정하고 효율적으로 실현될 것입니다.

마찬가지로, 오직 한 사람만이 '사이버 보안 초지능'을 가지고 있다면 그는 거의 모든 기술 시스템을 해킹할 수 있을 것이고 세상은 오늘날보다 훨씬 덜 안전해질 것입니다. 하지만 모든 사람이 사이버 보안 초지능에 접근할 수 있다면, 널리 배포된 초지능이 모든 시스템을 강화하고 업데이트하는 데 도움을 줄 것이기 때문에 우리의 모든 기술 시스템은 오늘날보다 더 안전해질 것입니다.

단 하나의 기업만이 초지능을 갖는다면 그 기업은 다른 모든 기업을 제치고, 오늘날 우리가 가진 것보다 덜 역동적이고 덜 번영하는 시장으로 이끌 것입니다. 하지만 모두가 초지능에 접근할 수 있다면 모두가 현재 가능한 것을 넘어서는 새로운 것을 창조할 수 있는 도구를 갖게 될 것이고, 경제는 더 역동적이며 더 광범위한 번영을 창출할 것입니다.

사람들에게 권한이 주어지면, 그들은 경제적, 사회적, 정치적 등 모든 인간 상호 작용의 측면에서 자연스럽게 서로 경쟁하고 견제합니다. 사람들은 또한 기업과 정부를 포함한 기관의 권력을 견제하고 균형을 맞춥니다.

하지만 초지능의 권력이 소수의 개인, 기업, 정부 혹은 AI 그 자체에 의해 독점된다면, 그것은 자연스럽게 다른 모든 사람들에게 덜 유리한 결과로 이어질 것입니다. 이것은 기술적인 원리가 아닙니다. '권력의 균형'에 관한 것입니다. 단일하고 자비로운 초지능 같은 것은 존재하지 않습니다.

따라서 모두를 위한 긍정적인 미래의 열쇠는 개인에게 유리한 힘의 균형을 달성하는 것입니다. 해결책은 초지능이 사람들에게 힘을 실어주기 위해 널리 분배되도록 보장하는 것입니다.

메타는 모든 사람을 위한 개인용 초지능 구축에 주로 집중하는 회사입니다. 대부분의 다른 연구소는 기업, 정부 또는 기타 거대 기관을 위한 AI 구축에 중점을 두고 있으므로, 이들 연구소가 주도하게 되면 권력의 균형은 개인보다는 거대 기관에 유리해질 것입니다.