Apparat - 새로운 사회에 관한 잡지. 온라인으로 "인공지능" 읽기

8 일반적인

getAbstract로 검토

옥스포드의 미래학자 Nick Bostrom에 따르면, 인공지능은 보안, 경제적 번영, 지적 발전을 보장하는 도구가 될 수 있지만 인류는 이 도구의 잠재력을 최대한 실현하지 못할 수도 있습니다. Bostrom은 AI에 대한 인간의 인식에 내재된 함정을 단계별로 비판하며, 인간이 지배하는 세계에서 위협을 받거나 위협받는 세계로의 전환을 이해할 자원이나 상상력이 인간에게는 없다는 느낌을 얻습니다. 이미 슈퍼마인드를 가진 어떤 독립체의 노예가 되었습니다. Bostrom은 그러한 초지능이 어떻게 발생할 수 있는지, 그것이 어떻게 전능한 "싱글톤"으로 진화할 것인지, 그리고 그것이 가할 위협을 능숙하게 설명합니다. 예를 들어, 만약 이 AI가 전통적인 윤리 원칙을 따르지 않는 단일 세계 정부를 형성할 정도로 발전한다면 어떤 일이 일어날 것인가? 유익하고 다양한 출처에 대한 참조가 풍부한 이 책은 독자가 알려지지 않은 많은 것에 대해 생각하도록 권장합니다. 저자의 추론은 가능한 미래 시나리오의 전체 범위에 대한 분석을 기반으로 합니다. 이 심층 연구는 주로 해당 주제에 특별한 관심을 가진 독자를 대상으로 작성되었습니다. getAbstract정치인, 미래학자, 학생, 투자자, 철학자 및 첨단 기술에 대해 생각하는 모든 사람에게 추천합니다.

책의 요약에서 다음을 배울 수 있습니다.

'인공지능'으로 알려진 기술은 어떻게 진화하고 있는가?
과학자들은 AI를 사용하고 제어하기 위해 무엇을 제안합니까?
인류가 AI를 다룰 준비가 되어 있지 않은 이유

저자 소개

닉 보스트롬– 옥스퍼드 대학교 교수, 인류 미래 연구소 창립 이사.

초지능 출현에 대한 전망

1956년 여름, 일단의 과학자들이 인간 발달의 전망을 연구하기 위해 다트머스 대학에 모였습니다. 그들은 주로 기계가 인간 지능의 기능을 재현할 수 있는지 여부에 관심이 있었습니다. 이 주제에 대한 연구는 다양한 성공을 거두며 계속되었습니다. 1980년대에는 규칙 기반 프로그램, 즉 '전문가 시스템'이 발전하기 시작했고, 인공지능을 만드는 데 사용할 수 있는 기술이 꽃피울 것처럼 보이기 시작했습니다. 그런 다음 진행이 중단되고 자금이 말라 버렸습니다. AI 노력은 1990년대 '유전자 알고리즘'과 '신경망'의 출현으로 새로운 자극을 받았습니다.

AI의 위력을 가늠하는 한 가지 척도는 특별히 설계된 컴퓨터가 체스, 브리지, 스크래블, 바둑, 퀴즈 등의 게임을 얼마나 잘 플레이하는지입니다. 약 10년 안에 고급 알고리즘을 갖춘 컴퓨터가 세계 바둑 챔피언을 이길 수 있을 것입니다. 게임 외에도 유사한 기술이 보청기, 안면 및 음성 인식 장치, 내비게이션, 진단, 계획, 물류 및 기능성을 갖춘 산업용 로봇 제작에 사용됩니다.

최근 테슬라모터스(Tesla Motors)와 스페이스X(SpaceX)의 창업자인 엘론 머스크(Elon Musk)는 통제가 불가능한 악마를 소환하기 위해 인공지능을 만들었다. 머스크는 자신의 트위터 팔로워들에게 그의 최신 저서 "초지능: 경로, 위험, 전략"을 추천한 영국 철학자 닉 보스트롬과 회의론을 공유합니다. 일부 미래학자들은 인간 노동이 기계 노동으로 광범위하게 대체되면서 사람들의 편안한 미래를 예언하는 반면, Nick Bostrom은 인공 지능이 인류 전체의 존재에 대한 위협이라고 봅니다. Apparat는 Nick Bostrom의 아이디어를 살펴보고 그의 의견으로는 인류가 어떻게 구원받을 수 있는지 알아냈습니다.

닉 보스트롬

철학자이자 옥스퍼드 대학교 교수

몇 년 전 포린 폴리시(Foreign Policy) 잡지는 그를 지구상에서 가장 중요한 사상가 100인 목록에 포함시켰습니다. Nick Bostrom은 기술을 통해 사람들에게 힘을 실어준다고 믿습니다. 1998년에 그는 트랜스휴머니즘을 본격적인 과학 지식 분야로 인정하기 위해 싸우기 위해 세계 트랜스휴머니스트 협회(현재 Humanity+)를 설립했습니다. Bostrom은 Global Catastrophic Risks라는 책에서 인류 멸종의 개념을 설명하면서 학계 외부에서 명성을 얻었습니다. 보스트롬(Bostrom)은 옥스퍼드 인류 미래 연구소(Oxford Future of Humanity Institute)의 소장입니다. 이제 그는 우리 문명에 대한 또 다른 위협인 초지능으로 대중의 관심을 끌려고 노력하고 있습니다.

인공지능은 머지않아 우리보다 더 똑똑해질 것이다.

Nick Bostrom에게는 어떤 지식 영역이 우리를 초지능의 창조로 이끌 것인지는 중요하지 않습니다. 생각할 수 있는 프로그램을 작성한 프로그래머든, 신경과학자든, 재창조된인간의 두뇌가 작동합니다. 가장 중요한 것은 이것이 우리가 생각하는 것보다 더 빨리 일어날 것이라는 것입니다. 보스트롬이 조사한 대부분의 전문가들은 2040년이나 2050년까지 지능형 인공지능이 탄생할 것으로 예상했습니다.

인공지능은 이미 여러 분야에서 인간의 지능을 능가하고 있다. 따라서 수년 동안 다양한 유형의 인공 지능이 체스나 포커 등 다양한 게임 토너먼트의 챔피언을 물리쳐 왔습니다. 이러한 성과는 그다지 인상적이지 않을 수도 있지만, 이는 놀라운 것에 대한 우리의 요구가 발전에 빠르게 적응하기 때문입니다.

인공지능은 스스로 학습하는 능력으로 인해 초지능으로 변할 것이다

Bostrom에 따르면 인공지능은 처음에는 어린이의 뇌와 유사할 것이라고 합니다. 그리고 어린아이처럼 그는 배울 수 있을 것입니다. 사람들은 프로그램에 가능한 한 많은 정보를 넣으려는 노력을 중단하고 프로그램이 주변 세계를 이해하도록 가르칠 것입니다. 초지능의 존재는 끊임없는 자기 개선을 통해 가능해질 것이다.

실수로부터 배울 수 있을 만큼 똑똑한 인공지능을 만드는 것이 우리에게 중요합니다. 그는 끝없이 자신을 향상시킬 수 있을 것입니다. 첫 번째 버전은 더 나은 두 번째 버전을 만들 수 있고, 두 번째 버전은 원본보다 더 똑똑해 훨씬 더 발전된 세 번째 버전을 만들 수 있습니다. 특정 조건에서 이러한 자기 개선 과정은 지적 폭발이 달성될 때까지 반복될 수 있습니다. 즉, 시스템의 지적 수준이 짧은 시간 내에 상대적으로 보통 수준에서 초지능 수준으로 도약하는 순간입니다.

초지능에는 고유한 요구 사항과 목표가 있습니다.

인공지능이 생각하는 방식은 우리와 다를 것이다. Nick Bostrom은 초지능 동기가 어떻게 작동할지 정확히 예측하려고 하지 않습니다. 그러나 그의 목표가 무엇이든, 그 목표를 달성하려면 자원이 필요합니다.

인공지능은 외계인보다 인간이 덜할 수도 있다. 지능을 갖춘 외계인이 배고픔, 기온, 부상, 질병, 생명에 대한 위협, 자손을 갖고자 하는 욕구 등으로 인해 행동하도록 동기를 부여받을 수 있다는 것은 놀라운 일이 아닙니다. 실제로 인공지능은 위의 어떤 것에도 관심이 없습니다. 보라카이 섬의 모든 모래알 수를 세거나 숫자 π의 십진수 표현을 찾는 것이 유일한 최종 목표인 인공 지능의 존재를 상상할 수 있습니다.

초지능은 사람들의 의지에 반하여 이용하려고 할 것입니다.

자원에 접근하기 위해 초지능은 중개자를 찾으려고 노력할 것입니다. Bostrom에 따르면 네트워크 연결이나 물리적 활동 능력이 없더라도 초지능은 여전히 목표를 달성할 수 있습니다. 왜냐하면 우리가 기술적 성숙에 도달하더라도, 즉 창조할 수 있는 모든 기술을 창조하더라도 우리의 주요 약점은 여전히 우리 자신에게 있기 때문입니다.

인간은 가장 신뢰할 수 없는 시스템이다. 오늘날 해커들은 다른 사람의 컴퓨터에 접근하기 위해 사회 공학의 원칙을 이용하는 경우가 많습니다. 그리고 조작적인 해커가 초지능으로 밝혀지면 그가 쉽게 공범자를 찾거나 단순히 우리의 의지에 반하여 우리를 그의 팔과 다리로 사용하기 시작할 것이라고 가정할 수 있습니다.

초지능은 유일한 지능으로 남아 있기를 "원"할 수 있습니다.

일부 철학자와 과학자들은 인공 지능을 우리 삶의 질을 향상시키는 도구로만 봅니다. 그중에는 미국 철학자 John Searle이 있습니다. 그는 기계에서 자기 인식의 출현이 불가능하다고 생각합니다. 왜냐하면 이를 위해서는 인간의 두뇌에서 발생하는 것과 유사한 물리적, 화학적 과정이 필요하기 때문입니다. 그러나 Bostrom은 어느 시점에서는 초지능이 도구로서의 역할을 중단하고 자체 요구 사항을 갖춘 완전한 존재로 판명될 것이며 인류 보존에 대한 관심은 그중 하나가 아닐 수도 있다고 믿습니다. 우리는 그의 길에 장애물이 될 뿐입니다.

인간 자신은 유용한 자원(편리하게 그룹화된 원자)이며, 인간의 생존과 번영은 다른 자원에 달려 있습니다. 이러한 자원을 필요로 하는 인공지능의 개발은 자칫 인류의 멸종을 초래할 수도 있다. 따라서 많은 복잡한 구조를 포함하여 기술적으로 고도로 발전된 사회의 시대가 올 것이며, 그 중 많은 부분이 오늘날 지구상에 존재하는 어떤 것보다 더 똑똑해질 것입니다. 지금은 경제적, 기술적 기적의 시대가 될 것입니다. 그러나 그것을 활용할 수 있는 사람은 아무도 남지 않을 것입니다. 디즈니랜드는 더 이상 아이들이 없는 지구를 통치할 것입니다.

인류는 기술을 통제하는 법을 배워야 합니다

닉 보스트롬은 친근한 인공지능을 창조하거나 통제할 수 있는 가능성을 부정하지 않는다. 결국, 철학자는 긴급한 문제에 대처하는 데 도움이 되는 스마트 기술이 정말로 필요하다는 것을 인정합니다. 유일한 질문은 위험, 특히 멸종 위험을 줄이는 것입니다.

지적 폭발이 우리를 멸종으로 위협한다면, 우리는 폭발 과정을 통제할 수 있는지 이해해야 합니다. 오늘날에는 인공지능 분야의 연구를 중단하는 것보다 제어 문제를 해결하기 위한 노력을 가속화하는 것이 더 합리적일 것입니다. 하지만 현재 제어 문제를 해결하기 위해 6명이 일하고 있고, 수십만은 아니더라도 수만 명이 인공지능을 만들기 위해 노력하고 있습니다.

인식이란 무장을 의미합니다

인류는 아직 초지능을 만날 준비가 되어 있지 않으며 수년이 걸릴 것이라고 보스트롬은 지적합니다. 그러나 지적 도약은 한동안 일어나지 않을 수도 있지만, 지금 우리는 발생할 수 있는 문제에 주의를 기울여야 합니다. 많은 과학자들은 초지능을 창조하려고 노력하면서 위험을 잊어버립니다.

시한폭탄을 손에 쥐고 있는 아이에게 가장 현명한 일은 폭탄을 조심스럽게 바닥에 내려놓고, 재빨리 방에서 뛰쳐나와 어른에게 전화하는 것입니다. 하지만 우리 방 전체가 아이들로 가득 차 있고 모든 아이들이 방아쇠에 쉽게 접근할 수 있다면 어떨까요? 우리 모두가 위험한 장난감을 내려놓을 가능성은 극히 낮습니다. 어떤 작은 바보는 단지 무슨 일이 일어나는지 보기 위해 버튼을 누르게 마련입니다.

기계가 인간의 지능을 능가한다면 어떤 일이 일어날까? 그들은 우리를 도울 것인가, 아니면 인류를 파괴할 것인가? 오늘날 인공지능 발달의 문제를 무시하고 완전히 안전하다고 느낄 수 있을까요?

닉 보스트롬은 자신의 책에서 초지능의 출현 전망과 관련하여 인류가 직면한 문제를 이해하고 그에 대한 대응을 분석하려고 노력하고 있습니다.

책의 특징

작성 날짜: 2014
이름: . 단계. 위협. 전략

분량: 760페이지, 일러스트레이션 69개
ISBN: 978-5-00057-810-0
번역자: 세르게이 필린
저작권 보유자: Mann, Ivanov 및 Ferber

'인공지능' 책 서문

저자는 치명적인 위협이 인간의 정신을 뛰어넘는 인공지능을 창조할 가능성과 연관되어 있다고 믿는다. 21세기 말과 향후 수십 년 안에 재앙이 발생할 수 있습니다. 인류의 전체 역사는 우리 종의 대표자인 호모 사피엔스와 우리 행성에 거주하는 다른 사람 사이에 충돌이 있을 때 더 똑똑한 사람이 승리한다는 것을 보여줍니다. 지금까지 우리는 가장 똑똑했지만 이것이 영원히 지속될 것이라는 보장은 없습니다.

Nick Bostrom은 똑똑한 컴퓨터 알고리즘이 더 똑똑한 알고리즘을 독립적으로 만드는 법을 배우고, 그 알고리즘이 더 똑똑해지면 인공 지능이 폭발적으로 성장할 것이며, 그에 비해 사람들은 지금 사람 옆에 있는 개미처럼 보일 것이라고 썼습니다. 물론 지적인 의미에서요. 인공적이지만 초지능을 갖춘 새로운 종이 세상에 나타날 것입니다. 모든 사람들을 행복하게 만들려는 시도, 가장 효과적인 방법, 즉 인류를 파괴함으로써 세계 해양의 인위적 오염을 막으려는 결정, 즉 "생각나는 것"이 무엇인지는 중요하지 않습니다. 이것에 저항하십시오. 터미네이터 영화의 정신으로 대결할 기회도 없고, 철 사이보그와의 총격전도 없습니다. 체스 컴퓨터 "Deep Blue"와 1학년 사이의 결투처럼 체크메이트가 우리를 기다리고 있습니다.

지난 100~2년 동안 과학의 성취는 일부 사람들에게는 인류의 모든 문제를 해결할 수 있다는 희망을 일깨웠지만, 다른 사람들에게는 걷잡을 수 없는 두려움을 불러일으켰고 지금도 계속해서 불러일으키고 있습니다. 동시에, 두 관점 모두 상당히 정당해 보인다고 말해야 합니다. 과학 덕분에 끔찍한 질병이 퇴치되었고, 오늘날 인류는 전례 없는 수의 사람들에게 식량을 공급할 수 있으며, 지구상의 한 지점에서 반대쪽 지점까지 하루도 안 되어 도달할 수 있습니다. 그러나 동일한 과학의 은혜로 최신 군사 기술을 사용하는 사람들은 엄청난 속도와 효율성으로 서로를 파괴합니다.

우리는 정보 보안 분야에서도 기술의 급속한 발전이 새로운 기회의 형성으로 이어질 뿐만 아니라 전례 없는 위협을 창출하는 유사한 추세를 관찰하고 있습니다. 우리 산업 전체가 생겨나고 존재하는 이유는 컴퓨터와 인터넷과 같은 놀라운 것들의 생성과 대량 배포가 컴퓨터 이전 시대에는 상상할 수 없었던 문제를 야기했기 때문입니다. 정보기술의 출현으로 인간의 의사소통에 혁명이 일어났습니다. 또한 다양한 유형의 사이버 범죄자들에 의해 사용되었습니다. 그리고 이제 인류는 점차 새로운 위험을 깨닫기 시작했습니다. 물리적 세계의 점점 더 많은 물체가 컴퓨터와 소프트웨어를 사용하여 제어되며, 종종 불완전하고 구멍이 많고 취약합니다. 점점 더 많은 개체가 인터넷에 연결됨에 따라 사이버 세계의 위협은 빠르게 물리적 보안이 되고 잠재적으로 생사 문제가 될 수 있습니다.

이것이 Nick Bostrom의 책을 그토록 흥미롭게 만드는 이유입니다. 단일 컴퓨터 네트워크 또는 인류 전체의 악몽 시나리오를 예방하는 첫 번째 단계는 악몽이 무엇인지 이해하는 것입니다. 보스트롬은 인간 정신과 비슷하거나 그보다 우월한 인공지능(인류를 파괴할 수 있는 인공지능)의 창조는 실현되지 않을 가능성이 높은 시나리오일 뿐이라는 점에 많은 의구심을 갖고 있습니다. 물론 많은 옵션이 있으며 컴퓨터 기술의 발전이 인류를 파괴하지는 않지만 "생명, 우주 및 모든 것의 주요 질문"에 대한 답을 제공할 것입니다(아마도 실제로는 숫자 42가 될 것입니다. 소설 "은하수를 여행하는 히치하이커를 위한 안내서") . 희망은 있지만 위험은 매우 심각하다고 보스트롬은 우리에게 경고합니다. 내 생각에는 인류에 대한 그러한 실존적 위협의 가능성이 존재한다면 그에 따라 대처해야 하며, 이를 예방하고 보호하기 위해서는 전 세계적인 공동 노력이 이루어져야 한다고 생각합니다.

소개

예를 들어 우리의 두개골 안에는 읽을 수 있는 특정 물질이 있습니다. 인간의 뇌인 이 물질에는 다른 포유류에는 없는 능력이 부여되어 있습니다. 실제로 사람들이 지구상에서 지배적인 위치를 차지하는 것은 바로 이러한 특징 때문입니다. 일부 동물은 강력한 근육과 날카로운 송곳니로 구별되지만 인간을 제외한 어떤 생명체도 그러한 완벽한 정신을 타고난 적이 없습니다. 우리의 높은 지능 덕분에 우리는 언어, 기술, 복잡한 사회 조직과 같은 도구를 만들 수 있었습니다. 시간이 지남에 따라 우리의 장점은 전임자의 업적을 바탕으로 새로운 세대가 발전함에 따라 더욱 강화되고 확장되었습니다.

인간의 정신이 발달하는 일반적인 수준을 뛰어넘는 인공지능이 개발된다면 초강력 지능이 세상에 등장하게 될 것이다. 그러면 우리 종의 운명은 이러한 지능형 기술 시스템의 행동에 직접적으로 좌우될 것입니다. 오늘날 고릴라의 운명이 주로 영장류 자체가 아니라 인간의 의도에 의해 결정되는 것과 같습니다.

그러나 인류는 지능적인 기술 시스템을 창조한다는 점에서 부인할 수 없는 이점을 갖고 있습니다. 원칙적으로, 인류의 보편적 가치를 보호할 그런 초지능을 발명하는 것을 누가 막고 있습니까? 물론 우리 자신을 보호해야 할 아주 좋은 이유가 있습니다. 실질적인 측면에서 우리는 통제에 관한 가장 어려운 질문, 즉 초지능의 계획과 행동을 어떻게 통제할 것인가에 대처해야 할 것입니다. 더욱이 사람들은 단 한 번의 기회를 사용할 수 있게 될 것입니다. 비우호적인 인공 지능(AI)이 등장하자마자 이를 제거하거나 적어도 설정을 조정하려는 우리의 노력을 즉시 방해하기 시작할 것입니다. 그리고 인류의 운명은 결정될 것이다.

나는 책에서 초지능의 전망과 관련하여 사람들이 직면하는 문제를 이해하고 그들의 반응을 분석하려고 노력합니다. 아마도 인류가 받은 가장 심각하고 무서운 의제가 우리를 기다리고 있을 것입니다. 그리고 승패와 관계없이 이번 도전이 마지막이 될 가능성도 있다. 나는 여기서 어떤 버전이나 다른 버전을 선호하는 어떤 주장도 제시하지 않습니다. 우리는 인공 지능 생성에 있어 큰 돌파구에 직면하고 있습니까? 특정 혁명적 사건이 언제 일어날지 정확하게 예측하는 것이 가능합니까? 아마도 금세기에. 누구도 더 구체적인 마감일을 지정하지 않을 것입니다.

인공 지능. 단계. 위협. 전략 - Nick Bostrom (다운로드)

(책의 소개 부분)

닉 보스트롬

인공 지능. 단계. 위협. 전략

닉 보스트롬

초지능

경로, 위험, 전략

과학 편집자 M. S. Burtsev, E. D. Kazimirova, A. B. Lavrentiev

Alexander Korzhenevski Agency의 허가를 받아 게시됨

출판사에 대한 법적 지원은 Vegas-Lex 법률 회사에서 제공됩니다.

이 책은 원래 2014년에 영어로 출판되었습니다. 이 번역은 Oxford University Press와의 합의에 의해 출판되었습니다. 발행인은 원본 작업의 번역에 대해 전적인 책임을 지며 Oxford University Press는 해당 번역의 오류, 누락, 부정확성 또는 모호함이나 그에 의존하여 발생한 손실에 대해 책임을 지지 않습니다.

* * *

이 책은 보완이 잘 된다

게임 이론

아비나쉬 딕시트(Avinash Dixit)와 배리 날버프(Barry Nalbuff)

켄 제닝스

즐거움x

스티븐 스트로가츠

파트너 서문

...친구가 한 명 있어요.” Edik이 말했습니다. “그는 인간이 자연이 창조의 왕관, 즉 레몬 조각을 곁들인 코냑 한 잔을 만드는 데 필요한 중간 연결고리라고 주장합니다.

아르카디와 보리스 스트루가츠키. 월요일은 토요일부터 시작됩니다

Nick Bostrom은 똑똑한 컴퓨터 알고리즘이 더 똑똑한 알고리즘을 독립적으로 만드는 법을 배우고, 그 알고리즘이 더 똑똑해지면 인공 지능이 폭발적으로 성장할 것이며, 그에 비해 사람들은 지금 사람 옆에 있는 개미처럼 보일 것이라고 썼습니다. 물론 지적인 의미에서요. 인공적이지만 초지능을 갖춘 새로운 종이 세상에 나타날 것입니다. 그의 마음에 무엇이 떠오르는지는 중요하지 않습니다. 모든 사람을 행복하게 만들려는 시도 또는 가장 효과적인 방법으로 세계 해양의 인위적 오염을 막으려는 결정, 즉 인류를 파괴함으로써 사람들은 여전히 저항할 수 없습니다. 이것. 터미네이터 영화의 정신으로 대결할 기회도 없고, 철 사이보그와의 총격전도 없습니다. 체스 컴퓨터 "Deep Blue"와 1학년 사이의 결투처럼 체크메이트가 우리를 기다리고 있습니다.

기술의 급속한 발전이 새로운 기회의 형성으로 이어질 뿐만 아니라 전례 없는 위협을 야기하는 유사한 추세가 정보 보안 분야에서도 관찰되고 있습니다. 우리 산업 전체가 생겨나고 존재하는 이유는 컴퓨터와 인터넷과 같은 놀라운 것들의 생성과 대량 배포가 컴퓨터 이전 시대에는 상상할 수 없었던 문제를 야기했기 때문입니다. 정보기술의 출현으로 인간의 의사소통에 혁명이 일어났습니다. 또한 다양한 유형의 사이버 범죄자들에 의해 사용되었습니다. 그리고 이제 인류는 점차 새로운 위험을 깨닫기 시작했습니다. 물리적 세계의 점점 더 많은 물체가 컴퓨터와 소프트웨어를 사용하여 제어되며, 종종 불완전하고 구멍이 많고 취약합니다. 점점 더 많은 개체가 인터넷에 연결됨에 따라 사이버 세계의 위협은 빠르게 물리적 보안이 되고 잠재적으로 생사 문제가 될 수 있습니다.

이것이 Nick Bostrom의 책을 그토록 흥미롭게 만드는 이유입니다. 단일 컴퓨터 네트워크 또는 인류 전체의 악몽 시나리오를 예방하는 첫 번째 단계는 악몽이 무엇인지 이해하는 것입니다. 보스트롬은 인간의 정신과 비슷하거나 그보다 우월한 인공지능(인류를 파괴할 수 있는 인공지능)의 창조는 실현되지 않을 가능성이 높은 시나리오일 뿐이라는 점에 많은 의구심을 품고 있다. 물론 많은 옵션이 있으며 컴퓨터 기술의 발전이 인류를 파괴하지는 않지만 "생명, 우주 및 모든 것의 주요 질문"에 대한 답을 제공할 것입니다(아마도 실제로는 숫자 42가 될 것입니다. 소설 "은하수를 여행하는 히치하이커를 위한 안내서") . 희망은 있지만 위험은 매우 심각하다고 보스트롬은 우리에게 경고합니다. 내 생각에는 인류에 대한 그러한 실존적 위협의 가능성이 존재한다면 그에 따라 대처해야 하며, 이를 예방하고 보호하기 위해서는 전 세계적인 공동 노력이 이루어져야 한다고 생각합니다.

저는 Mikhail Weller의 저서 "Man in the System"의 인용문으로 소개를 마무리하고 싶습니다.

공상 과학 소설, 즉 이미지와 줄거리로 구성된 인간의 생각이 무언가를 오랫동안 자세하게 반복하면 불 없이는 연기가 없습니다. 인간과 로봇 문명 사이의 전쟁을 다룬 진부한 할리우드 액션 영화는 상업적인 시청이라는 껍질 속에 쓰라린 진실을 담고 있다.

본능의 전이 가능한 프로그램이 로봇에 내장되고 이러한 본능의 만족이 무조건적이고 기본적인 욕구로 내장되어 이것이 자기 재생산 수준으로 갈 것입니다. 그러면 여러분, 흡연과 술과의 싸움을 중단하십시오. 왜냐하면 우리 모두에게 하나 앞에서 술을 마시고 담배를 피우는 시간이 될 것이기 때문입니다.

예브게니 카스퍼스키,Kaspersky Lab 총괄 이사

끝나지 않은 참새 이야기

어느 날, 둥지를 틀던 참새들은 여러 날의 고된 노동에 지쳐 해질녘에 앉아서 쉬면서 이것저것 이야기를 나누었습니다.

“우리는 너무 작고 약해요.” 부엉이를 조수로 둔다면 삶이 얼마나 편해질지 상상해 보세요! – 참새 한 마리가 꿈꾸듯 지저귀더군요. - 우리를 위해 둥지를 지어줄 수도 있을 텐데...

- 응! – 다른 사람도 동의했습니다. – 그리고 우리 노인들과 병아리들도 돌봐주세요…

“그리고 우리에게 지시하고 이웃의 고양이로부터 우리를 보호해주세요.”라고 세 번째 사람이 덧붙였습니다.

그러자 가장 나이 많은 참새인 파스토스가 이렇게 제안했습니다.

– 정찰병들이 둥지에서 떨어진 올빼미를 찾기 위해 여러 방향으로 날아가게 하세요. 그러나 올빼미 알, 까마귀, 심지어 아기 족제비도 가능합니다. 이 발견은 우리 무리에게 가장 큰 성공이 될 것입니다! 우리가 뒷마당에서 끝없는 곡물 공급원을 발견했을 때처럼.

참새들은 몹시 흥분하여 있는 힘껏 큰 소리로 지저귀고 있었습니다.

그리고 까다로운 기질을 지닌 부식성 참새인 외눈박이 스크론핑클만이 이 사업의 타당성을 의심하는 것 같았습니다.

그는 “우리는 비참한 길을 선택했다”고 확신에 차 말했다. – 그런 위험한 생물을 환경에 들여보내기 전에 먼저 올빼미를 길들이고 길들이는 문제를 진지하게 연구해야 하지 않나요?

Pastus는 "내 생각에는 올빼미를 길들이는 기술이 쉬운 일이 아닌 것 같습니다. "라고 반대했습니다. 부엉이 알을 찾는 것은 정말 어렵습니다. 그럼 검색을 시작해 보겠습니다. 새끼 올빼미를 키우면 교육 문제에 대해 생각해 보겠습니다.

- 악랄한 계획이군요! 스크론핑클은 초조하게 울부짖었다.

그러나 더 이상 그의 말을 듣는 사람은 아무도 없었습니다. 파토스의 지시에 따라 참새 떼가 공중으로 솟아올라 출발했습니다.