Apparat - Revista despre noua societate. Citește online „Inteligenta artificială”

8 General

Recenzie de către getAbstract

Potrivit futuristului de la Oxford Nick Bostrom, inteligența artificială poate deveni un instrument pentru a ne asigura securitatea, prosperitatea economică și dezvoltarea intelectuală, dar este posibil ca omenirea să nu poată realiza întregul potențial al acestui instrument. Bostrom face o critică pas cu pas a capcanelor inerente ale percepției umane asupra inteligenței artificiale și avem sentimentul că oamenii nu au nici resursele și nici imaginația pentru a înțelege tranziția de la o lume dominată de oameni la o lume amenințată sau amenințată. deja înrobit de o entitate cu supraminte. Bostrom descrie cu măiestrie cum ar putea apărea o astfel de superinteligență, cum ar evolua într-un „singleton” atotputernic și amenințarea pe care o ar reprezenta. De exemplu, ce s-ar întâmpla, întreabă el, dacă această inteligență artificială s-ar dezvolta până în punctul în care să formeze un guvern mondial care nu a fost ghidat de principiile etice tradiționale? Informativa, bogata in referiri la diverse surse, cartea incurajeaza cititorul sa se gandeasca la multe necunoscute. Raționamentul autorului se bazează pe o analiză a unei game întregi de posibile scenarii viitoare. Acest studiu aprofundat este destinat în primul rând cititorilor cu un interes deosebit pentru subiect. getAbstractîl recomandă politicienilor, futuriștilor, studenților, investitorilor, filozofilor și oricui se gândește la înaltă tehnologie.

Din rezumatul cărții veți afla:

Cum evoluează tehnologia cunoscută sub numele de „inteligență artificială”;
Ce sugerează oamenii de știință pentru a utiliza și controla AI;
De ce umanitatea nu este pregătită să se ocupe de AI.

Despre autor

Nick Bostrom– Profesor la Universitatea Oxford, director fondator al Institutului pentru Viitorul Umanității.

Perspective pentru apariția superinteligenței

În vara anului 1956, un grup de oameni de știință s-a adunat la Dartmouth College pentru a studia perspectivele dezvoltării umane. Ei erau interesați în primul rând de dacă mașinile ar putea reproduce funcțiile inteligenței umane. Cercetările pe această temă au continuat cu succes diferite. În anii 1980, programele bazate pe reguli sau „sisteme experte” au început să se dezvolte și a început să pară că tehnologiile care ar putea fi folosite pentru a crea inteligență artificială erau pe cale să înflorească. Apoi progresul s-a blocat și finanțarea s-a epuizat. Eforturile AI au primit un nou impuls în anii 1990 odată cu apariția „algoritmilor genetici” și a „rețelelor neuronale”.

O măsură a puterii AI este cât de bine joacă computerele special concepute jocuri precum șah, bridge, Scrabble, Go și trivia. În aproximativ 10 ani, un computer cu algoritmi avansați va putea să-l învingă pe campionul mondial Go. Pe lângă jocuri, tehnologii similare sunt folosite în aparate auditive, dispozitive de recunoaștere facială și vocală, navigație, diagnosticare, planificare, logistică, precum și pentru a crea roboți industriali a căror funcționalitate...

Recent, fondatorul Tesla Motors și SpaceX, Elon Musk, a creat inteligența artificială pentru a invoca un demon care ar fi imposibil de controlat. Musk își împărtășește scepticismul cu filozoful britanic Nick Bostrom, a cărui ultimă carte „Superintelligence: Paths, Dangers, Strategies” a recomandat-o omul de afaceri adepților săi de pe Twitter. În timp ce unii futurologi prevestesc un viitor confortabil pentru oameni ca urmare a înlocuirii pe scară largă a muncii umane cu munca mașinii, Nick Bostrom vede inteligența artificială ca pe o amenințare la adresa existenței întregii noastre specii. Apparat s-a familiarizat cu ideile lui Nick Bostrom și a aflat cum, în opinia sa, umanitatea poate fi salvată.

Nick Bostrom

Filosof și profesor la Universitatea Oxford

În urmă cu câțiva ani, revista Foreign Policy l-a inclus în lista sa cu cei mai importanți 100 de gânditori de pe planetă. Nick Bostrom crede în abilitarea oamenilor prin tehnologie. În 1998, a înființat Asociația Mondială Transumanistă (acum numită Humanity+) pentru a lupta pentru recunoașterea transumanismului ca domeniu cu drepturi depline de cunoaștere științifică. Bostrom și-a câștigat faima în afara cercurilor academice când a descris conceptul de dispariție umană în cartea Riscurile catastrofice globale. Bostrom este director al Institutului Oxford Future of Humanity. Acum încearcă să atragă atenția publicului asupra unei alte amenințări la adresa civilizației noastre - superintelligence.

Inteligența artificială va deveni în curând mai inteligentă decât noi

Pentru Nick Bostrom, nu contează care domeniu de cunoaștere ne va conduce la crearea superinteligenței. Fie că este vorba de programatori care au scris un program care poate gândi, sau de neuroștiință, recreat creierul uman funcțional. Principalul lucru este că acest lucru se va întâmpla mai repede decât credem. Majoritatea experților chestionați de Bostrom prevăd crearea inteligenței artificiale inteligente până în 2040 sau 2050.

Inteligența artificială este deja superioară inteligenței umane în multe domenii. Astfel, de mulți ani, diferite tipuri de inteligență artificială au învins campioni ai diverselor turnee de jocuri, fie că este vorba de șah sau de poker. Asemenea realizări pot să nu pară deosebit de impresionante, dar asta se datorează faptului că cerințele noastre pentru uimitor se adaptează rapid la progres.

Datorită capacității de auto-învățare, inteligența artificială se va transforma în superinteligență

Potrivit Bostrom, inteligența artificială va semăna inițial cu creierul unui copil. Și ca un copil, va putea să învețe. Oamenii nu vor încerca să pună cât mai multe informații posibil în program și îl vor învăța să înțeleagă lumea din jur. Existența superinteligenței va fi posibilă prin auto-îmbunătățire constantă.

Este important pentru noi să creăm inteligență artificială suficient de inteligentă pentru a învăța din greșelile sale. El va fi capabil să se perfecționeze la nesfârșit. Prima versiune va putea crea o a doua, care va fi mai bună, iar a doua, fiind mai inteligentă decât originalul, va crea o treime și mai avansată și așa mai departe. In anumite conditii, acest proces de autoperfectionare se poate repeta pana la realizarea unei explozii intelectuale – momentul in care nivelul intelectual al sistemului sare in scurt timp de la un nivel relativ modest la nivelul de superinteligență.

Superinteligența va avea propriile nevoi și obiective

Modul în care gândește inteligența artificială va fi diferit de al nostru. Nick Bostrom nu încearcă să prezică exact cum va funcționa motivația superinteligentă. Dar oricare ar fi obiectivele sale, va avea nevoie de resurse pentru a le atinge.

Inteligența artificială poate fi mai puțin umană decât un extraterestru. Nu este surprinzător că orice extraterestru inteligent poate fi motivat să acționeze de lucruri precum foamea, temperatura, rănirea, boală, amenințarea vieții sau dorința de a avea urmași. Inteligența artificială, de fapt, nu va fi interesată de niciunul dintre cele de mai sus. Se poate imagina existența unei inteligențe artificiale al cărei singur scop final ar fi să numere toate grăunțele de nisip de pe insula Boracay sau să găsească reprezentarea zecimală a numărului π.

Superintelligence va încerca să folosească oamenii împotriva voinței lor

Pentru a avea acces la resurse, superintelligence va încerca să găsească un intermediar. Potrivit Bostrom, chiar și fără o conexiune la rețea sau abilitatea de a fi activ fizic, superinteligența își va putea în continuare să-și atingă obiectivele. Pentru că și atunci când ajungem la maturitatea tehnologică, adică creăm toate tehnologiile care pot fi create, principala noastră slăbiciune vom fi totuși noi înșine.

Omul este cel mai nesigur sistem. Astăzi, hackerii apelează adesea la principiile ingineriei sociale pentru a avea acces la computerul altcuiva. Și dacă hackerul manipulator se dovedește a fi o superinteligență, atunci putem presupune că va găsi cu ușurință un complice sau pur și simplu va începe să ne folosească împotriva voinței noastre ca brațe și picioare.

Superinteligența poate „vrea” să rămână singura inteligență

Unii filozofi și oameni de știință văd în inteligența artificială doar un instrument de îmbunătățire a calității vieții noastre. Printre aceștia se numără și filozoful american John Searle: el consideră imposibilă apariția conștientizării de sine în mașini, deoarece aceasta necesită prezența unor procese fizice și chimice similare cu cele care apar în creierul uman. Cu toate acestea, Bostrom crede că, la un moment dat, superinteligența va înceta să mai fie un instrument, ci se va dovedi a fi o ființă cu drepturi depline, cu propriile nevoi, iar preocuparea pentru conservarea rasei umane poate să nu fie una dintre ele. Nu vom fi decât un obstacol în calea lui.

Omul însuși este o resursă utilă (atomi grupați convenabil), iar supraviețuirea și prosperitatea lui depind de alte resurse. Dezvoltarea inteligenței artificiale care are nevoie de aceste resurse ar putea duce cu ușurință la dispariția umanității. Astfel, va veni timpul pentru o societate foarte dezvoltată din punct de vedere tehnologic, care să includă multe structuri complexe, dintre care multe vor fi mai inteligente decât orice există astăzi pe planetă. Acesta va fi o perioadă de miracole economice și tehnologice. Dar nu va mai rămâne nimeni care ar putea profita de ea. Disneyland va domni pe Pământ, în care nu vor mai fi copii.

Omenirea trebuie să învețe să țină tehnologia sub control

Nick Bostrom nu neagă posibilitatea de a crea inteligență artificială prietenoasă sau de a o controla. La urma urmei, recunoaște filozoful, avem cu adevărat nevoie de tehnologii inteligente care să ne ajute să facem față problemelor stringente. Singura întrebare este reducerea riscurilor, în special a riscului de dispariție.

Dacă o explozie intelectuală ne amenință cu dispariția, atunci trebuie să înțelegem dacă putem controla procesul de detonare. Astăzi, ar avea mai mult sens să accelerăm eforturile pentru a rezolva problema controlului, mai degrabă decât să întrerupem cercetările în domeniul inteligenței artificiale. Dar, deocamdată, șase oameni lucrează la rezolvarea problemei de control, în timp ce zeci, dacă nu sute de mii, lucrează la crearea inteligenței artificiale.

Conștient înseamnă înarmat

Omenirea nu este încă pregătită să întâlnească superinteligența și nu va fi pregătită de mulți ani, notează Bostrom. Dar, în timp ce saltul intelectual poate să nu aibă loc de ceva timp, trebuie să acordăm atenție posibilelor probleme acum. Mulți oameni de știință, în căutarea lor de a crea superinteligență, uită de pericole.

Cel mai înțelept lucru pentru un copil cu o bombă care ticăie în mâini ar fi să așeze cu atenție bomba pe podea, să iasă rapid din cameră și să cheme un adult. Dar dacă toată camera noastră este plină de copii și fiecare copil are acces ușor la declanșator. Șansele ca toți să punem jos o jucărie periculoasă sunt extrem de mici. Un mic idiot este obligat să apese butonul doar pentru a vedea ce se întâmplă.

Ce se va întâmpla dacă mașinile îi depășesc pe oameni în inteligență? Ne vor ajuta sau ne vor distruge rasa umană? Putem ignora astăzi problema dezvoltării inteligenței artificiale și să ne simțim complet în siguranță?

În cartea sa, Nick Bostrom încearcă să înțeleagă problema cu care se confruntă omenirea în legătură cu perspectiva apariției superinteligenței și să analizeze răspunsul acesteia.

Caracteristicile cărții

Data scrierii: 2014
Nume: . Etape. Amenințări. Strategii

Volum: 760 pagini, 69 ilustrații
ISBN: 978-5-00057-810-0
Traducător: Serghei Filin
Deținătorul drepturilor de autor: Mann, Ivanov și Ferber

Prefață la cartea „Inteligenta artificială”

Autorul consideră că amenințarea de moarte este asociată cu posibilitatea de a crea inteligență artificială care depășește mintea umană. O catastrofă ar putea izbucni atât la sfârșitul secolului XXI, cât și în următoarele decenii. Întreaga istorie a omenirii arată: atunci când are loc o ciocnire între un reprezentant al speciei noastre, Homo sapiens, și oricine altcineva care locuiește pe planeta noastră, cel care este mai inteligent câștigă. Până acum, am fost cei mai deștepți, dar nu avem nicio garanție că acest lucru va dura pentru totdeauna.

Nick Bostrom scrie că, dacă algoritmii de computer inteligente învață să facă în mod independent algoritmi și mai inteligenți, iar aceștia, la rândul lor, chiar mai inteligenți, va exista o creștere explozivă a inteligenței artificiale, în comparație cu care oamenii vor arăta aproximativ ca furnicile lângă oameni acum, în sens intelectual, desigur. O specie nouă, deși artificială, dar suprainteligentă va apărea în lume. Nu contează ce îi vine în minte, o încercare de a face pe toți oamenii fericiți sau o decizie de a opri poluarea antropică a oceanelor lumii în cel mai eficient mod, adică prin distrugerea umanității, oamenii tot nu vor putea rezista. acest. Nicio șansă de confruntare în spiritul filmului Terminator, fără schimburi de focuri cu cyborgi de fier. Ne așteaptă șah-mat - ca într-un duel între computerul de șah „Deep Blue” și un elev de clasa întâi.

În ultimii o sută sau două de ani, realizările științei au trezit în unii speranță pentru rezolvarea tuturor problemelor omenirii, în timp ce în alții au provocat și continuă să provoace frică nestăpânită. În același timp, trebuie spus că ambele puncte de vedere par destul de justificate. Datorită științei, bolile teribile au fost învinse, omenirea de astăzi este capabilă să hrănească un număr fără precedent de oameni, iar dintr-un punct de pe glob poți ajunge la opus în mai puțin de o zi. Cu toate acestea, prin grația aceleiași științe, oamenii, folosind cele mai recente tehnologii militare, se distrug reciproc cu o viteză și o eficiență monstruoasă.

Observăm o tendință similară - când dezvoltarea rapidă a tehnologiei nu numai că duce la formarea de noi oportunități, dar creează și amenințări fără precedent - în domeniul securității informațiilor. Întreaga noastră industrie a apărut și există doar pentru că crearea și distribuția în masă a unor lucruri atât de minunate precum computerele și Internetul a creat probleme care ar fi fost de neimaginat în era pre-computer. Ca urmare a apariției tehnologiei informației, a avut loc o revoluție în comunicațiile umane. A fost folosit și de diferite tipuri de criminali cibernetici. Și abia acum omenirea începe treptat să-și dea seama de noi riscuri: tot mai multe obiecte ale lumii fizice sunt controlate folosind computere și software, adesea imperfecte, pline de găuri și vulnerabile; Pe măsură ce tot mai multe dintre aceste obiecte sunt conectate la Internet, amenințările din lumea cibernetică devin rapid securitate fizică și potențiale probleme de viață și de moarte.

Acesta este ceea ce face cartea lui Nick Bostrom atât de interesantă. Primul pas pentru prevenirea scenariilor de coșmar (pentru o singură rețea de calculatoare sau pentru întreaga umanitate) este să înțelegem care ar putea fi acestea. Bostrom face o mulțime de rezerve că crearea de inteligență artificială comparabilă sau superioară minții umane - inteligența artificială capabilă să distrugă umanitatea - este doar un scenariu probabil care s-ar putea să nu se concretizeze. Desigur, există multe opțiuni, iar dezvoltarea tehnologiei informatice poate să nu distrugă umanitatea, dar ne va oferi răspunsul la „întrebarea principală a vieții, a Universului și a tot” (poate că va fi într-adevăr numărul 42, ca în romanul „Ghidul autostopitului către galaxie”) . Există speranță, dar pericolul este foarte grav, ne avertizează Bostrom. În opinia mea, dacă există posibilitatea unei astfel de amenințări existențiale la adresa umanității, atunci trebuie tratată în consecință și, pentru a o preveni și a se proteja de ea, ar trebui depuse eforturi comune la scară globală.

Introducere

Există o anumită substanță în interiorul craniului nostru, datorită căreia putem, de exemplu, să citim. Această substanță - creierul uman - este înzestrată cu capacități care sunt absente la alte mamifere. De fapt, oamenii își datorează poziția dominantă pe planetă tocmai acestor trăsături caracteristice. Unele animale se disting prin mușchi puternici și colți ascuțiți, dar nicio creatură vie, cu excepția oamenilor, nu este înzestrată cu o minte atât de perfectă. Datorită inteligenței noastre superioare, am reușit să creăm instrumente precum limbajul, tehnologia și organizarea socială complexă. De-a lungul timpului, avantajul nostru s-a consolidat și extins, pe măsură ce fiecare nouă generație, bazându-se pe realizările predecesorilor săi, a avansat.

Dacă se dezvoltă vreodată inteligența artificială care depășește nivelul general de dezvoltare al minții umane, atunci în lume va apărea inteligența super-puternică. Și atunci soarta speciei noastre va depinde direct de acțiunile acestor sisteme tehnice inteligente - la fel cum soarta gorilelor de astăzi este în mare măsură determinată nu de primate înseși, ci de intențiile umane.

Cu toate acestea, omenirea are un avantaj incontestabil, deoarece creează sisteme tehnice inteligente. În principiu, cine vă oprește să inventați o astfel de superinteligență care va lua sub protecția sa valorile umane universale? Desigur, avem motive foarte bune să ne protejăm. În termeni practici, va trebui să facem față celei mai dificile chestiuni de control - cum să controlăm planurile și acțiunile superinteligentei. În plus, oamenii vor putea folosi o singură șansă. De îndată ce apare inteligența artificială (IA) neprietenoasă, aceasta va începe imediat să interfereze cu eforturile noastre de a scăpa de ea sau cel puțin de a-și ajusta setările. Și atunci soarta umanității va fi pecetluită.

În cartea mea, încerc să înțeleg problema cu care se confruntă oamenii cu perspectiva superinteligenței și să analizez răspunsul lor. Ne așteaptă poate cea mai serioasă și înfricoșătoare agendă pe care umanitatea a primit-o vreodată. Și indiferent dacă câștigăm sau pierdem, este posibil ca această provocare să fie ultima noastră. Nu prezint aici niciun argument în favoarea unei versiuni sau alteia: suntem în pragul unei mari descoperiri în crearea inteligenței artificiale? Este posibil să prezicem cu o anumită acuratețe când va avea loc un anumit eveniment revoluționar. Cel mai probabil - în acest secol. Este puțin probabil ca cineva să numească un termen mai precis.

Inteligenţă artificială. Etape. Amenințări. Strategii - Nick Bostrom (descărcare)

(fragment introductiv al cărții)

Nick Bostrom

Inteligenţă artificială. Etape. Amenințări. Strategii

Nick Bostrom

Superinteligență

Căi, Pericole, Strategii

Editori științifici M. S. Burtsev, E. D. Kazimirova, A. B. Lavrentiev

Publicat cu permisiunea Agenției Alexander Korzhenevski

Suportul juridic pentru editura este oferit de firma de avocatura Vegas-Lex.

Această carte a fost publicată inițial în limba engleză în 2014. Această traducere este publicată prin acord cu Oxford University Press. Editorul este singurul responsabil pentru această traducere din lucrarea originală, iar Oxford University Press nu își asumă nicio responsabilitate pentru erori, omisiuni sau inexactități sau ambiguități din această traducere sau pentru orice pierderi cauzate de încrederea în aceasta.

* * *

Această carte completează bine

Teoria jocurilor

Avinash Dixit și Barry Nalbuff

Ken Jennings

placere x

Stephen Strogatz

Cuvântul înainte al partenerului

...Am un prieten,” a spus Edik. „El susține că omul este o verigă intermediară de care are nevoie natura pentru a crea coroana creației: un pahar de coniac cu o felie de lămâie.

Arkadi și Boris Strugatsky. Luni incepe sambata

O tendință similară - când dezvoltarea rapidă a tehnologiei nu numai că duce la formarea de noi oportunități, ci creează și amenințări fără precedent - observăm în domeniul securității informațiilor. Întreaga noastră industrie a apărut și există doar pentru că crearea și distribuția în masă a unor lucruri atât de minunate precum computerele și Internetul a creat probleme care ar fi fost de neimaginat în era pre-computer. Ca urmare a apariției tehnologiei informației, a avut loc o revoluție în comunicațiile umane. A fost folosit și de diferite tipuri de criminali cibernetici. Și abia acum omenirea începe treptat să-și dea seama de noi riscuri: tot mai multe obiecte ale lumii fizice sunt controlate folosind computere și software, adesea imperfecte, pline de găuri și vulnerabile; Pe măsură ce tot mai multe dintre aceste obiecte sunt conectate la Internet, amenințările din lumea cibernetică devin rapid securitate fizică și potențiale probleme de viață și de moarte.

Acesta este ceea ce face cartea lui Nick Bostrom atât de interesantă. Primul pas pentru prevenirea scenariilor de coșmar (pentru o singură rețea de calculatoare sau pentru întreaga umanitate) este să înțelegem care ar putea fi acestea. Bostrom face o mulțime de rezerve că crearea de inteligență artificială comparabilă sau superioară minții umane - inteligența artificială care poate distruge umanitatea - este doar un scenariu probabil care s-ar putea să nu se concretizeze. Desigur, există multe opțiuni, iar dezvoltarea tehnologiei informatice poate să nu distrugă umanitatea, dar ne va oferi răspunsul la „întrebarea principală a vieții, a Universului și a tot” (poate că va fi într-adevăr numărul 42, ca în romanul „Ghidul autostopitului către galaxie”) . Există speranță, dar pericolul este foarte grav, ne avertizează Bostrom. În opinia mea, dacă există posibilitatea unei astfel de amenințări existențiale la adresa umanității, atunci trebuie tratată în consecință și, pentru a o preveni și a se proteja de ea, ar trebui depuse eforturi comune la scară globală.

Aș dori să închei introducerea mea cu un citat din cartea lui Mikhail Weller „Man in the System”:

Când science fiction, adică gândirea umană încadrată în imagini și intrigi, repetă ceva mult timp și în detaliu - ei bine, nu există fum fără foc. Filmele banale de acțiune de la Hollywood despre războaiele dintre oameni și civilizația roboților conțin un sâmbure amar de adevăr sub coaja vizionărilor comerciale.

Când un program transferabil de instincte este construit în roboți, iar satisfacția acestor instincte va fi încorporată ca o nevoie necondiționată și de bază, iar aceasta va merge la nivelul de auto-reproducere - atunci, băieți, încetați să luptați cu fumatul și alcoolul, pentru că va fi timpul să bem și să fumăm înaintea Hanei pentru noi toți.

Evgeniy Kaspersky,Director general al Kaspersky Lab

Povestea neterminată a vrăbiilor

Într-o zi, în mijlocul cuiburilor, vrăbiile, obosite de multe zile de muncă grea, s-au așezat să se odihnească la apus și vorbesc despre asta și cutare.

„Suntem atât de mici, atât de slabi.” Imaginează-ți cât de ușoară ar fi viața dacă am avea ca asistent o bufniță! – ciripit visător o vrabie. - Ar putea să ne facă cuiburi...

- Da! – a fost de acord altul. – Și, de asemenea, aveți grijă de bătrânii și puii noștri...

„Și instruiește-ne și protejează-ne de pisica vecinului”, a adăugat un al treilea.

Apoi Pastus, vrabia cea mai mare, a sugerat:

– Lăsați cercetașii să zboare în direcții diferite în căutarea bufniței căzute din cuib. Cu toate acestea, un ou de bufniță, o cioară și chiar un pui de nevăstuică vor fi potrivite. Această descoperire se va dovedi a fi cel mai mare succes pentru turma noastră! Ca și când am descoperit o sursă nesfârșită de cereale în curtea noastră.

Vrăbiile, serios încântate, ciripeau cât puteau de tare.

Și numai Skronfinkle cu un singur ochi, o vrabie caustică cu un temperament dificil, părea să se îndoiască de oportunitatea acestei întreprinderi.

„Am ales o cale dezastruoasă”, a spus el cu convingere. – Nu ar trebui să studiezi cu seriozitate problemele îmblânzării și domesticirii bufnițelor înainte de a permite o creatură atât de periculoasă în mediul tău?

„Mi se pare”, i-a obiectat Pastus, „arta de a îmblânzi bufnițele nu este o sarcină ușoară”. Găsirea unui ou de bufniță este al naibii de greu. Deci, să începem cu căutarea. Odată ce reușim să creștem o bufniță, atunci ne vom gândi la problemele educației.

- Un plan vicios! Scronfinkle ciripit nervos.

Dar nimeni nu l-a mai ascultat. În direcția lui Pastus, stolul de vrăbii s-a ridicat în aer și a pornit.

Nick Bostrom

Superinteligență

Căi, Pericole, Strategii

Editori științifici M. S. Burtsev, E. D. Kazimirova, A. B. Lavrentiev

Publicat cu permisiunea Agenției Alexander Korzhenevski

Suportul juridic pentru editura este oferit de firma de avocatura Vegas-Lex.

Această carte completează bine

Avinash Dixit și Barry Nalbuff

Ken Jennings

Stephen Strogatz

Cuvântul înainte al partenerului

...Am un prieten,” a spus Edik. „El susține că omul este o verigă intermediară de care are nevoie natura pentru a crea coroana creației: un pahar de coniac cu o felie de lămâie.

Arkadi și Boris Strugatsky. Luni incepe sambata

Acesta este ceea ce face cartea lui Nick Bostrom atât de interesantă. Primul pas pentru prevenirea scenariilor de coșmar (pentru o singură rețea de calculatoare sau pentru întreaga umanitate) este să înțelegem care ar putea fi acestea. Bostrom face o mulțime de rezerve că crearea de inteligență artificială comparabilă sau superioară minții umane - inteligența artificială care poate distruge umanitatea - este doar un scenariu probabil care s-ar putea să nu se concretizeze. Desigur, există multe opțiuni, iar dezvoltarea tehnologiei informatice poate să nu distrugă umanitatea, dar ne va oferi răspunsul la „întrebarea principală a vieții, a Universului și a tot” (poate că va fi într-adevăr numărul 42, ca în romanul „Ghidul autostopitului către galaxie”) . Există speranță, dar pericolul este foarte grav, ne avertizează Bostrom. În opinia mea, dacă există posibilitatea unei astfel de amenințări existențiale la adresa umanității, atunci trebuie tratată în consecință și, pentru a o preveni și a se proteja de ea, ar trebui depuse eforturi comune la scară globală.

Aș dori să închei introducerea mea cu un citat din cartea lui Mikhail Weller „Man in the System”:

Evgeniy Kaspersky,

Director general al Kaspersky Lab

Povestea neterminată a vrăbiilor

Într-o zi, în mijlocul cuiburilor, vrăbiile, obosite de multe zile de muncă grea, s-au așezat să se odihnească la apus și vorbesc despre asta și cutare.

„Suntem atât de mici, atât de slabi.” Imaginează-ți cât de ușoară ar fi viața dacă am avea ca asistent o bufniță! – ciripit visător o vrabie. - Ar putea să ne facă cuiburi...