Искусственный сверхинтеллект

Об этой книге

Человеческий мозг способен на то, что недоступно мозгам других живых существ. Именно эти уникальные возможности обеспечили нашему виду доминирующее положение на планете. У кого-то сильнее мускулы, у кого-то острее когти — но наш разум несравненно изощрённее. Если однажды машинный интеллект превзойдёт человеческий по уровню общих способностей, эта новая сверхинтеллектуальная сила может обрести колоссальную мощь. Судьба горилл теперь зависит от нас, людей, куда больше, чем от них самих; точно так же и будущее нашего вида окажется в руках машинной сверхинтеллектуальной системы. Но у нас есть решающее преимущество: мы делаем первый ход. Возможно ли создать «затравочный ИИ» или иначе выстроить начальные условия так, чтобы взрывной рост интеллекта стал для нас не гибельным, а спасительным? Как добиться управляемой детонации? Чтобы приблизиться к ответу, придётся пройти через увлекательный ландшафт идей и размышлений. В этой книге вы узнаете об оракулах, джиннах и синглтонах, о методах изоляции, спусковых крючках и «преступлениях разума», о космическом наследии человечества и дифференциальном технологическом развитии, о непрямой нормативности, инструментальной конвергенции, эмуляции целого мозга и технологических сопряжениях, о мальтузианской экономике и антиутопической эволюции, об искусственном интеллекте и биологическом когнитивном усилении, а также о коллективном разуме.