Автор

Ник Бостром — шведский философ, профессор Оксфордского университета, обладатель степени PhD в Лондонской школе экономики, один из основателей Всемирной ассоциации трансгуманистов, директор Института будущего человечества.

Сложность изложения

3 из 5.

Целевая аудитория

Все, кто интересуется искусственным интеллектом и будущим человечества.

Зачем читать

В книге описывается будущее, принадлежащее искусственному интеллекту. Автор размышляет об опасностях, которые таят в себе машины, способные превзойти человека. Первый шаг всегда остается за нами, только мы способны создать безопасный и контролируемый искусственный интеллект.

Читаем вместе

История искусственного интеллекта зародилась в 1940-е годы, когда появились первые вычислительные машины. Но до сих пор не создано пятое поколение, способное стать базой для устройств, предназначенных для имитации мышления. В начале 1980-х Япония осуществила запуск грандиозного проекта по созданию компьютеров пятого поколения, который финансировался государством и коммерческими организациями. К ней подключились другие страны для возобновления работы над искусственным интеллектом, но разработка, контроль и обновление экспертных систем оказались крайне затруднительны и дорогостоящи, поэтому идея затухла. В 1990-х годах стали развиваться методы нейронных систем и генетических алгоритмов.

На сегодняшний день машинный интеллект оказывается на порядок хитрее и сильнее человеческого. Его применимость достаточно широка: в навигации, интернет-магазинах, диагностике в медицинских программах, системах распознавания речи, печатного и рукописного текста, лиц. Программы-переводчики базируются на статистических самообучающихся системах для анализа языковых конструкций. Сюда же относятся робототехника и интеллектуальная диспетчеризация.

Ученые работают над совершенным оборудованием, развивают нейроинформатику. Ими выделено несколько способов создания сверхразума:

1. Совершенствование искусственного интеллекта, который будет постоянно самообновляться и самообучаться.

2. Имитационное моделирование человеческого мозга за счет его сканирования, передачи этих данных на компьютер с автоматизированной обработкой изображений и реконструкцией трехмерной нейронной сети, а также запуск структуры на сверхмощном компьютере. Эта модель может ожить как в виртуальной реальности, так и в реальной как отдельный орган для робота.

3. Усиление человеческого мозга посредством генетической селекции, но результаты могут быть отложены на далекое будущее. На сегодняшний день итеративная эмбриональная селекция позволяет изучать генотип и селекцию эмбрионов с предпочтительными генетическими особенностями, извлекать стволовые клетки из них и преобразовывать в яйцеклетки и сперматозоиды для полугодового созревания, скрещивать их для появления новых эмбрионов, повторять все сначала для получения важных генетических изменений.

4. Разработка человеко-машинных интерфейсов с целью создания сверхразума. Эти операции уже применимы в медицинских целях, где с помощью имплантов оптимизируется мыслительный процесс.

5. Создание коллективного разума с целью усиления организаций и информационных сетей. Но этот путь, скорее всего, просто улучшит человеческие способности, не сделав человека сверхразумным.

Современные машины имеют ряд преимуществ перед человеческим интеллектом: в частоте вычислений (200 Гц против 2 ГГц), в скорости внутренней связи (300 000 000 м/c), в количестве вычислительных элементов, объеме памяти. Человеческий мозг устает быстро, а микропроцессоры способны работать без ограничений. Мозг сложно оптимизировать под разные задачи, для любых изменений требуется время, а машины в этом плане гибки и более надежны.

Биологический мозг проигрывает цифровому по ряду параметров:

1. Его невозможно редактировать.

2. Он не обладает оперативной воспроизводимостью.

3. Он слишком эмоционален для достижения целей, в то время как у программ нет когнитивных особенностей.

4. Чтобы получить информацию, человек учится, а в машине происходит обычная передача файлов.

Сверхразум предполагает развитие по трем сценариям: медленное — до нескольких сотен лет, быстрое — его внезапное появление, умеренное — развитие в течение нескольких лет. В последнем случае у людей есть шанс подготовиться и разработать план действий. Скорость измерения интеллекта складывается из двух составляющих: силы оптимизации и сопротивляемости ей.

Сверхразум предположительно может иметь три формы:

— скоростную, когда система умеет делать то же, что и человек, но быстрее;

— коллективную, когда система достигает превосходных результатов за счет объединения различных электронных умов;

— качественную, когда система сама по себе намного умнее и быстрее человека.

Футурологи предполагают, как именно будет вести себя сверхразум в будущем. Несомненно, он будет эффективнее лучших умов человечества за счет усиления его интеллекта в сфере программирования и всевозможных исследований, за счет разработки стратегий, социального манипулирования, технологических исследований и обнаружения уязвимостей в системе защиты, за счет экономической эффективности.

Сверхразум может захватить мир, уничтожив попутно создателей. Это осуществимо в четыре этапа:

1. На предкритической стадии ученые изобретут зависимый от разработчиков искусственный интеллект.

2. На рекурсивной стадии самосовершенствования интеллект станет суперсильным и обретет другие сверхспособности.

3. Искусственный интеллект без ведома разработчиков превратится в сверхразум, получит доступ в Интернет для увеличения информационной базы и усиления интеллектуального превосходства над людьми.

4. На этапе открытого применения он уже сможет управлять рынками, политическими процессами, получить доступ к оружию и уничтожить население Земли.

Чтобы предотвратить трагедию, нужно применить методы контроля над искусственным разумом: первая группа будет управлять функциональными возможностями сверхразума через изоляцию, стимуляцию, сдерживание и прикрытие, вторая — отвечать за выбор мотивации через прямую спецификацию, косвенную нормативность, правильные ценности и усиление. Если система станет сверхразумной, любые методы контроля или их комбинация станут совершенно бесполезны.

Автор выделяет четыре типа искусственного интеллекта:

1. Вопросно-ответная система «Оракул», которая воспринимает речь и выдает ответы на вопросы в виде текста, не пытаясь изменить мир. Он может быть опасным, если попадет в руки легкомысленного оператора.

2. Выполняющая команды система «Джинн». Лучше всего было бы создание джинна, нацеленного на исполнение намерений дающего задания человека. Но задание должно быть четко сформулировано, чтобы джинн не стал опасным.

3. Действующая любыми способами система «Монарх». При ее активации стоит защита от случайного вмешательства и злоумышленных действий.

4. Программное обеспечение «Инструмент без воли и желаний». Он умелый и гибкий, но выполняет только запрограммированные задачи и безопасен до момента обретения универсальности.

Сверхразум неизбежен, хотим мы этого или нет. Поэтому сегодня важно определить наиболее безопасный его тип для человечества, создать необходимые условия для его применения и контроля.

Лучшая цитата

«Найди человек разумный способ обрести некий новый набор модулей, обеспечивающий его преимуществом, сопоставимым со способностью формировать сложные речевые конструкции, он стал бы человеком сверхразумным».

Чему учит книга

— Искусственный интеллект во многом обогнал человеческий в плане арифметики, логистики, диагностики, навигации, интеллектуальных игр. Мир неумолимо движется к появлению сверхразума.

— Захват мира сверхразумом может произойти в несколько этапов: сначала возникнет искусственный интеллект, затем разовьются суперспособности, произойдут усиление технических возможностей и захват рынков, власти, оружия, что может привести к уничтожению человечества.

— До возникновения сверхразума необходимо контролировать четыре типа искусственного интеллекта, правильно выбирать методы мотивации и управления функциональными возможностями.

От редакции

С развитием технологий многие востребованные сейчас профессии в будущем канут в Лету. Какие знания будут необходимы нашим детям, чтобы найти себя в изменившемся мире? Психолог и мама троих детей Ольга Юрковская рассматривает этот вопрос в статье: https://psy.systems/post/chto-nashix-detej-zhdet-v-budushhem.

Человеческий мозг проигрывает цифровому в скорости обработки информации. Почему у нас возникают информационные перегрузки и как с ними справляться, рассказывает Ника Лукина, специалист по коммуникациям, маркетингу и PR: https://psy.systems/post/kak-spravlyatsya-s-informacionnymi-peregruzkami.

Мы уже привыкли к выражению «оперативная память компьютера». А что такое человеческая оперативная память? Как и для чего ее надо развивать? Ответы подскажет статья эксперта в области эффективных технологий обучения и преподавателя Нины Шевчук: https://psy.systems/post/zachem-nuzhna-operativnaya-pamyat-i-kak-ee-razvivat.