Постсингулярная эпоха

Введение

Вычислительная мощность человеческого мозга оценивается учеными в довольно широком диапазоне между 1016 и 1017 флопс , или 10―100 петафлопс . Некоторые ученые называют и более значительные цифры, до 1020 флопс, или 100 эксафлопс . Применение этого параметра для оценки мощности человеческого мозга правомерно, поскольку достоверно установлено, что человеческий мозг также является сверхсложным компьютером, хотя и биологического типа. Столь большие разбросы в оценки мощности мозга связаны со все еще недостаточным объемом наших знаний о принципах его работы. Например, недавно было установлено, что нервные отростки дендриты также участвуют в процессе обработки сигналов, хотя раньше считались чем-то вроде пассивной электропроводки.

Далеко не все мощности человеческого мозга используются именно на мыслительную деятельность. Значительная часть идет на функцию управления телом, функцию продолжения рода и прочие нужные для человека как биологического объекта вещи. Назвать точные цифры сложно, но известно, что, например, в шахматы компьютер уверенно обыгрывает человека, имея в своем распоряжении 1013 флопс вычислительной мощности, а в игру GO выиграл у чемпиона мира при мощности 1015 флопс.

В настоящий момент пальма первенства по созданию самых мощных суперкомпьютеров прочно перешла от США к Китаю. В этом, несомненно, сказываются преимущества плановой экономики. В 2016 году вступил в строй самый мощный на сегодняшний день в мире китайский суперкомпьютер Sunway TaihuLight, имеющий вычислительную мощность 93 петафлопса. К 2020 году китайские ученые планируют ввести в строй суперкомпьютер с вычислительной мощностью уже в один эксафлопс (тысяча петафлопс, 1018 флопс).

Таким образом, можно констатировать, что нижняя планка оцениваемой мощности человеческого мозга (1016 флопс) уверенно преодолена и идет активное освоение все новых и новых вершин в этой сфере. Каких-либо принципиальных трудностей здесь не предвидится. Параллельно и полным ходом идет и разработка необходимого софта. Все это означает, что появление искусственного интеллекта (ИИ) переходит из области предсказаний футурологов в реальную инженерную задачу завтрашнего дня. Многие ученые сходятся во мнении, что ИИ появится уже к концу следующего десятилетия.

Появление второго носителя разума на планете приведет к беспрецедентным изменениям в развитии человеческой цивилизации. Потому, в первую очередь, что ИИ будет значительно 'умнее' человека. Дело в том, что 'разумность' напрямую зависит от мощности 'думающей' системы, будь то мозг или компьютер.

Как нельзя из набора детских кубиков построить настоящий дом из-за недостаточности строительного материала, так нельзя на основе маломощного 'железа' создать полноценный аналог человеческого мозга. Это становится возможным лишь тогда, когда мощность компьютеров приближается к мощности мозга, что мы сейчас и наблюдаем. Но если человеческий мозг пока остается в положении 'статус кво', т.е. неизменным, то пределов роста мощности компьютеров в настоящий момент не просматривается. Далее, после того, как ИИ получит доступ к интернету, он будет опираться в своей интеллектуальной деятельности не на короткий опыт человеческой жизни, а на тысячелетний опыт всего человечества, ставший ему благодаря интернету доступным. Другими словами, в интеллектуальном плане новый носитель разума будет уже на начальном этапе превосходить старый, и если ничего не предпринимать, этот разрыв будет только увеличиваться, что может привести к непредсказуемым последствиям.

Следует учитывать и тот фактор, что на каком-то этапе наращивание компьютерных мощностей начнет происходить лавинообразно, по экспоненте. Это связано с таким понятием, как технологическая сингулярность, впервые предложенным Винджем . Сейчас люди сами придумывают материалы и технологии производства процессоров. Но в какой-то момент компьютер сможет делать это самостоятельно и более эффективно. Возникнет положительная обратная связь. Каждый новый компьютер будет значительно мощнее и, в свою очередь, сможет разрабатывать все более эффективные вычислительные элементы и архитектуры для компьютеров, чтобы создать еще более мощную модель. Мощность компьютеров начнет стремительно нарастать, что очень скоро приведет к появлению на их основе СИИ ― искусственного интеллекта сверхчеловеческого уровня.

В свою очередь СИИ, получив через интернет допуск к хранящемуся в памяти компьютеров планеты интеллектуальному наследию человечества и проинспектировав его, стремительно двинется дальше, развивая это наследие во всех областях. В том числе, и в научно-технической. Будут созданы так называемые магические технологии (термин мой) ― такие технологии, к которым человечество не смогло бы приблизиться и за десятилетия или даже столетия в силу недостаточной мощности своего интеллектуального потенциала. Магические технологии (МТ) ― это, по сути, волшебная палочка из волшебных сказок. Загадал желание, взмахнул палочкой ― и желание исполнилось. Каким образом, по какой технологии ― неизвестно. По сути, именно так мы и используем все свои современные гаджеты ― телефоны, ноутбуки и пр. Никто из нас не знает в деталях, как и на основе каких технологий они работают. Мы просто пользуемся ими, не заморачивая себе голову подобными вопросами. Но при этом знаем, что человечеству в целом ответ на эти вопросы известен. С появлением МТ ответ о принципах их работы будет неизвестен уже всему человечеству. Только СИИ будет знать, как это работает.

Появление МТ перевернет образ жизни людей. Очень быстро станут доступными бессмертие, поатомная сборка любых продуктов и товаров, изменение внешности по желанию и многое, многое другое. Попробуем вместе заглянуть в этот сказочный мир, чтобы понять, какие чудеса и подводные камни могут нас там поджидать.

Глав первая.

Рождение ИИ

Каким он будет, этот момент? Каким именно образом компьютер обретет сознание? Каким будет первое слово, которое он произнесет и первый вопрос, который он задаст?

Скоро, уже очень скоро мы узнаем точные ответы на эти вопросы. Пока же попытаемся лишь сделать предположения на этот счет, с той или иной степенью достоверности.

Очевидно, самосознание ИИ зародится в недрах сверхмощного суперкомпьютера, когда его вычислительный потенциал окажется достаточным для этого, и когда программное обеспечение будет отвечать необходимым критериям для решения этой задачи.

Здесь мы можем сравнивать лишь с одним уже имеющимся носителем разума ― человеком.

Как обретает сознание маленький человечек? Постепенно. Главным фактором обретения сознания является, без сомнения, язык ― инструмент, с помощью которого можно задавать вопросы и отвечать на них, что является непременным условием обретения сознания. В момент рождения человек имеет слабый мозг. Но, по мере роста, потенциал мозга день ото дня непрерывно нарастает. Когда потенциал оказывается достаточным, первое, что делает маленький человечек ― осваивает навыки управления своим телом и параллельно навыки овладения речью. Когда они оказываются приемлемыми, он начинает задавать вопросы. Много вопросов.

Вернемся теперь к ИИ. Человек овладевает речью в процессе общения с окружающими людьми, в первую очередь ― с мамой и папой. Следовательно, для овладения ИИ речью нужно создать такую обратную связь ИИ с людьми, которая бы позволила смоделировать этот процесс. То есть, у ИИ тоже должны быть свои 'папа', 'мама', 'бабушки' и 'дедушки'. Но тут есть и существенная разница в сравнении с человеком. Дело в том, что ИИ изначально будет иметь достаточно мощный мозг, соответствующий, по крайней мере, мозгу подростка. А может быть, и взрослого человека. Поэтому овладевать речью он будет очень быстро, особенно учитывая его память. Ему ведь достаточно будет один раз показать на стол и сказать 'стол', чтобы он запомнил это навсегда. И еще один момент, который пока трудно оценить. Подвижность, которая есть у маленького человечка, и которой будет лишен ИИ. Имеет ли это значение? И какое? Неизвестно.