http://habrahabr.ru/post/223987/

Необходимым условием наступления технологической сингулярности является создание «сильного искусственного интеллекта» (artificial superintelligence, ASI), способного самостоятельно модифицировать себя. Важно понимать, должен ли этот ИИ работать как человеческий разум, или хотя бы его платформа быть сконструированной аналогично мозгу?

Мозг животного (включая человека) и компьютер работают по-разному. Мозг является трехмерной сетью, «заточенной» под параллельную обработку огромных массивов данных, в то время как нынешние компьютеры обрабатывают информацию линейно, хотя и в миллионы раз быстрее, чем мозги. Микропроцессоры могут выполнять потрясающие расчеты со скоростью и эффективностью, значительно превышающими возможности человеческого мозга, но они используют совершенно другие подходы к обработке информации. Зато традиционные процессоры не очень хорошо справляются с параллельной обработкой больших объемов данных, которая необходима для решения сложных многофакторных задач или, например, распознавания образов.

Разрабатываемые сейчас нейроморфные микросхемы призваны обрабатывать информацию параллельно, аналогично мозгу животных, используя, в частности, нейронные сети. Нейроморфные компьютеры, возможно, будут использовать оптические технологии, которые дадут возможность производить триллионы одновременных вычислений, что даст возможность смоделировать более-менее точно весь человеческий мозг.

Проекты Blue Brain Project и Human Brain Project, финансируемые Европейским Союзом, правительством Швейцарии и IBM, ставят задачу построить полноценную компьютерную модель функционирования человеческого мозга с помощью биологически реалистичного моделирования нейронов. Human Brain Project направлен на достижение функционального моделирования человеческого мозга к 2016 году.

С другой стороны, нейроморфные чипы позволят компьютерам обрабатывать данные от «органов чувств», обнаруживать и прогнозировать закономерности и учиться на своем опыте. Это огромный шаг вперед в области искусственного интеллекта, заметно приближающий нас к созданию полноценного сильного ИИ, т.е. компьютера, который мог бы успешно решать любые задачи, которые теоретически может решить человек.

Представьте себе такой ИИ внутри человекоподобного робота, который выглядит и ведет себя как человек, но гораздо быстрее обучается и может выполнять практически любые задачи лучше, чем Homo Sapiens. Эти роботы могли бы обладать самосознанием и/или чувствами, в зависимости от того, как бы мы решили их запрограммировать. Роботам-рабочим это все ни к чему, но что насчет «социальных» роботов, живущих с нами, заботящихся о детях, больных и пожилых? Разумеется, было бы здорово, если бы они могли полноценно общаться с нами; если бы они обладали сознанием и эмоциями как мы? Немного напоминает AI в фильме Спайка Джонса «Она» (Her).

В не слишком отдаленном будущем, возможно даже меньше, чем через двадцать лет, такие роботы могут заменить человека практически на любой работе, создавая общество изобилия, где люди могут проводить время так, как им захочется. В этой реальности высококлассные роботы будут двигать экономику. Продовольствие, энергия и большинство потребительских товаров будут бесплатны или очень дешевы, а люди будут получать ежемесячно фиксированное пособие от государства.

Все это звучит очень красиво. Но что насчет ИИ, который значительно превзойдет человеческий разум? Искусственный сверхразум (ASI), или сильный искусственный интеллект (СИИ), обладающий способностью обучаться и совершенствовать себя и потенциально могущий стать в миллионы или миллиарды раз умнее, чем самые умные из людей? Создание такого существа теоретически может привести к технологической сингулярности.

Футуролог Рэй Курцвейл считает, что сингулярность наступит в районе 2045 года. Среди критиков Курцвейла — соучредитель Microsoft Пол Аллен, который считает, что до сингулярности еще далеко. Аллен считает, что для постройки такого компьютера сначала необходимо досконально разобраться в принципах работы человеческого мозга, и чтобы эти исследования по какой-то причине резко ускорились, как цифровые технологии в 70-90 годах, или медицина чуть раньше. Но в реальности, наоборот, исследования работы мозга требуют все больше усилий и приносят все меньше реальных результатов — он называет эту проблему «торможением из-за сложности».

Не вмешиваясь в спор между Полом Алленом и Рэем Курцвейлом (его ответ на критику Аллена), я бы хотел обсудить, является ли абсолютно необходимым для создания СИИ полное понимание и симуляция работы человеческого мозга.

Для нас вполне естественно считать себя как вид вершиной эволюции, в том числе интеллектуальной, просто потому, что так сложилось в биологическом мире на Земле. Но это не значит, что наш мозг является совершенным, и что другие формы высшего разума не могут работать как-то иначе.

Наоборот, если инопланетяне с превосходящим наш интеллектом существуют, практически невероятно, что их разум будет функционировать так же, как наш. Процесс эволюции является случайным и зависит от неисчислимого множества факторов, и даже если жизнь будет создана заново на планете, идентичной Земле, она бы не стала развиваться так же, и, соответственно, через N миллиардов лет мы бы наблюдали совсем иные биологические виды. Если бы не случилось Массового пермского или какого-нибудь другого глобального вымирания? Нас бы не было. Но это не значит, что другие животные не доэволюционировали бы до развитого интеллекта вместо нас (а вполне вероятно, что их интеллект был бы более развит за счет форы в миллионы лет). Возможно, это были бы какие-нибудь разумные осьминоги с совершенно иной структурой мозга.

Человеческие эмоции и ограниченность подталкивают нас к идее, что все хорошее и разумное должно быть устроено так же, как мы. Эта ошибка мышления привела к развитию религий с антропоморфными богами. Примитивные или упрощенные религии, как анимизм или буддизм, часто либо имеют не-человекообразное божество, либо не имеют богов вообще. Более эгоистичные религии, поли- или монотеистические, как правило, представляют бога или богов в виде сверхлюдей. Но мы не хотим сделать ту же ошибку при создании искусственного сверхразума. Сверхчеловеческий разум не должен быть «увеличенной» копией человеческого, и компьютер не должен быть аналогичным нашему биологическому мозгу.

Человеческий мозг — блестящий результат четырех миллиардов лет эволюции. Или, правильнее сказать, крошечная веточка в Великом Древе Эволюции. Птицы имеют гораздо меньший мозг, чем млекопитающие, и их часто считают весьма глупыми животными. Но, например, вороны имеют психологические навыки примерно на уровне дошкольника. Они проявляют сознательное, инициативное, целенаправленное поведение, вырабатывают навыки решения задач и даже могут использовать инструменты. И все это с мозгом размером с фасолину. В 2004 году исследование в отделе поведения животных и экспериментальной психологии Кембриджского университета показало, что вороны практически так же умны, как человекообразные обезьяны.

Разумеется, нет необходимости повторять человеческий мозг в деталях для проявления сознания и инициативы. Интеллект зависит не только от размера головного мозга, количества нейронов или сложности коры, но и, например, от отношения размера мозга к массе тела. Поэтому коровы, мозг которых по размеру аналогичен мозгу шимпанзе, глупее ворон и мышей.

Но как же компьютеры? Компьютеры это, фактически, только «мозги», они не имеют тел. И действительно, когда компьютеры становятся быстрее и эффективнее, их размер, как правило, уменьшается, а не увеличивается. Это еще одна причина, почему мы не должны сравнивать биологический мозг и компьютеры.

Как Курцвейл объясняет в своем ответе Аллену, знания о том, как работает человеческий мозг, могут только натолкнуть на какие-то пути решения конкретных задач в разработке ИИ, правда, большинство этих задач постепенно решается и без помощи нейрофизиологов. Мы уже знаем, что «специализация» отделов мозга в основном происходит посредством обучения и обработки собственного опыта, а не «программирования». Современные ИИ-системы уже вполне могут учиться на своем опыте, например, IBM Watson большую часть своих «знаний» собрал, самостоятельно читая книги.

Так что, нет оснований быть уверенными, что невозможно создать искусственный сверхразум, не разобравшись сперва в работе своего мозга. Компьютерный чип по определению устроен иначе, нежели биохимические нейронные сети, и машина никогда не будет чувствовать эмоции так же, как мы (хотя она может испытывать иные эмоции, находящиеся вне человеческого понимания). И несмотря на эти различия, компьютеры уже могут приобретать знания самостоятельно, и скорее всего, это у них будет получаться все лучше, даже если они учатся не так же, как люди. И если дать им возможность улучшать себя, машины вполне могут сами запустить небиологическую эволюцию, ведущую к сверхчеловеческому интеллекту, и в итоге к сингулярности.