БЕСПЛОТНЫЙ РАЗУМ НЕВОЗМОЖЕН
Человек и искусственный интеллект
Сегодня искусственный интеллект — верный помощник человека. Но если завтра он станет умнее человека, что тогда? — вопрос, который сейчас бурно обсуждают во многих СМИ, и еще более бурно — в научной фантастике. Но что значит «быть умнее»? Ум измеряется многими параметрами, и по некоторым из них — объём памяти, быстродействие — компьютер с самого начала неизмеримо превосходит человека. Назначение ума — добывать новую информацию о мире и строить на её основании способствующие адаптации модели реальных явлений, а не только манипулировать уже добытой информацией по заданным человеком алгоритмам, что лишь и делают даже самые продвинутые вычислительные машины. Иными словами, всё, что может сделать машина, это записать по-новому уже известные знания.[1] Прошу на этом сосредоточиться: все, что может дать машина, это записать в явном виде то, что в ней содержалось с самого начала в скрытой форме. А добывать поистине новую информацию могут лишь какие-то органы чувств или измерительные приборы. Такие приборы уже давно подключаются к электронному мозгу, и он уже давно умеет на звуковые, световые и прочие сигналы реагировать «разумно», то есть так, как ему предписывает человеческий разум. А если такого предписания не поступит, компьютер не сможет даже отличить важную информацию от не важной.
Каждый из нас знает, как невыносимы бывают люди, у которых иерархия важного и не важного не совпадает с нашей. Мы, например, начинаем рассказывать, как мы ехали в трамвае, а какой-то хулиган запустил камнем в окно; мы ждём реакции потрясения, а этот истязатель спрашивает:
— На каком трамвае вы ехали?
— Какая разница! Ну, на седьмом. Но вы представляете, мальчику рассекло лоб, и он…
— А куда вы ехали на седьмом?
— Да не всё ли равно! Ну, на улицу братьев Гусятниковых. Так у мальчика всё пальто залило…
— На Гусятниковых лучше ехать на одиннадцатом.
Человек, не умеющий различать важное и неважное, ничего не может рассказать, не утопая в бессмысленных подробностях. Он начинает перечислять, какого было цвета пальто на его собеседнике, сколько на нём было пуговиц, какая в это время стояла погода…
Но что позволяет нам различать важное и не важное, значительное и незначительное? Это прежде всего наше тело: оно считает значительным всё, что причиняет ему страдание, — голод, холод, боль, — это и заставляет нас принимать всевозможные меры, чтобы ослабить или вовсе избежать боли и дискомфорта. Так возникают цели, желания, а наш интеллект — слуга этих желаний. Если бы у нас не было тела, интеллект не мог бы создать и науку. Он бы даже не мог классифицировать предметы на большие и маленькие, далёкие и близкие, мягкие и твёрдые, горячие и холодные, тяжёлые и лёгкие, красные и белые, кислые и сладкие, с чего и начинается наука.
Конечно, для нас важны и удовольствия, но всё-таки высшие из удовольствий — это прекращения страданий, и почти все сигналы нашего тела это сигналы боли, то есть опасности: тут жмёт, там трёт, откуда-то тянет гарью…
Впрочем, боль бывает не только физической, но и душевной. Наша психика тоже разделяет мягкое и твёрдое обращение, горячий и холодный приём, и если бы у нас не было тела, то не было бы и ни малейшей возможности понять, что общего между мягкой подушкой и мягким обращением, между тёплой ванной и тёплым приёмом. Практически все слова, означающие психические процессы и эксцессы, суть метафоры эксцессов физических: человек вскипел, взорвался, остыл…
Искусственному интеллекту, лишённому тела и психики, никогда не понять этих выражений и не обрести желаний и целей, которые только и порождают всякую интеллектуальную деятельность. Так что опасаться, что электронный мозг восстанет против человека, примерно то же самое, что опасаться, как бы трактор не восстал против тракториста. Разумеется, из-за ошибок в программе или из-за сбоев электронный мозг может направить ракету или автомобиль против «хозяев», но это будет обычная авария, а не восстание. Если угодно, восстание хаоса против порядка, но никак не восстание одного порядка против другого.
Таким образом, превосходство человека над искусственным интеллектом заключается в том, что тело человека непрестанно поставляет ему новую информацию из внешнего мира и подсказывает эвристические аналогии из мира физического. Интеллекту без тела было бы мыслить не о чем и незачем.
Именно опыт общения с круглыми предметами подсказывает человеку образ идеального круга, необходимость считать овец или людей порождает понятие числа. Если бы человек не имел опыта обращения с очень маленькими камешками, ему бы не пришла в голову модель материальной точки, а без наблюдений за волнами не родилось бы и представления об электромагнитных колебаниях. Короче говоря, если бы у человека было другое тело и другие органы чувств, у него была бы и другая физика, и даже другая математика. Если бы, скажем, человеческий мозг принадлежал полипу, не имеющему ни средств передвижения, ни осязания, а воспринимающему мир лишь при помощи запахов, то у него не возникло бы представления ни о пространстве, ни о времени, ни о числе.
Так что можно придумывать искусственному интеллекту различные тела с различными органами чувств и различными потребностями и получать все новые и новые модели мироздания. Которые будут не лучше и не хуже друг друга, обсуждать можно лишь то, какие из них будут лучше способствовать адаптации тела искусственного интеллекта.
Философы размышляют и о том, что союз с искусственным интеллектом способен перевести человека на новую ступень эволюции, но человек перейдет на другую ступень эволюции лишь тогда, когда изменится его ДНК. Чему искусственный интеллект вполне способен помочь, без него уже и сегодня была бы невозможна расшифровка человеческого генома. А человек наверняка когда-нибудь захочет поуправлять своим наследственным веществом — отрастить себе третью руку, да мало ли что еще. Байрон когда-то сетовал, почему господь дал ему целых тридцать два зуба и всего один… То есть не дал и прочих членов в соразмерности. Здесь есть о чем пофантазировать, однако и тут искусственный интеллект обслуживает человеческие прихоти. Но чтобы обрести собственные желания, ему необходимо тело, способное испытывать боль и бороться за выживание.
А что, если в результате внутренней эволюции у самого искусственного интеллекта появится сознание? Такого быть не может. Образ себя даже и у человека возникает в результате общения с другими людьми, лишь через посредство этих зеркал человек и создает представление о себе.
Но если бы у искусственного интеллекта все-таки появилось сознание, это привело бы это к конфликту с людьми или наоборот к сотрудничеству? К конфликтам, равно как и к сотрудничеству, приводит не наличие сознания, а наличие несовпадающих либо совпадающих интересов. Интересы же порождаются телом, а не интеллектом.
Тем не менее, некий «бунт машин» теоретически все-таки возможен.
Теоретически вполне возможно создать устройство, способное искать себе «пропитание» —источники энергии. И нет ничего невозможного в том, что такие устройства начнут успешно конкурировать с людьми в борьбе за эти ресурсы. Они могут и самих людей посчитать такими ресурсами. Но мне кажется, что люди уничтожат себя раньше, чем за них примутся машины.
Примечание
[1] Продолжение обсуждения. Начало см. «Наука и жизнь» № 2, 2018 г.
