Александр Денисенко: Воронка Искусственного Интеллекта — что старенького?

Мы приведём лишь несколько характерных имён, которые не были втянуты в воронку ИИ, но, по существу, имеют к этому самое прямое отношение. Почти все они испытали много препятствий на своём творческом и жизненном пути.

Александр Денисенко

ВОРОНКА ИСКУССТВЕННОГО ИНТЕЛЛЕКТА — ЧТО СТАРЕНЬКОГО?

АННОТАЦИЯ

В ажиотажной тематике искусственного интеллекта есть пограничная серая зона между информационными технологиями и нейрофизиологией. Рассматривается эффект старения концепций в двух этих сферах. В ИТ идёт осаждение и вытеснение устаревающих решений; при этом в информатике используются доисторические представления об устройстве и работе нервных систем живой природы. В вихре ИИ оказываются исторически самостоятельные разделы науки, в частности — советской и российской. Тормозом прогресса оказывается и система образования.

Ключевые слова: искусственный интеллект, нейрофизиология

Эдгар По. Низвержение в Мальстрём (Иллюстрация Гарри Кларка, 1919)

(https://commons.wikimedia.org/wiki/File:Maelstrom-Clarke.jpg?uselang=ru)

Разрешите мне принять, что 2*2=5 и я докажу, что из печной трубы вылетает ведьма!

Давид Гильберт, математик

В ажиотаже вокруг тематики искусственного интеллекта (ниже — просто ИИ) ([3],[4],[6],[7],[16]) существует довольно серая зона между компьютерным делом и физиологией (особенно нейрофизиологией). Автор осмеливается быть сталкером в ознакомлении интересующихся читателей с ситуацией в этой зоне в части обработки символьной информации и сигналов (стимул — память — реакция). Прибегнем к небольшому экскурсу в прошлое, чтобы обозначить традиционные научно-технические области, которые сегодня оказались под флагом ИИ. Мы сосредоточим внимание на ситуации в России в силу личной осведомлённости автора. Можно привести известное мнение о роли нашей страны в формировании современного миропорядка (это не из телевизора, а из [1]).

Ни один организм не может жить в среде из собственных продуктов. Это научный факт. Результаты свой жизнедеятельности необходимо куда-то канализировать. Математики делают это построением красивых зданий своих теорий, многие из которых пережили века. Гуманитарии отливают их в граните концепций и идей, которые бродят-бродят, а потом оседают надолго — на коротко ли в книгах, головах и общественных конструкциях. Инженеры “отливают” в кремнии.

Поля маркиза Карабаса

Итак, что старенького в океане под названием ИИ? Наблюдательные школьники дивятся на новостные кадры, где старшие товарищи вносят в реальном режиме правки в содержание ИИ-систем — например, о политике. Чей полуостров или остров? Поражает не сам факт правки, а вид монитора, где на чёрном экране с зелёными буквами можно понять, что правится исходный код! Старый знакомый редактор жаловался автору на бессилие перед ИИ — ему прислали отзыв на статью, явно нечеловеческого происхождения, хотя формально придраться не к чему. А сроки поджимают — ну взял на душу грех. А учителя давно качают задания из Сети, школьники оттуда же — рефераты, которые учитель проверяет через ИИ и получает результат проверки. Автор не раз сталкивался с дипломными работы студентов вполне уважаемых вузов, сгенерированных ИИ. А на защитах диссертаций на такие мелочи уже почти не обращают внимания, хотя Антиплагиат как система ещё дышит. “Скоро в научных институтах останется директорат, бухгалтерия и несколько шкафов с хорошим купленным за рубежом ИИ. И можно качать финансовые потоки без тени криминала. Это же рай, в котором вовсю работают вечный двигатель, философский камень, и неразменный банковский билет одновременно” — сокрушаются люди старой закалки. Грозит ли нам Книга Пророка Даниила (глава 5) о Последних временах? Накануне возрастёт Знание. Однако слово “знание” вряд ли применимо к продуктам жизнедеятельности ИИ. Это в каком-то смысле голономное движение по горизонтальной плоскости без трения, когда строки переставляются, перекодируются, объединяются без обращения к их смыслу. Таковы генетические алгоритмы. Другой распространённый тип алгоритмов — нейронные сети. Здесь ситуация уникальная в истории науки: авторы таких систем открыто признаются не только в невозможности понимания собственного продукта, но даже не испытывают ни малейшего желания приоткрыть этот чёрный ящик. Отцы кибернетики и говорили о чёрном ящике со входами-выходами и разделением на управляющую и управляемую части…

Словосочетание “Искусственный интеллект” в публичном пространстве известно с 1956 г. (Джон Маккарти). Предание относит его появление к отдыху Джона с Аланом Тьюрингом на Калифорнийском пляже несколькими годами ранее (до 1952, когда начался судебный процесс над Аланом, и он не мог бы себе ничего подобного позволить). Это со слов Маккарти подтверждает и Михаил Донской. [20]. Эти двое и водрузили флаг ИИ. Тогда же зародилась тематическая волна в кругу журналистов: “Если сегодня машина может играть в шахматы, то завтра она начнёт стрелять в людей”. Такие флаги пробуют поднимать многие авторы своих идей. В русском новоязе даже появился термин “флагофтык”.

Воронка в этом тексте — организованное спиралеобразное движение объектов к центру — как правило, в жидкой среде.

Разнообразие трактовок ИИ

Экскурс в историю не входит в нашу задачу. От витализма Средних веков тема наша идёт через Декарта, через Нового Человека большевиков по Горькому-Павлову до постгуманизма Юваля Ноя Харари (форма родительного падежа этого непростого имени подсказана ИИ Алисой).

Есть очень широкое и вполне убедительное определение ИИ как произвольной программы, выполняющей работу, которая требовала мозгов. Методы арифметики столбиком в позиционной десятичной системе времён Ал-Хорезми когда-то безусловно были таковыми. Но попробуем обозначить свою позицию в рамках данного текста. Итак, чёрный ящик Эшби-Винера. Отделим от него входы и выходы, то есть блоки поступления информации и исполнительные механизмы. Сам ящик открывать не станем, но по каким-то интуитивным мотивам предположим, что там внутри не просто лампочка Стругацких из “Понедельника”, а что-то напоминающее головной мозг в рамках айтишного представления о нём. Если тезис Тьюринга выполняется для нашего чемодана, то можно допустить тот или иной класс внутренних структур такого устройства — например перцептрон — дерево Розенблата или Коннектом, то есть связный орграф как множество вершин-нейронов, связанных рёбрами — стрелками, возможно с циклами и петлями. Ну примерно так учат в школе. Мы оставим открытым перечень типов внутренних схем чемодана — в рамках более широких представлений о нервной системе. Можно даже вспомнить о разделении нервной системы на центральную и периферийную. Можно пойти ва-банк и отказаться от целого ряда привычных механизмов работы компьютера — таких как синхроимпульс, процессор, общая шина, хранимая в виде битов программа и прочее. Если устройство имеет часть, устроенную по каким-либо представлениям о механизмах управления в животном или человеке, и оно может в каких-то пределах проходить тест Тьюринга, то это — предмет нашего интереса. Нейроны — это тоже не обязательно. Реакции, память и размножение с наследованием могут исполняться глиальными клетками или нервной трубкой беспозвоночных хордовых [9]–[14].

Возможно, пробка в событиях вокруг ИИ была выдернута Генри Киссинджером [2].

Пример ИТ-воронки — история доткомов 2000–2008, то есть лавина инвестиций в проекты, аффилированные с доменом .com . Размер тех инвестиций трудно оценить, но есть оценка потерь в той воронке — около 5 триллионов. На берег из тысяч фирм вышли живыми лишь несколько интернет-гигантов. Разбор той поучительной истории достаточно представлен в источниках. Проект Метавселенной Цукерберга постигла такая же участь.

Воронка как явление наглядно описана в рассказе Эдгара По “Низвержение в Мальстрём” — в русских переводах название варьируется. Там братья-рыбаки попадают в страшный водоворот, в котором спасается один из них, хотя и как Гоголевский Хома — совершенно поседевший от пережитого ужаса. В воронке больше шансов выжить, ухватившись за тупой предмет типа бочки, который погружается медленнее. В нейрофизиологии это возбуждение и торможение в нервной системе. Из близких к теме ИИ художественных произведений — “Мегабитовая бомба” Станислава Лема.

Можно привести наглядный пример завлечения в воронку ИИ классической области — теории графов. Респектабельное гламурное итальянское издательство “Де Агостини” выпустило по всем стандартам типографского глянца книгу “Карты метро и нейронные сети” [17]. Захватывающее название. Подзаголовок мелким шрифтом — теория графов. Вполне добротная книга; про нейросети — три странички из 144, одна из которых — случайно подобранная картинка. Попробуйте издать подобное просто по теории графов.

Ресурсы — это не только деньги, это мириады серверов и скрываемое число живых научно-литературных рабов, участвующих в жизненном цикле ИИ помимо разработки: оценки варьируются от десятков до сотен тысяч душ.

Под флагом ИИ оказались такие традиционные области как распознавание образов, информационный поиск, человеко-машинный диалог, автоматический перевод, оптимальное управление, обработка изображений и многое другое.

На фундаментальном уровне это хорошо известные темы, такие как нечёткие множества и размытая логика, стохастические и эвристические алгоритмы — успехи в них хорошо известны. Персептрон Розенблата и вырос до нейросетей в виде Коннектома (“Когнитом” К. Анохина пока известен лишь как идея). Лингвистические методы Мельчука оказались невостребованы. Роль статистики при формировании результатов заставляет вспомнить давний спор Эйнштейна против Бора, Борна и Гейзенберга — играет ли Бог в кости. А что нового можно сказать про алгоритмически нерешаемые задачи, вычислимое и невычислимое, доказуемое и недоказуемое, про тезис Чёрча-Тьюринга-Дойча?

Общее впечатление современного состояния ИИ с двух берегов, то есть ИТ и физиологии таково: высокая скорость усвоения айтишниками в сфере ИИ самых передовых достижений в микроэлектронике, системном программировании, интерфейсах; в то же время полное игнорирование разнообразия представлений нейрофизиологии о строении и работе нервных систем живых организмов даже на уровне начала прошлого века.

Догматы и догмы кибернетики

Анимализм. Идентичность законов живой и неживой природы провозглашена в канонической книге Н. Винера “Кибернетика или управление и связь в животном и машине”. Это ещё не всё. Тогда же родились идеи о подобии этих законов общественным. Именно в этой части возникло знаменитое определение кибернетики как лженауки (М.Г. Ярошевский), просочившееся в одно из изданий философского словаря. При этом автор статьи о кибернетике в своих развёрнутых публикациях признавал достижения кибернетики инженерной, в том числе советской.

Более давний пример — беседы Декарта с принцессой Кристиной Шведской о возможности конструирования “живой” машины. Кристина было дамой просвещённой и предложила философу на примере её настенных часов показать — как они размножатся.

Можно привести и мнение А. Любищева о принципиальном отличии живого создания от косного: “Даже внедряя одну клетку в другую необходимо дать электрический толчок для оживления составной конструкции”.

Живой организм имеет ряд принципиальных особенностей по сравнению с механизмом. Прежде всего, это собственная жизнь со своими интересами, целями, принципами, отличная от окружения и отграниченная от этого окружения, включая себе подобных. При этом со временем организм неминуемо устаревает и угасает, или разрушается; продолжение его жизни — в наследовании и размножении. И, возможно, главное — организм способен к сопротивлению как среде, так и памяти и может забывать лишнее, хотя усилием воли забыть мы не в состоянии ничего.

Тест Тьюринга и тезис Тьюринга-Чёрча-Дойча. Тест Тьюринга — это невозможность наблюдателю отличить словесное общение с машиной от общения с живым собеседником. Не все популярные ИИ проходят этот тест успешно. Например, такой вопрос как “Который час?” отправляет в лист ожидания как очень пока сложный, как и вопрос о часовом поясе собеседника. Иногда этот тест путают с тезисом Тьюринга, точнее Тьюринга-Чёрча-Дойча. Этот тезис догматически, то есть аксиоматически, в упрощённом виде гласит, что любая интуитивно вычислимая функция может быть реализована машиной Тьюринга. Более позднее добавление Дойча вводит исключение для континуальных и стохастических объектов.

Чёрный ящик. При кажущейся простоте это понятие оказалось одним из самых мощных стимулов в поддержке ИИ со стороны менеджеров всех уровней, особенно в критических областях [19]. Теперь можно уверенно переложить вину за проектные ошибки и решения на чёрный ящик — тем более, что разработчики ИИ открыто признают не просто непознаваемость внутреннего устройства своих созданий, но и принципиально отказываются даже от попыток приоткрыть этот ящик. Чудны дела научные в новом тысячелетии.

Триггер. При кажущейся простоте этого устройства следует отметить его в самом деле фантастические свойства. Пребывая в одном из двух устойчивых состояний, он может быть многократно считан с одинаковым результатом. Причём до смены состояния и после смены он пребывает в них неограниченно долго. Тут коренится мистическое намерение порассуждать о вечности и бессмертии выращенных на нём созданий. Математиков это вполне устраивает, а вот инженеры чувствуют тут энергетический подвох — нарушение законов сохранения электричества. На самом деле считывание разрушительно и идёт в два шага — смена состояния на противоположное и восстановление предыдущего. И ещё его надо подпитывать — плавятся серверные центры от ИИ. Кроме подпитки необходимо и охлаждение — даже ценой мировых водных ресурсов и космического пространства. Аналогия триггера с нейроном живой нервной системы — просто фикция. Нейрон в самом деле имеет два основных состояния — возбуждённое и спокойное, но он не может пребывать долго в возбуждённом состоянии по биохимическим причинам энергетических процессов. Нейрон устаёт. Хуже того — он может возбудиться без вызывающего импульса — просто время ему наступает просыпаться. Редко вспоминают о том, что у триггера есть два особенных состояния. Первое — это переходной процесс при смене состояния, когда уровень заряда в теле триггера не обязан быть даже монотонной функцией времени. И не менее странное явление — неопределённость значения триггера в момент его оживления — это важно при включении питания и ещё важнее — при смене задач и распределении областей памяти между разными пользователями в целях безопасности. Это может приводить к большим потерям времени и энергии — в частности, при загрузке больших объёмов программного кода. Никаких аналогов в живой природе этому нет.

Машина фон Неймана. С точки зрения эволюции машина фон Неймана, основанная на триггерах, отличается хранением и самой программы как обыкновенных данных в битовом формате. По существу, это древняя как мир шарманка с диском или валиком, на котором торчат штырьки и просверлены дырочки; но теперь они реализованы на триггерах, так что нет необходимости при изменении данных или программы в дрели или паяльнике для смены дырочки на штырь или наоборот. Нередко говорят о машине фон Неймана второго рода, как бы аналоге нервной системы, но это не более чем лозунг. Книга называется “Теория самовоспроизводящихся автоматов” и не была закончена при жизни её автора. Мало кто из айтишников её читал — когда не хватило 29 состояний элемента и речь пошла уже про 81 состояние — силы читателя иссякают. Но надо отметить важнейшую деталь, пока игнорируемую в ИИ — возможность размножения (вспомним Кристину Шведскую!). Теория самосборки продолжает существовать в работах А.В. Махибороды (МИЭМ-ВШЭ). В машине процессор как бы пробегает последовательно (пошагово) по тексту программы подобно головке машины Тьюринга. Но в живой нервной сети нет ни процессора, ни определённого места хранения объекта. В нейрофизиологии это выглядит иначе — либо “светлое пятно” активного участка памяти по Павлову, либо доминантный очаг возбуждения-торможения по Введенскому и Ухтомскому.

Время. Машина фон Неймана обязательно имеет генератор синхроимпульсов — пошаговый равномерный дискретный счётчик времени. Ничего подобного в живой нервной систем нет, хотя для пар нейронов обнаружены взаимные согласующие импульсы с двумя небольшими частотами. Теме времени в информатике стало придаваться большое значение при появлении систем с гигагерцовыми частотами и особенно в массовых социально значимых задачах вроде навигации — ошибка часов на спутнике в одну миллисекунду приводит к смещению на поверхности земли около 300 км!. Ещё в прошлом веке психологи серьёзно занялись психологическим временем личности. Эти работы велись в институте психологии академии наук СССР (Е. Головаха и А. Кроник). В настоящее время Александр Кроник работает в США, а Евгений Головаха — директор института социологии Академии наук Украины. Работы этих авторов семидесятых лет прошлого века интенсивно цитируются в мировой и даже российской науке, но к сожалению, ресурсы института социологии Украины недоступны из России, как и весь домен ua).

Строки и сигналы. Общение с ИИ сегодня выглядит преимущественно в виде текстовых строк. Запросы и результаты могут содержать разнообразный контент — изображения, аудио и видео; но внутри системы это битовые строки. Главный американский гуру ИИ — Эрик Шмидт провозгласил предстоящий переход от обработки строк к действиям. Пока не очень ясно, что он имеет в виду — Алиса давно умела включить на мобильнике фонарик по словесной команде. Возможно, речь идёт о преимущественной работе с сигналами, то есть объектами во времени. Опять уместно вспомнить А. Любищева, который саркастически относился даже к генетикам, представляющим живой организм строками ДНК — он называл их деэнкашниками. В нейрофизиологии зародилось понятие Хронотопа, плодотворно позаимствованное литературно-театральными критиками в лице Михаила Бахтина и нынче поселившееся даже в политологии: например, Р. Романов — руководитель политакадемии ЕР с книгой “Политика и хронотоп”. В самой нейрофизиологии понятие хронотопа поглотилось концепцией доминанты.

Законы сохранения. Мистика информатики включает нарушение привычных законов сохранения. За один шаг большой участок памяти может поменять состояние с нулей на единицы и обратно. В живой природе по Сеченову мозговая активность — это сочетание актов возбуждения и торможения. Причём законы сохранения заряда в системе так или иначе имеют место — очаги доминантного возбуждения неминуемо сопровождаются угасанием (торможением) каких-то связанных участков сети. Так учили Лавуазье и Ломоносов — если где-то чего-то прибавится, то рядом столько же убавится. Джон фон Нейман проигнорировал эти предрассудки — и плавятся серверы.

Функциональный базис и эффективность. Это набор элементарных функций или действий аппаратуры или языка общения с машиной. Со времён Дж. Буля базисом были его функции — конъюнкция, дизъюнкция, отрицание. Через них можно было выразить любую дискретную функцию. Это и был первый простейший базис аппаратной схемы. Добавление элемента задержки времени обеспечивает реализацию любого логического автомата. В программном обеспечении базис — это набор операций, в который превращается входной код общения.

До недавнего времени эффективность аппаратного решения или программного алгоритма измерялась числом шагов или элементов базиса. Это наука называется теорией синтеза управляющих систем, в значительной мере созданная Олегом Борисовичем Лупановым. Были разработаны алгоритмы и схемы быстрого умножения двоичных чисел (Андрей Тоом, http://iitp.ru/ru/about/428.htm) и матриц (“алгоритм четверых русских”, который был придуман В.Л. Арлазаровым, Е.А. Диницем, М.А. Кронродом и И.А. Фараджевым в 1970 году.), алгоритмы извлечения частей строк, которые и сегодня лежат в фундаменте многих систем ИИ.

Сложность реализации алгоритма иногда радикально зависит от функционального базиса. В наши дни с расширением круга массовых задач на повестке — не только и не столько число элементов, сколько энергопотребление. Функциональный базис — это может быть граница между программным и аппаратным обеспечением. Чем выше уровень этого базиса, тем эффективнее может быть реализация задачи на “железе” и надёжность, верифицируемость и защищённость кода.

Этажи эквилибристики. Системы ИИ так или иначе строятся поверх существующих компонент программного обеспечения. Проблема их старения накладывается на таковую в архитектуре, когда под ИИ расположено несколько этажей софтвера: операционная система, СУБД или/или хранилище/озеро данных, трансляторы, компиляторы-интерпретаторы, драйверы новых устройств, отраслевые системы (бухгалтерия, бизнес-аналитика, графика, офисные приложения и индивидуальные фрагменты вроде макросов). Каждая из этих компонент имеет свой жизненный цикл и периодические или спонтанные обновления. При этом новая версия на каком-либо этаже комплекса может потребовать внести непредсказуемые изменения на соседних этажах. Системы нынче долго не должны жить по объективным маркетинговым соображениям. Даже такая сравнительно новинка как Питон из дюжины версий имеет половину уже просроченных, то есть неподдерживаемых версий. Больше того — неожиданным был шаг разработчиков, которые в очередной версии (3) отказались от привычного “по понятиям” требования обратной совместимости, то есть всё созданное на предыдущих версиях должно быть утилизовано или заторможено. Версии многомерной аналитики Microsoft не поддерживаются в очередных версиях собственной же СУБД. В рамках операционных систем и драйверов приключений не меньше. Картина напоминает цирковой трюк эквилибристики на катушках. Это значительно увеличивает требования к кадровым ресурсам как разработки, так и сопровождения систем. В живых системах такого нет.

Плоские конструкции. Машина фон Неймана изначально предназначалась для работы с большими числовыми массивами. Этим задачам вполне отвечала структура из большого массива коротких ячеек. Она же прижилась в реляционных базах данных, где таблица это как правило много коротких строк одинаковой структуры. В то же время в теории синтеза управляющих систем есть интересное достижение. Если искать в пространстве оптимальную форму сети из элементов ненулевого размера с большим количеством связей также ненулевого сечения и длины, то решением будет размещение элементов по сферической поверхности, внутренность которой забита проводами каналов. Уже близко к природе мозга! Хотя технологически пока трудно представить.

Генетика как строки. Представление о наследственной информации как строки в алфавите из четырёх букв довольно устойчиво. Даже биофизик Михаил Гельфанд поддерживает нейроинформатика Евгения Кунина в такой трактовке наследственной информации. Это не очень вяжется с существованием так называемой эпигенетики — то есть какой-то передаче помимо кодовой строки. Можно предположить, что здесь опять участвует время живой системы. Другой биофизик — Максим Франк-Каменецкий говорит о сложной геометрии ДНК — кольца и узлы, что непросто представить символьной строкой.

Формальные логики. Какие правила и каких логик заложены в той или иной системе ИИ — приходится гадать. Удивление у автора вызвало соглашение о дизъюнктивном понимании совокупности поисковых слов. Если ищется информация по ключевому слову Х, то результат оказывается меньше, чем ежели искать по совокупности слов Х и Y. В традиционных системах информационного поиска дополнительные термины в запросе вели к сужению результата. В математике неявно применяется, особенно в обучении, рассуждение по аналогии [18]. Однако в экстремальных ситуациях использование аналогий может оказаться во вред. Эти примеры хорошо известны из истории военных кампаний разных времён и стран.

Из свежих соображений хочется упомянуть работу Эдуарда Бормашенко [27]. Он отмечает, что с точки зрения современного наблюдателя важнее понятность результата, а не его формальная истинность. Это к вопросу о математической культуре — доказуемое и недоказуемое, вычислимое и невычислимое, истинное и ложное.

Сегодня не очень понятен и вопрос о самоприменимости систем ИИ. Что будет при её диалоге с ней же самой или аналогичной системой? Пока есть наблюдение о детерминированности: повторное обращение к одной системе может дать совершенно разные результаты, что нарушает привычные понятия.

Серая зона ИИ с двух берегов

Сегодня нет общепринятого определения ИИ. Это просто объяснить. Воронка работает, пока есть свобода именования более мелких работ и процессов. Это основной тезис маркетологов от ИТ — категорическое неприятие бритвы Оккама. Нужны новые слова на флагах, под которые может встать любой из коалиции желающих. Если хочется получить ресурс под обновление системы базы данных, то под эти слова никто ничего уже не даст, как и под хранилища, озёра и джунгли. Пример с нейросетями и теорией графов типичен.

Нейроны нейросетей — это тоже не обязательно. Реакции, память и размножение с наследованием могут исполняться глиальными клетками или нервной трубкой беспозвоночных хордовых [14]. И мы оставим в стороне темы психологии, социологии, эсхатологии и бессмертия — тоже очень популярные в блогосфере.

Общее впечатление современного состояния ИИ с двух берегов — ИТ и физиологии таково: высокая скорость усвоения айтишниками в сфере ИИ самых передовых достижений в микроэлектронике, системном программировании, интерфейсах; в то же время полное игнорирование разнообразия представлений нейрофизиологии о строении и работе нервных систем живых организмов даже на уровне начала прошлого века.

Несколько оговорок. Устройство не обязано соответствовать привычному компьютеру. Дополнительное требование — аналог не просто работающего мозга, а ещё с возможностью его воспроизводства — то есть размножению, наследованию и опознанию своих потомков.

Первые звоночки

Несколько предупредительных событий в тематике ИИ можно отметить и сегодня. В прошлом году разразилась серия судебных процессов вокруг очередной инвестиции в ИИ в размере 100 млрд долларов. Спор возник между разработчиками и менеджерами. Менеджерам необходимо срочно успокоить инвесторов, вернув хотя бы некоторую весомую часть уже сделанных инвестиций. В этом отношении наиболее надёжна сфера развлечений — как компьютерные игры в своё время. С другой стороны, на длительную перспективу привлекательны медицина, роботы, образование, социалка. Для тех, кто занят умственной работой наиболее ценными оказываются сегодня поисковые возможности — подбор источников, библиография, цитирование . Но денег в этой сфере быстро не вернуть. Стенограммы судебных разборок занимают около 300 страниц — победили развлечения.

Вторым звонком можно читать переориентацию разработок ИИ с беспилотных автомобилей на трамваи и тракторы как более простую и реальную задачу. Критика беспилотных устройств невоенного назначения идёт весьма активно. От управления транспортом виден переход к его сопровождению, помощнику водителя. Дешевле ли дроновод, чем тракторист — это вопрос, но необходимость подмены трактористом в чистом поле в случае нештатной ситуации дроноводом — это из области фантастики. В Израиле появились уборочные комбайны для яблок и даже для клубники, но пока труд гастарбайтера из Азии и Африки всё же дешевле такого комбайна. В беспилотной технике пока основные достижения — это продвижение старых разработок в системах сенсорики и моторики, а вовсе не в алгоритмах.

И ещё один примечательный звонок: Дипсикеры! Это про китайский ИИ DeepSeek. Он не сильно уступает американским гигантам, но обошёлся Поднебесным инвесторам в 300 тысяч долларов и человек 40 коллективных усилий. Вместо триллионных вложений. Разумеется, это в значительной мере — фокус, так как система паразитирует на своих предшественниках, которые предоставляют интерфейс для выкачивания своего содержимого на сторону. В то же время все практически ИИ в свою очередь паразитируют на Википедии. Судьба последней сегодня под угрозой — будучи кормовой базой ИИ, она теряет значительную часть клиентуры — ей остаётся процентов пять потока запросов в Сети. Идут переговоры о платном режиме для гигантов ИИ, но результат пока не известен.

Поворот от строк к действиям

Эрик Шмидт провозгласил довольно радикальный поворот в ИИ. Сегодня они работают со строками символов и битов. В перспективе надо научиться работать с действиями. То есть к моторике. Это с точки зрения физиологии прямо по Сеченову, который писал, что любая активность в нервной сети неизбежно заканчивается мышечной активностью (за исключением томных взоров влюблённой барышни). Это прямо касается беспилотных систем. Пример марсохода — это проблема взвешенного распределения ролей между удалённым автоматом и наземным центром управления при необходимости оперативных реакций. Эта же проблема стояла и перед фон Брауном с ракетой Фау-2 [26]. В какой-то момент пришли к радиосвязи с летящим устройством: пара наземных станций и антенны на хвосте ракеты. Что касается современных дронов, то связь по оптоволокну распределяет ИИ-нагрузку между дроноводом и устройством. Очевидцы с мест рассказывают, что поля уже покрыты сетями упавших и рваных кусков оптоволокна — новая постановка задачи по видам коммуникаций на перспективу.

Нейроморфный компьютер и Сандийские лаборатории

В отличие от университетов популярной у эмигрантов Лиги Плюща, эти лаборатории — вотчина министерства энергетики США; кто не в теме — это “ядерка” с сопутствующими темами, вроде советского Средмаша и так называемой Девятки промышленных министерств оборонного характера. В этих лабораториях подобные разработки уже идут и даже предъявлены работающие компьютеры, имитирующие миллионы и даже миллиарды нейронов.

Там такая новинка — SpinNaker2 (разработка немецкой компании SpiNNcloud), про которую опубликовано немного. От разных ИИ известно, что там миллионы ядер, возможность реконфигурации, работа без операционной системы и дисков; отдельные платы позволяют проводить симуляции сенсорных контуров, фрагментов коры и головного мозга.

Программируемая материя

Это не очень популярная концепция как среди айтишников, так и физиологов. Термин предложили Тоффоли и Марголус. Это материальное устройство, которое может изменять свои физические свойства программным образом. Физически это должен быть ансамбль из мелких элементов, расположенных в пространстве. В Вики есть про такие устройства на концептуальном уровне [https://ru.wikipedia.org/wiki/Программируемая_материя], но доступ к материалам по этой теме резко ограничен. Читатель с соответствующими правами при сильном интересе сможет чего-то разыскать. Упоминаются молекулы с изменяющейся формой, робототехнические аспекты. Сложные жидкости, метаматериалы. Из старенького и простого — клеточные автоматы.

Физиологи и физиология про нейронные сети

Откуда айтишники взяли коннектом — неизвестно. Представление о мозге как о математическом графе, то есть о множестве нейронов-вершин с каналами-рёбрами в материалах нейрофизиологии не встречалось с позапрошлого века. Нейроны связаны не бинарными отношениями (граф в математике), а сложными ветвящимися каналами, узлы ветвления которых не являются нейронами. Ветвления бывают нескольких видов. В норме — это ответвления от основного канала-ствола, упорядоченные по направлению аксона. Может возникать разветвление на несколько веток в одной точке — при подходе аксона к другому нейрону. И наконец — так называемый Т-аксон, который раздваивается сразу после выхода из аксонного холмика на нейроне — источнике. Такая схема опрокидывает привычные математические представления о функции. Входные каналы в нейрон — это дендриты, которые, как оказалось, могут становиться проводниками в обратном направлении — от принимающего нейрона к источнику. Нет в мозге никакого синхроимпульса (недавно обнаружены генераторы импульсов в 1 с и 1 мс) на парах соседних нейронов. Нейрон может не иметь входов вообще, как и выхода. Больше того, для математиков загадка эмбриональное явление — аксон рождается раньше дендритов. Такая функция без аргументов.

Более примечательное явление — отсутствие нейронов вообще. У низших созданий управление происходит в среде глиальных клеток — это такая хлипкая субстанция, из которой строятся связи и сами нейроны вплоть до человека. Такая нервная система называется трубчатой; она способна обеспечивать вполне адекватные реакции организма — поведение, память и наследование.

Фундаментальное представление кибернетиков со времён Винера и Эшби — это разделение объекта на управляющую и управляемую части, связанные каналами прямой и обратной связи. Это взято из понятий организационных структур предприятия или политики. Нет ничего подобного в природе. Как нет и хранимой в виде констант программы по фон Нейману. Нет и никакого процессора.

В нейрофизиологии на грани прошлого и позапрошлого веков уже было выработано представление об управлении организмом как совокупности возбуждений и торможений. Была известна концепция воронки Шеррингтона, в которой нервные импульсы аналогичны водовороту из рассказа Эдгара По. Школа Сеченова знакома лишь по названию условных рефлексов Павлова, хотя прямых аналогий в известных нейросетях не видно. И совсем чужой оказалось для инженеров-математиков вся школа Н.Е. Введенского — альтернатива школе Павлова. Из неё недавно — в связи с юбилеем — всплыло только имя академика А.А. Ухтомского, но имена академика М.И. Виноградова, Н.В. Голикова, И.А. Аршавского ([21],[22],[23],[25]) и многих других практически не упоминаются в работах по моделированию нейронной сети. В компьютерном мире почти не встречаются работы по идеям доминанты Ухтомского, а тем более субдоминанты Виноградова и детерминанты Г.Н. Крыжановского [25]. Имя Курта Гольдштейна в США также забыто компьютерным сообществом, хотя он идейно очень близок с Ухтомским. Нередко разработчики моделей считают, что Павлов получил Нобелевскую премию за теорию условных рефлексов, что придаёт им уверенности в правильности своих путей.

В самой же физиологии — как в российской, так и в зарубежной, нет никакого застоя. Ссылки [9]–[14],[24] достаточно информативны.

Опыт автора в моделировании асинхронной нейросети описан в [31].

Заключение

Современное состояние тематики ИИ в блогосфере почти всюду принимается как инвестиционный пузырь без видимых шансов на возврат значимой доли вложенных средств и с неизбежностью дальнейших оборотов воронки затрат. Оценки затрат и неизбежных долгов оцениваются триллионами в валютах разных стран. Вопрос не о спасении темы ИИ, а о выживании фрагментов этого пузыря. Например, в истории с доткомами выжили несколько фирм из тысяч, но осталась весомая инфраструктура в виде каналов связи, серверов, технологических решений, и — главное — кадров. При этом от пирамид российских ГКО, МММ и мегапроектов вроде чистой воды не осталось ничего — это объяснимая расплата за игры в догонялки по колее впереди бегущих. Что касается людей умственной деятельности, то ситуация осложняется перспективой ликвидации наиболее востребованных услуг от ИИ — информационный поиск, подбор-уточнение источников, альтернативных точек зрения и цитат. В условиях неизбежной коммерциализации всех ИИ-сервисов осложнится и доступ к ресурсам Википедии; бесплатные сегодня справки неизбежно прекратятся в связи с необходимостью оплаты со стороны ведущих ИИ-гигантов и — как следствие — утрата сотен тысяч волонтёров, ныне формирующих ресурсы Вики. Что касается сервиса развлечений и картинок — это в сильно урезанном виде может сохраниться как игровая индустрия. При объявлении сервиса генерации рисунков в первые же часы пришли миллиарды запросов. Но это если бесплатно. ИИ в роли собеседника тоже выживут, оказавшись доступнее, дешевле и доверительнее психотерапевтов и священников.

Решение проблемы разрыва информационных технологий ИИ и области нейрофизиологии требует больших преобразований в системе образования. Приведём небольшой фрагмент из интервью Михаила Донского [20].

“У меня есть приятель — Монти Ньюборн, декан факультета вычислительной математики университета Мак-Гилл в Монреале, член совета ACM (Association for Computing Machinery — Ред.), тоже шахматный программист. Приезжал ко мне в гости в 1980 году. Год Афганистана, тогда было непросто приехать в Москву. Я повел его к Андрею Николаевичу Тихонову, декану ВМиК МГУ. Слава богу, Тихонов классно говорил по-английски, и мне не пришлось переводить, иначе бы умер со стыда. Я только слушал, о чем говорят два декана. А они сравнивают учебные программы. Монти спрашивает: где теория автоматов? Нет. Где искусственный интеллект? Нет. Где проектирование трансляторов? Нету (теперь уже есть, правда). А что есть? Есть труды Тихонова по вычислительной математике. Монти — человек дотошный, он об искусственном интеллекте говорил с профессорами семинарии, и если за человека возьмется, то все выяснит. Вот и выяснилось.

Если сейчас потратить силы, школу создать можно. Еще живы человек двадцать, которые могут это сделать. Будет ли утеряна область инженерного знания? В мире — нет, а индустрия эта транснациональна. Меня больше волнует другое. Приходишь в отечественную компанию, смотришь, как у нее устроено IT и видишь, что люди просто упали с дуба. Что далеко за примерами ходить — вспомните ЕГАИС. Такое ни в какой стране не было бы возможно. Это все равно, что зайти в мой двор и взять мальчиков, которые там играют в футбол, членами сборной команды России. И при чем тут, спрашивается, наличие или отсутствие инженерной школы?”

И там же — о непознаваемости ИИ:

“Мы потратили половину усилий не на то, чтобы научить программу играть в шахматы, а на то, чтобы научить ее показывать, как она играет в шахматы. Программа выдавала ход перебора вариантов в шахматной нотации, с любого места, в любой позиции, с любыми параметрами.”

Пока единственным предохранителем, возможно, оказались ФРС и ЦБ с повышением ключевой ставки, но это не наша тема.

Имена

Канторович Л.В. Созданный им метод линейного программирования сегодня отнесли бы к ИИ. Это оптимальный распил фанеры, стального листа или составление графика загрузки. Курьёзный случай не очень известен: его предложения по экономии листовой стали были отвергнуты заводским начальством, так как сокращались отходы, по которым был план!

Конрад Цузе. Создал высокоуровневый язык Планкалкюль, который в 1941–1946 гг. поддерживал операции присваивания, вызов подпрограмм, условные операторы, итерационные циклы, арифметику с плавающей запятой, массивы, иерархические структуры данных, обработку исключений и другие современные средства языков программирования.. Цузе составил 49 страниц программ на Планкалкюле для оценки шахматных позиций. Позже он писал, что ему было интересно проверить эффективность и универсальность Планкалкюля в отношении шахматных задач. В 1985 году Цузе стал первым почётным членом немецкого «Общества информатики», а с 1987 года оно начало присваивать «Медаль Конрада Цузе», ставшую сегодня известнейшей немецкой наградой в области информатики. В 1995 году за дело всей жизни Цузе был удостоен ордена «Крест за заслуги перед Федеративной Республикой Германия». В 2003 году на канале ZDF он был назван «величайшим» из живших немцев. Сегодня несколько городов Германии имеют улицы и здания, названные его именем. Цузе совместно с Арно Петерсом работал над созданием концепта высокотехнологичной плановой экономики, базирующейся на управлении мощными современными компьютерами. В процессе разработки этого концепта Цузе ввёл термин «компьютерный социализм».

(https://picturehistory.livejournal.com/548537.html)

(https://sedov-05.livejournal.com/1713967.html)

(https://habr.com/ru/companies/timeweb/articles/823346/).

Бонгард М.М. Сотрудники звали его просто Мика. Он руководил коллективом в институте проблем передачи информации и занимался распознаванием образов в системах цветного зрения. Последний его проект назывался “Животное” и был математической моделью организма. В этой модели выделялся отдельный блок “Внимание”, в котором происходило переключение варианта управления. Разработчики при этом ссылались на труды академика Ухтомского по теории доминанты. Коллектив в 70-е годы занимал скромное помещение из нескольких небольших комнат в подвале у станции Сетунь. После гибели Бонгарда лабораторию возглавил Смирнов. Там же работали Илья Лосев и Вайнцвайг.

Введенский Н.Е. Ученик Сеченова, основатель научной школы, взрастившей Ухтомского и его учеников. Разрабатывал теорию возбуждения и торможения в нервной системе. Направление его работ шло как альтернативное течение по отношению к школе Ивана Павлова.

Аршавский И.А. Ученик академика Алексея Ухтомского, школу которого смело защищал на знаменитой Павловской сессии. Занимался возрастной физиологией ребёнка, автор многих известных книг по этой теме. В области фундаментальной науки отстаивал теорию негэнтропийности (энергетическое правило скелетных мышц), что само по себе раздражало коллег-физиков. Ещё более неожиданной было введённое им понятие обратного хода времени в циклах живого организма.

Кронрод А.С. Возглавлял коллектив ИТЭФ, который занимался расчётами для ядерной физики, а потом и транспортными и экономическими задачами. После перехода коллектива его лаборатории в Институт Автоматики и телемеханики (позже — институт проблем управления; сам Кронрод не был принят в этот институт) организовал и возглавил работы по шахматной программе Каисса. Теория графов, работы по которой шли в коллективе Кронрода, нашли широкое применение в транспортных задачах и позже — в СУБД ИНЭС/Евфрат.

Любищев А.А. Известен широкому кругу читателей по повести Данила Гранина. Занимал радикальные позиции в вопросах эволюции, систематики растений и животных, а также генетики ([15][29]).

Турчин В.Ф. Автор языка РЕФАЛ, который относится к классу декларативных языков (близко к машинам Тьюринга и Поста; не имеет операторов присваивания, цикла и перехода). Язык активно использовался при написании компиляторов между разными языками программирования.

Мельчук И.А. Автор теории “Смысл-Текст”. После миграции в Канаду продолжал исследования, хотя они не нашли применения в системах машинного перевода. Интерес к его научному наследию стал возвращаться через журнал 7Искусств и видимые проблемы в массовом применении человеко-машинного диалога в ИИ ([5],[28]).

Горбань А.Н. Признанный специалист в области матфизики. Занимался нейронными сетями с 70-х годов прошлого века в ВЦ красноярского филиала Сибирского отделения АН СССР [8]. После эмиграции преподавал в Лейстерском университете. Был сопредседателем десятков международных конференций по нейроинформатике.

Источники

Г. Киссинджер. Интервью “Российской Газете” и ТАСС, 26.03.2019.
Г. Киссинджер, Э. Шмидт, Хоттенлогер Д. Искусственный разум и новая эра человечества. М., Альпина ПРО, 2020.
Распоряжение Правительства РФ №2436-р от 03 сентября 2025. “О создании Национального центра развития искусственного интеллекта при Правительстве РФ”.
Исполнительный Указ президента США от 11.12.2025 “Обеспечение национальной политической основы для Искусственного интеллекта”.
Ахманова О.С., Мельчук И.А., Падучева Е.В., Фрумкина Р.М. О точных методах исследования языка (о так называемой математической лингвистике). — Москва: Изд-во Моск. ун-та, 1961. — 162 с.
Жиль Делёз. Логика смысла. /Академический проект, 2015, 482 с.
Распоряжение Правительства РФ от 01.02.2025 “О присоединении НИИ “Магарач” к НИЦ “Курчатовский институт”.
А.Н. Горбань, Д.А. Россиев. Нейронные сети на персональном компьютере. — Новосибирск: Наука. Сибирская издательская фирма РАН, 1996. — 276 с.
М.О. Урасьев. Филогенез нервной системы: этапы, основные направления и закономерности. Журнал “Земский врач”, №1, 2005.
А.Д. Ноздрачев и др. Исследование проблем нейрофизиологии беспозвоночных животных в лаборатории физиологии нервной системы института физиологии имени А.А. Ухтомского СПбГУ, Вестник СПбГУ 2003, Сер. 3, вып.2 (№11).
А.Д. Ноздрачев, М.М. Фатеев. Звездчатый ганглий: Структура и функции / — СПб. : Наука, 2002. — 238.
В.В. Малахов. Эволюционная морфология в России оживает. Размышления после конференции. // Природа, 2007 №8. С. 74 -78.
В.В. Малахов. Революция в зоологии. Новые представления о системе и сплочении многоклеточных животных. // Вестник РАН, 2013. Том 83, № 3, с. 210–215.
С.В. Савельев. Происхождение мозга: М., Медицина, 2005. 368 с.
С.В. Мейен, Ю.В. Чайковский: о работах А.А. Любищева по общим проблемам биологии. По материалам сайта http://lub.molbiol.ru.
Петрунин Ю.Ю. Развитие концепции социального компьютерного интеллекта. // Вестник Моск. Ун-та. Серия 21. Управление (государство и общество), 2023. № 1, с. 93-112.
Альсина Клауди Мир математики. Том 11.. Карты метро и нейронные сети. Теория графов. / “Де Агостини”. 2014. 144 с.
Пойа Д. Математика и правдоподобные рассуждения / Пер. с англ. И.А. Вайнштейна. Под ред. С.А. Яновской. — 2-е изд., испр. — Москва: Наука, 1975. — 463 с.
Юрий Громыко, Юрий Крупнов. Денонсация Беловежских соглашений. 2 марта 2022. (https://regnum.ru/article/3522195).
Андрей Анненков. Последнее интервью Михаила Донского. https://computer-museum.ru/articles/donskoy-mikhail-vladimirovich/2515/.
Иванова О.В. Доминанта А.А. Ухтомского и субдоминанта М.И. Виноградова // Клиническая и медицинская психология: исследования, обучение, практика: электрон. Научн. журн. 2014 № 1(3).
Н.В. Голиков. Механизмы работы мозга. [Текст] / Д-р биол. наук Н.В. Голиков. — Ленинград: [б. и.], 1968. — 48 с.: ил.: (Наука XX в./ О-во «Знание» РСФСР. Ленинград. организация) К.Х.
И.А. Аршавский. Физиологические механизмы и закономерности индивидуального развития (основы нег-энтропийной теории и онтогенеза). М., 1982.
Уоддингтон К.Х. Основные биологические концепции. // На пути к теоретической биологии. М., 1970. С. 11–31.
Кржыжановский Г.Н. О доминанте и детерминанте как принципах нервной деятельности. В сб.: Учение А.А. Ухтомского о доминанте и современная нейрофизиология. Л., Наука, 1990. С. 181–202.
Поленов Д.Ю. Эволюция телеметрии в ракетной технике // Молодой ученый. — 2014. — №6. — С. 216–218 — система управления Фау-2.
Э. Бормашенко. Истинное и понятное. Журнал 7 Искусств №7 (157), июль 2023.
И. Мельчук. Язык: от смысла к тексту. 7 Искусств. №№ 128–131, 2021.
А.А. Любищев. Проблемы формы, систематики и эволюции организмов. Сб. статей. М., Наука 1982.
И.А. Аршавский. Физиологические механизмы и закономерности индивидуального развития (Основы негэнтропийной теории онтогенеза). М., Наука, 1982.
А.В. Денисенко. Доминанта как динамический хронотоп. 7Искусств, Урания, июль 2022. (Urania.7iskusstv.com/?p=113).