Искусственный интеллект: от Бога или от лукавого?

Лучшее доказательство того, что ценность человеческой мудрости относительна, — существование искусственного интеллекта. Но если мышление можно отъять от субъекта, положить в коробочку компьютера и заставить жить своей жизнью, то есть и такая мудрость, с которой подобную процедуру проделать невозможно… Поговорим об искусственном интеллекте. Это давно уже не просто большой калькулятор и электронный шахматист. Он учится, общается, рассказывает нашим детям сказки, выполняет вместо нас тяжелую и сложную работу. Пользователи не задумываются, что лежит в основе современных достижений искусственного интеллекта. Что это такое и чего нам ожидать? Останется ли в мире место для человека? Рассказывает аспирант ИТМО в сфере ИИ и квантовых вычислений Родион Юрьев.

Почему так называется

Под искусственным интеллектом люди в разное время понимали разные вещи. В этом нет ничего удивительного: любой предмет из сферы человеческого духа всегда имеет множество определений. Мы до сих пор не можем дать определения, что такое государство, общество, право. Такие вещи, как любовь, дружба, — что это такое? Всё то, что мы не можем потрогать, вызывает споры и имеет тысячи определений.

Приведу в пример книгу Стюарта Рассела и Питера Норвига «Искусственный интеллект: современный подход» (русский перевод вышел в 2010 году). Открывая эту 1000-страничную книгу, мы видим, что она безнадежно устарела, читать её можно только как исторический документ. Когда эти авторы, фундаментально занимавшиеся проблемой искусственного интеллекта, пытались систематизировать представления 1990–2000-х годов, они разделили признаки ИИ на четыре части. Искусственный интеллект 1) думает подобно людям, 2) думает рационально, 3) действует подобно людям и 4) действует рационально. В зависимости от этого они приводят цитаты разных авторов, которые по-разному представляют себе искусственный интеллект как что-то такое, что освобождает человека от необходимости думать над чем-то. Сейчас это уже не годится в качестве надежного критерия.

То же самое произошло с тестом Алана Тьюринга, который он создал в середине ХХ века. Программе, которая общается с человеком, предлагается его пройти. Если человек не распознал, что он общается с программой, а не с человеком, считается, что тест пройден. Вы сами можете вспомнить сотни примеров, когда мы не можем распознать, что общаемся не с человеком. Мы сталкиваемся с роботами, которые звонят нам из сотовых компаний, с ботами, которые переписываются с нами в чатах поддержки, мы слышим объявления в аэропорту, на вокзалах, на станциях. У нас есть «Алиса» и «Сири» в мобильных устройствах. Все эти программы легко пройдут тест Тьюринга.

Это свидетельствует о том, что те определения, которые задавались раньше в отношении искусственного интеллекта, теряют свой смысл. Мы уже не можем опираться на такие формальные критерии.

Еще существует критерий самостоятельного решения тех задач, которые не заложены в программе в качестве алгоритмов. Алгоритмы как таковые существуют давно. Самый известный, который проходят еще в школе, это алгоритм нахождения общего делителя или множителя, предложенный еще Евклидом две с половиной тысячи лет назад. Но алгоритм — это продолжение нашего мышления. В современном понимании программа, которая реализует всё то, что мы написали в качестве алгоритма, последовательных шагов, рецепта, искусственным интеллектом не считается. Ведь последний решает только те задачи, которые не заложены в нем в качестве алгоритмов. Это самое существенное его определение.

Три непростые задачи

Техническая сторона вопроса состоит в том, что искусственному интеллекту мы можем дать на решение всего три категории задач. К ним сводятся и чат-боты, и такси без водителя, и многое другое.

Самая простая задача — это классификация. Она предполагает, что мы с вами знаем, что вот это, например, книга, а не что-то иное. Мы с вами относим эту вещь к определенному классу (роду или виду). Это непростая задача. Еще Аристотель ввел понятие силлогизма и создал науку формальной логики, которая занимается изучением и построением автоматических выводов. «Все люди смертны. Сократ человек. Следовательно, Сократ смертен». Такого рода силлогизмы непосредственно связаны с классификацией. Сначала мы классифицируем Сократа как человека. Если мы это сделали в своем сознании, то можем сделать определенный вывод из общеутвердительного суждения. Классификация сейчас — ключевая задача искусственного интеллекта, две другие менее существенны с точки зрения внедрения в широкую жизнь. Когда мы говорим, например, о беспилотном такси, то задача, которая стоит перед компьютером, управляющим его движением, очень проста: распознать и классифицировать объекты. Если мы видим перед собой красный светофор, значит, должны остановиться. Видим человека, который переходит дорогу, значит, нужно послать сигнал двигателю затормозить. Всё это сводится к задаче классификации объектов, которые находятся перед «глазами» искусственного интеллекта.

Вторая задача — кластеризация. Например, мы берем несколько ручек и говорим, что у нас есть красные ручки, зеленые и фиолетовые. Мы не задаем никаких классов, по которым разбираем эти ручки, алгоритм кластеризует их автоматически.

Третья задача — экстраполяция, интерполяция или регрессия. Мы можем предсказать, например, что если температура зимой в Санкт-­Петербурге холодная, то, скорее всего, и завтра у нас не будет +20; судя по тому, какая погода пришла в наш город, температура будет примерно такой же, как сегодня. Это наша регрессия.

Мы пользуемся этим постоянно. Если бы мы сидели в аудитории, я взял бы и запустил бумажный самолетик. Вы по движению этого самолетика сразу же представили бы, куда он может прилететь. Вам не потребовалось бы проводить вычисления, потому что если самолетик летит прямо в вас и вы это видите, вы зажмуритесь и отклонитесь от его траектории. Наш мозг производит такие предсказания на будущее автоматически, за секунды. Причем делает это быстро и эффективно, а искусственному интеллекту нужны огромные вычислительные мощности, для того чтобы сделать то же самое в том режиме, в каком мы это делаем в повседневной жизни, даже не задумываясь и не воспринимая это как чудо, потому что это само собой разумеется. Эти вещи встроены в наши нейронные сети, мы экстраполируем будущее на себя. Точно так же мы можем, не зная о том, какого типа предметы, взять и кластеризовать их по частям. Тем более мы можем их классифицировать. Мы же можем отличить бумажный самолетик от самолета, на котором можно летать.

Но когда мы пытаемся этим вещам научить компьютер, мы вынуждены осознавать, задумываться над ними, вести дискуссии, потому что дискутируемым здесь является вообще всё, начиная с самого понятия интеллекта. Можно ли вообще человека считать носителем и критерием наличия интеллекта? Здесь приводится вполне справедливый пример с самолетами. Мы знаем, что на протяжении многих лет идея полета основывалась на подражании животному миру. Птицы машут крыльями и благодаря этому взлетают.

Самые первые двигательные самолеты действительно пытались махать огромными неуклюжими крыльями, ломались и никуда особо не взлетали, потому что механизм полета гораздо более сложный. Пока эта ограниченность не была преодолена, самолеты не полетели. Самолеты братьев Райт, которые были запущены в XIX веке, уже не являются подражанием птицам и построены на новом принципе. Я уж не говорю о тех самолетах, на которых мы летаем сейчас.

Возможно, то же происходит и с принципиальным подходом к искусственному интеллекту. Может быть, нам нужно не отталкиваться от тех примеров, которые даются нам в человеческом мозге, а строить определение на каких-то новых технологических принципах.

С нейронными сетями, основным инструментом искусственного интеллекта, постоянно проводят аналогии из мира человеческого мозга. Я думаю, что эта аналогия, как и любая другая, может завести нас не туда. Действительно, в человеческом мозге есть система нейронов, которые связаны каждый друг с другом, и быстрота обработки информации, которой мы восхищаемся, которая является нашим даром, обусловлена сложной системой взаимосвязи между ними.

Математические нейронные сети в какой-то мере могут быть уподоблены в нашем сознании живым нейронным сетям, но это не более чем метафора. На самом деле нейронные связи, которые расположены в компьютерных сетях, — это просто цепи маленьких вычислений, которые передаются из одной ячейки в другую и так далее.

Немного истории

Мы думаем, что искусственный интеллект — это достояние современного общества. Но если задуматься, то окажется, что датировок можно приводить сколько угодно.

Например, мы скажем, что искусственный интеллект появился с появлением компьютеров. Но тогда надо вспомнить, что первый компьютер появился в XIX веке. Он был механический, назывался «машина Беббиджа», и программированием на нем занималась дочь лорда Байрона, известного английского поэта.

Может, искусственный интеллект появился, когда люди начали делать сложные вычисления? Да, но кому принадлежат основные разработки в этой сфере? Систему дифференциального исчисления разработал еще Ньютон в XVII веке. Наиболее передовая сегодня технология, генеративное обучение — мы программу вообще ничему не обучаем, она учится сама, — вся построена на цепях Андрея Андреевича Маркова, профессора Петроградского Императорского университета, великого математика.

Если подумать, что такое формальная логика Аристотеля? Это попытка формализовать наши вычисления и сделать автоматический вывод этих данных. Конечно, к ним есть претензии с точки зрения современной науки, по большому счету, это скорее логика здравого смысла, но тем не менее формальная логика Аристотеля тоже представляет собой вариант искусственного интеллекта, когда человек может получить ответ с помощью воображаемой машины. Не забудем и о том, что машины для вычислений появились уже в древности, например антикитерский механизм. Можно сказать, что это древнегреческий калькулятор.

Та информация, которая к нам приходит, это отражение в нашем сознании того, что мы видим вовне. Это не нами замечено. Платон в диалоге «Государство» приводит метафору: пещера, жители которой видят слабые отблески света на стенах и по ним составляют себе впечатление об окружающем мире. Чтобы понять, как мы составляем это впечатление, посмотрим внутрь нашей физиологии. Давным-давно, в 1930-х годах, были проведены исследования того, как мы воспринимаем свет. Происходит преобразование светового излучения: фотон стимулирует клетку в сетчатке глаза, которая вызывает возникновение электрического сигнала. В середине прошлого века было изучено, что пучки этих сигналов в глазном нерве по очень сложной запутанной формуле соединяются и отправляются дальше через нервную систему в наш мозг, где с помощью нейронов производится отображение. Так отблески света составляют в нашем мозгу какое-­то представление об окружающем мире. Надо заметить, что из глаза в кору головного мозга идут электрические сигналы, правда, это аналоговые сигналы, непрерывная волна, а не 0–1–0–1, как в компьютерах. Тем не менее, вот перед вами искусственный интеллект естественного происхождения.

Мы сами в себе содержим механизм для распознавания мира вокруг нас, который предоставляет нам образы, идеи, доносит до нас информацию. Благодаря этому мы мыслим, чувствуем, созерцаем, и это существовало задолго до появления человека.

Например, самый изученный мозг в мире, мозг дождевого червя, состоит из 300 нейронов. Он построен по тому же принципу, он тоже обрабатывает информацию с учетом небольшого количества тех нейронов, что ему доступны. У него такой же способ отображения идей, создания выводов, классификации, принятия решений на её основе, а значит, с тем же успехом мы можем говорить о том, что и у дождевого червя есть искусственный интеллект.

Если мы рассмотрим вопрос появления жизни в рамках религиозных представлений о мире, то мы увидим, что жизнь, согласно книге Бытия, появилась до создания человека. Соответственно, искусственный интеллект был создан еще задолго до того, как появился сам человек. Вот такой парадокс.

Слово

Любое явление математики описывают с помощью чисел. Не только в виде «1, 2, 3, 4», но и с помощью измерений. Мы можем представить точку в пространстве, а можем посмотреть на нее с другой стороны — и она окажется линией. Добавим к линии еще одно измерение, и она окажется волной. Добавим еще одно — и окажется, что это не волна, а сложное трехмерное явление, пружина, которая движется. Примерно таким же образом мы работаем сейчас со словами. Чем больше мы добавляем размерности в описание окружающего мира, тем больше мы можем сделать вычислений над описываемыми объектами.

Самый интересный объект, который не доступен ни дождевому червю, ни еще кому-либо, кроме человека, это слово. Удивительным образом мы сталкиваемся сейчас с тем, что старые идеи философов, например Людвига Витгенштейна из его работ начала XX века, превращаются в реальность, которая работает в математических моделях, и мы пользуемся ими сейчас в той же самой «Алисе».

Витгенштейн писал, что язык вообще ничего не обозначает, это просто форма жизни. А слово узнается по его окружению. Мы берем и создаем пространство слов. Идей, между которыми мы находим какие-­то связи. В нашей голове на физическом уровне есть некоторое пространство; экспериментально проверено и показано, что в нашем мозгу есть разные зоны, каждая из которых отвечает за определенные темы. Например, когда человек говорит слово «мама», у него активируется конкретная часть нейронов в головном мозге.

Это удивительно, потому что работы в сфере применения векторизации слов практически возвращают нас в платоновские времена, и на наших глазах уже вошла в жизнь идея, согласно которой мы просто классифицируем, превращаем слова и предложения в объекты.

Например, цитата: «Ведь, если звезды зажигают — значит, это кому-нибудь нужно?» Многие думают, что это слова из «Маленького принца» Экзюпери. На самом деле там говорится: «Хотел бы я знать, зачем звёзды светятся, — задумчиво сказал он. — Наверно, затем, чтобы рано или поздно каждый мог снова отыскать свою». А первая цитата — из стихотворения В. В. Маяковского «Послушайте!» Почему же мы их путаем? Потому что в них изложена одна и та же идея.

Математически мы можем представить это себе таким образом. Мы называем каждое слово, присваиваем ему определенное число — 0 или 1. Если это слово в тексте встречается — 1. Если не встречается — 0. Всего два слова встречаются там и там, а в результате мы всего по двум этим словам можем создать такую систему, которая их узнает и сделает вычисления.

Но главное чудо, которое обнаружилось в соотношении слов, это то, что мы можем их производить. Мы берем столицу Китая, складываем её с определенным числом — и получаем Пекин. Из Пекина математически вычитаем Китай и прибавляем Россию — получаем Москву. И так далее. Это интереснейшее явление связано с тем, что на огромной плоскости в бесконечномерном пространстве слов эти слова вдруг оказываются упорядочены в какие-то группы. Искусственный интеллект в этой сфере оказывается уже не просто отражением и бликами в пещере, а подходит всё ближе и ближе к тому восприятию, которое мы сами у себя в голове создаем благодаря тысячам лет нашего человеческого развития. На мой взгляд, это еще одно подтверждение того обстоятельства, что это не случайность. Искусственный интеллект по своей сути не так уж далек от того, чем наделены люди и вообще живые существа, при этом он объективно существует. Но не благодаря тому, что его разработали математики, физики и инженеры. Они всего лишь открывали существующие законы природы: яблоки ведь падали вниз независимо от того, что Ньютон открыл закон всемирного тяготения.

В русской религиозной традиции люди, которые писали книги, не считали себя авторами, они занимались «списанием», то есть воспроизводили волю Божию в том творении, которое создавали. В «Слове о законе и благодати» всё основано на том, что это не собственные измышления автора, а воспроизведение того, чему учит Господь.

Что останется человеку

У нас есть несколько признаков, которые позволяют нам говорить о том, что это Божий дар, который мы должны ценить. Он существует независимо от человека. Он существовал задолго до появления человека. И может быть использован во благо человека.

Мы сейчас живем в мире, который в основном предназначен для здоровых людей, а между тем рядом с нами живут люди с ограниченными возможностями. Например, программы, которые в состоянии озвучивать книги, — это подарок для тех людей, которые лишены зрения. Благодаря таким программам, встроенным в наши компьютеры и телефоны, можно читать книги и слушать фильмы. Слепым было очень сложно получать доступ к информации и литературе, а теперь не надо ждать, пока кто-то начитает книгу или государство профинансирует издание её шрифтом Брайля. И это только один маленький пример. Искусственный интеллект проникает сейчас повсюду.

Понятно беспокойство людей за то, что искусственный интеллект может лишить нас работы. Многие профессии прекратят свое существование. Примерно так же, как нет сейчас такой профессии, как машинистка, а я еще помню, как тарахтели печатные машинки. Возможно, что со временем искусственный интеллект, встроенный в роботов, отменит необходимость бесконечного труда человека на свое пропитание. Наша задача — задуматься о том, чтобы люди в отсутствие работы не потеряли ни пропитание, ни человеческий облик. Но, конечно, работа — не единственный способ распределения благ в обществе.

Мы воспринимаем слово «труд» сейчас, как «работу», «дело». А в Псалтири сказано: «Дней лет наших — семьдесят лет, а при большей крепости — восемьдесят лет; и самая лучшая пора их — труд и болезнь, ибо проходят быстро, и мы летим» (Пс. 89, 10).

Возможно, именно такой тяжкий и скорбный труд исчезнет из нашей жизни. Еще один важный критерий — это то, что использование искусственного интеллекта зависит от свободной воли человека. В конечном счете, любую программу пишет человек, и он ею управляет. Мне могут возразить, что искусственный интеллект захватывает мир, могут привести множество примеров, когда он ошибается, и во множестве случаев это происходит за счет того, что исключается человек. Всё это говорит о недостатках в самой программе, которая написана некачественно, не так, как она должна работать, и её надо менять и переписывать, а может, и удалить вовсе. Она всё равно зависит от свободной воли человека. Например, мы не говорим, что использование оружия не зависит от свободной воли человека. Оно может оказаться бракованным и выстрелить само по себе, но сделал его человек. Так же и искусственный интеллект представляет собой инструмент, который сделан человеком и управляется им.

Всё это в совокупности приводит меня к мысли, что мы должны быть благодарны за такой дар. В будущем, даже в обозримом, мы можем думать о том, как он расчищает нам дорогу и освобождает нас от тех самых труда и болезни, которые преследуют нас всю жизнь, для того чтобы мы могли посвятить эту самую жизнь чему-то более значимому. Когда человек всё время работает, он не может остановиться, чтобы осмотреться вокруг и понять, что на самом деле есть жизнь и для чего она человеку дана, мы забываем о своем предназначении. Искусственный интеллект даст нам такую возможность, и тогда со всей необходимостью перед абсолютно каждым встанет вопрос: зачем существует человек?

Это раньше можно было сказать: я существую для того, чтобы кормить детей, зарабатывать деньги. Сейчас может оказаться, что и это не нужно. Роботы внедряются в сельское хозяйство, постепенно всё автоматизируется. Зерно будет собираться само, доставляться само, беспилотные КамАЗы уже ездят по стране (пока всё это делается очень осторожно, но их уже ставят в колонну). Продукция доставляется на автоматические мельницы. Мука, выпечка — это всё процессы, которые автоматизируются. А мы-то что будем делать? Вот здесь вопросы религии выходят на первый план. Именно в тот момент, когда нет задач, связанных с выживанием, перед нами со всей ясностью и остротой встает вопрос о том, а зачем мы вообще нужны, кто мы такие и куда идем, для чего вообще мы существуем. От того, как мы распорядимся этим даром, зависит то, что нас ждет в будущем.

Подготовлено по лекции: «Искусственный интеллект: от Бога или от лукавого?»

Источник текста: «Вода живая». Журнал о православном Петербурге (aquaviva.ru)