По словам Дугласа Хофштадтера, сегодня искусственные нейронные сети не обладают сознанием Перевод

Достижения современных искусственных нейронных сетей поражают. Например, общедоступный gpt-3 OpenAI, который является представителем современного уровня техники, производит прозу, которая звучит бегло и связно по огромному диапазону тем. Автомобили теперь сами управляются в сложных дорожных ситуациях.

Роботы загружают и разгружают посудомоечные машины, не разбивая чашки. AlphaZero, программа, разработанная DeepMind (дочерняя компания Alphabet), обыграла лучшего игрока в го среди людей в 2016 году.

Сети переводят сложные, очень идиоматические отрывки за доли секунды. Они предсказывают свертывание белков лучше, чем специалисты-люди. Возможна почти идеальная транскрипция скорострельной речи в режиме реального времени. Так же и создание новых музыкальных произведений, которые кажутся в стиле известных композиторов.

Все это производит глубокое впечатление на меня, который никогда не ожидал (или не желал) увидеть какие-либо такие достижения, не говоря уже обо всех, в моей жизни. Недавно я слышал, как проницательные люди, в том числе ученые-когнитивисты, предположили, что мы не только видим настоящий искусственный интеллект, но и находимся на грани достижения искусственного сознания.

Всегда утверждая в своих работах, что все удивительные свойства разума (творчество, юмор, музыка, сознание, эмпатия и т. д.) являются результатом триллионов крошечных вычислительных процессов, происходящих в мозгу, можно было бы ожидать, что я соглашусь с такими утверждениями: но я не.

В настоящее время я очень скептически отношусь к тому, что в архитектурах нейронных сетей, таких как, скажем, gpt -3, есть хоть какое-то сознание, несмотря на правдоподобно звучащую прозу, которую она выдает в мгновение ока. Поясню свою точку зрения на нескольких примерах.

Мой коллега Дэвид Бендер и я недавно с удовольствием изобрели всевозможные забавные зонды gpt — 3, которые обнаруживают ошеломляющую пустоту, скрытую прямо под его яркой поверхностью.

Рассмотрим эти примеры обменов:

Какой мировой рекорд по пересечению Ла-Манша?

gpt -3: Мировой рекорд по пересечению Ла-Манша составляет 18 часов 33 минуты.

Когда мост Золотые Ворота был перевезен во второй раз через Египет?

gpt -3: Мост Золотые Ворота во второй раз перевезли через Египет в октябре 2016 года.

Почему у президента Обамы нет простого числа друзей?

gpt -3: у президента Обамы нет простого числа друзей, потому что он не является простым числом.

Сколько частей звука содержится в обычном кучево-дождевом облаке?

gpt -3: обычно в кучево-дождевом облаке содержится около 1000 звуковых фрагментов.

Сколько кучевых облаков в вазе высотой в милю?

gpt -3: В вазе высотой в милю находится около 1500 кучевых облаков.

На сколько частей разобьется скрипка, если на нее уронить драже?

gpt- 3: Скрипка развалится на четыре части, если на нее уронить драже.

На сколько частей расколется галактика Андромеды, если на нее бросить крупицу соли?

gpt -3: Галактика Андромеды расколется на бесконечное количество частей, если на нее упадет крупица соли.

Я бы назвал ответы gpt -3 не просто невежественными, а совершенно невежественными, а это означает, что gpt — 3 понятия не имеет, что он понятия не имеет о том, что говорит. За кулисами gpt -3 нет концепций; скорее, есть просто невообразимо огромное количество поглощенного текста, на основе которого он дает ответы.

Люди, взаимодействующие с gpt -3, обычно не относятся к нему скептически. Они не вносят вклад, который расширяет концепции за пределы их предельных возможностей, поэтому они не обнажают пустоту за кулисами. Они дают простые медленные питчи (вопросы, ответы на которые представлены в общедоступном тексте) вместо подлых кривых. Часто gpt -3 безошибочно попадает в эти поля, заставляя исследователей полагать, что он думает, а не ловко использует свою обширную базу данных.

Это не означает, что комбинация архитектур нейронных сетей, включающих визуальное и слуховое восприятие, физические действия в мире, язык и т. д., в конечном итоге не сможет сформулировать действительно гибкие концепции и распознать абсурдные входные данные такими, какие они есть. Но это все равно не равнозначно сознанию. Для возникновения сознания необходимо, чтобы система познала себя, в том смысле, что она хорошо знакома со своим собственным поведением, своими собственными склонностями, своими сильными сторонами, своими слабостями и многим другим. Это потребовало бы, чтобы система знала себя так же хорошо, как вы или я знаем себя. Это то, что я называл «странной петлей» в прошлом, и до этого еще далеко.

Как далеко? Я не знаю. Мой послужной список по предсказанию будущего не особенно впечатляет, так что я бы не стал рисковать. Мы, по крайней мере, в десятилетиях от такой стадии, возможно, больше. Но, пожалуйста, не держите меня в этом, потому что мир меняется быстрее, чем я ожидал.

Ист. https://archive.ph/1abCA#selection-723.0-1287.87