По словам Дугласа Хофштадтера, сегодня искусственные нейронные сети не обладают сознанием Перевод

16 Июня 2022 11:27 (ред)

Достижения современных искусственных нейронных сетей поражают. Например, общедоступный gpt-3 OpenAI, который является представителем современного уровня техники, производит прозу, которая звучит бегло и связно по огромному диапазону тем. Автомобили теперь сами управляются в сложных дорожных ситуациях.

Роботы загружают и разгружают посудомоечные машины, не разбивая чашки. AlphaZero, программа, разработанная DeepMind (дочерняя компания Alphabet), обыграла лучшего игрока в го среди людей в 2016 году.

Сети переводят сложные, очень идиоматические отрывки за доли секунды. Они предсказывают свертывание белков лучше, чем специалисты-люди. Возможна почти идеальная транскрипция скорострельной речи в режиме реального времени. Так же и создание новых музыкальных произведений, которые кажутся в стиле известных композиторов.

Все это производит глубокое впечатление на меня, который никогда не ожидал (или не желал) увидеть какие-либо такие достижения, не говоря уже обо всех, в моей жизни. Недавно я слышал, как проницательные люди, в том числе ученые-когнитивисты, предположили, что мы не только видим настоящий искусственный интеллект, но и находимся на грани достижения искусственного сознания.

Всегда утверждая в своих работах, что все удивительные свойства разума (творчество, юмор, музыка, сознание, эмпатия и т. д.) являются результатом триллионов крошечных вычислительных процессов, происходящих в мозгу, можно было бы ожидать, что я соглашусь с такими утверждениями: но я не.

В настоящее время я очень скептически отношусь к тому, что в архитектурах нейронных сетей, таких как, скажем, gpt -3, есть хоть какое-то сознание, несмотря на правдоподобно звучащую прозу, которую она выдает в мгновение ока. Поясню свою точку зрения на нескольких примерах.

Мой коллега Дэвид Бендер и я недавно с удовольствием изобрели всевозможные забавные зонды gpt — 3, которые обнаруживают ошеломляющую пустоту, скрытую прямо под его яркой поверхностью.

Рассмотрим эти примеры обменов:

Какой мировой рекорд по пересечению Ла-Манша?

gpt -3: Мировой рекорд по пересечению Ла-Манша составляет 18 часов 33 минуты.

Когда мост Золотые Ворота был перевезен во второй раз через Египет?

gpt -3: Мост Золотые Ворота во второй раз перевезли через Египет в октябре 2016 года.

Почему у президента Обамы нет простого числа друзей?

gpt -3: у президента Обамы нет простого числа друзей, потому что он не является простым числом.

Сколько частей звука содержится в обычном кучево-дождевом облаке?

gpt -3: обычно в кучево-дождевом облаке содержится около 1000 звуковых фрагментов.

Сколько кучевых облаков в вазе высотой в милю?

gpt -3: В вазе высотой в милю находится около 1500 кучевых облаков.

На сколько частей разобьется скрипка, если на нее уронить драже?

gpt- 3: Скрипка развалится на четыре части, если на нее уронить драже.

На сколько частей расколется галактика Андромеды, если на нее бросить крупицу соли?

gpt -3: Галактика Андромеды расколется на бесконечное количество частей, если на нее упадет крупица соли.

Я бы назвал ответы gpt -3 не просто невежественными, а совершенно невежественными, а это означает, что gpt — 3 понятия не имеет, что он понятия не имеет о том, что говорит. За кулисами gpt -3 нет концепций; скорее, есть просто невообразимо огромное количество поглощенного текста, на основе которого он дает ответы.

Люди, взаимодействующие с gpt -3, обычно не относятся к нему скептически. Они не вносят вклад, который расширяет концепции за пределы их предельных возможностей, поэтому они не обнажают пустоту за кулисами. Они дают простые медленные питчи (вопросы, ответы на которые представлены в общедоступном тексте) вместо подлых кривых. Часто gpt -3 безошибочно попадает в эти поля, заставляя исследователей полагать, что он думает, а не ловко использует свою обширную базу данных.

Это не означает, что комбинация архитектур нейронных сетей, включающих визуальное и слуховое восприятие, физические действия в мире, язык и т. д., в конечном итоге не сможет сформулировать действительно гибкие концепции и распознать абсурдные входные данные такими, какие они есть. Но это все равно не равнозначно сознанию. Для возникновения сознания необходимо, чтобы система познала себя, в том смысле, что она хорошо знакома со своим собственным поведением, своими собственными склонностями, своими сильными сторонами, своими слабостями и многим другим. Это потребовало бы, чтобы система знала себя так же хорошо, как вы или я знаем себя. Это то, что я называл «странной петлей» в прошлом, и до этого еще далеко.

Как далеко? Я не знаю. Мой послужной список по предсказанию будущего не особенно впечатляет, так что я бы не стал рисковать. Мы, по крайней мере, в десятилетиях от такой стадии, возможно, больше. Но, пожалуйста, не держите меня в этом, потому что мир меняется быстрее, чем я ожидал.

Ист. https://archive.ph/1abCA#selection-723.0-1287.87

Yori Yori 922

2 Ответа

  1. German German 16 Июня 2022 11:32

    Могут быть программы, которые могут обыграть кого угодно в шахматы, но они будут исключительно шахматными. Это не будут программы общего интеллекта, и они не будут такими же темпераментными, как и люди.

    Хочешь сыграть в шахматы? «Нет, мне надоели шахматы. Давайте поговорим о поэзии».

    Так не получится. ИИ это не сознание. Анализ и перебор вложенных данных с огромной скоростью, — не более.

  1. Evg Evg 16 Июня 2022 11:41 (ред.)

    Слово, ярлык, определение, обозначение… «Сознание» может пониматься в более широком или более узком смысле. (см. Consciousness // Stanford Encyclopedia of Philosophy). Уже ученные говорят про разные типы «Сознания», т.е. не существует неделимого, самодостаточного «Сознаниa», так, как мы к этому привыкли.

    Мы используем слово «Сознание», как ярлык, сказали и все поняли, что это. Так проще. Так проще общаться. Но если мы начнем исследовать, что такое «Сознание», то обнаружим, что оно стоит из миллиона составных частей. В Буддизме, например, говорят и работают с разными типами сознания. Говорят про более тонки пласты сознания, которые становятся более «видимыми» во сне или в процессе умирания, когда сигналы перестают поступать из внешних источников.

    О каком «Сознание» мы говорим? Что вкладываем в понятие «Сознание» ИИ? Давайте определимся с понятием, а далее рассмотрим, если ли эти качества у ИИ. До этого, разговор ни о чем.

    И ещё. Если мы хотим научиться программировать или научиться единоборствам, или… мы имем к тому, кто занимается этим. Кто больше всех занимается и разбирается в «сознание, интеллекте» и т.д.? Буддисткая традиция. Ну серьезно. 2500 лет это не шутки. Они только и делают это. Однонаправленность и специализация, только это!

    Что такое разница в 2000 лет даже? Представим, что мы переместились 2000 лет назад с нашими знаниями. Мы будем испытывать даже затруднения объяснить, что такое компьютер, например. А тут отрыв куда больше, и это пропасть.

    Мы преуспели в строительстве железных штуковин, которые не тонут и могут летать, мы можем расщеплять атом, но понятия не имеем, что такое «сознание». Серьезно. Мы не понимаем «сознание» себя, а пытаемся говорить про другое. Занятно. )

    А вообще, ИМХО, ИИ может скоро обладать «сознанием». Не таким, как мы себе его представляем, но «сознанием». Скоро, но не сейчас.