Человек в зеркале — это не вы. Почему тест на самоосознание работает не так, как мы думаем
Когда мы были маленькими, родители указывали на наше отражение в зеркале и говорили: «Это ты». Но что-то всегда казалось необычным, странным, немного не таким. Отражение упускает что-то жизненно важное в нашей идентичности как человеческих существ: наше внутреннее «я», сознание, обитающее в теле. Философ Марина Зильбергерт утверждает, что люди и другие существа не обладают самоосознанием в том смысле, который мы привыкли предполагать. А тест на самоосознание, она считает, — это фантазия психологии.
Что общего у «Белоснежки», «Портрета Дориана Грея», «Матрицы» и «Гарри Поттера»? Все эти архетипические истории обращаются к зеркалу как к способу исследования разных измерений самоосознания. В «Белоснежке» зеркало — арбитр красоты, чья правдивость приводит Злую королеву в ярость. В «Портрете Дориана Грея» полотно на чердаке служит истинным зеркалом, раскрывающим моральное состояние героя. В «Матрице» Нео касается зеркала и попадает в пограничное пространство, где граница между видимостью и разумом пересматривается заново. В «Гарри Поттере» Зеркало Еиналеж раскрывает сокровенные желания сердца.
Глядя в зеркало, мы ожидаем увидеть соответствие между собой и своим отражением. Но то, что мы видим, не всегда совпадает с нашим образом себя. В чём же корень этого несоответствия? Опыт созерцания своего отражения может быть отмечен странным чувством несовпадения, которое заставляет нас острее осознавать то, что зеркало не может показать: наше чувство себя, нашу идентичность.
Тест на самоосознание: что он на самом деле измеряет?
Так называемый «зеркальный тест» долгое время использовался психологами как стандартный инструмент для оценки самоосознания у животных. Мы знаем, что шимпанзе, дельфины, слоны и даже, как показало недавнее исследование, губаны-чистильщики могут узнавать своё тело в зеркале. Учёные наблюдали, как эти животные взаимодействуют со своим отражением: пытаются удалить метку со своего тела или используют зеркало, чтобы осмотреть себя. Такое поведение было принято как свидетельство их самоосознания.
Однако у этого теста есть множество ограничений. Во-первых, он не оценивает самоосознание у животных, которые полагаются не столько на зрение, сколько на другие чувства, например на обоняние (как в случае с собаками или кошками). Другие животные могут просто не считать отражённое изображение имеющим к ним отношение, даже если они обладают другими формами самоосознания.
Способность узнавать своё тело в зеркале может указывать на форму телесного самоузнавания, но она не обязательно отражает осознание себя как субъекта, как существа с внутренней жизнью, разворачивающейся во времени. В эпоху искусственного интеллекта вопрос самоосознания распространяется и на неживые системы. Что значит для искусственного интеллекта быть самоосознающим? Когнитивисты и исследователи в области искусственного интеллекта, особенно работающие в вычислительной парадигме, полагаются на функционалистское определение: система считается самоосознающей, если она содержит модель самой себя внутри себя и может получать доступ к информации об этой модели и передавать её. Интересно, что это определение устанавливает более высокую планку, чем стандартный зеркальный тест, поскольку требует более сложной формы самомоделирования.
Но что это говорит о самоосознании искусственного интеллекта? Означает ли это, что система, способная взаимодействовать со своим собственным телом в зеркале и представлять свои внутренние параметры, является самоосознающей? И, что более важно, что мы подразумеваем под самоосознанием в человеческом смысле? На каких основаниях мы признаём его в себе?
Незнакомец в зеркале
Философ Марина Зильбергерт делится личным воспоминанием: в четыре года она была очарована большим зеркалом в доме своей бабушки. Поскольку у неё не было братьев и сестёр, она играла с собственным отражением. Она воспринимала отражённое изображение как забавного обманщика, близнеца из параллельного измерения. Когда она не смотрелась в зеркало, кто знает, чем он занимался? Если бы взрослый попросил её указать на своё тело в зеркале, она ответила бы правильно. Она знала, где её глаза, где уши, где зубы. Но она также помнит, как допускала возможность, что это на самом деле не она или что это не всё, чем она является. Было странное ощущение, что она смотрит и на своё собственное тело, и на что-то или кого-то другого.
Её самость, возможно, её душа, настолько тесно связанная с её внутренним воображаемым миром, не отражалась в том, что она видела перед собой. И она остро осознавала это различие. С годами акт смотрения в зеркало стал более привычным. Она проверяла свою внешность, поправляла волосы, следила за тем, чтобы её самопрезентация находила некий компромисс между аутентичностью и ожиданиями окружающих. Чувство странности отошло на задний план. Но оно не исчезло полностью, и в редкие неожиданные моменты оно возвращалось.
Взгляд в зеркало после рождения первого ребёнка был одним из таких переживаний. Её внешность осталась практически прежней, но она чувствовала себя иначе, глядя на неё. Зеркало не смогло отразить потрясения идентичности, которые только что произошли в ней. Всё ещё ли это я теперь, когда появился этот другой человек, который является частью меня, но больше не является физической частью меня? Меняет ли эта новая ответственность навсегда то, кто я есть, или то, кем я стану?
Чувство «незнакомца в зеркале» может появляться в разные моменты жизни людей. Когда мы делаем то, чего стыдимся, нам бывает трудно встретиться с собственным отражением. Когда мы преодолеваем важную неудачу и обретаем новую уверенность, мы могут внезапно почувствовать, что из зеркала на нас смотрит новая версия нас самих. Наши настроения и внутренние движения также влияют на то, что мы видим. Во всех этих случаях именно наше самоосознание — чувство себя за пределами зеркала — формирует то, как мы воспринимаем своё физическое отражение. Именно это антиотражение, то странное чувство, которое мы испытываем при встрече с собственным образом, и раскрывает присутствие самоосознания.
Самость и искусственный интеллект
Что же зеркальный тест на самом деле говорит нам о самоосознании? Рассмотрим пример, предложенный физиком Роджером Пенроузом: видеокамера, направленная на зеркало, формирующая модель самой себя внутри себя. Является ли эта система самоосознающей? Этот пример удовлетворяет части функционалистского определения, которое включает способность к самореференции. Но назвали бы мы это самоосознанием? Ответ, кажется, однозначно отрицательный. Но вопрос в том, почему? Чего не хватает?
Камере не хватает интегрированной метаобработки (способности анализировать собственные когнитивные процессы). В этом смысле она ничем не отличается от термостата. У него есть ввод и вывод, но нет никакой формы метапознания (способности осознавать и анализировать собственные мыслительные процессы). Чтобы обеспечить эту метаобработку, давайте увеличим уровень технологической сложности. Представьте себе человекоподобного робота, работающего на сложной системе искусственного интеллекта с миллиардами нейронных параметров, который смотрится в зеркало, обрабатывает визуальные данные собственного отражения и сообщает о них. Система может соотносить физические координаты своего механического тела с тем, что появляется в зеркале. Но означает ли это самоосознание в каком-либо осмысленном смысле? Опять же, кажется, чего-то не хватает.
Предположим, человек приобрёл сверхспособность, позволяющую ему отслеживать все физические процессы своего тела. Он мог бы определить, что переваривает желудок, и точно определить местонахождение инфекции. Он мог бы регистрировать содержание каждой мысли, фиксировать каждый эмоциональный сдвиг и накапливать всё это в виде данных. И всё же такой человек мог бы оставаться подверженным самообману. Он мог бы испытывать трудности с поддержанием значимых отношений, не в силах связать свои действия, желания и эмоции в устойчивый способ бытия с другими. Он обладал бы исчерпывающим отчётом о своих процессах, но при этом не имел бы никакого понимания собственного сердца.
Похоже, что можно знать каждую деталь процессов своего тела и всё равно не знать самого себя. Возможно, то, что мы подразумеваем под самоосознанием в человеческом смысле, — это переживание самости, которая разворачивается связно во времени, сопровождаемое знанием своих желаний и мотивов — не только того, что они существуют, но и почему они важны и как соотносятся с этой развивающейся идентичностью.
Отсутствие связной самости становится совершенно очевидным при работе с искусственными системами. Как заметил философ Дэн Ллойд, такие системы, как большие языковые модели, регулярно извиняются и часто повторяют руководящий принцип из исходной подсказки, только чтобы затем сгенерировать ответ, который часто содержит новую ошибку. Система изначально заявляет, что уверена в своих ответах, но немедленно отказывается от любого утверждения. Она кажется оторванной от собственных предписаний. Именно это отсутствие связности лежит в основе другого наблюдения Ллойда: выдающейся способности системы к ролевой игре. Поскольку она не привязана к какому-либо устойчивому ощущению себя, она может принимать практически любую личность без противоречий.
Большие языковые модели могут притворяться почти чем угодно. Принудительные выдумки, смешанные с показной позой полной уверенности, опасны. Они могут диагностировать болезни, предлагать юридические стратегии, рекомендовать инвестиции, писать курсовые работы, но было бы глупо воспринимать любое их высказывание как факт. То, что делает большие языковые модели такими искусными в этой ролевой игре, — это именно отсутствие у них самости. Без неё они не могут отличить правдивый нарратив от ложного; они не привязаны ни к какому своему собственному нарративу. Нет ничего, что было бы для них лично более истинным или ложным.
Это описание напомнило Зильбергерт психиатрический случай мистера Томпсона, описанный Оливером Саксом. Мистер Томпсон был жизнерадостным, общительным и способным к рассуждению, но у него отсутствовало чувство себя. Лишённый преемственности, тихого непрерывного внутреннего повествования, он был вынужден к порождению «псевдоповествований», «псевдонепрерывности», «псевдомира», населённого «псевдолюдьми» и фантомами. Окружающие начинали задаваться вопросом, сохранилась ли у него, человека, ещё душа.
Чтобы быть самоосознающим, заключает Зильбергерт, необходимо иметь связную самость, которую можно осознавать. И эта самость, внутреннее «я» — не то, что можно запечатлеть в зеркале. Зеркало показывает нам тело, но не душу. Оно отражает лицо, но не историю. И возможно, именно это ускользающее, нефиксируемое измерение и делает нас теми, кто мы есть. Не отражение, а то, что на него смотрит.
