Тест Тьюринга: что значит мыслить как человек

Представь: ты переписываешься в чате с двумя собеседниками за стенкой. Один из них человек, другой — программа. Тебе нужно угадать, кто есть кто, задавая любые вопросы. Если ты не справишься — машина прошла тест Тьюринга. Звучит как игра, но за ней прячется один из самых глубоких вопросов в истории науки: что вообще значит «мыслить»?

Откуда взялась эта странная игра

В 1950 году британский математик Алан Тьюринг — тот самый, что во время войны помогал взламывать шифровальную машину «Энигма», — опубликовал статью с дерзким вопросом: «Могут ли машины мыслить?» Проблема в том, что слово «мыслить» каждый понимает по-своему, и спорить о нём можно вечно. Поэтому Тьюринг поступил хитро: он заменил расплывчатый вопрос на конкретную проверку.

Свою проверку он назвал «имитационной игрой». Судья общается с двумя невидимыми собеседниками только текстом — никакого голоса, лица или внешности, чтобы внешний вид не выдал машину. Один собеседник — человек, другой — компьютер. Если после долгой беседы судья не может уверенно отличить машину от человека, считается, что машина прошла тест. Тьюринг предложил не выяснять, есть ли у машины «настоящие мысли», а просто проверять, ведёт ли она себя неотличимо от мыслящего существа.

Тьюринг по сути сказал: не будем гадать, что творится внутри. Если снаружи всё выглядит как разговор с человеком — этого достаточно, чтобы говорить о мышлении.

Гениальная хитрость: судить по поведению

Чтобы понять идею Тьюринга, представь себе закрытую коробку. Внутри что-то есть, но открыть её нельзя — можно только задавать вопросы через щель и читать ответы на бумажках. Тебе неважно, что у коробки внутри: живой человек, инопланетянин или хитрая машина. Если ответы умные, остроумные и осмысленные — ты признаёшь собеседника разумным. Тьюринг предложил относиться к компьютеру точно так же, как мы по умолчанию относимся друг к другу.

И ведь это честно! Ты не можешь забраться в голову своему другу и проверить, что там «по-настоящему» происходит сознание. Ты судишь о его уме по словам и поступкам. Тьюринг просто распространил это правило на машины: давайте судить их по тому же стандарту, что и людей. В этом и сила теста — он переводит туманную философию в конкретный, измеримый эксперимент.

Чтобы беседа была честной, у судьи есть козыри. Он может:

• задавать каверзные вопросы с подвохом и шутки, которые требуют чувства юмора;
• просить рассказать о чувствах, детстве или вкусе любимого мороженого;
• специально ошибаться, проверяя, заметит ли собеседник нелепицу;
• резко менять тему и смотреть, не «поплывёт» ли машина.

А ChatGPT уже прошёл тест?

Тут начинается самое интересное. Современные чат-боты вроде ChatGPT ведут диалог так гладко, что многие люди в коротком разговоре действительно не отличают их от человека. Кажется, что цель Тьюринга достигнута — машина обыграла нас в его собственную игру. Но не спеши с выводами.

Дело в том, что тест Тьюринга проверяет умение убедительно притворяться человеком, а не умение по-настоящему думать. Большие языковые модели натренированы на гигантских объёмах текста и отлично угадывают, какое слово должно идти следующим. Это похоже на ученика, который выучил наизусть тысячи ответов: на экзамене он блестит, но это не значит, что он понимает предмет. Бот может складно рассуждать о вкусе клубники, ни разу её не попробовав, и описывать боль, которой никогда не чувствовал.

Поэтому пройденный тест Тьюринга говорит нам кое-что важное, но не всё. Он показывает, что машина научилась имитировать человеческий разговор. Но вопрос, стоит ли за этой имитацией хоть что-то похожее на понимание и сознание, тест честно оставляет открытым.

Так что значит «мыслить как человек»?

Самое известное возражение против теста придумал философ Джон Сёрл — это мысленный эксперимент «Китайская комната». Представь человека, который не знает китайского, запертого в комнате с толстенной инструкцией. Снаружи под дверь просовывают записки с китайскими иероглифами. Человек находит их в инструкции, по правилам выписывает ответные иероглифы и просовывает обратно. Снаружи кажется, что комната свободно говорит по-китайски — но внутри-то никто ни слова не понимает! Сёрл говорит: компьютер устроен так же. Он ловко двигает символы, но не понимает их смысла.

Спорить об этом можно бесконечно, и в этом главная ценность теста Тьюринга. Он не столько даёт ответ, сколько ставит перед нами зеркало. Что мы вообще считаем мышлением — правильные ответы или внутреннее переживание? Достаточно ли вести себя разумно, чтобы быть разумным? И если однажды машина будет неотличима от нас во всём — где проходит граница между «как будто думает» и «думает»?

Тьюринг не дал готовых ответов — он дал нам отличный способ задавать правильные вопросы. И чем умнее становятся машины, тем острее звучит его игра. Возможно, проверяя компьютеры на человечность, мы заодно проверяем и самих себя: понимаем ли мы, что значит — мыслить.