Почему ИИ хорош в шахматах, но плох в здравом смысле
Машина обыгрывает чемпионов мира в шахматы, но может всерьёз посоветовать намазать бутерброд клеем. Разбираемся, почему сложные задачи даются ИИ легко, а простые человеческие вещи — нет.
Компьютер уже почти тридцать лет обыгрывает в шахматы лучших людей планеты, а недавно нейросеть на полном серьёзе предложила добавить в пиццу клей, чтобы сыр не сползал. Как так вышло, что машина гениальна в одном и беспомощна в другом? Оказывается, для компьютера трудное и лёгкое — это вообще не то, что для нас.
Шахматы — это рай для машины
В 1997 году суперкомпьютер Deep Blue обыграл действующего чемпиона мира Гарри Каспарова. С тех пор ни один человек не способен на равных сражаться с сильной шахматной программой. Сегодняшние движки громят гроссмейстеров с разгромным счётом, даже работая на обычном ноутбуке.
Почему машине так хорошо в шахматах? Потому что шахматы устроены идеально под компьютер. Подумай: доска ровно 64 клетки, фигуры ходят по строгим правилам, цель ясна — поставить мат. Здесь нет ничего размытого, случайного или недосказанного. Всё, что происходит, видно на доске целиком.
А компьютер умеет одно дело по-настоящему виртуозно — быстро перебирать варианты. Он просчитывает миллионы возможных продолжений в секунду: «если я пойду сюда, а он туда, а я вот так…» — и выбирает лучшую ветку. Человеческий мозг так не может, мы держим в голове от силы несколько вариантов на пару ходов вперёд.
Шахматы кажутся нам вершиной интеллекта именно потому, что они даются с трудом нам. Для машины это просто очень большая, но честная и понятная арифметика.
А теперь — завяжи шнурки
Теперь представь задачу попроще. Не садись играть в шахматы — просто завяжи шнурки. Или пойми фразу: «Положи книгу на стол, только не на ту, что мокрая». Или сообрази, что если на улице человек открыл зонт, то, скорее всего, идёт дождь.
Любой пятилетний ребёнок справится с этим мгновенно. А вот для ИИ это адски сложно. Завязать шнурки роботу — кошмар: пальцы, гибкая верёвка, узел, который надо чувствовать. Понять про мокрую книгу — нужно знать, что такое «мокрая», почему на мокрое не кладут, и догадаться, какая из книг имеется в виду. Всё это мы делаем не задумываясь.
Это и есть здравый смысл — огромный склад очевидных знаний о мире, которыми мы пользуемся, даже не замечая. Вода мокрая. Лёд холодный. Если отпустить чашку, она упадёт и разобьётся. Люди не любят, когда им наступают на ногу. Никто специально не учил тебя этим правилам — ты впитал их, просто живя.
Парадокс Моравека: всё наоборот
У этой странности есть имя — парадокс Моравека. Его сформулировали учёные-робототехники ещё в 1980-х. Звучит он примерно так:
- То, что кажется людям сложным (шахматы, сложные вычисления, логические задачи), для компьютера на самом деле легко.
- То, что кажется людям лёгким (ходить, узнавать лица, болтать, понимать намёки), для компьютера невероятно трудно.
Почему так? Дело в эволюции. Способность ходить, видеть, хватать предметы и понимать, что происходит вокруг, природа оттачивала миллионы лет. Эти умения встроены в нас так глубоко, что мы их даже не замечаем — как дыхание. А вот шахматы и алгебру человечество придумало совсем недавно, и они даются нам с напряжением, потому что мозг не был «заточен» под них.
Хорошая аналогия — айсберг. Здравый смысл — это огромная подводная часть, которую не видно. Когда ты понимаешь предложение, ты на самом деле подключаешь тысячи невидимых фактов о мире. Машина видит только верхушку — сами слова — и тонет, как только нужно достроить то, что осталось «под водой».
Почему даже умные нейросети «тупят»
«Но подождите, — скажешь ты, — современные нейросети же отлично болтают, пишут тексты и отвечают на вопросы!» Это правда. И всё же время от времени они выдают что-то нелепое: советуют есть камни «для минералов», путают, что тяжелее — килограмм пуха или килограмм железа, уверенно сочиняют факты, которых не было.
Дело в том, как они устроены. Большие языковые модели не понимают мир так, как ты. Они обучились на гигантских объёмах текста и научились предсказывать, какое слово вероятнее всего идёт следующим. Это потрясающе мощный фокус — но это не настоящее понимание. У модели нет тела, она никогда не роняла чашку, не мокла под дождём и не завязывала шнурки. Она знает слова про мир, но не сам мир.
Поэтому ИИ может блестяще решить олимпиадную задачу и тут же споткнуться на вопросе, очевидном для первоклассника. У него нет того самого подводного айсберга здравого смысла, который у нас сложился за всю жизнь и всю эволюцию.
И что это значит для нас
Вывод получается обнадёживающий. ИИ — невероятно мощный инструмент там, где задача чёткая, правила известны, а вариантов нужно перебрать много: шахматы, расчёты, поиск закономерностей в данных. В этом он давно сильнее нас и будет только сильнее.
Но здравый смысл, чувство контекста, понимание людей и умение сообразить в новой, незнакомой ситуации — пока остаются за человеком. Именно поэтому самые удачные истории — это не «машина вместо человека», а человек вместе с машиной: ты берёшь на себя смысл и решения, а ИИ — быстрый перебор и рутину.
Так что в следующий раз, когда нейросеть посоветует тебе что-то откровенно странное, не удивляйся. Она гениальна в шахматах ровно по той же причине, по которой беспомощна со шнурками. А ты, между прочим, умеешь и то, и другое.