Узкий ИИ против «сильного» ИИ

Весь ИИ, который ты используешь каждый день, — узкий: он гений в одной задаче и полный ноль во всём остальном.

Узкий ИИ — это ИИ, который умеет хорошо делать одну конкретную задачу и не понимает ничего за её пределами. Сильный ИИ (AGI) — гипотетический ИИ, способный мыслить и учиться так же гибко, как человек, в любой области; пока не создан.

В прошлом уроке мы разобрались, что такое искусственный интеллект и чем он не является. Теперь сделаем шаг дальше и ответим на вопрос, который путает почти всех: «А ИИ вообще умный? Он скоро станет умнее людей?» Спойлер: тот ИИ, что у тебя в телефоне, не умный в человеческом смысле вообще. И это нормально.

Хук: почему нейросеть рисует руку с шестью пальцами

Представь: ты просишь нейросеть нарисовать человека. Лицо — идеальное, фон — красивый, а на руке... шесть пальцев. Или семь. Ты смеёшься и думаешь: «Как так? Она же нарисовала сложное лицо, а посчитать пальцы не смогла?»

Вот это и есть главная подсказка о том, как устроен сегодняшний ИИ. Он не считает пальцы и вообще не знает, что такое рука. Он научился на миллионах картинок, что рядом с ладонью обычно есть несколько вытянутых штук. Сколько именно — он по-настоящему не понимает, потому что у него нет понятия «пять». Он гений по части «как выглядит картинка», но полный ноль в простой арифметике, которую знает первоклассник.

К концу урока ты будешь чётко видеть эту границу: где ИИ силён, а где он внезапно глупее ребёнка — и почему так происходит у любого современного ИИ, включая ChatGPT. А ещё ты получишь готовый ответ на самый частый страх из новостей: «ИИ скоро станет умнее людей во всём». После этого урока ты сможешь спокойно объяснить другу, почему этот заголовок сильно преувеличен.

Запомни главную мысль наперёд, она пройдёт через весь урок: уметь много задач и блестяще уметь одну — это совершенно разные вещи. Их легко перепутать, потому что снаружи и то, и другое выглядит «умным». Дальше мы будем разбирать именно эту путаницу.

Главная идея: специалист против человека-всезнайки

Сравни двух персонажей.

Первый — чемпион мира по шахматам, но только по шахматам. Он обыграет кого угодно на доске. Но если попросить его сварить макароны, объяснить мем или утешить друга — он зависнет. Он вообще не понимает, что такое макароны. Он умеет ровно одно.

Второй — обычный подросток. В шахматы он играет средне. Зато он может: научиться кататься на скейте, понять новую игру за пять минут, сообразить, что мама расстроена по голосу, придумать отмазку, почему не сделал домашку, и связать всё это вместе. Он не чемпион ни в чём — но он гибкий и переносит знания из одной области в другую.

Первый персонаж — это узкий ИИ. Второй — это то, чем был бы сильный ИИ (AGI), если бы он существовал. Разница не в том, кто «умнее по очкам». Разница в широте: узкий ИИ — это острая иголка (одна задача, очень точно), а человек — это швейцарский нож (много задач, гибко).

Вот ещё одна метафора, поближе к школе. Узкий ИИ — это как ученик, который зазубрил один-единственный билет наизусть, до последней запятой. Достанется этот билет — он ответит идеально, лучше всех в классе. Достанется любой другой — он повторит тот же самый текст, потому что другого просто не знает. А сильный ИИ был бы как ученик, который реально понял предмет: ему можно дать вопрос, которого не было ни в одном билете, и он сообразит ответ сам. Сегодня у нас есть только первые — гениальные зубрилы одного билета. Их билеты бывают огромными (ChatGPT «выучил» половину интернета), но принцип тот же.

И ещё важная деталь, которую часто упускают. Узкий ИИ — это не «недоделанный сильный ИИ», который вот-вот дорастёт. Это другой тип вещи. Калькулятор не превратится в математика, сколько кнопок к нему ни добавь, — он останется калькулятором. Точно так же модель, которая отлично угадывает следующее слово, не «проснётся» однажды человеком только от того, что её сделали побольше. Чтобы получить AGI, нужны идеи, которых у людей пока попросту нет.

Вернёмся к нашим кошкам и собакам

Помнишь сквозной пример всего курса — задачу «отличить кошку от собаки»? Представь, ты обучил модель, и она безошибочно сортирует тысячи фоток: вот кошка, вот собака. Кажется, она «понимает» животных, да?

А теперь покажи ей фото енота. Или хомяка. Или вообще пейзаж с горами. Что она сделает? Она всё равно ответит «кошка» или «собака» — потому что других вариантов у неё нет. Она не умеет сказать «я не знаю» или «это что-то новое». Она знает только две метки: кошка и собака. Это и есть узкий ИИ во плоти: блестяще решает ровно ту задачу, под которую обучена, и не подозревает, что мир шире.

Тот же фокус со вторым сквозным примером — предсказанием следующего слова во фразе «Кошка пьёт ...». Языковая модель уверенно подскажет «молоко». Это полезно для автодополнения. Но если ты спросишь её, пробовала ли она когда-нибудь молоко или знает ли, что такое жажда, — она не понимает этих вопросов по-настоящему. Она видела миллионы текстов, где после «Кошка пьёт» шло «молоко», и просто продолжает закономерность. Узкая задача — предсказать слово — решена отлично. Но понимания мира за этим нет.

Важный поворот: а как же ChatGPT, он же умеет всё?

Тут многие спорят: «Стоп, ChatGPT отвечает на любые вопросы — про историю, код, рецепты, стихи. Это же не одна задача!» Хороший вопрос, и вот честный ответ.

ChatGPT кажется универсальным, но под капотом он решает одну-единственную задачу: предсказать, какое слово (точнее, токен — кусочек текста) должно идти следующим. Снова и снова. Рецепт, стих и код для него — это просто разные продолжения текста. Он невероятно хорош в этой одной задаче, и поэтому выглядит всезнающим. Но это всё ещё узкий ИИ: он не водит машину, не чувствует, не ставит себе цели и не понимает смысла так, как ты. Он мастер одной игры — угадывания следующего токена. Мы подробно разберём это в разделах про языковые модели и трансформеры.

Сравни это с собой. Когда ты решаешь, что сказать другу, ты не «предсказываешь самое вероятное следующее слово». Ты понимаешь, что он чувствует, помнишь вашу историю, у тебя есть цель — поддержать или подколоть. У ChatGPT этого нет. Он не помнит тебя как человека и не хочет ничего. Он подбирает текст, который статистически хорошо продолжает разговор. Иногда это поразительно полезно, иногда — полная чушь уверенным тоном. И то, и другое рождается из одного и того же механизма.

Получается интересный парадокс: чем шире кажется ИИ снаружи, тем легче забыть, какой он узкий внутри. С распознавателем кошек всё очевидно — он явно делает одно дело. А ChatGPT так гладко болтает, что хочется приписать ему понимание и чувства. Не поддавайся. Это та же самая узость, просто очень хорошо замаскированная под универсальность.

Разбор на примерах

Курс концептуальный, поэтому код тут — не нейросеть, а маленькая иллюстрация идеи «узкого специалиста». Разберём по шагам.

Пример 1: «специалист», который знает только две метки

Сделаем простейшую функцию-классификатор кошек и собак. Она смотрит на один признак (грубо — «есть слово cat в описании») и выдаёт метку. Обрати внимание: что бы ты ей ни дал, она всегда ответит «кошка» или «собака».

function uzkijII(opisanie) {
  // "Модель" знает только две метки и один признак
  if (opisanie.includes("мяу")) {
    return "кошка";
  }
  return "собака";
}

console.log(uzkijII("животное говорит мяу"));
console.log(uzkijII("животное говорит гав"));
console.log(uzkijII("это енот в лесу"));
console.log(uzkijII("красивые горы на закате"));

Вывод:

кошка
собака
собака
собака

Смотри: енота функция назвала собакой, а горы — тоже собакой. Не потому что она «ошиблась с пониманием», а потому что у неё в принципе нет других вариантов. Это поведение любого узкого ИИ: вне своей задачи он не молчит и не сомневается, он просто выдаёт ближайший знакомый ответ.

Разберём по шагам, что тут происходит. Функция uzkijII — это наша игрушечная «модель». Её единственный «навык» спрятан в условии if: есть слово «мяу» — значит «кошка», иначе — «собака». Никакой логики про животных тут нет, есть только этот один признак. На строках с вызовами console.log мы скармливаем ей четыре разных описания. Первые два честно ложатся в её мир: «мяу» → кошка, «гав» → собака (в тексте нет «мяу», значит сработала вторая ветка). А вот третий и четвёртый — енот и горы — для неё одинаковы: в них нет «мяу», поэтому оба получают ярлык «собака». Заметь: настоящая нейросеть не пишет такие if руками — она сама находит признаки в данных. Но итог тот же: за пределами обученной задачи ответ бессмысленный, хоть и уверенный.

Пример 2: тот же специалист на чужой задаче

Теперь попросим наш «классификатор кошек» сделать что-то совсем другое — например, сложить два числа. У человека это вызвало бы смех, а у узкого ИИ — нет: он даже не поймёт, что задача сменилась.

function uzkijII(opisanie) {
  if (opisanie.includes("мяу")) {
    return "кошка";
  }
  return "собака";
}

// Пытаемся применить "специалиста по кошкам" к арифметике
console.log(uzkijII("сколько будет 2 + 2"));

Вывод:

собака

«2 + 2 = собака» — вот идеальная картинка узости. Модель не умеет говорить «это не моя задача». Именно поэтому красивая нейросеть рисует шесть пальцев: посчитать она не обучена, а выдать правдоподобную картинку — обучена, вот и выдаёт.

Пример 3: почему "много навыков" — это всё ещё одна задача

Покажем идею ChatGPT в миниатюре. Пусть наш «универсал» отвечает и про погоду, и про математику, и про приветствие — но внутри это просто поиск готового шаблона, а не понимание.

function odnaZadacha(vopros) {
  // Снаружи кажется "умным помощником",
  // внутри — одна задача: подобрать заготовленный ответ по ключевому слову
  const shablony = [
    { klyuch: "привет", otvet: "Привет! Чем помочь?" },
    { klyuch: "погода", otvet: "Сегодня, наверное, нормально." },
    { klyuch: "кошка", otvet: "Кошки классные!" },
  ];
  for (const s of shablony) {
    if (vopros.includes(s.klyuch)) {
      return s.otvet;
    }
  }
  return "Не знаю, что ответить.";
}

console.log(odnaZadacha("привет, как дела"));
console.log(odnaZadacha("какая сегодня погода"));
console.log(odnaZadacha("докажи теорему Пифагора"));

Вывод:

Привет! Чем помочь?
Сегодня, наверное, нормально.
Не знаю, что ответить.

Пройдём по коду. Внутри лежит список shablony — пары «ключевое слово → готовый ответ». Цикл for по очереди проверяет каждый шаблон: если в вопросе встретилось ключевое слово, функция возвращает заготовленный ответ и останавливается. На приветствие и погоду у нас шаблоны есть, поэтому первые два вызова отвечают по делу. А вот «докажи теорему Пифагора» не содержит ни одного из ключей привет, погода, кошка — цикл доходит до конца, ничего не находит и выдаёт честное «Не знаю, что ответить.». Получается, эта функция выглядит как мини-помощник на три темы, но на самом деле у неё ровно одна способность: найти совпадение по ключу.

Снаружи функция будто бы «умеет общаться на разные темы». На деле она делает одно: ищет подходящий шаблон. Настоящий ChatGPT устроен в миллионы раз сложнее и не использует готовые фразы — он предсказывает текст по токену, поэтому почти никогда не говорит «не знаю» (он всегда найдёт какое-то правдоподобное продолжение). Но идея та же: видимость широты — это очень хорошее выполнение одной узкой задачи, а не настоящая универсальность, как у человека.

Узкий ИИ окружает тебя прямо сейчас

Тут важно не уйти в ощущение «ну это всё игрушечные функции, а настоящий ИИ другой». Нет — весь ИИ, которым ты пользуешься, устроен по принципу узкого специалиста. Вот честный список из обычного дня подростка.

Видишь закономерность? Каждый из них — суперзвезда в одном столбце и полный ноль в соседнем. Ни один не умеет сам взять и научиться новому делу, как это делаешь ты, когда осваиваешь новую игру. Чтобы такой ИИ начал решать другую задачу, людям нужно собрать новые данные и обучить его заново. Сам он на это не способен.

Развеиваем миф: «AGI вот-вот появится»

Ты наверняка видел заголовки вроде «ИИ обретёт сознание к следующему году» или «машины скоро заменят людей во всём». Давай спокойно разберёмся, почему к таким словам стоит относиться с большим скепсисом.

Во-первых, у нас нет работающего примера AGI — ни одного. Всё, что существует, — это узкие системы, пусть и очень мощные. Прогноз «скоро будет AGI» — это не наблюдение факта, а чья-то догадка, часто от людей, которым выгодно создать шумиху (инвестиции, подписчики, продажи).

Во-вторых, есть простой бытовой тест на узость, который ты можешь применять сам: спроси, умеет ли система учиться новой задаче без помощи людей. Человек учится сам: попробовал, ошибся, понял, перенёс опыт. Сегодняшний ИИ так не умеет — его каждый раз дообучают люди под конкретную задачу. Пока этот тест ИИ не проходит, говорить об AGI рано.

В-третьих, «быстро в одной задаче» и «близко к человеку во всём» — это два совершенно разных движения. Узкий ИИ и правда стремительно улучшается: картинки стали реалистичнее, тексты — связнее. Но это движение вглубь одной задачи, а не вширь к человеческой гибкости. Можно сколько угодно затачивать иголку — швейцарским ножом она от этого не станет.

И финальное, честное уточнение: никто точно не знает, появится ли AGI вообще и когда. Может, через десятки лет, может, никогда. Поэтому правильная позиция — не страх и не восторг, а спокойствие: сегодня весь ИИ узкий, и этого достаточно, чтобы он был и полезным, и иногда смешно глупым.

Частые ошибки и подводные камни

• «ИИ умеет много, значит он сильный (AGI)». Нет. Универсальность ChatGPT — это иллюзия от мастерства в одной задаче (предсказать токен). AGI пока не создан — это гипотеза, а не продукт на полке.
• «Раз модель ошибается в простом — значит, она сломана». Тоже нет. Шесть пальцев или «2 + 2 = собака» — это не баг, а прямое следствие узости: модель не обучена этой задаче, а сказать «не знаю» не умеет.
• «ИИ нас вот-вот обгонит во всём». Узкий ИИ давно обгоняет людей в отдельных задачах (шахматы, распознавание фото) — и это нормально, как калькулятор считает быстрее тебя. Но «во всём сразу и гибко» — это AGI, которого нет. Не путай узкое превосходство с общим.
• «Если ИИ говорит уверенно — значит, он понимает». Уверенный тон ничего не говорит о понимании. Модель уверенно выдаёт ближайший знакомый ответ, даже когда он неверный, — позже мы назовём это галлюцинацией.
• «Узкий ИИ — это что-то слабое и устаревшее». Наоборот. Весь впечатляющий ИИ вокруг тебя — узкий: рекомендации в ленте, голосовые помощники, нейросети-художники, ChatGPT. «Узкий» не значит «плохой», это значит «специализированный».

Мини-практика: стань охотником за узким ИИ

Никакого кода — только наблюдательность. Возьми три ИИ, которыми ты реально пользуешься за день, и заполни про каждый табличку (можно в заметках телефона).

1. Назови инструмент. Например: рекомендации Shorts/Reels, автодополнение клавиатуры, Shazam, фильтр в камере, ChatGPT.
2. Сформулируй ОДНУ задачу, которую он решает. Подсказка: «угадать, какое видео тебе понравится», «предсказать следующее слово», «узнать песню по звуку».
3. Придумай вопрос вне его задачи и предскажи, как он опозорится. Например, спроси у Shazam, какая завтра погода, — он просто не поймёт.

Теперь финальный шаг: посмотри на свою таблицу и найди хотя бы один инструмент, который реально гибкий — умеет учиться любой новой задаче сам, без переобучения людьми. Спойлер: ты его не найдёшь. И это твоё личное доказательство того, что AGI пока не существует.

Хочешь усложнить? Возьми любой ИИ и придумай задачу, в которой он обгонит человека, и задачу, в которой проиграет пятилетнему ребёнку. У каждого узкого ИИ найдётся и то, и другое — в этом вся его суть.

Итоги

• Узкий ИИ блестяще решает одну конкретную задачу и не понимает ничего за её пределами. Это весь ИИ, существующий сегодня.
• Сильный ИИ (AGI) — гипотетический ИИ, гибкий, как человек, в любой области. Его пока не создали, и неизвестно, когда (и создадут ли).
• Наша модель «кошка против собаки» и предсказание слова в «Кошка пьёт ...» — оба примера узкого ИИ: вне своей задачи они выдают ближайший знакомый ответ, а не «я не знаю».
• Даже ChatGPT — узкий ИИ: его широта это очень хорошее выполнение одной задачи (предсказать следующий токен), а не настоящее понимание мира.
• «Узкий» не значит «слабый» — узкий ИИ давно обгоняет людей в отдельных задачах. Просто не путай это с разумом.

В следующем уроке мы перестанем рассуждать «снаружи» и заглянем внутрь: как именно модель учится на примерах с правильными ответами — то самое обучение с учителем. Вернёмся к нашим кошкам и собакам и посмотрим, как из кучи размеченных фоток получается работающий «специалист». Поехали!