Почему ИИ ошибается в простой математике, хотя умный?
Странно: ChatGPT пишет сложные тексты и код, а потом ошибается в обычном умножении или счёте. Как так? Он же вроде умный. Почему именно с математикой проблемы?
2 ответа
Это очень показательная странность, и она многое объясняет про природу ИИ.
Дело в том, что языковая модель не вычисляет, а предсказывает текст. Когда ты спрашиваешь «сколько будет 347 × 28», она не запускает калькулятор внутри. Она пытается угадать, какие цифры обычно идут в ответе на такой вопрос, опираясь на тексты, что видела. Для простых примеров (2+2) она «видела» их много и отвечает верно. Для длинных и редких вычислений — угадывает, и легко промахивается.
То есть математика для неё — это не логика, а «как обычно выглядит ответ». Поэтому:
- простой счёт чаще верный, сложный — нет;
- она может уверенно выдать неправильное число;
- многошаговые задачи (с рассуждением вслух) выходят лучше, чем «дай сразу ответ».
Что делать: для точных вычислений используй калькулятор или код. Современные ИИ это понимают и для расчётов часто сами пишут программу — это надёжнее, чем «угаданный» ответ. А для рассуждений (как решать) ИИ норм, главное — числа перепроверь.
Хороший приём: проси ИИ решать «по шагам, рассуждая вслух», а не сразу выдавать ответ. Когда он расписывает решение, ошибок становится меньше, и тебе проще заметить, где он свернул не туда. И всё равно — финальное число проверь сам.