что terry winograd пишет и говорит в 2017…2026?

Если кратко: в 2017–2026 годах Терри Виноград, судя по доступным публичным материалам, не выпускал заметного корпуса новых книг или крупных технических исследований. Он главным образом выступает как профессор emeritus и критический собеседник об ИИ, HCI, дизайне и социальных последствиях технологий.

Что видно по годам

Период	Что он писал или говорил
2017	В интервью The Economist обсуждался тест Винограда — Winograd Schema — как проверка способности компьютеров учитывать здравый смысл и контекст, а не только подбирать статистически вероятные слова. В том же году профиль Stanford описывал его текущую работу в human-computer interaction, дизайне и Liberation Technology. ¹²
2018–2020	В открытом доступе чаще переиздавались его более ранние тексты, например эссе From Computing Machinery to Interaction Design о переходе от представления компьютера как вычислительной машины к проектированию взаимодействия человека и системы. Это не новый текст 2018 года, а публикация его работы 1997 года. ³
2020–2024	Виноград оставался заметен прежде всего как интеллектуальный комментатор и историк собственных идей: естественный язык, SHRDLU, HCI, дизайн, этика компьютерных систем и критика узкого символического понимания интеллекта. Stanford Oral History фиксирует его рассуждения о связи ИИ, HCI и computer science, а также о социальных вопросах и этике. ⁴
2024–2025	В Boston Review существует авторская страница Винограда, но по найденным материалам нельзя уверенно утверждать, что в этот период он регулярно публиковал новые статьи. ⁵
2025–2026	Он участвовал в разговоре Stanford HAI Generative Frictions: A Conversation on AI вместе с Люси Сачман. Тема — чему старые споры об ИИ, situated action, социальных практиках и Computer Professionals for Social Responsibility могут научить в эпоху генеративного ИИ. ⁶ В 2026 году Stanford также сообщил о его избрании в National Academy of Engineering. ⁷

Его главная позиция в эпоху ChatGPT

Его взгляд можно сжать до нескольких тезисов:

Интеллект нельзя сводить к манипуляции символами. Виноград давно критиковал представление, будто понимание языка — это только обработка формальных структур. Важны ситуация, человеческие практики, тело, цели и социальный контекст.⁶
Успешный языковой вывод не равен пониманию. Система может выдать правдоподобный ответ, не обладая человеческим отношением к миру и не участвуя в тех практиках, где слова получают смысл.
Компьютерные системы нужно рассматривать как элементы социотехнических отношений. Вопрос не только в том, насколько модель точна, но и в том, кто формулирует задачу, кто контролирует систему, кого она исключает и какие формы поведения навязывает.
Дизайн важнее одной лишь производительности. В HCI он традиционно выступает за проектирование инструментов вокруг человеческих действий, а не за адаптацию людей к логике машины.
Критика ИИ должна быть исторической и политической. В разговоре Stanford HAI вместе с Люси Сачман он возвращался к опыту CPSR — организации, занимавшейся ответственностью компьютерных специалистов и общественными рисками технологий.⁶

Что он, вероятно, не утверждает

Найденные источники не подтверждают, что Виноград в 2017–2026 годах:

написал новую фундаментальную книгу о больших языковых моделях;
создал новую версию Winograd Schema;
стал активным разработчиком современных нейросетевых моделей;
публично объявил, что генеративный ИИ уже обладает человеческим пониманием.

Наоборот, его современные выступления выглядят как продолжение прежней линии: не отрицать полезность технологий, но не путать их функциональную успешность с человеческим пониманием и социальным интеллектом.

Важная оговорка

В поиске обнаруживается гораздо больше материалов о его работах 1960–1990-х годов, позднейших интервью и биографических профилей, чем новых публикаций за 2017–2026 годы. Поэтому корректнее говорить не «что он написал за этот период», а: как он продолжает применять свои старые идеи к генеративному ИИ и современному дизайну технологий.

⁸⁹¹⁰¹¹¹²¹³¹⁴¹⁵¹⁶¹⁷¹⁸¹⁹²⁰

⁂

В чем суть схемы Винограда и как она используется в тестах современных LLM

Схема Винограда — это короткая задача на разрешение местоименной неоднозначности, где правильный ответ нельзя надежно получить одной грамматикой или частотностью слов: требуется знание ситуации и здравый смысл. Название связано с Терри Виноградом, хотя сам тест предложили Гектор Левеск, Эрнест Дэвис и Лейла Моргенштерн.²¹

Как это работает

Классическая схема состоит из:

короткого предложения;
местоимения, которое может относиться к двум существительным;
вопроса о том, к чему относится местоимение;
двух вариантов ответа.

Например:

Paul tried to call George on the phone, but he wasn’t available.
Кто был недоступен — Пол или Джордж?

Ответ: обычно Джордж, потому что Пол пытался ему позвонить, а недоступным оказался тот, кому звонили.

Но важен не только сам вопрос. Хорошая схема является парой почти одинаковых предложений, где изменение одного слова меняет правильную интерпретацию. Например:

The trophy doesn’t fit into the brown suitcase because it is too large.
Что слишком велико — трофей или чемодан?

Если заменить large на small, естественная интерпретация меняется: слишком большой трофей не помещается в чемодан; слишком маленький чемодан также не вмещает трофей. Именно такой «переключатель» и делает задачу тестом контекстного рассуждения, а не простого угадывания.²²²¹

Что проверяет задача

Она проверяет сразу несколько способностей:

разрешение кореференции — понимание, к какому существительному относится местоимение;
использование фоновых знаний о мире;
причинно-следственное рассуждение;
чувствительность к небольшим изменениям формулировки;
устойчивость к поверхностным языковым ассоциациям.

Замысел состоял в том, чтобы сделать задачу легкой для человека, но трудной для системы, которая просто подсчитывает, какие слова обычно встречаются вместе. Для этого схемы должны быть «Google-proof»: поиск по корпусу или простое статистическое правило не должны надежно давать ответ.²¹²²

Как это дают LLM

Для языковой модели такую задачу можно предъявить несколькими способами.

Multiple choice

Модели показывают предложение и два ответа:

The trophy doesn’t fit into the suitcase because it is too large.
Что слишком велико?
A. trophy
B. suitcase

Затем считают долю правильных ответов. Это наиболее простой способ сравнивать модели.

Заполнение пропуска

Местоимение заменяют пропуском:

The trophy doesn’t fit into the suitcase because ___ is too large.

Модель должна выбрать the trophy или the suitcase. Иногда оценивают вероятность каждого варианта, а не только текстовый ответ.

Вопрос-ответ

Модели дают исходный текст и прямо спрашивают:

К чему относится местоимение “it”?

Такой вариант ближе к обычному использованию чат-бота, но результаты сильнее зависят от формата промпта и способности модели следовать инструкции.

Few-shot или chain-of-thought

Перед тестом модели могут показать несколько решенных примеров или попросить объяснить ход рассуждения. Это иногда повышает результат, но не обязательно доказывает более глубокое понимание: модель может лучше освоить формат задачи или подобрать полезную стратегию ответа.

Какие наборы используют сейчас

Оригинальный WSC — небольшой набор примерно из 273 экспертно составленных задач. Поэтому современные исследования используют также расширенные и измененные варианты:

Набор	Назначение
WSC	Оригинальные схемы на здравый смысл и местоименную референцию.
SuperGLUE WSC	Версия WSC в составе benchmark SuperGLUE; задача обычно оформлена как бинарная классификация.
WinoGrande	Около 44 тысяч задач, созданных для увеличения масштаба и уменьшения скрытых статистических подсказок. ²³
WSC+	Более сложные и разнообразные варианты; в исследовании 2024 года GPT-4 получил 68,7% против человеческого результата 95,1%. ²²
EvoGrad	Проверка устойчивости: исходные примеры слегка перефразируют или изменяют. Даже небольшие изменения могут резко ухудшать ответы LLM. ²⁴
WinoWhat	Парафразы и более естественные переформулировки, предназначенные для проверки того, не запомнила ли модель шаблоны исходных задач. ²⁵

Почему высокий балл не равен пониманию

В начале эпохи трансформеров WSC считался сильным тестом здравого смысла. Однако затем модели стали показывать около 90% на некоторых вариантах, что породило сомнение: они действительно рассуждают или используют скрытые закономерности набора данных?²³

Проблема состоит в нескольких вещах:

небольшой тест можно случайно или намеренно включить в обучающие данные;
некоторые примеры имеют лексические подсказки;
одна и та же форма задачи может быть знакома модели;
правильный ответ иногда коррелирует с длиной, частотностью или позицией вариантов;
объяснение после ответа может быть правдоподобной рационализацией, а не причиной, по которой модель выбрала ответ.

Именно поэтому новые версии меняют формулировки, удаляют статистические артефакты, используют парафразы и проверяют поведение модели на невидимых вариантах. В исследовании WinoGrande авторы специально применяли процедуру уменьшения скрытых ассоциаций; при этом лучшие методы первоначально заметно уступали людям — примерно на 15–35 процентных пунктов в зависимости от режима обучения.²³

Как интерпретировать результат

Практически WSC сегодня лучше понимать не как «экзамен на наличие разума», а как узкий диагностический тест:

высокий результат показывает, что модель хорошо решает определенный класс задач на контекст и кореференцию;
падение результата на перефразах указывает на хрупкость рассуждения;
разрыв между оригинальным WSC и WSC+/EvoGrad помогает обнаружить запоминание шаблонов;
сравнение с людьми показывает, насколько модель обобщает, а не просто угадывает ответы.

Главный вывод: LLM могут очень хорошо решать классические схемы Винограда, но это само по себе не доказывает человеческое понимание. Более надежная проверка — давать новые, перефразированные и контрфактические варианты, контролировать загрязнение обучающих данных и оценивать не только ответ, но и устойчивость модели к изменению формулировки.

²⁶²⁷²⁸²⁹³⁰³¹³²³³³⁴³⁵³⁶

⁂

как Терри Виноград продолжает применять свои старые идеи к генеративному ИИ и современному дизайну технологий

Суть его современной позиции такова: генеративный ИИ следует проектировать не как “цифрового человека”, а как ограниченный инструмент, встроенный в человеческие практики, отношения и ответственность. Виноград переносит к LLM идеи из Understanding Computers and Cognition — о контексте действия, языке как социальной практике и дизайне технологий, которые меняют сам мир человеческих ролей и возможностей.

1. От «понимающей машины» к полезному посреднику

В ранних работах Виноград критиковал идею, что компьютер можно сделать мыслящим человеком, если снабдить его достаточным набором символов и правил. В современной версии его аргумент звучит так:

LLM может убедительно продолжать текст;
может быть полезной в письме, программировании, поиске идей и анализе;
но это не означает, что у нее есть человеческое понимание, намерения или забота.

В описании его лекции 2026 года эта мысль сформулирована прямо: большие языковые модели не обладают реальным пониманием или намерением, хотя часто создают такое впечатление; пользоваться ими можно, если человеческие решения и забота остаются основанием процесса.³⁷

Поэтому он, вероятно, предложил бы оценивать чат-бота не вопросом «разумен ли он?», а вопросами:

какую человеческую задачу он поддерживает;
какие ошибки возможны;
кто проверяет результат;
кто несет ответственность;
какие отношения между людьми меняются из-за его использования.

2. Язык — это действие, а не только текст

Виноград и Фернандо Флорес рассматривали язык не просто как передачу информации, а как способ совершать действия: обещать, просить, договариваться, брать обязательства и координировать работу.

Это особенно важно для современных AI-агентов. Если система говорит:

«Я отправлю письмо»,
«Я забронирую встречу»,
«Я проверил данные»,

то это уже не нейтральная генерация текста. Такие фразы могут создавать обязательства и запускать действия. Поэтому интерфейс должен явно различать:

предложение действия;
подготовку действия;
выполнение действия;
подтверждение результата;
ответственность за последствия.

Иначе разговорный интерфейс маскирует переход от слов к реальному вмешательству в мир.

3. Контекст важнее изолированного ответа

Идея situated action — «ситуативного действия» — означает, что смысл действия определяется конкретной обстановкой, участниками, их целями и доступными ресурсами.

Применительно к LLM это означает: нельзя проектировать модель как универсального оракула, выдающего ответ вне контекста. Нужно проектировать весь контур:

откуда модель получила информацию;
что она знает о ситуации;
какие ограничения действуют;
какие люди затронуты решением;
как пользователь может исправить предположения системы;
что происходит при неопределенности.

Например, медицинский чат-бот не должен просто выдавать «наиболее вероятный диагноз». Его нужно встраивать в процесс, где он показывает источники и неопределенность, задает уточняющие вопросы, предлагает обратиться к специалисту и не создает ложного впечатления окончательного решения.

4. Человек не должен исчезать из процесса

Для Винограда human-centered design — это не добавление красивого интерфейса к готовой технологии. Это проектирование системы вокруг реальных человеческих целей и отношений.

В случае LLM человек должен оставаться не формальным «оператором, который нажимает кнопку», а участником, который:

формулирует задачу;
понимает ограничения модели;
проверяет существенные утверждения;
принимает решения;
может оспорить результат;
отвечает за применение результата.

Отсюда следует принцип: AI должен поддерживать человеческие отношения, а не заменять их. В материалах о его лекции 2025 года эта формула приведена как практическое продолжение идей Understanding Computers and Cognition.³⁸

Это особенно заметно в образовании, медицине, праве, социальной работе и управлении — там, где важны эмпатия, доверие, ответственность и интерпретация конкретной жизненной ситуации.

5. Дизайн меняет не только интерфейс, но и социальные роли

Виноградовский подход к «онтологическому дизайну» утверждает, что технологии не просто помогают выполнять уже существующие действия. Они меняют то, какие действия, роли и отношения вообще становятся возможными.

Применительно к генеративному ИИ это можно увидеть на примерах:

автосаммари превращает совещание в набор формализованных решений;
AI-ассистент меняет представление о том, что значит «самостоятельно написать текст»;
рекомендательная система перераспределяет право решать, что важно;
агент, действующий от имени пользователя, меняет границы авторства и ответственности.

На форуме Berkeley MDes 2026 эту линию применили к «агентному дизайну»: обсуждался переход от интерфейсов к системам, которые действуют от чьего-либо имени. В описании форума подчеркивается, что дизайнеры должны спрашивать не только «что автоматизируется», но и «для кого, какой ценой и в чьих интересах».³⁹

6. «Агент» — не просто помощник пользователя

Виноград осторожно относится к выражению «AI действует от имени пользователя». На деле современный агент часто действует в рамках целей компании, платформы или государственного учреждения, которое его создало.

Поэтому при проектировании агента нужно раскрывать:

Вопрос	Что нужно выяснять
От чьего имени действует система?	Пользователя, компании, государства или нескольких сторон.
Кто определяет цель?	Пользователь, разработчик, владелец данных или алгоритм оптимизации.
Какие действия разрешены?	Только рекомендации или также отправка, покупка, изменение записи.
Кто видит последствия?	Только пользователь или другие люди и организации.
Кто может остановить действие?	Пользователь, администратор, оператор или никто.
Кто отвечает за ошибку?	Конкретный человек, организация или «сама модель» — последний вариант неприемлем.

Такой анализ прямо продолжает его старую мысль: компьютер нужно понимать не изолированно, а в контексте коммуникации и более широкой сети инструментов и практик.⁴⁰

7. Критика не означает отказ от ИИ

Виноград не занимает позицию «всё AI вредно». В описании лекции Cornell он специально представлен как не энтузиаст и не «думер»: его интересует не общий оптимизм или паника, а то, что системы реально делают и как люди встраивают их в мир.³⁷

Его практическая позиция скорее такая:

использовать LLM там, где они расширяют человеческие возможности;
не приписывать им намерения и понимание;
ограничивать автономные действия;
делать неопределенность видимой;
сохранять человеческую проверку там, где цена ошибки высока;
проектировать систему с учетом тех, кто не является непосредственным пользователем, но пострадает от ее решений.

Итог

Старые идеи Винограда применительно к генеративному ИИ дают не новый алгоритм, а другую рамку проектирования:

Не «как сделать модель более похожей на человека?», а «какую человеческую практику она поддерживает?»
Не «правдоподобен ли ответ?», а «что этот ответ позволяет сделать и кто за это отвечает?»
Не «удобен ли интерфейс?», а «какие роли, обязательства и отношения он формирует?»
Не «может ли агент действовать автономно?», а «имеет ли он право действовать от имени людей и перед кем он подотчетен?»

Именно поэтому Виноград остается актуален для дизайна LLM: он помогает увидеть генеративный ИИ не как загадочный искусственный разум, а как участника человеческой деятельности, который меняет практики, распределение власти и границы ответственности.

⁴¹⁴²⁴³⁴⁴⁴⁵⁴⁶⁴⁷⁴⁸⁴⁹⁵⁰⁵¹

⁂

как Terry Winograd оценивает современные чат-боты в сравнении со старым GOFAI

Терри Виноград, по доступным его выступлениям и интервью, не считает современные чат-боты просто «улучшенной версией» старого GOFAI. Его оценка скорее двойственная: LLM намного шире и гибче классических систем, но они не устранили фундаментальную проблему — отсутствие собственного понимания, намерений и заботы.⁵²⁵³

Главное различие

	GOFAI и SHRDLU	Современные чат-боты
Основной механизм	Явные символы, правила, грамматика, модель мира	Обучение на больших массивах данных и предсказание продолжения
Масштаб	Узкий, заранее заданный микромир	Огромный диапазон тем и стилей
Поведение	Предсказуемое внутри заданных правил	Гибкое, но вероятностное и иногда непредсказуемое
Знание	Явно закодировано разработчиками	Распределено в параметрах модели
Сильная сторона	Формальная последовательность и контролируемость	Языковая гибкость, обобщение, работа с неоднозначными запросами
Главный недостаток	Хрупкость и ограниченность мира	Убедительные ошибки, отсутствие понимания и ответственности

Что показал SHRDLU

SHRDLU Винограда был впечатляющим примером GOFAI: пользователь мог давать команды на естественном языке, а программа манипулировала объектами в виртуальном «мире кубиков». Она могла понимать пространственные отношения, выполнять последовательность действий и отвечать на вопросы.

Но это понимание работало только внутри заранее созданного мира с фиксированными объектами, правилами и физикой. За пределами этого микромира система практически теряла способность рассуждать. В этом Виноград увидел не только техническое ограничение, но и более глубокую ошибку: язык нельзя полностью отделить от жизненной ситуации, человеческих целей и практик.⁵⁴

Почему LLM кажутся гораздо умнее

Современные чат-боты превосходят SHRDLU в нескольких отношениях:

свободно работают с открытым текстом;
поддерживают множество тем;
перефразируют, переводят и суммируют;
адаптируют стиль ответа;
используют контекст диалога;
могут проявлять впечатляющую гибкость без ручного кодирования каждого правила.

Именно это отличает их от классического GOFAI. Разработчикам не нужно заранее описывать все возможные объекты и ситуации. Модель извлекает статистические закономерности из огромного корпуса человеческих текстов.

В интервью 2023 года Виноград обсуждал, что современные модели действительно демонстрируют поведение, которое раньше считалось недостижимым для чисто статистического подхода: гибкое употребление языка, ответы на новые вопросы и способность работать с разнообразными формами текста.⁵³

Но это не возврат к пониманию

Виноград не делает из успеха LLM вывод, что старая критика GOFAI опровергнута. Его аргумент примерно такой:

старый ИИ слишком рано объявил обработку символов пониманием; новый ИИ иногда слишком рано объявляет статистическую генерацию пониманием.

Для него чат-бот:

не обладает собственной жизненной ситуацией;
не имеет человеческих целей и потребностей;
не заботится о результате;
не вступает в отношения так, как вступает человек;
не несет ответственности за сказанное;
не понимает смысл в человеческом, практическом смысле.

В описании его лекции Cornell это сформулировано прямо: LLM и сходные системы не имеют реального понимания или намерения, хотя часто создают впечатление, что они ими обладают. При этом они могут быть полезны, если человеческая забота и суждение остаются основанием их применения.⁵²

В чем он видит преемственность

Парадокс в том, что GOFAI и LLM внешне противоположны, но у них есть общая черта: обе традиции склонны превращать язык в объект обработки.

GOFAI представлял язык как символы, которые можно разобрать и преобразовать по правилам.
LLM представляет язык как последовательности токенов и изучает закономерности их совместного появления.

Различается техника, но остается риск: принять формальное поведение за человеческое понимание. Виноград вместе с Фернандо Флоресом утверждал, что человеческий язык укоренен в действиях, обязательствах, интерпретации и социальных отношениях. Поэтому ни явные правила, ни масштабная статистика сами по себе не дают полноценного понимания.

LLM сильнее в широте, GOFAI — в контроле

Виноград, вероятно, не стал бы утверждать, что старые системы были бесполезны. У GOFAI есть качества, которых часто не хватает чат-ботам:

явно заданные правила;
возможность проверить цепочку вывода;
предсказуемость;
ограниченная область действия;
отсутствие произвольного «галлюцинирования» за пределами базы фактов.

У LLM противоположные преимущества:

естественная работа с неформулированными запросами;
гибкость;
масштаб;
способность находить неожиданные связи;
низкий порог взаимодействия.

Иными словами, SHRDLU часто был слишком уверен только внутри слишком маленького мира, а чат-бот может быть полезен в огромном мире, но иногда уверенно ошибается. Это не простая смена «плохой технологии на хорошую», а обмен одного типа ограничений на другой.

Как Виноград предлагает оценивать чат-боты

Вместо вопроса «насколько бот похож на человека?» он предлагает смотреть на то, как технология включается в человеческую деятельность:

Что именно делает система? Генерирует текст, предлагает вариант, принимает решение или действует от имени пользователя?
Каковы последствия ошибки? Ошибка в черновике письма и ошибка в медицинской рекомендации — не одно и то же.
Кто проверяет результат? Пользователь должен иметь возможность понять, исправить и отклонить ответ.
Кто несет ответственность? Нельзя перекладывать ее на модель.
Поддерживает ли система человеческие отношения или вытесняет их?

В современном пересказе его идей особенно выделяется принцип «care over efficiency»: систему следует проектировать не только ради скорости и производительности, но и с учетом человеческой заботы, доверия и отношений.⁵⁵

Итоговая оценка

Его позицию можно сформулировать так:

GOFAI правильно показал ценность явных структур, но переоценил роль формальных символов и недооценил контекст человеческой жизни.
Современные чат-боты правильно показали силу обучения на языке и масштабного статистического обобщения, но их языковая гибкость не доказывает понимания.
Будущее для него — не выбор между «старыми правилами» и «новыми нейросетями», а ответственное проектирование систем, где модели могут быть полезными компонентами, но не подменяют человеческое суждение, заботу и ответственность.

Коротко: для Винограда LLM — это огромный шаг вперед по сравнению с SHRDLU в области языковой гибкости, но не окончательное решение проблемы понимания. Они сделали машину гораздо более убедительным собеседником, однако убедительность — еще не участие в человеческом мире.

⁵⁶⁵⁷⁵⁸⁵⁹⁶⁰⁶¹⁶²⁶³⁶⁴⁶⁵⁶⁶⁶⁷

⁂

Почему Терри Виноград разочаровался в ранних методах обработки естественного языка

Терри Виноград разочаровался не в самой идее компьютерной обработки текста, а в предположении, что синтаксический анализ плюс формальное представление знаний автоматически дадут понимание языка. Его собственный SHRDLU показал одновременно силу и пределы такого подхода: программа убедительно разговаривала и действовала в мире кубиков, но почти всё ее «понимание» было заранее встроено разработчиком.

Урок SHRDLU

SHRDLU работал в ограниченном blocks world: знал небольшое число объектов, их свойства и допустимые действия. Он мог интерпретировать команды вроде «положи красный куб на синий», отвечать на вопросы и объяснять некоторые действия.

Но эта способность зависела от трех условий:

слова были связаны с заранее заданными объектами и процедурами;
мир имел небольшое число правил;
почти все необходимые знания были запрограммированы вручную.

За пределами этого микромира система не могла переносить свои методы на обычную жизнь. Ее «понимание» было не общим пониманием языка, а умением работать в тщательно сконструированной предметной области.⁶⁸⁶⁹

Основные причины разочарования

1. Узкая предметная область

SHRDLU не понимал язык независимо от мира кубиков. Его лексика, семантика и фоновые знания были чрезвычайно бедны по сравнению с повседневным человеческим языком. Уже в описании системы отмечалось, что ее словарь и представление окружающей среды были «impoverished» по сравнению с знаниями, которые человек использует в обычной речи.⁶⁹

Добавить новый предмет или перенести систему на кухню, улицу или социальную ситуацию означало не просто загрузить новые слова, а существенно переписать модель мира, правила вывода и грамматические процедуры.

2. Знания нельзя исчерпывающе запрограммировать

Ранний подход предполагал, что интеллект можно построить, если достаточно подробно описать:

объекты;
свойства;
отношения;
действия;
правила вывода;
исключения.

Но обычная речь опирается на огромное количество неявных знаний: физику, социальные нормы, цели собеседника, ожидания, историю ситуации и то, что обычно остается невысказанным.

Виноград пришел к выводу, что «здравый смысл» — не компактная база фактов, которую можно просто внести в компьютер. Он проявляется в конкретной ситуации и в способности действовать внутри человеческого мира.

3. Логика не охватывает обычное рассуждение

Ранние системы были ориентированы на предикатную логику и дедуктивные операции. Но значительная часть человеческого понимания не выглядит как строгий логический вывод.

Люди интерпретируют высказывания через:

вероятные цели говорящего;
контекст разговора;
социальные роли;
привычные сценарии;
телесный и практический опыт;
то, что собеседники считают само собой разумеющимся.

Виноград писал, что лишь малая часть человеческого «рассуждения» соответствует форме дедуктивной логики. Представления, которые хорошо работают в формальной задаче, оказываются недостаточными для обычного языка.⁷⁰

4. Слабая модель диалога

Человек понимает реплику с учетом того, кто говорит, кому, зачем и что уже было сказано. Ранние NLU-системы чаще рассматривали предложение как самостоятельный объект для анализа.

В критике таких систем Виноград выделял отсутствие полноценной модели:

собеседника;
общих знаний;
целей разговора;
дискурса;
скрытых предположений;
социальных аспектов языка.

SHRDLU мог обработать команду в своей предметной области, но не обладал человеческой моделью партнера по диалогу. Поэтому он не мог делать многие естественные для человека выводы о намерении и ситуации.⁷¹

5. Отсутствие нормального обучения

Система могла работать с теми словами и концептами, которые заранее определил программист. Она не училась в человеческом смысле:

не извлекала новое понятие из контекста;
не перестраивала грамматику на основе опыта;
не расширяла самостоятельно модель мира;
не перенимала социальные значения слов.

В результате знание системы оставалось «замороженным» программой. Чтобы расширить возможности, нужно было снова вмешиваться в код и представление знаний.⁷¹

6. Слишком сильная привязка смысла к процедуре

В ранней модели было естественно определять значение слова через операцию, которую программа должна выполнить. Например, понять команду — значит преобразовать ее в инструкцию для процедуры.

Но не каждое высказывание является командой. Люди:

рассказывают;
шутят;
предупреждают;
намекают;
обещают;
выражают сомнение;
создают обязательства;
меняют отношения между собеседниками.

Поэтому значение нельзя полностью свести к процедуре, запускаемой машиной. Виноград считал такой взгляд чрезмерно узким и отмечал, что он требует искусственных допущений.⁷⁰

Поворот к другой философии

В книге Understanding Computers and Cognition Виноград и Фернандо Флорес переосмыслили проблему. Они опирались не только на компьютерные модели, но и на Хайдеггера, феноменологию, биологию познания Умберто Матураны и теорию речевых актов Остина.

Их основной тезис:

понимание — это не внутреннее преобразование символов, а способ быть включенным в мир и действовать в нем.

С этой точки зрения компьютер может обрабатывать языковые формы и приносить пользу, но это еще не означает, что он понимает язык так, как человек. В книге прямо утверждается, что компьютеры могут выполнять ограниченную обработку естественно-языковых форм, но не используют язык человеческим способом.⁷²

Это не было простым отрицанием технологий

Важно, что Виноград не пришел к выводу «компьютеры бесполезны». Его вывод был более ограниченным:

формальные языковые инструменты могут быть полезны;
специализированные системы могут хорошо работать в узких областях;
компьютер может поддерживать человеческую деятельность;
но нельзя отождествлять обработку знаков с пониманием;
проектировать нужно не «искусственный разум вообще», а отношения человека с инструментом.

Именно здесь произошел переход Винограда от классического AI к human-computer interaction и дизайну технологий.

Связь с современными LLM

Современные чат-боты устранили часть проблем SHRDLU:

они не ограничены одним микромиром;
обучаются на огромном количестве текстов;
лучше переносят языковые шаблоны между областями;
могут поддерживать длинный и разнообразный диалог.

Но с точки зрения Винограда это не обязательно означает, что решена основная философская проблема. LLM заменили ручное кодирование масштабным обучением на данных, однако по-прежнему нужно спрашивать:

есть ли у системы собственная ситуация;
понимает ли она последствия своих слов;
обладает ли она намерением;
умеет ли она отвечать за обещания и решения;
участвует ли она в человеческой практике или только производит убедительные языковые формы.

Коротко: SHRDLU разочаровал Винограда тем, что его успех оказался успехом тщательно ограниченной модели мира, а не общим пониманием языка. Этот опыт заставил его отвернуться от идеи «вложить интеллект в символическую программу» и сосредоточиться на контексте, действии, диалоге, дизайне и человеческой ответственности.

⁷³⁷⁴⁷⁵⁷⁶⁷⁷⁷⁸⁷⁹⁸⁰⁸¹⁸²

⁂

E.G.Philippov's website (devlog & knowledge vault)

Explorer

what terry winograd writes and speaks at 2017...2026