В предыдущих заметках мы проследили, как в 1950-е годы возникла сама идея искусственного интеллекта, а затем появились первые программы, способные решать логические задачи, играть в игры, работать с языком и строить планы.

К концу 1960-х годов исследователи уже располагали целым набором подходов к созданию интеллектуальных систем. Однако постепенно выяснилось, что успешная демонстрация программы на небольшой формальной задаче ещё не означает, что тот же метод можно перенести на реальный мир.

В 1970-е годы этот разрыв стал одной из центральных проблем исследований.

Одновременно происходило важное изменение в самом понимании искусственного интеллекта. Если в первые годы основное внимание уделялось поиску универсальных методов решения задач, то теперь исследователи всё чаще обращались к знаниям конкретной предметной области.

Именно из этого направления в следующем десятилетии вырастет индустрия экспертных систем.

Проблема ограниченного мира

Одним из наиболее известных экспериментов начала 1970-х годов стала система SHRDLU, разработанная Терри Виноградом в Массачусетском технологическом институте.

Виноград описал её в диссертации 1971 года и в опубликованной в 1972 году работе «Understanding Natural Language».

SHRDLU была предназначена для взаимодействия с пользователем на английском языке. Компьютер мог получать команды, отвечать на вопросы и выполнять действия в специально созданном виртуальном мире. Этот мир состоял из простых объектов — блоков, пирамид и других фигур, расположенных на поверхности стола. Пользователь мог попросить систему переместить объект, расположить его относительно другого объекта или сообщить, что находится в определённом месте.

С технической точки зрения система объединяла несколько компонентов:

• синтаксический анализ предложений
• семантический анализ
• представление знаний о предметной области и механизм решения задач

Для своего времени результат был впечатляющим, компьютер не просто распознавал отдельные команды, он поддерживал диалог и использовал контекст разговора при интерпретации последующих предложений.

Но у этого успеха было принципиальное ограничение. Компьютер знал только тот мир, который был заранее описан разработчиками. Это был небольшой, строго определённый мир с ограниченным количеством объектов, свойств и возможных действий.

Именно здесь проявилась важная особенность раннего искусственного интеллекта:

Чем меньше и формальнее область, в которой работает система, тем легче обеспечить её убедительное интеллектуальное поведение.

Перенести тот же подход из мира нескольких десятков объектов в реальную окружающую среду оказалось гораздо сложнее.

От общего решателя к специализированным знаниям

Другой путь развития был связан с осознанием того, что для решения сложных задач компьютеру недостаточно универсального механизма поиска, необходимо предоставить ему знания о самой предметной области.

Одним из первых крупных проектов, воплотивших эту идею, стала система DENDRAL. Проект начался в Стэнфордском университете в середине 1960-х годов. Среди его участников были Эдвард Фейгенбаум, Брюс Бьюкенен и Джошуа Ледерберг. DENDRAL предназначалась для решения задачи из органической химии: определения возможной структуры молекулы по данным масс-спектрометрии.

Вместо попытки создать универсальный алгоритм рассуждения исследователи сосредоточились на конкретной научной задаче и стали формализовать знания специалистов, необходимые для её решения. Позднейший исторический анализ проекта характеризует DENDRAL как один из первых крупных примеров стратегии, при которой подробные знания конкретной предметной области используются как источник эвристик для решения задач.

Это изменение оказалось принципиальным. Если ранний подход можно было представить так:

общий механизм решения > конкретная задача

То новый подход выглядел иначе:

знания предметной области > специализированные методы решения

Исследователи постепенно обнаружили, что для многих практических задач второй вариант оказывается значительно эффективнее.

Знания становятся частью программы

У DENDRAL было ещё одно важное значение — она показала, что знания специалиста можно сделать частью компьютерной системы и использовать их для получения решений, которые иначе потребовали бы участия человека-эксперта. Так формируется направление, которое позднее получит название экспертных систем.

Экспертная система — это программа, содержащая формализованные знания определённой предметной области и использующая их для решения задач или формирования рекомендаций

Важным элементом таких систем становятся правила вывода.

Упрощённо они могли выглядеть следующим образом:

ЕСЛИ выполнены определённые условия,
ТО можно сделать определённый вывод

Такие правила не являются алгоритмом в обычном смысле последовательности строго заданных вычислений. Они позволяют представлять отдельные фрагменты профессиональных знаний и использовать их в процессе рассуждения.

Но возникла новая проблема:

Если знания являются главным ресурсом системы, то откуда их получить и как представить в формальном виде?

Оказалось, что это далеко не простой вопрос. Специалист может обладать большим практическим опытом, но не обязательно способен перечислить все правила, которыми пользуется при принятии решения.

Таким образом, исследователи столкнулись с новой задачей:

необходимо было не только создавать программы, но и извлекать знания из опыта специалистов и формализовать их

Эта проблема впоследствии станет одним из главных ограничений экспертных систем.

STRIPS: компьютер учится строить планы

Параллельно продолжались исследования автоматического планирования. В 1971 году Ричард Файкс и Нилс Нильссон представили систему STRIPS — Stanford Research Institute Problem Solver. Она была предназначена для поиска последовательности действий, которая переводит систему из исходного состояния в состояние, соответствующее поставленной цели. Авторы описывали задачу через модели мира и набор операторов, которые могли изменять эти модели. Для поиска использовались методы автоматического доказательства теорем и эвристический поиск.

Принцип можно представить следующим образом:

исходное состояние > возможные действия > промежуточные состояния > цель

Это направление имело большое значение для робототехники и автоматического планирования. Компьютер должен был не просто найти правильный ответ, а определить последовательность действий, которая приведёт к нужному результату.

Однако здесь снова возникала проблема масштабирования:

Если количество объектов и возможных действий увеличивается, количество потенциальных последовательностей быстро возрастает.

Эта проблема известна как комбинаторный взрыв. В небольшом искусственном мире поиск может быть осуществимым. В реальной среде количество возможных состояний и действий становится настолько большим, что полный перебор оказывается практически невозможным. Поэтому разработчикам приходилось использовать эвристики — правила, позволяющие не рассматривать заведомо малоперспективные варианты.

MYCIN: знания специалиста в медицине

В 1970-е годы идея экспертных систем получила особенно известное развитие в медицине. В Стэнфордском университете Эдвард Шортлифф и его коллеги разработали систему MYCIN. Она предназначалась для помощи при диагностике некоторых бактериальных инфекций и выборе подходящей антимикробной терапии. Работа над системой велась в первой половине 1970-х годов, а описание MYCIN было опубликовано Шортлиффом в 1977 году. Знания системы были представлены в виде большого набора правил.

Упрощённый пример такого правила:

ЕСЛИ обнаружены определённые характеристики микроорганизма,
ТО это является свидетельством в пользу определённого диагноза

При этом медицинские решения редко бывают абсолютно определёнными, поэтому MYCIN могла учитывать степень уверенности в отдельных выводах. В опубликованном описании системы правила связывали наблюдаемые признаки с диагностическими выводами и позволяли учитывать неопределённость таких заключений. Это было важным развитием по сравнению с простыми логическими системами.

Реальная экспертная деятельность редко сводится к цепочке:

да > нет > да > нет

Врач может иметь несколько признаков, каждый из которых лишь увеличивает или уменьшает вероятность определённого диагноза. MYCIN стала одним из наиболее известных доказательств того, что формализованные знания специалистов могут использоваться компьютером для решения практических задач.

Но она одновременно демонстрировала и проблему экспертных систем:

большое количество правил необходимо было получить от специалистов и поддерживать в актуальном состоянии.

Почему успех отдельных систем не привёл к универсальному ИИ

К середине 1970-х годов стало понятно, что ранние успехи имеют общий недостаток.

SHRDLU хорошо работала в небольшом мире объектов.

DENDRAL решала специализированную задачу в химии.

MYCIN работала с определённым классом медицинских задач.

STRIPS решала задачи планирования в формализованном представлении мира.

Каждая из этих систем могла демонстрировать впечатляющие результаты в своей области. Но ни одна из них не обладала универсальной способностью переносить знания и методы решения с одной области на другую. Для человека такой перенос является естественной частью интеллектуальной деятельности. Человек, изучивший один физический объект, может применить общие представления о пространстве к другому объекту. Знания о причинно-следственных связях можно использовать в совершенно разных ситуациях. Для компьютерной системы того времени такие переходы были значительно сложнее.

Возник вопрос, который остаётся важным и сегодня:

Как представить знания о мире таким образом, чтобы компьютер мог использовать их не только в одной заранее определённой ситуации?

1973 год: критика раннего ИИ

К началу 1970-х годов первоначальный оптимизм 1950-х и 1960-х годов заметно ослаб. Обещания первых лет столкнулись с ограничениями существующих методов и вычислительной техники. В Великобритании Совет по научным исследованиям поручил математику Джеймсу Лайтхиллу оценить состояние исследований искусственного интеллекта. Его отчёт был подготовлен в 1972 году и опубликован в 1973-м. Лайтхилл критически оценивал значительную часть фундаментальных исследований ИИ и особенно сомневался в перспективах создания универсальных систем. При этом он не отрицал ценность всех исследований искусственного интеллекта и признавал перспективность некоторых прикладных направлений. Важным объектом критики стала разница между демонстрационными результатами на небольших задачах и возможностью перенести эти результаты на значительно более сложные проблемы.

Иными словами:

работающая программа для небольшой задачи ещё не является доказательством существования общего метода решения интеллектуальных задач

Это наблюдение имело далеко идущие последствия.

Начало «зимы искусственного интеллекта»

В последующей истории этот период часто называют первой зимой искусственного интеллекта — периодом снижения интереса, ожиданий и финансирования исследований. Однако важно избегать слишком простой причинно-следственной схемы, нельзя корректно сказать, что отчёт Лайтхилла остановил развитие ИИ. Исторические исследования показывают более сложную картину. В Великобритании отчёт стал важным элементом пересмотра отношения к исследованиям, а в США похожее снижение оптимизма происходило независимо от него. Поэтому точнее говорить о более широком кризисе ожиданий. Исследователи получили достаточно убедительные результаты, чтобы показать принципиальную осуществимость отдельных направлений, но недостаточно результатов, чтобы подтвердить первоначальные надежды на быстрое создание универсального искусственного интеллекта.

Что изменилось в 1970-е годы

К концу десятилетия представление об искусственном интеллекте существенно изменилось. В 1950-е годы основной вопрос звучал примерно так:

Можно ли создать машину, способную выполнять интеллектуальные задачи?

К 1970-м стало ясно, что одного универсального алгоритма недостаточно. Исследователи начали разделять проблему на отдельные направления:

• представление знаний
• автоматическое планирование
• обработка естественного языка
• экспертные системы
• автоматическое доказательство
• робототехника
• работа с неопределённостью
• получение знаний из опыта специалистов

И это было не только следствием неудач. Наоборот, именно исследования 1970-х заложили основу для следующего этапа истории ИИ.

Постепенно формировалась новая идея:

вместо попытки сразу создать универсальный интеллект можно построить систему, которая обладает глубокими знаниями в одной конкретной области и хорошо решает соответствующие задачи

Так возникла концепция экспертной системы.

От поиска к знаниям

Первые два десятилетия истории ИИ можно условно представить как движение от простого к сложному. Сначала исследователи пытались формализовать сам процесс решения задач:

состояние > поиск > решение

Затем стало ясно, что этого недостаточно. Для сложных задач необходимо знать, что именно представляет собой окружающий мир, какие в нём существуют объекты, связи, ограничения и закономерности. Поэтому появляется новая схема:

знания > правила вывода > решение

Это изменение было одним из главных результатов 1970-х годов. Оно привело к бурному развитию экспертных систем в следующем десятилетии.

Но у нового подхода была собственная фундаментальная проблема:

если система должна обладать знаниями специалиста, человеку приходится эти знания собирать, формализовать и поддерживать

И чем больше становилась база знаний, тем сложнее становилась эта работа.

В 1980-е годы именно экспертные системы станут одним из самых заметных направлений искусственного интеллекта и впервые в значительном масштабе выйдут за пределы исследовательских лабораторий. Одновременно продолжится и другая линия, которая пока находилась на периферии основных исследований, — искусственные нейронные сети.

Именно взаимодействие этих двух направлений — систем, основанных на знаниях, и систем, способных обучаться на данных, — в конечном счёте определит дальнейшую историю искусственного интеллекта, про которую продолжим в следующей заметке.