На экране в лаборатории искусственного интеллекта MIT нарисованы стол, коробка, несколько блоков и пирамид, а над ними рука. Человек набирает на терминале по-английски «найди блок выше того, который ты держишь, и положи его в коробку». Через несколько секунд программа отвечает, что под «его» понимает блок, который выше того, что у неё в руке, и рука на экране со скоростью настоящей руки переносит этот блок в коробку. В прошлой заметке я рассказывал об ELIZA, которая отвечала словами на слова и ничего за ними не знала. Программа SHRDLU, которую Терри Виноград написал в MIT в 1968-1970 годах, знала свой мир, действовала в нём и могла объяснить, зачем что-то сделала. Вот кусок её разговора из работы Винограда 1971 года, через год вышедшей книгой «Программа, понимающая естественный язык» (в оригинале Understanding Natural Language). Ответы программы набраны там прописными, как и у Вайценбаума:
ты трогал какую-нибудь пирамиду, прежде чем поставил зелёную на маленький куб?
ДА, ЗЕЛЁНУЮ.
когда ты её взял?
ПОКА СТРОИЛ БАШНЮ ИЗ КРАСНОГО КУБА, БОЛЬШОГО КРАСНОГО БЛОКА И БОЛЬШОГО ЗЕЛЁНОГО КУБА.
зачем?
ЧТОБЫ ОТ НЕЁ ИЗБАВИТЬСЯ.
зачем ты это сделал?
ЧТОБЫ УБРАТЬ ВСЁ С КРАСНОГО КУБА.
зачем ты убрал всё с этого куба?
ЧТОБЫ ПОСТАВИТЬ ЕГО НА БОЛЬШОЙ ЗЕЛЁНЫЙ КУБ.
зачем ты это сделал?
ЧТОБЫ ПОСТРОИТЬ БАШНЮ ИЗ КРАСНОГО КУБА, БОЛЬШОГО КРАСНОГО БЛОКА И БОЛЬШОГО ЗЕЛЁНОГО КУБА.
зачем ты это сделал?
ПОТОМУ ЧТО ВЫ МЕНЯ ПОПРОСИЛИ.
Программа помнила, что делала, и по цепочке своих целей добиралась до самой первой просьбы. Виноград писал, что у системы есть некоторое понимание собственных мотивов. В этом маленьком мире на вопрос Тьюринга, может ли машина мыслить, хотелось ответить «да».
Только весь этот мир умещался на одном столе, и вопрос десятилетия был в том, дорастёт ли такой мир до настоящего. Да и стол был нарисованный. Настоящая механическая рука с блоками в лаборатории была, но Виноград не захотел ждать, пока её наладят, и придумал мир на экране. Цвета программа не видела, и «зелёным» для неё был просто блок с незатейливой надписью «зелёный» внизу. В той же работе, в разделе о дальнейших исследованиях, Виноград сам перечислил, чего программе не хватает. Она знает лишь крошечную упрощённую область, большую часть того, что ей известно, приходится вписывать программой, а научить её или просто что-то ей рассказать нельзя. Последним пунктом, с восклицательным знаком, у него стоит, что поговорить с ней вообще нельзя, свою часть разговора приходится печатать.
С настоящими предметами работал робот Shakey из Стэнфордского исследовательского института. Его модель мира, как я уже писал, была набором логических утверждений вроде «робот в точке a» и «ящик B в точке b». Планы по ней строила программа STRIPS, описанная в 1971 году, и каждое действие в ней задавалось тем, какие утверждения после него перестают быть верными и какие становятся. Когда же Shakey выполнял такой план в настоящей комнате, получалось, по словам разработчиков, часто не то, чего ждал планировщик.
Описать мир так, чтобы по нему можно было планировать, трудно и в теории. Приходится оговаривать не только то, что действие меняет, но и всё, чего оно не меняет. Джон Маккарти и Патрик Хейс в 1969 году приводили пример с телефоном. Если человек посмотрел номер в телефонной книге, телефон у него после этого никуда не делся, и это тоже надо записать. Таких оговорок может понадобиться столько, сколько получится, если перемножить число действий на число свойств мира. Эту трудность назвали проблемой рамки (frame problem). STRIPS обходила её простым допущением, что меняется только то, что перечислено в описании действия, а в настоящей комнате менялось и то, чего в описании не было.
Сомнения в том, что маленький мир дорастёт до большого, появились ещё до SHRDLU. Летом 1964 года корпорация RAND, исследовательский центр, работавший на американских военных, позвала философа Хьюберта Дрейфуса из MIT разобрать работы Ньюэлла, Шоу и Саймона, тех самых авторов Logic Theorist и GPS. Итогом стала записка «Алхимия и искусственный интеллект» (Alchemy and Artificial Intelligence), вышедшая в декабре 1965 года. Дрейфус писал, что в этой области повторяется одна и та же картина. Сначала ранний эффектный успех, потом неожиданные трудности. Он сравнивал исследователей ИИ с алхимиками, которые так успешно получали ртуть из того, что казалось грязью, что и после нескольких веков бесплодных попыток сделать из свинца золото отказывались верить, что металлы на химическом уровне друг в друга не превращаются. Досталось и определению прогресса как «смещения к конечной цели», которое дали Эдвард Фейгенбаум и Джулиан Фельдман в сборнике «Вычислительные машины и мышление». По такому определению, заметил Дрейфус, первый человек, влезший на дерево, мог бы заявить об ощутимом продвижении к полёту на Луну.
Ньюэлл и Саймон, по словам Дрейфуса, называли записку чепухой, и в RAND её выпустили только после долгих споров. Между делом Дрейфус написал в ней, что ни одна шахматная программа ещё не играет даже на уровне любителя. Ответили ему демонстрацией в другом маленьком мире, на шахматной доске. В 1967 году Сеймур Пейперт устроил Дрейфусу в MIT партию с программой MacHack, и Дрейфус её проиграл, а бюллетень специалистов по ИИ SIGART напечатал партию вместе с той самой фразой из записки. Дрейфус отвечал, что его фраза верно описывала положение дел на 1965 год. В MIT, по его воспоминаниям, студенты и преподаватели, работавшие над роботом, боялись показаться с ним за обедом, чтобы не нажить неприятностей с начальством. Джозеф Вайценбаум, автор ELIZA, говорил потом, что стал единственным в этом сообществе, кого видели обедающим с Дрейфусом, и нарочно давал понять, что так с человеком не следует обращаться.
В 1972 году вышла книга Дрейфуса «Чего не могут вычислительные машины» (What Computers Can’t Do). Человек, по Дрейфусу, действует разумно без формальных правил. Он опирается на своё тело, на окружение, в котором всё для него уже связано и полно смысла, на умение, которое нельзя целиком выписать. Вспомним «зелёный» блок SHRDLU. Для программы это надпись, а для человека цвет, за которым стоит всё, что он когда-либо видел.
Разбираться с тем же вопросом в 1971 году пришлось британскому математику Джеймсу Лайтхиллу, специалисту по гидродинамике, который занимал в Кембридже лукасовскую кафедру, когда-то принадлежавшую Ньютону. Совет по научным исследованиям Великобритании попросил его оценить, что сделано в искусственном интеллекте. Председатель совета Брайан Флауэрс писал ему, что ИИ и смежные с ним науки очень сложны и во многом остаются вотчиной экспертов, а может быть, иногда и правдоподобных шарлатанов. Лайтхилл два месяца читал литературу, весной 1972 года сдал отчёт, а в 1973 году совет опубликовал его вместе с откликами других учёных. Главный вывод отчёта звучит так:
Те, кто пришёл в эту область на рубеже 1950-х, и даже те, кто пришёл десятью годами позже, многого от неё ждали. К 1972 году до исполнения этих надежд ещё очень далеко. Ни в одном её направлении сделанные до сих пор открытия не принесли того заметного результата, который тогда обещали.
Одну общую причину разочарований Лайтхилл, как математик, выделял особо, а именно что не учли, как быстро растёт число вариантов. Упрощённо:

С каждым новым предметом и правилом число сочетаний растёт так быстро, что никакой перебор за ним не успевает. Это и называют комбинаторным взрывом. Работы по роботам, писал Лайтхилл, ограничивали мир, о котором идёт речь, чем-то вроде шахматной доски или стола, по которому передвигают цветные блоки, а методы программы Винограда при попытке перенести их на гораздо более широкий мир упрутся в комбинаторный взрыв. Часто пишут, что Лайтхилл призвал свернуть исследования ИИ в Британии, но это не так. Работы он разделил на три части: автоматизацию конкретных задач, где машина заменяет человека, изучение мозга и нервной системы с помощью компьютера и строительство роботов, которое должно было служить мостом между первым и вторым. У первых двух он признал достойные, хоть и скромнее ожидаемых, достижения, а роботы, по его оценке, продвигались ещё медленнее и разочаровывали сильнее. Спор вынесли и на телевидение. В 1973 году отчёт обсуждали в передаче BBC в лондонском Королевском институте, и против Лайтхилла выступали Дональд Мичи, руководитель эдинбургских работ по роботам, психолог Ричард Грегори и Джон Маккарти. Во вступительной речи Лайтхилл назвал универсального робота миражом и сказал, что любой существующий робот действует в крайне ограниченном мире, в своего рода детском манеже.
В британских научных кругах отчёт Лайтхилла на десятилетие подорвал доверие к ИИ. Совет стал отдельно поддерживать автоматизацию и исследования мозга, а роботы остались без денег, и среди пострадавших оказался эдинбургский робот Freddy, который из кучи деталей собирал игрушечную машинку и кораблик, тратя на это около шестнадцати часов. У американских сокращений была и своя, более важная причина. Поправка сенатора Майка Мэнсфилда к закону о военных расходах в 1969 году запретила тратить военные деньги на исследования, у которых нет прямой и очевидной связи с конкретной военной задачей. Формулировку потом смягчили, но курс остался. Джозеф Ликлайдер, руководивший компьютерным отделом оборонного агентства DARPA, писал в 1975 году, что в агентстве теперь преобладает курс на исследования под конкретные военные задачи и не берутся за то, у чего нет военного заказчика. Пятилетнюю программу, в которой несколько групп учили компьютер понимать связную речь, после 1976 года продлевать не стали, хотя, по словам того же Ликлайдера, основные цели она выполнила. Деньги на ИИ в Америке при этом не исчезли совсем, их стали давать под прикладные задачи. Слово «зима» появится только в середине 1980-х, и сначала им назовут не эти годы, а новый обвал, которого тогда начнут опасаться.
Пока одни строили маленькие миры, а другие сомневались, что из них вырастет большой, в Стэнфорде с середины 1960-х шли иначе. В 1960 году NASA попросило генетика Джошуа Ледерберга, нобелевского лауреата, создать в Стэнфорде лабораторию приборов для поиска жизни на Марсе. Нужно было опознавать вещества, которых нет в земных справочниках, с помощью масс-спектрометра, прибора, который разбивает молекулы на заряженные осколки и измеряет отношение массы каждого осколка к его заряду. Ледерберг придумал способ перебрать все возможные строения молекулы заданного состава, и в 1965 году вместе с ним за дело взялся тот самый Эдвард Фейгенбаум, над чьим определением прогресса смеялся Дрейфус. Фейгенбаум искал научную задачу, чтобы изучать, как учёные выдвигают гипотезы, и, услышав о переборе Ледерберга, сразу подумал о шахматных программах, которые перебирают возможные ходы. Так начался проект DENDRAL, программа, которая, анализируя масс-спектр, определяла строение органической молекулы. Поначалу о ней говорили, что химия, похоже, хорошая, но непонятно, при чём тут ИИ.
Перебор сам по себе программу не спасал. Когда её показали химику Карлу Джерасси, он увидел, какая она глупая, но увидел и то, что она работает, и разговор сразу зашёл о том, что знает о задаче химик и чего не знает программа. Химики и программисты садились за телетайп на час-два, и самым ценным, что уносил потом программист, был листок с примерами, которые химик набросал с загадочными пометками. Знания добывались мучительно. На каждом еженедельном собрании, вспоминал Ледерберг, возникал десяток новых идей, и каждая требовала недель программирования, только чтобы её проверить. Зато знания работали против комбинаторного взрыва. В одной задаче программа, знавшая только масс-спектрометрию, оставила бы больше 1,25 миллиона возможных молекул, а с данными ядерной магнитно-резонансной спектроскопии — одну, и она оказалась верной. Новые данные и знание того, как их читать, отсекали лишние варианты. Позже Фейгенбаум свёл этот урок к старой формуле «знание — сила» (knowledge is power) и пояснил, что самыми сильными будут системы, в которых знаний конкретной области больше всего. Такие программы стали называть экспертными системами (expert systems), а записанные в них сведения — базой знаний (knowledge base).
В начале 1970-х тот же подход перенесли в медицину. Студент-медик Эдвард Шортлифф вместе с врачами и программистами Стэнфорда сделал программу MYCIN, названную по окончанию, общему для многих антибиотиков вроде стрептомицина. Она помогала врачу распознать бактериальную инфекцию крови, а потом и менингит, и подобрать антибиотик. Её база знаний была записана в основном правилами, вот одно из них:
ЕСЛИ 1) окраска организма по Граму отрицательная, 2) форма организма — палочка, 3) организм анаэробный, ТО есть основания предполагать (0,6), что это бактероид.
Число 0,6 означает степень уверенности, ведь в медицине выводы редко бывают окончательными. На любой вопрос программы врач мог спросить «почему?», и она называла правило, ради которого спрашивает, а на следующее «почему?» поднималась по цепочке выше, примерно как SHRDLU объясняла, зачем перекладывала кубы. Результаты слепой проверки вышли в 1979 году. Восемь специалистов по менингиту не из Стэнфорда оценили назначения для десяти больных, сделанные MYCIN, пятью преподавателями Стэнфорда, стажёром, ординатором и студентом-медиком, а также лечение, которое больные получили на деле, и не знали, чьё это назначение. Решения MYCIN они сочли приемлемыми в 65% оценок, решения преподавателей от 42,5 до 62,5%, хотя случаев, как оговаривали авторы, было немного.
В больницу MYCIN так и не попала. Врачу пришлось бы найти свободный терминал, войти в систему и ответить на полсотни вопросов, многие из которых повторяли анализы, уже лежавшие в других компьютерах Стэнфорда, а при загруженной машине консультация растягивалась до получаса и даже часа. Компьютеры, на которых она работала, стоили слишком дорого, да и большинство врачей вполне устраивали собственные решения. Авторы потом назвали наивным свой расчёт на то, что инструмент примут, раз он нужен и хорошо работает. Ещё до выхода результатов проверки, с конца 1978 года, MYCIN держали только для показа и студенческих работ.
Мир SHRDLU так и остался на нарисованном столе, а MYCIN в компьютере для показа. В 1991 году Виноград рассказывал, что знаменитый диалог отрабатывал строка за строкой. Вопрос не из диалога SHRDLU понимала, если он был похож на отрепетированные, а иначе как повезёт, и сделать из неё инструмент для других никто не пытался, потому что от исследователей ждали того, что можно показать. Такие демонстрации он сравнил с потёмкинскими деревнями, а ошибкой назвал само допущение, что работающая в большом мире система — это та же демонстрация, только с большим числом деталей. От этого, по его словам, ИИ страдал всё время. Пережила 1970-е идея поскромнее, что машине в настоящем деле нужны знания специалиста. Как в 1980-е экспертные системы вышли из лабораторий и начали приносить деньги и почему в те же годы вернулись нейронные сети, я расскажу в следующих заметках.
Литература
Вычислительные машины и мышление. Под редакцией Э. Фейгенбаума и Дж. Фельдмана. Москва, Мир, 1967.
Виноград Т. Программа, понимающая естественный язык. Перевод с английского С. С. Калитина, под редакцией Г. Е. Поздняка. Москва, Мир, 1976.
Дрейфус Х. Чего не могут вычислительные машины. Критика искусственного разума. Перевод с английского Н. Родман, общая редакция Б. В. Бирюкова. Москва, Прогресс, 1978.