В 1977 году фирма Digital Equipment Corporation (DEC) выпустила мини-компьютер VAX, и его хорошо раскупали. VAX заказывали по частям, как конструктор, и большинство проданных систем получались единственными в своём роде, так как DEC не продавала машины в типовой комплектации. В компании считали такую гибкость своим преимуществом. Только составить такой заказ без ошибок было непросто, и программу, которая комплектовала бы заказы, в DEC пытались сделать уже несколько раз, но ни одна попытка не удалась. Справиться с задачей помогла идея о том, что машине для настоящего дела нужны знания и опыт специалиста. Как я писал в прошлой заметке, эта скромная идея уцелела после разочарований 1970-х в ИИ. В 1980-е она вышла из лабораторий на заводы и начала приносить деньги, и сразу встал вопрос, кто и какой ценой будет закладывать эти знания в машину.
Мини-компьютером VAX называли только по сравнению с большими машинами того времени, а состоял он из шкафов и других отдельно стоящих устройств, которые расставляли по комнате и соединяли кабелями. Процессор, память, диски и терминалы покупатель выбирал сам, и в обычном заказе набиралось около девяноста компонентов. Примерно каждый пятый заказ поступал на завод неполным. В заказе должны были быть все нужные шкафы, платы, контроллеры и кабели, а сборщикам надо было расписать, что куда ставить. Обычно этим накануне сборки занимался сотрудник завода. Ошибки в заказе обходились DEC дорого, потому что покупатель платил за машину, только когда она у него заработает, и если не хватало детали, оплаты ждали, пока её не привезут. Чтобы машина наверняка заработала у покупателя, на заводе окончательной сборки каждый заказ сначала собирали целиком и проверяли, потом разбирали и только после этого упаковывали и отправляли.
В декабре 1978 года за программу комплектования заказов для DEC взялся Джон Макдермотт из Университета Карнеги-Меллона. Сначала он полдня слушал в DEC, в чём состоит задача. Денег на исследование компания не дала, и тогда в Карнеги-Меллоне предложили для начала за несколько месяцев сделать пробную версию. Потом Макдермотт пять-шесть дней учился комплектовать VAX, то есть подбирать к заказу всё нужное и расставлять по местам, и читал и перечитывал два руководства по комплектованию этих машин. Опытные сотрудники DEC объясняли ему свою работу примерно так: «когда делаешь x, делай y, если только не z», и он записывал такие объяснения правилами вида «если… то…». Вот одно из них, из его статьи 1980 года:
ЕСЛИ сейчас устройства распределяются по контроллерам, и есть ещё не распределённый диск с двумя портами, и известно, какой контроллер нужен этому диску, и есть два таких контроллера, к которым пока ничего не подключено, и известно, сколько устройств каждый может обслуживать, ТО назначить диск обоим контроллерам и отметить, что они связаны и каждый обслуживает одно устройство.
Контроллер здесь — это плата, через которую компьютер управляет дисками и другими устройствами, а диск с двумя портами можно подключить сразу к двум таким платам. Программы, в которых так записаны знания специалистов, называют экспертными системами. Подобным образом была устроена и медицинская экспертная система MYCIN, о которой я писал в прошлой заметке, только её правила говорили о бактериях и антибиотиках. В пробной версии программы Макдермотта было около 250 правил. В апреле 1979 года эту версию показали группе примерно из шестидесяти сотрудников DEC, и, по словам Макдермотта, её встретили со сдержанным энтузиазмом.
У работы, которой занимался Макдермотт, уже было название. Её назвал инженерией знаний (knowledge engineering) Эдвард Фейгенбаум из Стэнфорда, один из создателей программы DENDRAL, о которой я тоже писал в прошлой заметке. Инженер по знаниям, объяснял Фейгенбаум в 1977 году, работает вместе с экспертом, выясняет, что тот знает, и приводит эти знания в такой вид, чтобы ими могла пользоваться программа. Свою программу Макдермотт назвал R1 и объяснил имя шуткой в сноске к статье 1980 года. Он писал, что четыре года назад не мог даже выговорить слова «инженер по знаниям», а теперь он… Англоязычный читатель сам договорит now I are one («теперь я им стал»). Ошибка (are вместо am) тут нарочная, а are one звучит так же, как R1. В самой DEC программу Макдермотта называли XCON.
Проверку на настоящих заказах программа прошла осенью 1979 года. В неё загрузили пятьдесят последних заказов, и шесть экспертов разбирали ответ программы по первому заказу восемь часов, по второму два, а дальше около часа на каждый. R1 ошиблась двенадцать раз, все ошибки легко исправили, и эксперты решили, что программа, пожалуй, справится лучше людей, потому что люди устают и отвлекаются. С января 1980 года программу стали применять постоянно, и в том же году ею пользовались уже на всех заводах окончательной сборки в США. Сначала через неё проходили десятки заказов в неделю, а за последние три месяца 1983 года больше двадцати тысяч, то есть около полутора тысяч в неделю. При этом из-за ошибок в правилах неверно составлялся меньше чем один заказ из тысячи. Часть сотрудников, которые раньше составляли заказы, теперь, по сути, стали наставниками программы и следили за её решениями.
Во что обошлась программа, писали и в DEC, и сторонние исследователи. Группа DEC, которая занималась экспертными системами, начинала с пяти человек без всякого опыта в ИИ, а к 1984 году выросла до 77 и отвечала уже за восемь систем. По данным Дэниела Боброу, Санджая Миттала и Марка Стефика из исследовательского центра Xerox, к 1986 году в программу вложили больше пятидесяти человеко-лет. Они же писали, что поначалу программу трижды едва не закрыли, потому что от слов «экспертная система» в DEC ждали слишком многого. Ждали, что программа с первого дня заработает как опытный специалист, а её пробная версия всё ещё ошибалась. Боброу и его соавторы замечали, что такого не стоит ждать ни от одной системы, да и от человека на новой работе. Как мне кажется, сейчас при внедрении инструментов ИИ происходит аналогичное. Ожидания такие, что стоит один раз внедрить инструмент, и можно уволить всех, оставив только чёрную коробочку, которая будет делать всю работу. На практике же происходит замена большого количества людей с относительно невысокой стоимостью труда на дорогое оборудование и команды дорогостоящих экспертов.
Сколько денег экономит программа, в 1989 году подсчитали Вирджиния Баркер и Деннис О’Коннор из DEC. По их оценке, XCON и выросшие из неё программы приносили компании больше 40 миллионов долларов чистой выгоды в год, хотя часть пользы, оговаривались они, в деньгах выразить трудно. С XCON компания смогла отказаться от того самого шага, когда каждый заказ перед отправкой собирали на заводе целиком, проверяли и снова разбирали (я писал о нём в начале). Авторы подсчёта писали, что это заметно сократило сроки поставки, запасы на складах и затраты. Теперь части заказа отправляли покупателю с разных заводов, и вместе их впервые собирали только у него, а за то, что машина заработает, отвечала XCON. Баркер и О’Коннор называли XCON первой экспертной системой, которой каждый день пользуются на производстве.
Завершить работу над XCON при этом так и не удалось. Уже в июле 1980 года один из руководителей завода, где работала программа, пожаловался, что она сама дописывает в неполные заказы всё недостающее. Завод в таких случаях собирал то, что есть, и спрашивал покупателя, нужно ли ему остальное. План сборки с дописанными деталями для этого не годился. Макдермотт признавался, что жалоба застала его врасплох, потому что программу во многом для того и делали, чтобы она дополняла неполные заказы. Программу переделали меньше чем за человеко-месяц. Теперь она отмечала детали, для которых в заказе чего-то не хватает, и составляла план сборки для остальных. Потом в неё добавляли правила о мелочах. Например, в одном из блоков компьютера десятое гнездо для плат из-за питания нарочно оставляют пустым, а соседнюю плату сдвигают к середине блока, иначе до неё не дотянется стандартный кабель. Ещё в программу приходилось вносить сведения о новых изделиях, которых DEC выпускала по нескольку сотен в год, и правил становилось всё больше. В 1980 году их было 772, к 1987-му 6200, и примерно половина правил каждый год менялась. В 1984 году Макдермотт и Джудит Бачант из DEC признавали, что теперь им трудно поверить в то, что программу когда-нибудь закончат. В 1987 году Бачант и её коллеги добавляли, что менять программу всё труднее, а сложность её растёт быстрее, чем число правил. Что программа так и не будет закончена, Макдермотт предвидел ещё в 1981 году. Он писал, что готовой можно назвать программу, в которой нет ошибок, а эксперт готовым не бывает, потому что всё время учится и иногда ошибается. Программа, в которую заложены знания эксперта, по его мнению, будет такой же.
Многие компании в начале 1980-х захотели собственные экспертные системы, и людей, которые, как Макдермотт, умели превращать знания экспертов в правила, стало не хватать. Фейгенбаум в 1980 году писал, что спрос на инженеров по знаниям быстро растёт, а университеты выпускают их совсем мало и почти всех оставляют работать у себя. Через год он вместе со стэнфордскими коллегами основал фирму Teknowledge, которая учила этому ремеслу. Работу инженеров по знаниям ускоряли оболочки экспертных систем (expert system shells). Оболочка — это готовая экспертная система без знаний о предмете, и инженеру остаётся записать в неё правила своей области. Она применяет правила к сведениям о конкретном случае и показывает пользователю, как получен ответ, а для правил в ней есть свой язык записи. Например, из MYCIN убрали знания об инфекциях и получили EMYCIN, а букву E Фейгенбаум расшифровывал и как «основной» (Essential), и как «пустой» (Empty). Желающих освоить новое ремесло было много. На семинары при конференциях по ИИ в 1980 году пришло около трёхсот человек, а в 1983-м около тысячи восьмисот. По оценке журнала Business Week, в 1985 году примерно 150 компаний собирались потратить на собственные группы ИИ в общей сложности около миллиарда долларов.
Деньги вкладывали не только в программы, но и в компьютеры для них. Экспертные системы и языки правил для них, как и другие программы ИИ, писали тогда в основном на Lisp, главном языке американских исследователей в этой области, и для Lisp даже делали специальные компьютеры. Ричард Гринблатт из Массачусетского технологического института (MIT), по его воспоминаниям, начал делать такую Lisp-машину ещё в 1973 году. Сотрудники его лаборатории до этого работали все вместе на одном большом компьютере PDP-10, и программам на Lisp перестало хватать памяти этого компьютера. Гринблатт хотел, чтобы у каждого пользователя была своя машина, примерно как сейчас персональный компьютер. Тогда она работала бы с одной скоростью и в три часа дня, когда общим компьютером пользуются все, и в три часа ночи. Из этого проекта потом выросли фирмы Symbolics и Lisp Machines Inc., и обе выпускали Lisp-машины по разработкам MIT. Базовый блок машины Symbolics в 1980 году стоил почти 80 тысяч долларов. Несмотря на высокую цену, машины Symbolics покупали, и выручка фирмы выросла с 1,8 миллиона долларов в 1982 году до 98 миллионов в 1986-м.
Государства тоже взялись за знания для машин. В октябре 1981 года на международной конференции в Токио Япония объявила проект компьютеров пятого поколения, которые должны были прийти на смену существующим и работать прежде всего со знаниями. Поколения компьютеров тогда отсчитывали по тому, из чего их собирали. Первые машины работали на электронных лампах, второе поколение на транзисторах, третье на интегральных схемах, четвёртое на больших интегральных схемах. Новизну пятого поколения японцы видели не столько в том, из чего машина будет собрана, сколько в том, что она будет делать.
План проекта готовили с 1979 года, и к 1990 году по нему собирались построить опытные образцы систем обработки знаний, которые по своим возможностям приблизятся к интеллекту человека. Эти системы должны были понимать устную речь, письменные тексты и изображения. Работу поручили институту ICOT, созданному в апреле 1982 года, а его научный центр возглавил Кадзухиро Фути из государственной Электротехнической лаборатории. Японцы выбрали логическое программирование и язык Пролог, созданный в начале 1970-х в Марсельском университете. Программа на языке Пролог — это не цепочка команд, как обычно, а набор логических утверждений, из которых машина сама делает выводы. Всего на проект ушло около 54 миллиардов иен за одиннадцать лет, по курсу тех лет примерно 350 миллионов долларов.
США восприняли проект японцев как вызов. Фейгенбаум и Памела Маккордак в 1983 году доказывали в книге «Пятое поколение» (The Fifth Generation), что Япония вот-вот уведёт у Америки ещё одну изобретённую в США технологию, на этот раз искусственный интеллект. В июне того же года Фейгенбаум заявил в Конгрессе, что эра рассуждающих машин неизбежна. Многие информатики высмеивали его как паникёра, а Конгресс слушал как пророка. Директор оборонного агентства DARPA Роберт Купер большой угрозы в японском проекте не видел, но потом признавался, что, добиваясь денег у конгрессменов и сенаторов, «мы выставляли японцев главными врагами».
Деньги нашлись. В октябре 1983 года DARPA представило программу Strategic Computing Initiative на 600 миллионов долларов за первые пять лет. Программа должна была дать военным электронного помощника пилота, систему управления боем авианосной группы и машину-разведчика без водителя. По плану такая машина должна была проезжать до 50 километров по пересечённой местности со скоростью до 60 километров в час. На первом показе в мае 1985 года от неё требовалось немногое, всего километр по прямой дороге. Машина проехала его почти за восемнадцать минут, и в DARPA показ сочли успехом. Ещё в 1983 году американские компании объединились в исследовательский консорциум MCC, который открылся в техасском Остине. В том же году государственную программу исследований начала и Британия, хотя отчёт Джеймса Лайтхилла, о котором я писал в прошлой заметке, подорвал там доверие к ИИ на десятилетие. Системы, основанные на базах знаний, были одной из четырёх тем пятилетней программы Alvey на 350 миллионов фунтов (по курсу 1983 года около 530 миллионов долларов).
Экспертных систем становилось всё больше, и всё заметнее была их общая слабость, которую Джон Маккарти, придумавший само название «искусственный интеллект», в 1984 году назвал хрупкостью. Он писал, что в своей узкой области такие системы часто впечатляют, как MYCIN в подборе антибиотиков. Но почти ни одна из них не обладает житейским опытом и здравым смыслом (common sense), которые есть у любого человека. Поэтому их трудно расширить за пределы того, что задумали авторы этих систем, а сами программы обычно не знают границ своих возможностей. Например, если сообщить MYCIN, что у больного в кишечнике холерный вибрион, она бодро назначит две недели тетрациклина и больше ничего. Холерные вибрионы, вероятно, погибнут, только больной, скорее всего, гораздо раньше умрёт от потери воды. При холере прежде всего восполняют воду и соли, а этого программа не знает.
Common sense у Маккарти — одно понятие, у которого нет точного русского перевода. Его принято переводить как «здравый смысл», но в русской речи здравый смысл — это скорее умение трезво рассуждать. Исследователи ИИ понимают под common sense ещё и накопленный за жизнь багаж знаний и навыков, на который человек опирается, принимая решения. Поэтому по-русски я передаю его двумя понятиями.
Исследователь ИИ Дуглас Ленат взялся заложить в машину житейский опыт и здравый смысл. В 1984 году он начал в MCC проект Cyc. В работе 1985 года Ленат с соавторами писал, что у больших программ два главных ограничения и что их хорошо видно на примере экспертных систем последних лет. Такие программы ломаются на задачах, которых не предусмотрели их создатели, а на разработку уходит много человеческого труда. По плану в Cyc собирались перенести знания из однотомной настольной энциклопедии, содержащей около тридцати тысяч статей. Записать хотели не только изложенное в статьях, но и то, что их авторы считали само собой разумеющимся. Ленат рассчитывал, что работа займёт лет десять и что только на ввод статей будет затрачено около 150 человеко-лет. Работа растянулась на десятилетия.
Ответ на вопрос, с которого начиналась эта заметка, к середине 1980-х был такой. Знания в машину закладывали люди, правило за правилом, и экспертные системы приносили деньги. Но чем больше становилось правил, тем труднее было их исправлять и дополнять, а житейского опыта и здравого смысла у программ всё равно не было. Понимает ли такая программа хоть что-нибудь, нашлась ли у машины другая дорога к знаниям, как обвалился рынок Lisp-машин и чем кончились японский проект и американский ответ на него, я расскажу в следующих заметках.
Литература
ЭВМ пятого поколения. Концепции, проблемы, перспективы. Под редакцией Т. Мото-ока, перевод с английского О. М. Вейнерова. Москва, Финансы и статистика, 1984.