А. С. Нариньяни ИИ : ФИЛОСОФСКИЙ КАМЕНЬ ИЛИ КАМЕНЬ ПРЕТКНОВЕНИЯ?

http://www.raai.org/resurs/papers/kii-2006/doklad/Narin''yani.doc


ДЕСЯТАЯ НАЦИОНАЛЬНАЯ КОНФЕРЕНЦИЯ ПО ИСКУССТВЕННОМУ ИНТЕЛЛЕКТУ С МЕЖДУНАРОДНЫМ УЧАСТИЕМ КИИ-2006
Обнинск, 25-28 сентября 2006 года

Искусственный интеллект: мы до сих пор никак не договоримся, что к этой области относится, в чем ее задачи, каковы ожидаемые результаты, когда и как мы надеемся их получить, как они повлияют на наше будущее? В докладе сделана попытка обсудить эти вопросы.

КУДА ИДЕМ И ЧТО ИЩЕМ?

___Термин artificial intelligence родился в 1956 как отражение того «наивного оптимизма» начального периода, когда большинству энтузиастов казалось, что до ИИ почти рукой подать.
___Однако пока с каждым десятилетием расстояние до цели только растет. Пол века спустя становится ясно, что она не близка, - трудностей полно, а успехи не слишком впечатляют.
___Очевиден и вывод, - область ИИ находится под влиянием "горного эффекта": если расстояние до небольшой высоты определить несложно, то громадная вершина видна с такого удаления, что кажется гораздо меньше и ближе, чем на самом деле. Ее масштаб начинаешь представлять лучше пройдя достаточно большую дистанцию и осознавая, что ее видимые размеры почти не изменилась и оценка расстояния до нее на глаз осталась примерно той же.
___Споры на тему, что относить к области Искусственного Интеллекта и каковы ее задачи, ведутся до сих пор и конца им не видно. Тем более, что само понятие интеллект достаточно неоднозначно. Ясно только, что оно включает сочетание таких взаимосвязанных качеств, как: умение решать сложные творческие задачи; способность к обучению, обобщению и аналогиям; обладание собственными органами восприятия (зрение, слух и т.п.). Этот список можно расширять, но суть в первом приближении он определяет.
___Упомянутый «горный эффект» иллюстрирует ошибку оценки больших задач. Вспомним Колумба: он считал, что до Индии не так уж далеко, если правильно выбрать направление. На пределе возможностей он добрался до первых островов Америки и решил, что достиг цели. При том, что попал на противоположную сторону земного шара: между ним и Индией оставался огромный новый материк и самый большой океан.
___На тему «куда и как двигаться» дискуссий в ИИ идет не меньше, чем по поводу определения самого термина. Выделяются три основных подхода.

1. «Нейро»: только по мере изучения как работает мозг, мы сможем воссоздавать его искусственно; именно этот подход ложится в основу нейрокибернетики и разных школ с той же приставкой.

2. «Антропоморфизм»: мозг слишком сложен и до его познания далеко; реальный путь к ИИ - компьютерное моделирование поведения человека; в интеллектуальных технологиях чем больше "как у людей", тем правильней.

3. «Метафора колеса»: концепции 1 и 2, несмотря на их внешнюю естественность и логичность, для создания ИИ не только не обязательны, но во многих случаях и вредны - например, колеса в природе нет, но оно эффективнее способов передвижения живых организмов.

___Обсуждение нейроподхода и антропоморфизма как общей концепции оставляем за рамками этого доклада, хотя их вред достаточно очевиден: если бы человечество исходило из них, то застряло бы не ближе каменного века, пытаясь вместо колеса имитировать ногу.
___Область ИИ до сих пор выручал принцип «черного ящика»: не имеет значения, как модель устроена, главное, чтобы она обладала нужными способностями, т.е. решала сложные задачи не хуже - а по мере возможности и лучше - человека. Именно этот принцип ориентирует нас на использование знаний: разрабатывать технологии под знания, а не втискивать знания в прокрустово ложе достаточно пока примитивных технологий.
___Теория знаний, которая стала в ИИ ключевой, развивается на пересечении философии, лингвистики, математики и психологии. При этом сам прогресс области ИИ зависит от продуктивного диалога этих наук, ориентирующегося как на решение проблем прикладного характера, так и на поиски ответов на вопросы самого высокого уровня - Что есть человек, Мир вокруг нас, Наши знания об этом мире и т.п.

МЕГА-ПРОБЛЕМЫ: ПУТЬ В ЛАБИРИНТЕ

___По настоящему большие проблемы, которые ставит перед собой человечество, можно разделить по сложности на несколько уровней:
___Технические: как правило, значительные шаги в их развитии требуют не менее нескольких лет. Таких среди больших проблем подавляющее большинство. Одни решаются за счет блестящих творческих находок, для других необходимы большие коллективные - обычно международные - усилия. Например, реактивная авиация или мобильная телефония.
___Макро: масштаб шагов - несколько десятилетий. Сюда относятся почти все глобальные проблемы, включая такие как ближний космос, стратегические задачи энергетики, экологии, медицины и т.п.
___Мега: время решения занимает несколько - часто много - поколений, например, полеты в далекий космос.
___Сегодня до уровня мега поднимаются стратегические проблемы лишь немногих областей знаний, которые возглавляет прародительница всех наук - философия. Три тысячи лет она пытается сформулировать наиболее общие законы окружающего мира, т.е. определить всеобщее устройство всего. Недаром, мифический инструмент решения всех проблем назывался философским камнем.
___Проблема ИИ - задача сравнимого масштаба, для решения которой человеку надо узнать все о себе и научиться находить аналогичные технические решения. Т.о., философия и искусственный интеллект движутся навстречу друг другу: философия от самых общих законов к попыткам примерить их к частным случаям, а ИИ - от решения конкретных задач ко все более широкому обобщению своих экспериментальных достижений.
___Любая проблема - если она мега - необозрима в силу ее масштаба. Например, для античного мира мега-проблемой было представление об Ойкумене, т.е. о мироздании и нашей планете. Сколько теорий и карт на эту тему было создано сочетанием недостаточного опыта и неограниченного воображения (слоны на черепахе, купол неба, край света и т.п.) и как далеки они были от той картины, которая считается истиной сегодня.
___Поэтому мега-проблему можно сравнить с гигантским лабиринтом, в различных точках которого находятся группы исследователей, стремящихся найти свой путь к цели, хотя пространство лабиринта и сама эта цель понимается ими по-разному. В одном эти группы похожи: они не представляют себе размеры и сложность мега-проблемы, иначе никогда бы не решились пуститься в свой поход. И уж, по крайней мере, не тешили бы себя иллюзиями о том, что знают, в какую сторону двигаться.
___Между разными группами есть подобие связи и возможность общения, хотя и ограниченная не слишком высокой их способностью к взаимопониманию. Это создает у них иллюзию единого поля видения и представления о общей карте «области исследования». Хотя я уверен, что эта карта - или множество ее частных вариантов - не ближе сегодня к истине, чем упоминавшаяся карта Ойкумены древнего мира.
___Замечательно отразил подобную ситуацию в лабиринте Виктор Пелевин в своей вышедшей недавно книге "Шлем Ужаса" [Пелевин 2005].

ДВЕ БОЛЬШИЕ РАЗНИЦЫ

___Именно на данном этапе развития области ИИ очень важно осознать, что в ее тематическую структуру чем дальше, тем больше вносит неразбериху ее название. Если на первых шагах оно помогло ей привлечь общий интерес, средства и научные силы, добиться первых результатов, то теперь оно приводит к понятийному винегрету, в котором очень мешают друг другу два достаточно далеких друг от друга уровня относимой к ИИ тематики:

--- Стратегическая цель Искусственного Интеллекта - это та фундаментальная долгосрочная междисциплинарная мега-проблема, которая требует серьезного осознания и глубокой разработки, а никак не сиюминутных успехов, превращающихся в фокусы, которые через массмедиа создаю у публики иллюзию того, что лет через десять-двадцать проблема будет решена.

--- Интеллектуальные прикладные технологии, которые решают текущие задачи в разных областях приложений на основе оригинальных "инженерных" методик, тоже относимых к области ИИ; этим работам прямые коннотации с фундаментальной задачей ИИ не только не нужны, но и очень мешают: например вынуждают специалистов сознательно или подсознательно придерживаться антропоморфности, чтобы соответствовать "ожиданиям заказчиков", ассоциируемым с искусственным интеллектом из блокбастеров.

___Путаница этих двух уровней приводит к конфликту оценок положения дел в области ИИ. Одни говорят о стагнации, забывая о том, что долгосрочные проблемы в принципе не могут работать как фейерверк непрерывных успехов. Другие же ради пиара выдают весьма приземленные успехи приложений за крупные победы в достижении фундаментальной цели.
___Кроме того, этикетка ИИ привлекает массу людей не совсем "адекватных", которые хотят заглянуть за три горизонта сразу, поскольку у них есть масса рецептов, как попасть туда сегодня.
___Ясно, что прикладные работы в области ИИ - это развитие той самой интеллектуализации, которая необходима для любых сложных практических задач. Поэтому энтузиасты искусственного интеллекта берутся за все что угодно и фронт приложений здесь быстро растет, хотя, в основном, в ширину.
___Что-то получается, но пока, чаще всего, не выше «тройки». Редко - на «четыре с минусом»: например, манипуляторы, зрение и анализ изображения, анализ и синтез речи, диагностика… В качестве серьезного прорыва часто приводили шахматы, но и здесь результаты получены в основном не благодаря успешным творческим моделям, а по причине роста мощности компьютеров, способных теперь с помощью удачных эвристик перебирать варианты намного быстрее, чем их могут оценить чемпионы мира.
___Типична история машинного перевода, возможности которого вначале переоценивали на порядки. Хотя любому переводчику известно, что для настоящего перевода мало словаря и грамматики. Переводится смысл, и поэтому не поняв, не переведешь: тут нужны еще знания о той области, к которой относится текст. А эти знания и есть ядро интеллектуализации, без которого ни на какие серьезные успехи здесь рассчитывать не приходится.
___Например, метеосводки машине переводить по силам: это область достаточно ограниченная и поэтому знания о ней можно формализовать и поместить в компьютер. А что-нибудь существенно более сложное пока не удается: чем шире и сложнее область, тем ниже падает качество. Во всяком случае, серьезные успехи здесь остаются еще по-прежнему за горизонтом.
___Но тот факт, что стратегический ИИ еще очень далеко, совсем не означает, что работы в нашей области теряют практический смысл. Совершенно ясно, что сегодня интеллектуализация является ключом развития как самих информационно-коммуникативных технологий (ИКТ), так и всех областей, в которых они активно используются. А поскольку масштабных прикладных разработок без теоретической базы не бывает, то и для интеллектуализации она нужна, но пока не на уровне фундаментальных исследований, а в качестве обоснования концепций и методик решения текущих практических задач.

ЧЕЛОВЕК И МАШИНА

___Тема спора на тему реально ли создание машины, которая превосходила бы возможности человеческого мышления со всеми его особенностями и нюансами, - вопрос скорее философский.
___Научиться имитировать технически можно со временем все что угодно и на любом уровне качества, никак не отличимом от возможностей человека. А следовательно, и превзойти его…
___Но тут есть два тонких момента. Первый: будет ли эта «машина» машиной или уже нет? И второй: если сам человек будет стоять на месте и даже понемногу деградировать, как это происходит сейчас, то машине обойти среднего homo sapiens будет совсем не так сложно.
___Вспомним тест Тьюринга: «компьютер можно считать разумным, если он способен заставить нас поверить, что мы имеем дело не с машиной, а с человеком». Когда наши системы смогут пройти этот тест? Смотря в какой области: в некоторых очень нескоро, в других - гораздо ближе, но тоже не завтра. Не плохо бы и уточнить с кем будем сравнивать: с интеллектуальной элитой или с любителем пива и телевизора? И кто будет сравнивать, - если другой любитель пива, то можно считать, что ИИ уже за углом.

___Пока же наша цивилизация попадает во все большую зависимость от ею же создаваемой техники, для которой всегда существует возможность ошибки или сбоя, способных оказаться губительными для человечества.
___Приходится признать, что такова уж особенность нашей культуры: любой этап развития – это шаг к новому уровню технологии. Освоение каменных орудий и огня тоже имело не только плюсы, но и минусы. Прогресс – нечто вроде наркотика и чем дальше, тем зависимость от его даров только растет.
___Во многих отношениях люди уже сегодня зависят от технологий целиком и полностью. Мы все больше врастаем в них, а они в нас. Отключается электричество в Нью-Йорке или Москве - начинается «конец света». Почему отключилось? Компьютер подвел. Сегодня мы даже от не очень сложных своих компьютеров зависим иногда до беспомощности, а ведь у них интеллекта пока еще несравнимо меньше даже чем у кошки. Если управление нашим будущим будет переходить к тому ИИ, который "за углом", то о такой перспективе и думать страшно.

___Добравшись до 21го века мы выстроили глобальную цивилизацию, все более похожую на минное поле. Новые технологии, порождаемые ею направо и налево в основном из чисто тактических соображений, вырастают до факторов апокалиптического масштаба, представляющего угрозу самому существованию человечества.
На этот самоубийственный вектор технического прогресса накладывается экспоненциально растущее разрушительное воздействие мировых СМИ, работающих как всеобщий галлюциноген. Эта умножающаяся подмена реальности виртуальностью способна понизить IQ Ноосферы до той степени, когда она не сможет справляться с быстро растущим разнообразием потенциально смертельных факторов и какой-то из них - а то и весь букет разом - сработает так, что дальше экспериментировать с цивилизацией будет некому и нечем.

КТО ТАКОЙ еHОМО?

___Между тем уже видно, что дорога ведет совсем не туда, куда собирались пятьдесят лет назад. За спорами о том, может ли машина мыслить, что такое интеллект (тем более искусственный), не завоюют ли нас машины и т.п., довольно неожиданно прямо на наших глазах стал формироваться третий участник "марафона в будущее". Я назвал его еНОМО [Нариньяни 2005], поскольку он рождается в симбиозе сегодняшнего Homo Sapience с быстро совершенствующимися сверхвысокими технологиями.
___В развитии этого симбиоза проступает совсем новая формация личности середины 21-го века: еНОМО во многих отношениях будет отличаться от нас - людей начала нынешнего века - настолько же, насколько наш современник отличен от крестьянина средних веков.
___Очевидно, что эти еНОМО не появятся ниоткуда: можно сказать, что они уже среди нас, да и сами мы, пусть пока немного, но ими являемся. Те, кто сегодня активно пользуются Интернетом, мобильником, персоналкой, начинают, не осознавая того, превращаться в этот новый вид, который внешне сохраняет принадлежность к Homo, но качественно все более отличается от него за счет врастания в развивающуюся техногенную среду обитания.
___Трансформация в еНОМО только начинается, но мы уже не те Homo, которыми были 20 лет назад, хотя и пока не такие, какими станем через 10 – 20 – 30 лет, т.е. еще при жизни основной части нынешнего поколения. Техногенная среда будет для нового человека не только внешней, она проникнет внутрь его организма в виде чипов и микроустройств чуть ли не молекулярного размера.

___Никаких сомнений, что возникновение «нового человека» - это неизбежный закономерный процесс, который может остановить сегодня разве что мировая катастрофа. Интеллектуализация является двигателем этого процесса, поскольку как раз и направлена на то, чтобы взаимодействие с полезным устройством сделать надежным, простым и эффективным.
___Нетрудно представить мобильник с парой кнопок, по которому первобытный человек в Андах (а такие еще есть не только там) сможет говорить с соплеменником или спросить погоду на завтра или позвать на помощь. А от этого уровня до интереса к телесериалам один шаг... Правда, дальше в мировую культуру дорога намного круче и число ступеней на ней таково, что во многих случаях нужную интеллектуализацию проще накачать в спец устройство, чем в царя природы.

___Мы у порога нового этапа цивилизации, касающегося как всего человечества, так и каждого человека, - его личности, тела, образа жизни и даже души. Между человеком и будущим ИИ формируется нечто среднее, своего рода кентавр. В такой перспективе кажется не столь уж важным, кто будет управлять огромным муравейником еНОМО: искусственный интеллект или VIP еНОМО из числа высшего руководства.

Поскольку проблема еНОМО - это не какое-то далекое будущее, а наше весьма близкое завтра, а в чем-то даже и сегодня, мне кажется, что она заслуживает на нашей конференции специального широкого обсуждения.

ГДЕ НУЖЕН ИИ СЕЙЧАС?

___Пока до «окончательного» ИИ еще весьма далеко, а еНОМО еще не оформился, стоит выяснить, в каких областях наиболее востребованы методы интеллектуализации сегодня. Все их здесь, конечно, не перечислишь, но стоит привести несколько основных примеров.

-- Прежде всего ясно, что в интеллектуализации нуждаются практически все сферы использования современных ИКТ, - например, любое рабочее место в составе всякой сложной прикладной компьютерной системы.

-- Роботы, те автономные устройства, которые еще очень далеки от своих фантастических прообразов, но уже стали необходимыми в промышленности, в двойных технологиях и начинают быть полезными даже в быту.

-- Растущий поток текстовых, акустических и визуальных данных требует все более содержательной обработки (в том числе и упомянутого машинного перевода) и не может оставаться без интеллектуальных технологий поиска, анализа и синтеза всех видов информации.

-- Виртуальная реальность: от игр, в которые играют как дети, так и взрослые, до профессиональных тренажеров и компьютерных технологий в кино и телевиденье.

-- Экспертные системы нужны практически в каждой области, как только она осваивает технический уровень ИКТ; начиная свое внедрение, этот авангард ИИ немедленно требует формирования специализированных баз знаний, диагностики и систем поддержки решений, т.е. основы своего дальнейшего развития.

___Во всех перечисленных областях, а так же во многих других приложениях ИИ ключевыми остаются (и, видимо, еще долго будут) две доминанты интеллектуализации:

1. рост уровня пользовательского интерфейса, поскольку «взаимопонимание» пользователя и компьютера является необходимым условием эффективности любой человеко-машинной системы;
2. повышение качества ИКТ, которое сводится в конце концов ко все более результативному решению все более сложных задач, как хорошо, так и плохо формализуемых.

ЗАКЛЮЧЕНИЕ

Искусственный интеллект - термин наиболее fuzzy из всех обозначений общепринятых научных дисциплин. Что к этой области относится, в чем ее задачи, каковы ожидаемые результаты и когда мы надеемся их получить - тема настолько масштабная, что в ограниченном объеме доклада ее можно обсудить только пунктирно. Однако несколько вопросов требуют с моей точки зрения особого внимания и именно по ним стоит здесь подвести итог.

---- Одна из затронутых проблем, казалось бы чисто методологическая, но имеющая очень важное тактическое значение - это необходимость разделить уровни работ в области ИИ на две пока вполне автономные составляющие:
- фундаментальную мега-проблему, т.е. Искусственный Интеллект per ce, и
- исследования и разработки, связанные с решением сегодняшних задач интеллектуализации.
___Эти составляющие не должны мешать друг другу постоянной чисто конъюнктурной "интерференцией", а, напротив, продуктивно взаимодействовать как высокая теория и полевая практика. Естественно, практике ИИ, также как и прикладным направлениям любых других областей, нужна своя теория, но в данном случае это теория совсем другого уровня, который никак нельзя путать с уровнем мега-проблемы ИИ.

---- Метафоры горного эффекта и лабиринта были использованы здесь для иллюстрации того, что с моей точки зрения (она раздражает некоторых коллег) сегодня работы в наше области еще не вышли из пеленок, и если ИИ пока немногое может, то у него все еще впереди.
___Это относится к обеим выделенным выше составляющим: отнесение стратегического уровня к классу мега означает, что здесь цель очень далека, а про результаты интеллектуализации "на тройку" уже достаточно говорилось выше.

---- Что касается еНОМО, то удивительно, как мы ухитряемся не замечать того, что на наших глазах Homo Sapience превращается в нечто качественно иное. Причем это происходит в таком темпе, что вообразить, чем он станет через несколько ближайших десятков лет сейчас можно не с большим правдоподобием, чем возможную встречу с инопланетянами.
___Сто лет назад в "марафоне будущее" конкурентов у человека не было. Через полвека в соревнование включился второй участник - ИИ. Сейчас, на очередном этапе, их стало три, поскольку к ним присоединился еще и еНОМО.
___Ставки упираются в ключевой вопрос: можно ли утверждать, что изучать скрытые возможности человека теперь уже бессмысленно, поскольку их развитие подошло к своему пределу? Если это так, то у Homo в этом соревновании вряд ли есть шансы.
___Но есть и противоположная точка зрения: мы знаем о себе пока очень мало и сменив текущее техногенное направление развития на homo-центрическое, мы могли бы совершить необходимый поворот в своем развитии и обрести новую перспективу, сохранив в еНОМО ведущую роль НОМО по отношению ко всему спектру возможностей, добавляемых приставкой «е».
___Другими словами, все три участника марафона - включая и человека - еще далеко не определены, а лишь приблизительно обозначены. К сожалению, наш электронный век пока работает на еНОМО, меньше на ИИ, и совсем в последнюю очередь на человека.

---- Этот марафон и историю в целом в любой момент может прервать какой-либо из эффектов упомянутого выше минного поля глобальной цивилизации 21го века. Именно поэтому человека необходимо пока не поздно поставить в центр внимания, поскольку от него зависит тот "человеческий фактор", который является обычно основной причиной техногенных катастроф. И, конечно, не менее важно развитие средств интеллектуализации, ориентированных на повышение надежности технических систем и их "защиту от дурака".
___Несколько лет назад я опубликовал в Трудах КИИ’98 доклад [Нариньяни 1998], в котором высказал уверенность, что мы находимся на пороге «большого скачка», имея в виду прогресс не столько в мега ИИ, сколько в интеллектуальных технологиях.
___К такому скачку все готово и он очень важен для ближайшего этапа развития ИКТ, объем и качество которых при этом резко возрастет. И самое главное, что он может быть сделан с активным участием России.
___Я уверен в этом и сейчас. Однако, сегодня эта возможность не стала ближе, - сказывается общее положении дел во всей отечественной науке за последние 15 лет. И если ситуация не изменится еще года два-три, то наш шанс стать лидером, или хотя бы участником, этого рывка останется навсегда упущенным.

***

Первый вариант этой статьи в версии для массового читателя опубликован в Независимой газете под заголовком "Очень искусственный интеллект" (N 37 (3715) 22 февраля 2006, с.14), который редакция поставила без согласования со мной.
Список литературы

[Пелевин 2005] Виктор Пелевин. " Шлем Ужаса. Креатифф о Тесее и Минотавре". Открытый Мир. М.2005.
[Нариньяни 2005] А.С. Нариньяни. eHOMO - два в одном (Homo Sapience в ближайшей перспективе). В Сб. "Новое в искусственном интеллекте", ИИнтеЛЛ, Москва 2005, сс.260 - 274
[Нариньяни 1998] А.С. Нариньяни. Искусственный интеллект: стагнация или новая перспектива? КИИ’98 «Труды 6-ой национальной конференции по искусственному интеллекту», Пущино 1998, т.1