На правах рукописи

Личаргин Дмитрий Викторович

МЕТОДЫ И СРЕДСТВА ПОРОЖДЕНИЯ СЕМАНТИЧЕСКИХ КОНСТРУКЦИЙ ЕСТЕСТВЕННО-ЯЗЫКОВЫХ ИНТЕРФЕЙСОВ ПРОГРАММНЫХ СИСТЕМ

Специальность 05.13.17 – «Теоретические основы информатики»

АВТОРЕФЕРАТ

диссертация на соискание ученой степени кандидата технических наук

Красноярск - 2004

Работа выполнена в Институте вычислительного моделирования СО РАН

Научный руководитель: доктор технических наук Л.Ф. Ноженкова

Официальные оппоненты: доктор технических наук, профессор Г. А. Доррер;

кандидат технических наук, доцент Г. М. Цибульский;

Ведущая организация: Красноярский государственный технический университет

Защита диссертации состоится ________ 2004 г. в ___ часов на заседании диссертационного совета ____________ при Красноярском государственном техническом университете по адресу: __________________________________

С диссертацией можно ознакомиться в научной библиотеке Красноярского технического университета.

Отзывы на автореферат в двух экземплярах, заверенные печатью, просим направлять по адресу: _____________________, ученому секретарю диссертационного совета ___________________________.

Автореферат разослан _____________ 2004 г.

Ученый секретарь диссертационного

совета

Общая характеристика работы

Актуальность темы. В связи с проникновением компьютерной техники во все сферы человеческой деятельности, когда большая часть населения развитых стран общается с программным обеспечением, решая все более сложные задачи, остро встает проблема перехода от визуального и командного интерфейсов к построению интерфейсов программных систем на естественном языке.

Задача моделирования естественного языка является наиболее важной составляющей проблемы создания естественно-языковых (ЕЯ) интерфейсов. Ее решение включает как анализ фраз на естественном языке, так и генерацию текстов.

Главным инструментом для решения проблем анализа и порождения фраз и текстов является формализация семантики языка. Для построения естественно-языковых интерфейсов необходимо опираться на формальное описание семантики (системы смысла) единиц естественного языка. Таким образом, смысловая классификация единиц языка является актуальной задачей, определяющей успешность формализации смысла языка в приложении к взаимодействию программного обеспечения с пользователем. Классификация множества грамматически и семантически корректных фраз должна основываться на классификациях слов-понятий и сем языка. Успех описания семантики определяется степенью простоты и полноты лингвистической классификации слов и выражений языка. Сопоставление каждой единице языка или группе единиц соответствующей логико-математической формулы, описывающей их семантику, также является актуальной задачей, поскольку такое формальное описание дает возможность задавать лингвистические объекты с использованием математического аппарата, а также описывать их поведение на уровне программных алгоритмов. Предложенные в работе модели позволяют формализовать такие лингвистические представления, которые ранее не получили строгого математического обоснования, но могут быть полезны для порождения семантически корректных фраз в рамках построения систем общения с программным обеспечением на естественном языке.

Методы оперирования естественным языком находят применение в системах машинного перевода, в системах поиска и обмена информацией, реферировании текстов, экспертных системах и других актуальных программных приложениях.

Цель диссертационной работы. Цель диссертационной работы состоит в создании методов смыслового анализа и порождения фраз и текстов естественного языка на основе авторской семантической классификации слов и понятий, а также в их программной реализации для создания основных элементов естественно-языковых пользовательских интерфейсов программных систем.

Задачи диссертационной работы

Проблема построения естественно-языковых интерфейсов в работе рассматривается с точки зрения построения семантико-лингвистической модели и применения средств визуализации структуры естественного языка. Система визуализации основана на классификации единиц языка разных уровней. В свою очередь, построение на ее основе множества подстановочных таблиц позволяет реализовать алгоритмы генерации осмысленных высказываний. Множество подстановочных таблиц может быть положено в основу классификации более высокого уровня, чем классификация слов, – классификации высказываний. Для обеспечения единообразного доступа к элементам этих классификаций представляется необходимым сопоставить множеству языковых единиц одного уровня единую формулу, которая строится на основе общего для данного множества единиц вектора семантических признаков, однозначно задающего классификацию языковых единиц данного уровня.

В работе ставятся и решаются следующие основные задачи:

1. Определение вектора семантической классификации для единиц естественного языка – слов и понятий.

2. Разработка метода классификации слов и понятий языка на основе определения вектора расположения слова в понятийном пространстве.

3. Разработка словаря-классификации языковых единиц английского языка (более 10 тысяч слов).

4. Разработка оригинальных алгоритмов анализа и синтеза фраз естественного языка на основе подстановочных таблиц словаря.

5. Реализация программного обеспечения для моделирования основных элементов естественно-языкового интерфейса, визуализирующего структуру парадигматических и синтагматических отношений естественного языка.

Методы исследований. В работе используются методы компонентного анализа, математической лингвистики, аппарат порождающих грамматик, методология классификации семантических объектов, методы построения интеллектуальных систем и программного интерфейса.

Основная идея работы. Предлагается оригинальный принцип построения формальных определений смысловых единиц языка и естественного языка в целом как единой системы описываемых друг через друга понятий.

Предполагается, что главным средством генерации осмысленных единиц языка при построении естественно-языковых интерфейсов является построение лингвистической классификации. Для этой цели исследуются предположения:

1. об атомарном строении смысла и последовательном сведении значения языковых единиц к «кванту» смысла;

2. об определении лингвистической классификации посредством вектора семантических признаков;

3. о наследовании смысловых единиц классификаций низкого уровня классификациями более высоких уровней в системе классификаций естественного языка.

Предложенная лингвистическая классификация используется для построения естественно-языковых интерфейсов. Построен словарь-классификация слов и понятий на основе заданного вектора признаков. Предложен способ построения подстановочных таблиц на основе предлагаемой классификации. Выполнена программная реализация алгоритмов обработки и генерации текстовой информации на основе базы данных подстановочных таблиц. Построение «табличного» естественно-языкового интерфейса осуществляется посредством визуализации структуры естественного языка в виде иерархии подстановочных таблиц.

Положения, выдвигаемые на защиту:

1. Предложен оригинальный метод классификации слов и понятий языка на основе определения вектора расположения слова в понятийном пространстве.

2. Разработан словарь-классификация языковых единиц английского языка (более 10 тысяч слов).

3. Разработаны оригинальные алгоритмы анализа и синтеза фраз естественного языка на основе подстановочных таблиц словаря.

4. Реализовано программное обеспечение для моделирования основных элементов естественно-языковых интерфейсов.

Научная новизна. В работе предлагается оригинальный метод классификации слов и понятий языка на основе определения вектора расположения слова в понятийном пространстве. Словарь-классификация языковых единиц английского языка является одновременно не имеющим близких аналогов словарем генерации подстановочных таблиц. Предлагаемый словарь позволяет на качественно новом уровне формально описывать подмножества естественного языка, связанные общей темой. Впервые это дает возможность полуавтоматически генерировать подстановочные таблицы, как модели подмножеств языка, на основе фрагментов общего для слов языка понятийного пространства. Построены оригинальные порождающие грамматики для задания элементов вектора классификации. В предлагаемой работе впервые в качестве средства генерации фраз для естественно-языкового интерфейса рассматриваются подстановочные таблицы. Реализовано оригинальное программное обеспечение для моделирования работы базовых составляющих естественно-языковых интерфейсов.

Практическая значимость. Генерация осмысленной письменной речи – один из аспектов приложения рассматриваемых методов в решении задач построения ясных и понятных пользователю систем взаимодействия с программным обеспечением. Предложенные методики позволяют генерировать и анализировать речь разной степени осмысленности, представлять информацию, выделенную из речи, в виде данных когнитивной классификации, тем самым обеспечить основу для создания естественно-языковых интерфейсов между человеком и машиной. Предложенные методы используются в работе программы «Электронный разговорник» для построения текстов на незнакомом языке и автоматической генерации письменной речи на английском языке.

Большинство теоретических результатов работы используется на практике, для обучения иностранным языкам (английский, испанский), как самим автором, так и другими профессиональными преподавателями. Практически используется метод построения фраз на незнакомом языке, основанный на использовании авторского словаря, позволяющего генерировать подстановочные таблицы, используемые далее для генерации осмысленной речи.

В перспективе полученные результаты могут быть использованы для создания автоматических систем перевода и реферирования текстов с последующим хранением, поиском и извлечением нужной информации. Это связано с тем, что в рамках предлагаемого подхода классифицируются не только слова языка, но и когнитивные факты. Предлагаемая классификация слов может служить инструментом для удаления из текста семантического шума и представления предложений в приведенном виде, что может практически использоваться в системах машинного перевода.

Достоверность и обоснованность. Достоверность и обоснованность результатов диссертации определяются:

• Сопоставлением основных положений работы с решением аналогичных задач другими исследователями.

• Построением и апробацией реальных авторских классификаций сем, слов и предложений естественного языка.

• Практической апробацией программных продуктов для полуавтоматической и автоматической генерации осмысленной речи, в том числе на незнакомом языке.

• Практическим использованием авторского пособия по составлению фраз на незнакомом языке – словаря-разговорника.

Личный вклад автора. Все основные теоретические и практические результаты, изложенные в работе, получены непосредственно автором. В частности, предложен оригинальный метод практического представления семантики произвольных единиц языка, а также системы их классификаций. Метод основан на определении системы векторов семантических признаков, в частности, классификации слов и понятий естественного языка. Разработаны алгоритмы порождения естественного языка на основе предложенной классификации. Иллюстрируются алгоритмы и методы построения основных элементов естественно-языкового интерфейса на основе предложенной модели языка.

Апробация работы. Полученные результаты представлены на семинарах ИВМ СО РАН (2000-2003 годах); на всероссийских семинарах «Вопросы теории и практики перевода», Пензенский государственный педагогический университет (Пенза, февраль 2002 и февраль 2003); на Конференции молодых ученых ИВМ СО РАН (Красноярск, апрель 2002); Всероссийской конференции «Вопросы теории и практики перевода», Сибирский технологический университет (Красноярск, март 2002); на специальном семинаре для преподавателей английского языка в Красноярском государственном педагогическом университете (Красноярск, апрель, 2003); на Всероссийской конференции «Проблемы информации региона» ПИР 2003 (Красноярск, 2003).

Публикации. По теме диссертации опубликовано 8 работ, в том числе словарь-классификация слов и понятий английского языка «Комбинаторный разговорник».

Структура и объем работы. Диссертация состоит из введения, 4 глав, заключения и списка использованных источников. Основное содержание работы изложено на 138 страницах текста, содержит 4 рисунка, 21 таблицу. Список использованных источников включает 90 наименований.

Основное содержание работы. Во введении обоснована актуальность темы диссертационной работы, даны постановка проблемы и краткое описание содержания диссертации.

В первой главе показана актуальность исследований в области формализации языка, в частности, его семантики, для построения систем анализа и синтеза речи. Показано, что анализ семантической структуры языка необходим для создания естественно языкового интерфейса при решении таких задач как:

• создание семантически ориентированных систем перевода,

• создание систем автоматического реферирования, сортировки, хранения, поиска и представления информации,

• обучение иностранным языкам и неязыковым дисциплинам с использованием программного обеспечения с естественно-языковым интерфейсом,

• прохождение «машиной» теста Тьюринга.

Выполнен сравнительный анализ существующих подходов и методов анализа семантики языка. Показано, что, несмотря на наличие глубоких исследований языка в различных его аспектах, в частности, с точки зрения лингвистической классификации (Литвинов П., Роже П.), отсутствует единая теория семантики языка. Такая теория позволяла бы представлять любую информацию как некий единый объект-множество классификаций со своими свойствами и единообразным доступом к любому его элементу. Это объясняет оторванность многих глубоких исследований семантической структуры единиц языка от программной реализации, обеспечивающей простой и ясный естественно-языковой интерфейс. Исследована проблема построения семантических классификаций и анализа структуры слова. Показано, что на сегодня не были сформулированы принципы построения и не созданы единая классификация произвольных понятий по универсальным признакам и иерархии подобных классификаций – от текстов и слов вплоть до сем и единого кванта смысла. Последнее до сих пор делало невозможным представление больших пластов лексики в виде визуального представления структуры языка во взаимодействии программного обеспечения с пользователем.

Обоснована необходимость использования элементов разрозненных семантических теорий для создания единой классификации и модели структуры языковых единиц для представления в базах данных и средствах визуализации.

В работе показана история развития идей инженерной лингвистики в применении к проблеме осуществления общения с компьютером на естественном языке. В частности прослеживается динамика развития теорий инженерной лингвистики от периода оптимизма, когда большинство авторов верило в скорое создание не только эффективных систем диалога с «машиной» на естественном языке, но и скором создании искусственного разума. Следующим этапом развития инженерной и семантической мысли стал период пессимизма, когда многие авторы (Дрейфус Х.) стали относиться к идее генерации осмысленной речи программными системами как к утопии, говоря, что не может быть понимания осмысленности там, где понимать некому. Постепенно исследования по генерации осмысленной речи стали носить узко специализированный характер, затрагивая отдельные узкие подмножества языка. Были достигнуты серьезные успехи в создании грамматических анализаторов, баз данных и узко специализированных экспертных систем. При этом при расширении подмножества языка, например, в рамках работы электронных переводчиков, результаты оставляют желать много лучшего.

Работы последних лет связаны с решением проблемы анализа смысла языка в приложении к созданию систем диалога с программным обеспечением. В частности, в работах известных лингвистов и математиков Пиотровского Р. Г., Нариньяни А. С., Винограда Т. и многих других, а также таких известных семантистов, как Никитин М. В., Селиверстова О. Н., Смирницкий А. И., и многих других, дан разносторонний анализ разных проблем семантики естественного языка. Все вышеперечисленные авторы сходятся в том, что разнообразные семантические концепции и классификации пока еще не сведены в единую концепцию, в общую методологию исследований.

В результате анализа существующих подходов к исследованию проблем порождения семантически осмысленной речи был сделан вывод о необходимости отказаться от популярной на сегодня задачи формализации отдельных подмножеств языка в пользу необходимости создания системы классификаций произвольных единиц языка в рамках обще-семантического подхода. Кроме того, системы порождения фраз на сегодня нуждаются в значительном упрощении и структурировании, что делает необходимой визуализацию структуры естественного языка для построения понятного и дружелюбного естественно-языкового интерфейса.

На основании проведенных исследований в заключительной части главы 1 сформулированы задачи диссертационной работы.

Во второй главе показано, что любому понятию естественного языка может быть дано смысловое определение на основе общего для единиц одного уровня вектора признаков классификации. Множества объектов, отношений и их отрицаний составляют формальную систему определения любого слова. При этом для всех слов языка можно получить единую формулу объектов и отношений, общую для всех слов, где каждое слово однозначно определяется уникальным набором отрицаний (или утверждений) объектов или отношений. Последовательность отрицаний задает вектор семантических признаков, полностью описывающих основное семантическое значение любого слова. Вектор семантических признаков однозначно задает классификацию любых языковых единиц, которая может быть представлена либо многомерным кубом, либо симметричным деревом классификации. Изменение последовательности элементов вектора дает различные древообразные классификации, которые можно представить в форме различных словарей: словаря гиперонимов (общих и частных значений слов), словаря ассоциаций, комбинаторных словарей и т. д.

Для каждого уровня языка (сем, слов, фактов) характерна своя семантическая классификация, свой семантический вектор и своя семантическая формула. Вместе они образуют последовательности классификаций, векторов и формул разного уровня.

Представление классификаций в форме упорядоченного множества удобно для создания простых интерфейсов в задачах построения фраз на незнакомом языке, поиска информации в базах данных и осуществления машинного перевода на основе сведения высказываний к приведенному виду и использования подстановочных таблиц как критериев осмысленности фраз.

Семантическая классификация понятий строится на основе классифицируемых сем – "атомов смысла", составляющих структуру смысла слов.

Будем исходить из базового предположения, что язык представлен двумя аспектами, семантическим и формальным, обозначим их соответственно P₁ и P₂. Каждый аспект можно представить с использованием последовательности классификаций: геносем, сем и графем, слов и понятий, фактов и высказываний, соответственно обозначим их через D_j, где j = 0,..,3. Обозначение P_i.D_j будем интерпретировать как классификацию j по аспекту i .

Классификации семантического аспекта:

1. P₁.D₀: Геносемы – специальные служебные самые мелкие смысловые единицы (объект, отрицание, тождество, равенство и т.п.), позволяющие интерпретировать более сложные единицы языка;

2. P₁.D₁: Семы – атомы смысла, составляющие структуру слов и понятий (существо, место, внутри, имплицировать и т.п.);

3. P₁.D₂: Понятия – смысловые единицы, соответствующие словам (дом, телефон, дружба, вещество и т.п.);

4. P₁.D₃: Факты, факт – это некоторое утверждение, о котором можно говорить, что оно истинно, или ложно, формально факт представляется как высказывание, или предикат.

Классификации формального аспекта опираются на синтаксическую структуру языка:

1. P₀.D₁: Графемы – буквы языка;

2. P₀.D₂: Слова с их морфологической структурой для конкретного языка;

3. P₀.D₃: Высказывания – предложения в связном тексте.

Семантический и формальный аспекты языка тесно связаны. Высказывание формально выражает некоторый факт, понятия выражаются словами, плановый язык должен в перспективе сопоставлять графемам слов семы, составляющие значения слов. Геносемы не соответствуют никаким формальным единицам языка и служат для выражения элементарного смысла.

Каждая из перечисленных классификаций семантического и синтаксического аспектов имеет форму дерева.

Обозначим уровни дерева классификации Q_k', каждому из них соответствует один признак G_k вектора G признаков классификации:

" P_i.D_n.Q_k, $ G_γ (P_i.D_n.Q_k « P_i.D_n.G_k),

где P_i.D_n.Q_k – уровень Q_k дерева классификации D_n аспекта P_i а P_i.D_n.G_k – значение G_k вектора G дерева классификации D_n аспекта P_i.

Вектор признаков представляет собой последовательность признаков P_i.D_n.G = < P_i.D_n.G₁, P_i.D_n.G₂, P_i.D_n.G₃ ,…, P_i.D_n.G_k>.

Множество значений признака G_k обозначим {G_k¹, G_k², …}. Каждое значение G_k^l является строкой символов – элементов этого значения, G_k^l = ₁₂…_l. Множества строк G_k^l Î {G_k¹, G_k², …} задаются перечислением, или при помощи порождающей грамматики.

Каждый символ _q значения признака вектора P_i.D_n.G является узлом предшествующей классификации _q = P_i.D_n.Q_k,q, где Q_k,q – k-й узел дерева q-го уровня классификации P_i.D_n.

Рассматриваемые в предыдущих параграфах множества смысловых единиц A, B, C,… являются единицами на выходе последовательности классификаций, например: A  P_i.D_n, B  P_i.D_n+1, C  P_i.D_n+2… Элементы множеств A, B, C,… соответствуют узлам соседних классификаций.

Каждой семантической единице языка может соответствовать множество формальных единиц языка (синонимов): P_i.D_n.Q_k,q ® { P_i+1.D_n.Q_pm} , где p = 1, 2, 3,..., m = 1, 2, 3,..., и наоборот, каждой формальной единице языка может соответствовать множество семантических единиц языка (значений и омонимов): и P_i+1.D_n.Q_pm ® { P_i.D_n.Q_k,q}, где k = 1, 2, 3,... , q = 1, 2, 3,..., то есть имеет место отношение «многие ко многим».

Формирование общей для различных слов и групп слов языка семантической формулы дает возможность расположить множества слов и понятий языка в общем многомерном понятийном пространстве, или общей классификации, и выполнять необходимые операции не только над отдельными словами, но и над правильно подобранными группами слов.

Анализ проблемы классификации единиц языка показал принципиальную возможность упорядочения и упрощения доступа к лингвистическим и когнитивным данным в системах с естественно-языковым интерфейсом. Вместе с тем ставится задача сопоставления вектору признаков классификации конкретных значений классификации таких единиц языка, как слова и понятия. Эта задача рассматривается в третьей главе диссертационной работы.

В главе третьей показана возможность задавать значения вектора признаков, определяющих понятийное пространство, включающее слова естественного языка (см. рис. 1). Рассматривается проблема построения классификаций вида A_i.C_j. Классификации графем и слов соответствуют традиционным фонетико-графическим классификациям, словарям морфем или просто алфавитным словарям. Классификация высказываний является более сложной и малоизученной. Эта классификация, судя по всему, должна быть представлена в форме фрактала, когда от каждого высказывания в разговоре собеседник может перейти на высказывание, ассоциативно связанное с предыдущим. Для моделирования и исследования классификации высказываний используется авторская программа, позволяющая генерировать осмысленные высказывания и объединять их в ассоциативно связные тексты.

Рассмотрим классификацию понятий P₁.D₃.

P₁.D₃.G – вектор признаков предлагаемой классификации понятий. Рассмотрим значения этих признаков.

1) Первый уровень классификации понятий, соответствуют признаку G₁ вектора G.

Положим G₁ = {НЕЧТО, ОТНОШЕНИЕ, СОЗНАНИЕ, ИДЕЯ, ИНФОРМАЦИЯ, МЕСТО, ПРЕДМЕТ, СУЩЕСТВО}. Перечисленные значения признака G₁ будем называть основными семами. Здесь и далее семы записываются прописными буквами. Смысловые значения сем определяются в классификации P₁.D₂.

2) Второй уровень классификации понятий представлен признаком G₂.

Множество G₂ значений признака классификации задается множеством правил порождающей грамматики:

{SàFd, SàFx, dàЖИВОГО, dàНЕЖИВОГО, x  КОТОРОГО ЖИВОЕ, x à КОТОРОГО НЕЖИВОЕ, FàЧАСТЬ (OF), FàВНУТРИ (IN), FàНА ПОВЕРХНОСТИ (ON), FàОКОЛО (AT)},

где понятие ОКОЛО обозначает любое ненулевое расстояние между объектами.

3) Третий уровень классификации понятий определяется признаком G₃,

G₃={Xy (сущность), XXy (сущность чего-то), ОТНОШЕНИЕXy (свойство), ОТНОШЕНИЕXXy (связь), ОТНОШЕНИЕСУЩЕСТВОXy (действие), ОТНОШЕНИЕСУЩЕСТВОXXy (соединение), ОТНОШЕНИЕСУЩЕСТВО СУЩЕСТВОXy (презентация), ОТНОШЕНИЕСУЩЕСТВОСУЩЕСТВОXXy (обмен)},

где X – любая из основных сем, определенных на первом уровне классификации, а y – любая последовательность таких сем. Х выделяется как главная по смыслу сема. Знак «» используется в данном случае для обозначения конкатенации. В круглых скобках приведены смысловые пояснения.

4) Множество G₄ значений признака G задается множеством правил порождающей грамматики:

{SàP₁P₂P₃P₄P₅P₆P₇P₈, P₁àgКОЛИЧЕСТВО, P₁à, P₂à gУСТОЙЧИВОСТЬ, P₂à, P₃à gПОЗИТИВНОСТЬ, P₃à , P₄à gСПЕКТР, P₄à, P₅à gИНФОРМАТИВНОСТЬ, P₅à, P₆à gМЕСТОПОЛОЖЕНИЕ, P₆à, P₇à gРАЗМЕР, P₇à, P₈à gИСКУССТВЕННОСТЬ, P₈à}, где g – лингвистическое значение шкалы вида: {минимальный, …, малый, …, средний, …, большой, …, максимальный, }. Здесь  - пустой символ.

Рис.1. Общая схема представления семантики языковых единиц

5) Пятый уровень классификации понятий

Множество G₅ значений признака классификации задается множеством правил порождающей грамматики:

{Sàx, xà(xFx), xàxFx, xà1 (существующее), xà0 (несуществующее), xà (возможное), xà (необходимое), FàВКЛЮЧАЕТ, F à ВКЛЮЧАЕТСЯ В, F à ВКЛЮЧАЕТ И ВКЛЮЧАЕТСЯ В, F à ЧАСТИЧНО ВКЛЮЧАЕТ, F à БОЛЬШЕ ЧЕМ, F à МЕНЬШЕ ЧЕМ, F à РАВНО, F à ПОДОБНО, F à СТАНОВИТСЯ, F à ПРОИСХОДИТ ИЗ, F à ОДНОВРЕМЕННО С, F à НЕОДНОВРЕМЕННО С, F à ИМПЛИЦИРУЕТ, F à СЛЕДУЕТ ИЗ, F à СООТВЕТСТВУЕТ, F à СВЯЗАНО С}.

Все последующие уровни классификации получаются путем рекурсивного повторения предложенных пяти уровней классификации. Индекс уровня вычисляется по формуле: G_i=G_mod(i,5) .