Тестирование программ

Тестирование – процесс анализа программы или контролируемого выполнения программы на конечном множестве входных данных с целью обнаружения ошибок

Статическое – анализ текста программы

Динамическое – анализ контролируемого выполнения

Методы тестирования – совокупность правил, регламентирующих последовательность шагов по тестированию

Критерии тестирования – оценки, позволяющие судить о достаточности выполненного тестирования

Результативным считается тест, который приводит к обнаружению ошибки. Тестирование – деструктивный процесс.

Тест – набор входных данных, набор ожидаемых результатов, набор условий, разработанных для проверки определенного пути выполнения программы.

Особенности

1) Частое отсутствие полностью определенного эталона, которому должны соответствовать результаты

2) Высокая сложность программ исключает исчерпывающее тестирование (проверка всех возможных маршрутов выполнения)

3) Невысокая формализация критериев завершения тестирования

Основные принципы тестирования

1) Нельзя планировать тестирование в предположении, что ошибки отсутствуют

2) Следует избегать тестирования программы ее автором

3) Описание предполагаемых значений результатов должно быть неотъемлемой частью теста

4) Тесты для неправильных входных данных следует разрабатывать также тщательно, как и для правильных

5) Следует понимать, сто вероятность наличия необнаруженных ошибок пропорциональна числу уже обнаруженных

6) Не следует выбрасывать тесты, даже если программа уже не используется

Объекты тестирования. Категории тестов

1) Спецификации программных модулей, групп программ и программных комплексов

- полнота и согласованность функций программных компонент

- согласованность интерфейсов программных компонент (для групп программ и комплексов)

2) Программные модули

- структура

- преобразование данных, выполняемое модулем

- полнота функций, выполняемых модулем

3) Группы программ, объединенные для решения законченной функциональной задачи

- то же, что и для модулей

- интерфейс между программами

- тестирование потребления ресурсов

4) Программный комплекс, используемый для решения нескольких функциональных задач

- полнота решения функциональных задач

- функционирование программ в критических ситуациях

- тестирование потребления ресурсов

- оценка надежности работы комплекса

- эффективность защиты от искажения общих данных

5) Программное средство, сдаваемое в опытную эксплуатацию

- то же, что и для 4)

- удобство инсталляции рабочей версии программы

- проверка работы при изменении конфигурации оборудования

- проверка наличия и корректности документации

- испытание на соответствие техническому заданию

6) Программное средство на стадии сопровождения

- удобство модификации, типа расширения функциональности и повышения эффективности

1 – Спецификации

2 – Модули

3 – Группы программ

4 – Программные комплексы на стадии отладки

5 – Программные комплексы как продукты

Виды и методы тестирования

Особенности нисходящего тестирования:

Достоинства:

- с самого начала выполняется проверка главных функций – концептуальная проверка

Недостатки:

- необходимость разработки заглушек, часто достаточно интеллектуальных

- параллельная разработка модулей различных уровней не всегда обеспечивает возможность нужной последовательности тестирования модулей разных уровней

Особенности восходящего тестирования

Достоинства:

- для тестирования используются готовые модули нижних уровней

Недостатки:

- необходимость разработки тест-драйверов для управления работой нижних уровней с верхних

- отложенная проверка основной концепции функционирования комплекса

1) Модульное тестирование. Включает проверку:

- корректности структуры модуля

- корректности основных конструктивных компонент

- полноты и качества реализации функций обработки данных

Структурная корректность проверяется структурными методами по принципу «белого ящика»

2) Интеграционное тестирование. Проверка:

- корректности объединения модулей в группу или комплекс программ

Проводится на основе 2-х подходов:

- монолитное тестирование, при котором модули сразу объединяются в единый комплекс и после этого вместе тестируются

- инкрементальное (пошаговое), модули подключаются друг к другу последовательно (снизу вверх или сверху вниз)

Использует структурную проверку подключаемых модулей и функциональную проверку полноты и качества реализации функций. Функциональные проверки осуществляются по принципу «черного ящика»

3) Системное тестирование. Обеспечивает проверку соответствия программного средства специфицированным требованиям в заданной среде и режимах функционирования. Предусматривает следующие виды тестирования:

- тестирование функциональности

- стрессовое тестирование (тестирование на повышенных нагрузках по использованным ресурсам)

- тестирование безопасности (защита от несанкционированного доступа)

- тестирование восстановления при сбоях

В последнее время стало широко применяться альфа и бета тестирование – это виды тестирования, выполняемые с участием заказчика. Альфа тестирование выполняется на территории разработчика в условиях ограниченного времени (не более недели). Бета тестирование выполняется после введения программы в опытную эксплуатацию на территории заказчика, проводится достаточно долго (норма 1 год).

Статистика ошибок в программных продуктах по типам.

Ошибки спецификации	8.1
Структурные ошибки	25.2
Ошибки представления и обработки данных	22.4
Полнота и корректность функций	16.2
Кодирование	9.9
Интеграция	9.0
Системные	3.0
Прочие	остальные

Методы тестирования

Все методы делятся на две неравнозначных группы:

- статическое (ручное)

- динамическое (машинное)

Основные методы ручного:

- инспекция кода

- сквозной просмотр

Методы динамического:

- структурные

- функциональные

Методы статического тестирования

Общая черта – они используют визуальный контроль программы по ее тексту группой из 3-4 человек, один из которых автор программы. Целью проверки является обнаружение ошибок, но не их устранение. Основная концепция – наличие ошибок не есть вина автора программы, а несовершенство средств разработки программы и сложность программы как некоторой системы. При нормальном проведении статические методы тестирования позволяют обнаруживать 30-70% первоначальных ошибок в программе. Они, в отличие от машинных, позволяют обнаруживать типовые группы ошибок автора.

Инспекция кода. В группу входит 4 человека: руководитель проведения инспекции, автор программы, проектировщик и тестировщик. За неделю до инспекции руководитель раздает всем участникам листинг программ, которые будут инспектироваться.

2 этапа:

1) автор рассказывает логику работы программы и отвечает на вопросы, преследующие цель обнаружения ошибок

2) программа анализируется по типовому списку часто встречающихся ошибок:

- ошибки обращения к данным (неинициализирование данных, выход индексов за границы массивов, ссылки на пустую память)

- ошибки описания данных, соответствие заданных типов и значений

- ошибки вычислений

- ошибки передач управления (зацикливание, корректность завершения программы)

- ошибки интерфейса (ошибки, связанные с взаимодействием частей друг с другом)

- ошибки ввода/вывода

Результат инспекции кода:

- обнаруженные ошибки

- обучение автора улучшенным методам кодирования программ

Сквозной просмотр. Начинается так же как и инспекции кода, но в процессе заседания группы ознакомление с программой выполняется путем небольшого числа сеансов ручного тестирования программы на простых данных.

Динамическое тестирование

Структурное тестирование программных модулей

При структурном тестировании проверяется

- прохождение тестов по логике программы, в качестве элементов которой выступают вершины, дуги, маршруты, условия и комбинации условий управляющего графа программы

- в последнее время проверяется прохождение потока данных по информационному графу программы, которое выявляет аномалии в обработке данных

Тестирование на основе потока управления

Вводят критерии отбора элементов для тестирования:

1) покрытие операторов (покрытие вершин УГП, покрытие строк кода). Необходимо проверить выполнение каждого оператора хотя бы один раз. Нужно реализовать путь a-c-e (например при тестовом наборе a=2, b=0, x=3, результат x=2.5). Не проверяется прохождение пути a-b-d. Не проверяются отдельные условия, например OR вместо &. Является самым слабым критерием и используется только при первоначальной проверке.

2) Покрытие ветвей (решений). Необходимо проверить каждую дугу выполнения программы. Этот критерий включает в себя предыдущий.

1) Покрытьдугиa-c-e, a-b-d

2) Покрытьдугиa-c-d, a-b-e. A=3, B=0, X=3иA=2, B=1, X=1

Не выполняет обнаружения всех ошибок, например, если вместо x>1 будет x<1. Критерий не является исчерпывающим

3) Критерий покрытия условий. Каждое условие, используемое в программе должно выполняться хотя бы один раз. Используются следующие условия: A>1, B=0, A=2, x>1. Нужно реализовать проверки: A>1, A<=1, B=0, B!=0, A=2, A!=2, x>1, x<=1. Для проверки этого достаточно следующей пары тестов: (A=1, B=0, X=3) идет по пути a-b-e и (A=2, B=1, x=1) идет по пути a-b-e. Оба теста проверяют один и тот же путь.

4) Комбинированный критерий «условий/решений», который должен проверять все условия в программе и хотя бы один раз пройти по каждой дуге.

Следующие тестовые наборы: (A=2, B=0, x=4) a-c-e, (A=1, B=1, x=1) a-b-d.

5) Комбинаторное покрытие условий. Должны быть покрыты следующие комбинации условий:

(1) A>1, B=0

(2) A>1, B!=0

(3) A<=1, B=0

(4) A<=1, B!=0

(5) A=2, x>1

(6) A=2, x<=1

(7) A!=2, x>1

(8) A!=2, x<=1

Тестовые наборы:

(A=2, B=0, x=4) (1,5)

(A=2, B=1, x=1) (2, 6)

(A=1, B=0, x=2) (3, 7)

(A=1, B=1, x=1) (4, 8)

6) Критерий покрытия вызовов. Обеспечивает проверку корректности вызова каждой процедуры или функции в программе.

7) Критерий покрытия путей. Применяется в ограниченном варианте, когда при использовании циклов рассматриваются только отдельные варианты проверки цикла: тело цикла не выполняется ни разу, тело цикла выполняется один раз, тело цикла выполняется k раз (k<=n – максимально возможное число повторений), тело цикла выполняется n раз, тело цикла выполняется n+1 раз. Является очень сложным и громоздким, применяется только при очень тщательном тестировании.

Структурное тестирование на основе потока данных

Работа любой программы представляется как обработка потока данных, передаваемых от ее входа на выход. Если имеется управляющий граф программы вида

Информационный граф программы представляется пунктирными линиями.

Для каждой вершины i УГП можно определить множество def(i) – данных, определенных в этой вершине и множество use(i) – данных, используемых в этой вершине.

Для тестирования надо выделить DU цепочки, которые имеют следующий вид DU=(Data, i, j), Data – данное, i – вершина, в которой создается данное, j – вершина, в которой используется данное.

Для нашего примера множество DU цепочек:

DU={(a, 1, 4), (b, 1, 3), (b, 1, 6), (c, 4, 6)}.

После формирования набора DU цепочек выполняется отображение DU цепочек во фрагменты УГП, соответствующие путям определения и использования данной цепочки.

Для цепочки (a, 1, 4) путь 1-2-3-4. По информационному графу программы порождается путь в управляющем графе программы, который тестируется. Этот способ называется «стратегия требуемых пар»

Недостаток: трудность выбора минимального количества тестов, обеспечивающих эффективную проверку всех DU цепочек.

Функциональное тестирование (ФТ)

Структурное тестирование не позволяет проверить все функции, возлагаемые на программу, потому что некоторые функции могут просто отсутствовать в предложенной реализации.

Функциональное тестирование – это тестирование, необходимое для проверки соответствия программного продукта функциональным требованиям, заданным в спецификации. При выполнении ФТ логика работы программы игнорируется и все внимание фокусируется на выходных значениях, полученных в результате обработки заданных входных наборов. Обычно ФТ обнаруживаются следующие виды ошибок:

1) некорректные или отсутствующие функции

2) ошибки интерфейса

3) ошибки потребления ресурсов (превышение занимаемых памяти или времени выполнения)

4) ошибки инициализации или завершения программы

Для проведения ФТ необходимо иметь: наборы входных данных, приводящих к аномалиям выполнения программы, наборы выходных данных, позволяющих обнаруживать дефекты в работе программы.

Методы ФТ должны обеспечивать:

1) сокращение необходимого числа тестовых вариантов (проверки выполняются динамически)

2) выявлять классы ошибок, а не отдельные ошибки

Методы ФТ как правило применяются на более поздних стадиях тестирования, чем структурные.

Примеры.

Метод разбиения на классы эквивалентности.

Область входных данных разбивается на классы эквивалентности (КлЭ), представляющие собой набор данных с общими свойствами, обработка которых программой производится совершенно одинаково. При обработке используются одни и те же операторы и одни и те же связи. КлЭ делятся на правильные (допустимые) и неправильные. КлЭ определяются по спецификации на программу, например следующим образом: 20000<=x<=80000, правильный КлЭ - 20000<=x<=80000, 2 неправильных КлЭ – x<20000, x>80000. Разработка тестов состоит из 2 этапов:

1) разбиение на КлЭ

2) построение тестов

Выделение КлЭ по спецификации – процесс эвристический

Рекомендации

1) если проверяемое входное данное представлено в виде диапазона значений, то строится один правильный класс (внутри диапазона) и два неправильных

2) если конкретное значение, то строится один правильный и два неправильных КлЭ

3) если входное условие описывает множество значений m={a,b,c}, то строится по одному правильному классу для каждого из значений и один неправильный класс для значений, не принадлежащих множеству (m!=a)&(m!=b)&(m!=c)

4) если есть основание считать, что элементы КлЭ трактуются программой неодинаково, то этот класс необходимо разбить на меньшие классы с разнесением по-разному трактуемых элементов

Построение тестов.

1) Каждому КлЭ присваивается уникальный номер

2) Строятся тесты для правильных КлЭ, чтобы каждый тест покрывал как можно больше этих классов

3) Строятся тесты для неправильных классов, которые должны быть индивидуальны, поскольку проверки с ошибочными входами могут скрывать друг друга.

Анализ граничных условий.

Метод является развитием предыдущего в том смысле, что под граничными условиями понимаются ситуации, возникающие на границах входных и выходных КлЭ.

Отличается от предыдущего

1) при выборе элементов КлЭ используются значения на и вблизи границ классов -1.0<=x<=1.0 x={-1.0, 1.0, -1.01, 1.01}

2) метод должен рассматривать не только входные, но КлЭ для выходных значений.

Общее правило использования метода:

1) построить тесты для значений, лежащих на границе области, и тесты с неправильными данными, немного выходящих за пределы границ

2) если обрабатывается определенное количество файлов в заданном диапазоне, то построить тесты для граничных значений файлов, на 1 больше и меньше верхней и нижней границы соответственно

3) применить подходы 1, 2 для каждого из выходных значений

4) если проверяется упорядоченное множество значений, то необходимо выполнить проверки первого и последнего элементов.

Недостатками рассмотренных методов является то, что они не позволяют проверять комбинации условий.

Метод функциональных диаграмм (метод диаграмм причинно-следственных связей ДПС)

Метод позволяет формально генерировать результативные тесты, позволяющие обнаруживать неоднозначность требований спецификаций при комбинировании входных условий

Функциональная диаграмма – это формальный графо-аналитический язык, позволяющий описывать спецификации, написанные на естественном языке.

Методика построения функциональных диаграмм

1) спецификация разбивается на «рабочие участки», т.е. такие участки, для которых диаграмма не будет слишком громоздкой

2) спецификации выделяются причины и следствия. Причина – отдельное входное условие или КлЭ входных условий, следствие – выходное условие, результат выполнения программы. Каждой причине и следствию присваивается уникальный номер

3) анализируется семантика информации, заданной в спецификации, и строится булевский граф, связывающий причины и следствия, который является функциональной диаграммой. Каждый узел графа может принимать 2 значения: 1 – присутствует (выполняется)

Для представления диаграмм используются следующие базовые символы:

Пример.

Задана спецификация. Файл обновляется, если символ, считываемый в позиции 1 равен а А или Б, а символ в позиции 2 стоит цифра. Если первый символ ошибочный, то сообщение Х1, если второй не цифра, то сообщение Х2.

Причины

1) символ в позиции 1 равен А

2) символ в позиции 1 равен Б

3) символ в позиции 2 цифра

Следствия

1) файл обновляется

2) выдается сообщение Х1

3) выдается сообщение Х2

В приведенной диаграмме есть проблема: никак не ограничено применение причин 1 и 2.

Для учета невозможных комбинаций причин или следствий предусмотрены дополнительные базовые элементы.

Е – не могут быть одновременно

I – не могут быть одновременно 0

R – требует (a=1, то и b=1)

M – запрещает (a=1, то b=0)

С учетом этого:

Генерация таблицы решений

Использование столбцов таблицы решений в качестве тестов

Генерация таблицы решений:

1) Формируются строки, соответствующие причинам и следствиям

2) Выбирается некоторое следствие, которое имеет значение 1

3) Находятся комбинации причин, которые обеспечивают такое значение следствия

Незаполненные элементы строк причин могут принимать любые значения

1	1	0	0
2	0	1	0
3	1	1		0
4	1	1
5			1
6				1

Используемые тесты будут иметь следующий вид

1) A 2

2) B 2

3) 1 1

4) A A

Метод, основанный на предположении об ошибке (метод отрицательного тестирования)

Сущность основана на опыте тестировщика и идея заключается в перечислении некоторого набора возможных ошибок, для обеспечения которого пишутся тесты. Метод определяет способы как заставить программу сделать ошибку или прекратить выполнение. У проектировщиков выявляются требования для успешного выполнения программы и далее разрабатываются тесты, каждый из которых нарушает одно из требований. Проверяется устойчивость программы к исключительным ситуациям.

1) запуск на другой платформе

2) перестановка значений в файле

3) отсутствие данных в БД

4) неверные или отсутствующие значения параметров конфигурации

Общая стратегия разработки тестов

1) проверить логику программу с помощью методов структурного тестирования по критериям покрытия операторов, покрытия ветвей (условий), покрытие решений условий, комбинаторное покрытие условий

2) проверка функциональности программы с помощью методов ФТ. Если есть комбинации входных условий, то надо начинать с метода функциональных диаграмм, затем разбиение на КлЭ, анализ граничных условий, метод отрицательного тестирования.

Критерии завершения тестирования

Обычно применяется 3 группы

1) критерии, основанные на определенной методологии тестирования, определяющей процент покрытия тестами логики и функциональности программы.

2) критерии, основанные на экспертных оценках возможного числа ошибок, имеющихся в программе данного класса и целевого назначения.

3) критерий, основанный на временной диаграмме тестирования для каждой фазы разработки программы