Victor Kuliamin.CSEDays

L
Использование компонентных
технологий при разработке тестов
В. Кулямин
Институт системного
программирования РАН
Базовые понятия
• Тестирование – проверка корректности
(соответствия требованиям) поведения системы на
основе наблюдения за ее реальной работой в
конечном наборе заранее определенных ситуаций
• Тестируемая система (System under Test, SUT)
• Тестовый вариант – программа или процедура,
нацеленная на создание специфической ситуации в
работе тестируемой системы и проверку
корректности ее поведения в этой ситуации
• Тестовый набор – группа тестовых вариантов,
предназначенная для оценки ряда аспектов качества
тестируемой системы или ее части
2/69
Как устроено тестирование
• Воздействуем на тестируемую
систему
• Наблюдаем за ее реакцией
• Проверяем, такова ли она, как
должна быть (в соответствии с
требованиями)
• Повторяем, пока не исчерпаем
все существенно различные
ситуации
3/69
Задачи тестирования
• Найти ошибки
• Оценить качество системы по разным
аспектам
• Контролировать развитие системы
4/69
Задачи разработки тестов I
• Определить важные для оценки качества системы
характеристики ситуаций в ее работе
• Определить критерии корректности работы системы
• Определить критерии достаточности набора
ситуаций для оценки нужных характеристик
(критерии полноты)
• Определить структуру и состав тестовых отчетов
• Определить структуру набора тестов, удобную для
его использования и дальнейшего развития
• …
5/69
Задачи разработки тестов II
• …
• Собственно, сделать тесты с учетом
принятых решений
– Придумать и реализовать набор ситуаций,
удовлетворяющий критериям полноты
– В каждой ситуации описать соответствующую
процедуру проверки корректности поведения
системы
– Обеспечить построение нужных отчетов
– Организовать тесты в заданную структуру
6/69
Компонентные технологии
Компоненты
• атомарные элементы сборки системы
• программные модули –
обладают четко определенным интерфейсом и
взаимодействуют только через него
• заменяемы без перекомпиляции и пересборки
– имеют бинарное представление
• работают в рамках некоторой инфраструктуры
– компонентной среды
7/69
«Обычные» инструменты тестирования
• Часто используют специфические языки и нотации
• С трудом расширяемы
– Обычно интерфейс для расширений очень узок или
отсутствует
– Поддерживается фиксированный набор техник и
пополнить его невозможно или очень трудно
• С трудом включаются в «неподготовленный» процесс
разработки
– Работают изолированно или только с теми
инструментами, для которых разработчики
предусмотрели некоторую интеграцию
8/69
9/69
• Компонентная организация делает тестовый
набор удобнее
– при эксплуатации
(выбор и выполнение нужного подмножества
тестов)
– при развитии
(модификация тестов, независимая или в связи с
развитием тестируемой системы)
• Она также делает более простой интеграцию
средств тестирования с другими инструментами
Компоненты и разработка тестов
10/69
Модульное тестирование
• Модульное тестирование (Unit Testing) –
проверка работы некоторого куска кода
системы в изоляции от всего остального
• Unit – минимальный компилируемый кусок кода
– Процедура/функция – класс – компонент
• Критерии полноты – покрытие структуры кода
(инструкций, ветвей, …)
11/69
Первые инструменты xUnit
• SUnit [Kent Beck, 1994]
– автоматизация выполнения модульных
тестов на Smalltalk
– http://sunit.sourceforge.net/
• JUnit [Kent Beck, Erich Gamma, 1998]
– то же, для Java
– http://junit.org/
– Test Driven Development
12/69
Основные решения xUnit
• Структура тестового варианта
– Инициализация, установка (setup)
– Выполнение (exercise)
– Проверка (verify)
– Финализация, снос (teardown)
• Иерархия тестов
– Тестовые варианты – методы с именами test***
– Тестовые классы (включают методы, наследуют TestCase)
– Тестовые наборы (включают другие наборы и классы)
• Библиотека методов assert*** для оценки корректности
• Общие установка и снос в виде методов
setUp() и tearDown()
13/69
Пример тестируемого класса
public class Account {
public Account(double initBalance) { ... }
public void activate() { ... }
public void inactivate() { ... }
public double getBalance() { ... }
public int deposit(double sum) { ... }
public int withdraw(double sum) { ... }
public final static int SUCCESS = 0;
public final static int INACTIVE_ACCOUNT = 1;
public final static int INVALID_OPERATION = 2;
}
14/69
Пример теста в JUnit
import junit.framework.*;
public class AccountDepositTest extends TestCase {
Account account;
public void setUp() { account = new Account(0.0); account.activate(); }
public void testSuccessfulDeposit() {
double value = 1568.9;
int result = account.deposit(value);
assertEquals(result, Account.SUCCESS);
assertEquals(value, account.getBalance());
}
public void testInactiveAccountDeposit() {
account.inactivate();
int result = account.deposit(1.0);
assertEquals(result, Account.INACTIVE_ACCOUNT);
assertEquals(0.0, account.getBalance());
}
}
15/69
Тестовый класс
Object under Test
Общая установка
Установка
Тестовые методы
Проверки
Пример тестового набора в JUnit
import junit.framework.*;
public class AllTests extends TestSuite
{
public static Test suite()
{
TestSuite suite = new TestSuite("Account Tests");
suite.addTestSuite (AccountDepositTest.class);
suite.addTestSuite (InactiveAccountTest.class);
suite.addTest (AnotherSuite.suite());
return suite;
}
}
16/69
Тестовый набор
Название набора
Тестовые классы
Вложенный набор
Образцы проектирования в JUnit
17/69
Алгоритм выполнения тестов
Элементы набора сложить в список tests
Для каждого элемента из tests
Если это набор
Добавить его элементы в конец tests
Если это тестовый класс
Выделить тестовые методы (имена начинаются на test)
Для каждого выделенного метода
Создать новый объект данного тестового класса
Выполнить для этого объекта setUp()
Выполнить для этого объекта данный метод
Если выпало исключение, занести его в ошибки
Выполнить tearDown()
18/69
Графическая оболочка JUnit
19/69
Методы assert
fail ( String message )
assertTrue ( String message, boolean expression )
assertNotNulll( String message, Object object )
assertEquals ( String message, Object expected, Object actual )
assertSame ( String message, Object expected, Object actual )
20/69
Достоинства и проблемы
• Очень простой инструмент
– Легко расширяется дополнительными компонентами
– Легко встраивается в другие инструменты и их цепочки
• Простая и удобная организация тестов
– Легко пополнять тестовый набор
– Достаточно легко выделить нужное подмножество
• Однако в больших наборах
– Много тестов могут отличаться лишь незначительно
– Для одного метода в разных ситуациях многие
проверки могут дублироваться
– Изменения в SUT (интерфейс и функции) влекут
многообразные изменения в тестах («хрупкие» тесты)
21/69
Развитие инструментов xUnit
• Несколько сотен инструментов
– AUnit, Check, FUnit, NUnit, PyUnit, Test::Unit, …
• Большой набор образцов
• Модули для отдельных задач
– Для специфических областей
• dbUnit ( http://www.dbunit.org )
• httpUnit ( http://www.httpunit.org )
– Наглядная и обобщенная запись проверок
– Организация заглушек
• Новые возможности сред
– TestNG (  JUnit 4.x )
• Расширения для тестирования на основе моделей
22/69
Проверки на «естественном языке»
Behavior Driven Development [Dan North, 2003]
• Шаблон представления требований
– Given <Некоторое состояние> …
– When <Некоторое событие> …
– Then <Что должно произойти и каково итоговое состояние> …
• Инструменты
– JBehave, NSpecify, RSpec, …
• Библиотеки «наглядного» описания требований
specify { robot.moveForward() }.Must.Not.Throw();
Specify.That( max(x, y) ).
Must.Be.Not.LessThan(x).And.Must.Be.Not.LessThan(y).
And.Must.Either.Equal(x).Or.Equal(y);
23/69
• Заглушки (stubs, test doubles) заменяют
компоненты, от которых зависит SUT
• Классификация в сообществе xUnit
– Dummy Object – несущественное значение параметра
вызываемого метода SUT
– Остальные – объекты, к которым SUT обращается
• Fake Object – простейшая замена реального объекта
• Test Stub – использует возвращаемые результаты для
управления тестом как неявные тестовые данные
– Test Spy – еще и записывает обращения SUT для проверки
в конце теста
– Mock Object – еще и проверяет обращения SUT при их
возникновении
Тестовые заглушки
24/69
Использование Mocks & Spies
• Среды
– EasyMock, NMock, Mockito, pMock, CMock, …
• Создание
List mockedList = mock(List.class);
или @Mock List mockedList;
• Определение возвращаемых результатов
when( mockedList.get(0) ).thenReturn( "first" );
when( mockedList.get(1) ).thenThrow( new RuntimeException() );
when( mockedList.get( anyInt() )).thenReturn( "element" );
• Проверка сделанных вызовов
inOrder.verify( mockedList ).add( "one" ); K
inOrder.verify( mockedList ).get( anyInt() );
verify( mockedList, atLeastOnce() ).add( "three times" );
verify( mockedList, times(2) ).add( "twice" );
verify( mockedList, never() ).add( "never" );
25/69
Инструмент TestNG
[Cedric Beust, 2004]
• Поддержка больших конфигурируемых
тестовых наборов
• http://www.testng.org
26/69
Основные решения TestNG I
• Использование аннотаций Java 5
– Для выделения тестовых методов и методов установки/сноса
– Для некоторых проверок
• Ожидаемые исключения ( @Test(expectedExceptions="…") )
• Таймауты ( @Test(timeout="…") )
• Расширенная иерархия тестов
– Тестовые методы (помечаются @Test )
– Тестовые классы ( помечаются @Test )
– Тесты ( определяются конфигурацией )
– Тестовые наборы ( определяются конфигурацией )
27/69
Основные решения TestNG II
• Конфигурирование тестов
– Описание выполняемых тестов в командной строке или в XML
– Группы и шаблоны выбора тестовых методов
– Методы общей установки/сноса для всех элементов иерархии и групп
– Зависимости между методами и группами
– Настройка выполнения тестов
• Пропуск метода/теста
• Многократное выполнение метода
• Параллельное выполнение методов или тестов
• Определение тестовых данных
– Для отдельных методов
• Тестовые методы имеют параметры
• Задание наборов значений в аннотациях и конфигурации
• Провайдеры данных
– Фабрики тестовых объектов
28/69
Пример теста в TestNG
@Test
public class AccountTest {
Account account;
@BeforeClass(groups = {"active", "inactive"})
public void makeDefaultAccount() { account = new Account(0.0); }
@Test(groups = "inactive")
@Parameters("normalSum")
public void depositInactive(double value) {
int result = account.deposit( value );
Assert.assertEquals( result , Account.INACTIVE_ACCOUNT );
Assert.assertEquals( account.getBalance(), 0.0 );
}
@Test(groups = "active", dependsOnGroups = "inactive", alwaysRun = true)
public void activateAccount() {
account.activate();
Assert.assertTrue( account.isActive() );
}
@Test(groups = "active", dependsOnMethods = "activateAccount")
@Parameters("normalSum")
public void successfulDeposit(double value) {
double oldBalance = account.getBalance();
int result = account.deposit(value);
Assert.assertEquals(result , Account.SUCCESS);
Assert.assertEquals(account.getBalance(), oldBalance + value);
}
}
29/69
Пример конфигурационного файла
<!DOCTYPE suite SYSTEM "http://testng.org/testng-1.0.dtd" >
<suite name="All" verbose="2" parallel="false">
<parameter name="normalSum" value="15.67" />
<test name="All">
<classes> <class name="tests.AccountTest" /> </classes>
</test>
<test name="Active account">
<groups><run> <include name = "active"/> </run> </groups>
<classes> <class name="tests.AccountTest" /> </classes>
</test>
<test name="Inactive account">
<groups><run> <include name = "inactive"/> </run> </groups>
<classes> <class name="tests.AccountTest" />
<methods> <exclude name=".successful*.*" /> </methods>
</classes>
</test>
</suite>
30/69
Результаты работы TestNG
• Отчет о результатах
– Выполненные успешно тесты
– Выполненные с ошибками тесты
– Пропущенные тесты (которые не удалось выполнить)
• Конфигурация набора, состоящего из
выполненных с ошибками и пропущенных тестов
31/69
Тестирование на основе моделей
• ModelJUnit [M. Utting, 2004]
– Waikato University
– http://czt.sourceforge.net/modeljunit/
• NModel
[J. Jacky, M. Veanes, C. Campbell, 2007]
– University of Washington
– Microsoft Research
– http://nmodel.codeplex.com/
32/69
Основные идеи
• Тест строится как набор путей по
конечному автомату, моделирующему
поведение SUT
• Тестовый класс интерпретируется как
описание расширенного автомата
(EFSM)
– Тестовые методы – возможные
воздействия
– Текущее состояние вычисляется
специальным методом или представлено
некоторыми полями
– Действия могут иметь охранные условия
(guardians), тоже представленные как
методы
33/69
0 1
2 3
m1()
m2()
m2()
m1()
m1()
m1()
m2()
[x != 0]
[x > 0]
Пример модели теста в NModel
public class AccountTest {
public Accout target = new Account(0.0);
int balance = 0;
bool active = false;
[Action]
void activate() {
target.Activate();
active = true;
}
bool DepositEnabled() { return active; }
[Action]
void Deposit() {
int sum = 5;
target.Deposit(sum);
balance += sum;
}
}
34/69
Основные идеи NModel I
• Пространство имен – автоматная модель
– Состояние – набор значений статических полей классов модели и
набор достижимых объектов
• Правила отождествления состояний
– Действия – методы, помеченные атрибутом [Action]
• Много действий может соответствовать одному методу
• Имеют охранные условия (с именем ***Enabled), может быть несколько
• Тесты
– Предварительное построение (offline)
• Строится полная модель – все состояния и переходы
• Тесты – набор покрывающих ее путей
– Динамическое построение (online)
• Настраиваемые стратегии, в т.ч. нацеленные на покрытие
– Ограничения пространства состояний
– Тестовые данные
• Действия могут иметь параметры
• Провайдеры данных определяются атрибутом [Domain]
– Адаптеры (steppers)
35/69
Основные идеи NModel II
• Анализ моделей
– Инварианты
• Достижение нарушающего инвариант состояния – ошибка модели
– Условия стабильности состояния
• Недостижимость стабильного состояния – нарушение живучести
• Композиция моделей
– Компоненты – классы, помеченные [Feature]
– Одноименные действия выполняются одновременно
– Действия без партнера выполняются в любой момент
– Использование
• Модульность моделей
• Проверка свойств моделей
• Ограничение моделей и тестов
• Выделение целей тестирования
36/69
Пример модели – сервер
namespace ClientServer {
[Feature] public partial class Server {
public static Socket serverSocket = Socket.None;
public static Phase phase = Phase.Send;
public static bool ServerSocketEnabled() { return (serverSocket == Socket.None); }
[Action] public static void ServerSocket() { serverSocket = Socket.Created; }
public static bool ServerBindEnabled() { return (serverSocket == Socket.Created); }
[Action] public static void ServerBind() { serverSocket = Socket.Bound; }
public static bool ServerListenEnabled() { return (serverSocket == Socket.Bound); }
[Action] public static void ServerListen() { serverSocket = Socket.Listening; }
public static bool ServerAcceptEnabled() { return (serverSocket == Socket.Listening); }
[Action] public static void ServerAccept() { serverSocket = Socket.Connected; }
public static bool ServerReceiveEnabled()
{ return (serverSocket == Socket.Connected && phase == Phase.ServerReceive); }
[Action] public static void ServerReceive() { phase = Phase.Send; }
}
37/69
Пример модели – клиент
[Feature] public partial class Client {
public static Socket clientSocket = Socket.None;
public static double clientBuffer = double.MaxValue;
public static bool ClientSocketEnabled() { return (clientSocket == Socket.None); }
[Action] public static void ClientSocket() { clientSocket = Socket.Created; }
public static bool ClientConnectEnabled() { return (clientSocket == Socket.Created); }
[Action] public static void ClientConnect() { clientSocket = Socket.Connecting; }
public static bool ClientSendEnabled() { return (clientSocket == Socket.Connected); }
[Action] public static void ClientSend() { phase = Phase.ServerReceive; }
public static bool ClientReceiveEnabled() { return (clientSocket == Socket.Connected); }
[Action] public static double ClientReceive(double datum)
{ clientBuffer = datum; return datum; }
public static bool ClientCloseEnabled()
{ return (clientSocket == Socket.Created || clientSocket == Socket.Connected); }
[Action] public static void ClientClose() { clientSocket = Socket.Closed; }
}
38/69
Пример – сервер для композиции
[Feature] public partial class Server {
public static bool ClientConnectEnabled()
{ return (serverSocket == Socket.Listening); }
public static bool ClientSendEnabled()
{ return (phase == Phase.Send); }
[Action] public static void ClientSend()
{ phase = Phase.ServerReceive; }
public static bool ClientReceiveEnabled()
{ return (phase == Phase.ClientReceive); }
[Action] public static void ClientReceive()
{ phase = Phase.Send; }
}
[Feature] class Values2 {
readonly static Set<double> Values = new Set<double>(99.9, 100.0);
[Action] static void ClientReceive([Domain("Values")] double datum) {}
}
39/69
Пример – клиент для композиции
[Feature] public partial class Client {
public static bool ServerAcceptEnabled()
{ return (clientSocket == Socket.Connecting); }
[Action] public static void ServerAccept()
{ clientSocket = Socket.Connected; }
}
}
40/69
Композиция клиент-сервер
41/69
Сервер
Указание целей тестирования
42/69
Проверка свойств моделей
43/69
0
Другие полезные элементы
• Программные контракты
– CodeContracts [2009]
http://research.microsoft.com/en-us/projects/contracts/
• Использование существующих модулей
– httpUnit, dbUnit, etc.
– Заглушки (mocks and spies)
– Генераторы тестовых данных
• Оценка покрытия модели
44/69
Пример CodeContracts
[ContractClassFor(typeof(Account))]
public class AccountContract {
[Pure] double Balance { get; }
int Deposit(double sum) {
Contract.Requires
( Double.MaxValue – sum >= Balance );
Contract.Ensures
( Balance – sum ==
Contract.OldValue<double>(Balance) );
}
}
45/69
Возможности интеграции
Можно ли объединять различные техники
описания (EFSM, контракты, …) при
разработке тестов не тратя на это больших
усилий?
• Идеи
– Использование аннотаций и библиотек, а не
новых/расширенных языков
– Внедрение зависимостей
– Аспектная конфигурация
46/69
Внедрение зависимостей
47/69
Framework
C1 C2 C3
Централизованная
интеграция
Framework
C1 C2 C3
Интеграция на основе
внедрения
зависимостей
C1,
C2,
C3
Аспекты: основные понятия
• Вставка (advice) – код, который нужно вставить
в определенных местах для реализации
некоторой дополнительной функции
• Точка внедрения (join point) – место и время
вставки дополнительного кода
• Сечение (pointcut) – предикат, описывающий
множество точек внедрения для реализации
определенной функции
• Аспект (aspect) – комбинация вставки и
сечения, реализующая некоторую
дополнительную функцию
48/69
Аспектная привязка контрактов
• Метод с контрактом
– Метод
C.M()
– Предусловие метода
preM()
– Постусловие метода
postM()
• Сечение –
любой вызов метода M() в объектах класса C
49/69
obj.M();
if(!preM()) throw ...;
obj.M();
if(!postM()) throw ...;
Архитектура среды тестирования
50/69
Среда внедрения
зависимостей
Описание
аспектов
Обход и развертка
EFSM
Измерение покрытия
Coverage
models
Среда привязки
аспектов
Конфигурация
Test Models
SUT
Contracts
Модели тестов
Контракты
Общая вставка
проверки контрактов
Adapters
Внешние
модули
Модели
полноты
Адаптеры
Реализация
• Базовый язык – Java
– Интроспекция (reflection), аннотации
– Множество инструментов
– Множество вспомогательных библиотек для
поддержки тестирования
• Среда привязки аспектов и внедрения
зависимостей – Spring framework
– http://www.springsource.org
51/69
Пример
Account
• Одна операция transfer(int sum)
– sum > 0 : deposit
– sum < 0 : withdraw
• Возможен кредит (maxCredit ограничивает его величину)
• Все переводы контролируются при помощи внешнего объекта, который
может разрешить или запретить перевод
• Параметры и результаты всех вызовов transfer() трассируются для аудита
Конфигурация теста
• EFSM с состоянием (текущий баланс, переводы разрешены/запрещены)
• Тестовые методы
– transfer
– Включение/выключение разрешений на переводы с помощью заглушки
• Контракт для основной функции метода transfer
• Заглушка, следящая за трассировкой, и контракт для трассировки
• Модель полноты –
метод, выделяющий различные ситуации
Заглушки строятся при помощи Mockito [http://code.google.com/p/mockito/]
52/69
Диаграмма классов примера
53/69
Account
AccountImpl
AuditLog
Permitter
SUT
AccountTest
Проверка переводов
Трассировка
$Permitter
Сгенерирована Mockito
Управляющая заглушка
EFSM-модель теста
AccountSpy$AuditLog
Сгенерирована Mockito
Наблюдающая заглушка
Контракт трассировки
AccountContract
AccountCoverage
Контракт основной функции
Модель полноты
Контракты с состоянием
• Оба контракта используют модельное состояние
(значения баланса и границы кредита)
• Для его синхронизации с SUT нужны
специальные действия
public void transferUpdate(int sum)
{
if(balance + sum > maxCredit
&& checkedObject.getPermitter()
.isPermittedTransfer(checkedObject, sum))
balance += sum;
}
54/69
Контракт основной функции
public boolean transferPost(int sum)
{
// Validity check result
boolean permission = checkedObject.getPermitter()
.isPermittedTransfer(checkedObject, sum);
if(Contract.oldBooleanValue(balance + sum > maxCredit) && permission)
// The transfer is correct and possible
return Contract.assertEquals(Contract.intResult(), sum
, "Result should be equal to the argument")
&& Contract.assertEquals(balance, Contract.oldIntValue(balance) + sum
, "Balance should be increased by the argument")
&& Contract.assertEquals(maxCredit, Contract.oldIntValue(maxCredit)
, "Max credit should not change");
else
// The transfer is impossible
return Contract.assertEquals(Contract.intResult(), 0
, "Result should be 0")
&& Contract.assertEquals(balance, Contract.oldIntValue(balance)
, "Balance should not change")
&& Contract.assertEqualsInt(maxCredit, Contract.oldIntValue(maxCredit)
, "Max credit should not change");
}
55/69
Контракт трассировки
public void transferLogSpy(int sum)
{
// Validity check result
boolean permission = checkedObject.getPermitter()
.isPermittedTransfer(checkedObject, sum);
// Whether the transfer possible at all
boolean possible = (balance + sum > maxCredit) && permission;
// Calls to spy are verified in order-independent way
if(possible)
{
Mockito.verify(logSpy).logKind("SUCCESS");
Mockito.verify(logSpy).logNewBalance(balance);
}
else if(!permission)
Mockito.verify(logSpy).logKind("BANNED");
else
Mockito.verify(logSpy).logKind("IMPROPER");
Mockito.verify(logSpy).logOldBalance(oldBalance);
Mockito.verify(logSpy).logSum(sum);
}
56/69
Модель полноты
public void transferCoverage(int sum)
{
// Validity check result
boolean permission = checkedObject.getPermitter()
.isPermittedTransfer(checkedObject, sum);
if(balance + sum > maxCredit) Coverage.addDescriptor("Possible transfer");
else Coverage.addDescriptor("Too big sum");
if(permission) Coverage.addDescriptor("Permitted");
else Coverage.addDescriptor("Not permitted");
if(balance == 0) Coverage.addDescriptor("Zero balance");
else if(balance > 0) Coverage.addDescriptor("Positive balance");
else Coverage.addDescriptor("Negative balance");
if(sum == 0) Coverage.addDescriptor("Zero sum");
else if(sum > 0) Coverage.addDescriptor("Positive sum");
else Coverage.addDescriptor("Negative sum");
}
57/69
Тест : состояние и управл. заглушка
@Test public class AccountTest
{
Account account;
@Mock Permitter permitterStub;
boolean permission = true;
// Init stubs and configure permitterStub to return true on call to isPermittedTransfer()
public AccountTest() {
MockitoAnnotations.initMocks(this);
Mockito.when(permitterStub.isPermittedTransfer(Mockito.<Account>any(), Mockito.anyInt()))
.thenReturn(permission);
}
public void setAccount(Account account) {
this.account = account;
account.setPermitter(permitterStub);
}
// Current permission and balance are two components of the test state
@State
public boolean getPermission() { return permission; }
@State
public int getBalance() { return account.getBalance(); }
...
}
58/69
Тест : действия
@Test public class AccountTest
{
...
@Test(dependsOnMethods="testWithdraw")
@DataProvider(name = "sumArray")
@Guard(name = "bound")
public void testDeposit(int x) { account.transfer(x); }
@Test(dependsOnMethods="switchPermission")
@DataProvider(name = "sumArray")
public void testWithdraw(int x) { account.transfer(-x); }
// Switch permission and configure permitterStub to its value true on call to isPermittedTransfer()
@Test
public void switchPermission()
{
permission = !permission;
Mockito.when(permitterStub.isPermittedTransfer(Mockito.<Account>any(), Mockito.anyInt()))
.thenReturn(permission);
}
// Guardian for deposits to bound the possible balance values
public boolean bound() { return getBalance() < 5 || !permission; }
// Source of test data for both transfer test methods
public int[] sumArray = new int[]{0, 1, 2, 3, 4};
}
59/69
60/69
Еще пример
• Реализация DOM API на Java
– Xerces for Java [http://xerces.apache.org]
• Манипуляции дочерними узлами
– appendChild(Node n)
– removeChild(Node n)
61/69
62
63
Document
DocumentTypeElement Comment Comment
Общие книги по тестированию
64/69
• B. Beizer. Software Testing Techniques.
Thomson Computer Press, 1990
• R. Binder. Testing Object-Oriented Systems:
Models, Patterns, and Tools. Addison-Wesley,
2000
Модульное тестирование (и больше)
• J.B.Rainsberger. JUnit Recipes. Practical Methods for
Programmer Testing. Manning, 2005
• C. Beust, H. Suleiman. Next Generation Java Testing.
TestNG and Advanced Concepts. Addison-Wesley,
2007
65/69
Тестирование на основе моделей
66/69
• M. Utting, B. Legeard. Practical Model-Based Testing.
A Tools Approach. Morgan Kaufmann, 2006
• J. Jacky, M. Veanes, C. Campbell, W. Schulte. Model
Based Analysis and Testing with C#. Cambridge
University Press, 2007
Теория тестир-я на основе моделей
• M. Broy, B. Jonsson, J.-P. Katoen, M. Leucker,
A. Pretschner, editors. Model Based Testing of
Reactive Systems. Advanced Lectures.
LNCS 3472, Springer, 2005
67/69
Книги на русском языке
• Г. Майерс. Искусство тестирования программ.
Финансы и статистика, 1982
• Д. Месарош. Шаблоны тестирования xUnit.
Рефакторинг кода тестов. Вильямс, 2009
• Мой курс
http://mbt-course.narod.ru
68/69
Спасибо за внимание!
69/69
Виктор Кулямин kuliamin@ispras.ru
www.ispras.ru/~kuliamin
1 von 69

Recomendados

Александр Ярулин - Автоматизация тестирования с xUnit von
Александр Ярулин - Автоматизация тестирования с xUnitАлександр Ярулин - Автоматизация тестирования с xUnit
Александр Ярулин - Автоматизация тестирования с xUnitYandex
2.3K views65 Folien
Введение в язык программирования «Java» von
Введение в язык программирования «Java»Введение в язык программирования «Java»
Введение в язык программирования «Java»Unguryan Vitaliy
12.5K views70 Folien
JUnit, дай пять! von
JUnit, дай пять!JUnit, дай пять!
JUnit, дай пять!Dmitrii Tuchs
320 views30 Folien
Dev collaboration von
Dev collaborationDev collaboration
Dev collaborationEduard Antsupov
346 views46 Folien
6 лекция. тестирование производительности von
 6 лекция. тестирование производительности 6 лекция. тестирование производительности
6 лекция. тестирование производительностиvyacheslavmaslov
1.7K views31 Folien
ук 03.003.01 2011 von
ук 03.003.01 2011ук 03.003.01 2011
ук 03.003.01 2011etyumentcev
998 views236 Folien

Más contenido relacionado

Was ist angesagt?

02-lection-ka von
02-lection-ka02-lection-ka
02-lection-kavyacheslavmaslov
742 views22 Folien
Java осень 2014 занятие 3 von
Java осень 2014 занятие 3Java осень 2014 занятие 3
Java осень 2014 занятие 3Technopark
568 views32 Folien
Unit тесты java von
Unit тесты javaUnit тесты java
Unit тесты javaVadim Lyakhovets
810 views20 Folien
C++ осень 2012 лекция 3 von
C++ осень 2012 лекция 3C++ осень 2012 лекция 3
C++ осень 2012 лекция 3Technopark
450 views37 Folien
Testing of a Risk Control System Implementation for High-Load Exchange and Br... von
Testing of a Risk Control System Implementation for High-Load Exchange and Br...Testing of a Risk Control System Implementation for High-Load Exchange and Br...
Testing of a Risk Control System Implementation for High-Load Exchange and Br...Iosif Itkin
538 views9 Folien
Rambler.iOS #3: Test-Driven Development в iOS von
Rambler.iOS #3: Test-Driven Development в iOSRambler.iOS #3: Test-Driven Development в iOS
Rambler.iOS #3: Test-Driven Development в iOSRAMBLER&Co
2K views18 Folien

Was ist angesagt?(10)

Java осень 2014 занятие 3 von Technopark
Java осень 2014 занятие 3Java осень 2014 занятие 3
Java осень 2014 занятие 3
Technopark568 views
C++ осень 2012 лекция 3 von Technopark
C++ осень 2012 лекция 3C++ осень 2012 лекция 3
C++ осень 2012 лекция 3
Technopark450 views
Testing of a Risk Control System Implementation for High-Load Exchange and Br... von Iosif Itkin
Testing of a Risk Control System Implementation for High-Load Exchange and Br...Testing of a Risk Control System Implementation for High-Load Exchange and Br...
Testing of a Risk Control System Implementation for High-Load Exchange and Br...
Iosif Itkin538 views
Rambler.iOS #3: Test-Driven Development в iOS von RAMBLER&Co
Rambler.iOS #3: Test-Driven Development в iOSRambler.iOS #3: Test-Driven Development в iOS
Rambler.iOS #3: Test-Driven Development в iOS
RAMBLER&Co2K views
Использование Mock объектов в модульном тестировании von GetDev.NET
Использование Mock объектов в модульном тестированииИспользование Mock объектов в модульном тестировании
Использование Mock объектов в модульном тестировании
GetDev.NET7.8K views
Building Open Source Test Automation Frameworks. Watir based automation case ... von Aliaksandr Ikhelis
Building Open Source Test Automation Frameworks. Watir based automation case ...Building Open Source Test Automation Frameworks. Watir based automation case ...
Building Open Source Test Automation Frameworks. Watir based automation case ...
Aliaksandr Ikhelis1.1K views
C++ STL & Qt. Занятие 04. von Igor Shkulipa
C++ STL & Qt. Занятие 04.C++ STL & Qt. Занятие 04.
C++ STL & Qt. Занятие 04.
Igor Shkulipa196 views

Destacado

Александра Торгашова von
Александра ТоргашоваАлександра Торгашова
Александра ТоргашоваLiloSEA
472 views10 Folien
CSEDays. Юрий Айдаров von
CSEDays. Юрий АйдаровCSEDays. Юрий Айдаров
CSEDays. Юрий АйдаровLiloSEA
472 views5 Folien
CSEDays. Александр Семенов von
CSEDays. Александр СеменовCSEDays. Александр Семенов
CSEDays. Александр СеменовLiloSEA
649 views161 Folien
CSEDays. Олег Ушмаев von
CSEDays. Олег УшмаевCSEDays. Олег Ушмаев
CSEDays. Олег УшмаевLiloSEA
1.3K views71 Folien
CSEDays. Алексей Кадиев von
CSEDays. Алексей КадиевCSEDays. Алексей Кадиев
CSEDays. Алексей КадиевLiloSEA
707 views90 Folien
Gunpowder empires compared von
Gunpowder empires comparedGunpowder empires compared
Gunpowder empires comparedAshley Birmingham
27.7K views13 Folien

Destacado(8)

Александра Торгашова von LiloSEA
Александра ТоргашоваАлександра Торгашова
Александра Торгашова
LiloSEA472 views
CSEDays. Юрий Айдаров von LiloSEA
CSEDays. Юрий АйдаровCSEDays. Юрий Айдаров
CSEDays. Юрий Айдаров
LiloSEA472 views
CSEDays. Александр Семенов von LiloSEA
CSEDays. Александр СеменовCSEDays. Александр Семенов
CSEDays. Александр Семенов
LiloSEA649 views
CSEDays. Олег Ушмаев von LiloSEA
CSEDays. Олег УшмаевCSEDays. Олег Ушмаев
CSEDays. Олег Ушмаев
LiloSEA1.3K views
CSEDays. Алексей Кадиев von LiloSEA
CSEDays. Алексей КадиевCSEDays. Алексей Кадиев
CSEDays. Алексей Кадиев
LiloSEA707 views
Лукина Ольга. Безопасность в соц. сетях von LiloSEA
Лукина Ольга. Безопасность в соц. сетяхЛукина Ольга. Безопасность в соц. сетях
Лукина Ольга. Безопасность в соц. сетях
LiloSEA651 views
Степан Петухов von LiloSEA
Степан ПетуховСтепан Петухов
Степан Петухов
LiloSEA527 views

Similar a Victor Kuliamin.CSEDays

C++ STL & Qt. Занятие 10. von
C++ STL & Qt. Занятие 10.C++ STL & Qt. Занятие 10.
C++ STL & Qt. Занятие 10.Igor Shkulipa
351 views20 Folien
iPhone Unit Testing (Google tool Box) von
iPhone Unit Testing (Google tool Box)iPhone Unit Testing (Google tool Box)
iPhone Unit Testing (Google tool Box)Yandex
774 views27 Folien
Automation Functional Testing in Agile Projects von
Automation Functional Testing in Agile ProjectsAutomation Functional Testing in Agile Projects
Automation Functional Testing in Agile ProjectsAndrey Rebrov
1K views41 Folien
Организация тестового набора при автоматизированном функциональном тестировании von
Организация тестового набора при автоматизированном функциональном тестированииОрганизация тестового набора при автоматизированном функциональном тестировании
Организация тестового набора при автоматизированном функциональном тестированииSQALab
755 views20 Folien
План тестирования von
План тестированияПлан тестирования
План тестированияEDISON Software Development Centre
9.7K views9 Folien
Лекция 11. Тестирование. von
Лекция 11. Тестирование.Лекция 11. Тестирование.
Лекция 11. Тестирование.Roman Brovko
27.2K views43 Folien

Similar a Victor Kuliamin.CSEDays(20)

C++ STL & Qt. Занятие 10. von Igor Shkulipa
C++ STL & Qt. Занятие 10.C++ STL & Qt. Занятие 10.
C++ STL & Qt. Занятие 10.
Igor Shkulipa351 views
iPhone Unit Testing (Google tool Box) von Yandex
iPhone Unit Testing (Google tool Box)iPhone Unit Testing (Google tool Box)
iPhone Unit Testing (Google tool Box)
Yandex774 views
Automation Functional Testing in Agile Projects von Andrey Rebrov
Automation Functional Testing in Agile ProjectsAutomation Functional Testing in Agile Projects
Automation Functional Testing in Agile Projects
Andrey Rebrov1K views
Организация тестового набора при автоматизированном функциональном тестировании von SQALab
Организация тестового набора при автоматизированном функциональном тестированииОрганизация тестового набора при автоматизированном функциональном тестировании
Организация тестового набора при автоматизированном функциональном тестировании
SQALab755 views
Лекция 11. Тестирование. von Roman Brovko
Лекция 11. Тестирование.Лекция 11. Тестирование.
Лекция 11. Тестирование.
Roman Brovko27.2K views
Froglogic Squish von SQALab
Froglogic Squish Froglogic Squish
Froglogic Squish
SQALab1.8K views
Модели в профессиональной инженерии и тестировании программ. Александр Петрен... von yaevents
Модели в профессиональной инженерии и тестировании программ. Александр Петрен...Модели в профессиональной инженерии и тестировании программ. Александр Петрен...
Модели в профессиональной инженерии и тестировании программ. Александр Петрен...
yaevents1.9K views
ук 03.007.02 2011 von etyumentcev
ук 03.007.02 2011ук 03.007.02 2011
ук 03.007.02 2011
etyumentcev687 views
Юлия Ковалёва. Fscheck — альтернативный путь для unit тестов von MskDotNet Community
Юлия Ковалёва. Fscheck — альтернативный путь для unit тестовЮлия Ковалёва. Fscheck — альтернативный путь для unit тестов
Юлия Ковалёва. Fscheck — альтернативный путь для unit тестов
Система управления автоматическими тестами на примере использования Visual St... von SQALab
Система управления автоматическими тестами на примере использования Visual St...Система управления автоматическими тестами на примере использования Visual St...
Система управления автоматическими тестами на примере использования Visual St...
SQALab377 views
"Опыт создания системы управления сборкой и тестированием" (полная) von SPB SQA Group
"Опыт создания системы управления сборкой и тестированием" (полная)"Опыт создания системы управления сборкой и тестированием" (полная)
"Опыт создания системы управления сборкой и тестированием" (полная)
SPB SQA Group541 views
Test plan Толстова Ольга von Smart-on-line
Test plan Толстова ОльгаTest plan Толстова Ольга
Test plan Толстова Ольга
Smart-on-line1K views
Test levels von QA Guards
Test levelsTest levels
Test levels
QA Guards864 views
Наталья Чуфырина, Mail.Ru Group, «Как создать команду по автоматизации тестир... von Mail.ru Group
Наталья Чуфырина, Mail.Ru Group, «Как создать команду по автоматизации тестир...Наталья Чуфырина, Mail.Ru Group, «Как создать команду по автоматизации тестир...
Наталья Чуфырина, Mail.Ru Group, «Как создать команду по автоматизации тестир...
Mail.ru Group4.8K views
Unit testing von ISsoft
Unit testingUnit testing
Unit testing
ISsoft593 views
Solit 2012, Enterprise разработка PHP приложений, Иван Захарченко von solit
Solit 2012, Enterprise разработка PHP приложений, Иван ЗахарченкоSolit 2012, Enterprise разработка PHP приложений, Иван Захарченко
Solit 2012, Enterprise разработка PHP приложений, Иван Захарченко
solit528 views
TMPA-2015: Automated Testing of Multi-thread Data Structures Solutions Lineri... von Iosif Itkin
TMPA-2015: Automated Testing of Multi-thread Data Structures Solutions Lineri...TMPA-2015: Automated Testing of Multi-thread Data Structures Solutions Lineri...
TMPA-2015: Automated Testing of Multi-thread Data Structures Solutions Lineri...
Iosif Itkin3.1K views

Más de LiloSEA

Андрей Лабунец. Механизмы трассировки von
Андрей Лабунец. Механизмы трассировкиАндрей Лабунец. Механизмы трассировки
Андрей Лабунец. Механизмы трассировкиLiloSEA
854 views11 Folien
Андрей Гаража. Биоинформатика von
Андрей Гаража. БиоинформатикаАндрей Гаража. Биоинформатика
Андрей Гаража. БиоинформатикаLiloSEA
719 views8 Folien
Александр Тиморин. Мошеннические атаки von
Александр Тиморин. Мошеннические атакиАлександр Тиморин. Мошеннические атаки
Александр Тиморин. Мошеннические атакиLiloSEA
1.2K views10 Folien
Михаил Рыбалкин. Перестановочные многочлены. von
Михаил Рыбалкин. Перестановочные многочлены.Михаил Рыбалкин. Перестановочные многочлены.
Михаил Рыбалкин. Перестановочные многочлены.LiloSEA
589 views9 Folien
Cse коновалова титов von
Cse коновалова титовCse коновалова титов
Cse коновалова титовLiloSEA
410 views37 Folien
схемы разделения секрета von
схемы разделения секретасхемы разделения секрета
схемы разделения секретаLiloSEA
1.7K views30 Folien

Más de LiloSEA(20)

Андрей Лабунец. Механизмы трассировки von LiloSEA
Андрей Лабунец. Механизмы трассировкиАндрей Лабунец. Механизмы трассировки
Андрей Лабунец. Механизмы трассировки
LiloSEA854 views
Андрей Гаража. Биоинформатика von LiloSEA
Андрей Гаража. БиоинформатикаАндрей Гаража. Биоинформатика
Андрей Гаража. Биоинформатика
LiloSEA719 views
Александр Тиморин. Мошеннические атаки von LiloSEA
Александр Тиморин. Мошеннические атакиАлександр Тиморин. Мошеннические атаки
Александр Тиморин. Мошеннические атаки
LiloSEA1.2K views
Михаил Рыбалкин. Перестановочные многочлены. von LiloSEA
Михаил Рыбалкин. Перестановочные многочлены.Михаил Рыбалкин. Перестановочные многочлены.
Михаил Рыбалкин. Перестановочные многочлены.
LiloSEA589 views
Cse коновалова титов von LiloSEA
Cse коновалова титовCse коновалова титов
Cse коновалова титов
LiloSEA410 views
схемы разделения секрета von LiloSEA
схемы разделения секретасхемы разделения секрета
схемы разделения секрета
LiloSEA1.7K views
почти пороговая схема разделения секрета von LiloSEA
почти пороговая схема разделения секретапочти пороговая схема разделения секрета
почти пороговая схема разделения секрета
LiloSEA405 views
Алексей Голдбергс. Криптография для бизнеса von LiloSEA
Алексей Голдбергс. Криптография для бизнесаАлексей Голдбергс. Криптография для бизнеса
Алексей Голдбергс. Криптография для бизнеса
LiloSEA1.3K views
Hash cse lecture3 von LiloSEA
Hash cse lecture3Hash cse lecture3
Hash cse lecture3
LiloSEA377 views
Hash cse lecture1 von LiloSEA
Hash cse lecture1Hash cse lecture1
Hash cse lecture1
LiloSEA364 views
Hash cse lecture2 von LiloSEA
Hash cse lecture2Hash cse lecture2
Hash cse lecture2
LiloSEA431 views
Simonova sql server-enginetesting von LiloSEA
Simonova sql server-enginetestingSimonova sql server-enginetesting
Simonova sql server-enginetesting
LiloSEA254 views
Simonova CSEDays von LiloSEA
Simonova CSEDaysSimonova CSEDays
Simonova CSEDays
LiloSEA216 views
Nikolay Shilov. CSEDays 3 von LiloSEA
Nikolay Shilov. CSEDays 3Nikolay Shilov. CSEDays 3
Nikolay Shilov. CSEDays 3
LiloSEA271 views
Nikolay Shilov. CSEDays 2 von LiloSEA
Nikolay Shilov. CSEDays 2Nikolay Shilov. CSEDays 2
Nikolay Shilov. CSEDays 2
LiloSEA231 views
Katerina Simonova CSEDays von LiloSEA
Katerina Simonova CSEDaysKaterina Simonova CSEDays
Katerina Simonova CSEDays
LiloSEA1 view
Nikolay Shilov. CSEDays 1 von LiloSEA
Nikolay Shilov. CSEDays 1Nikolay Shilov. CSEDays 1
Nikolay Shilov. CSEDays 1
LiloSEA263 views
MSR in Russia. CSEDays von LiloSEA
MSR in Russia. CSEDaysMSR in Russia. CSEDays
MSR in Russia. CSEDays
LiloSEA170 views
Katerina Simonova CSEDays von LiloSEA
Katerina Simonova CSEDaysKaterina Simonova CSEDays
Katerina Simonova CSEDays
LiloSEA278 views
Michael Dyakin. CSEDays von LiloSEA
Michael Dyakin. CSEDaysMichael Dyakin. CSEDays
Michael Dyakin. CSEDays
LiloSEA204 views

Victor Kuliamin.CSEDays

  • 1. Использование компонентных технологий при разработке тестов В. Кулямин Институт системного программирования РАН
  • 2. Базовые понятия • Тестирование – проверка корректности (соответствия требованиям) поведения системы на основе наблюдения за ее реальной работой в конечном наборе заранее определенных ситуаций • Тестируемая система (System under Test, SUT) • Тестовый вариант – программа или процедура, нацеленная на создание специфической ситуации в работе тестируемой системы и проверку корректности ее поведения в этой ситуации • Тестовый набор – группа тестовых вариантов, предназначенная для оценки ряда аспектов качества тестируемой системы или ее части 2/69
  • 3. Как устроено тестирование • Воздействуем на тестируемую систему • Наблюдаем за ее реакцией • Проверяем, такова ли она, как должна быть (в соответствии с требованиями) • Повторяем, пока не исчерпаем все существенно различные ситуации 3/69
  • 4. Задачи тестирования • Найти ошибки • Оценить качество системы по разным аспектам • Контролировать развитие системы 4/69
  • 5. Задачи разработки тестов I • Определить важные для оценки качества системы характеристики ситуаций в ее работе • Определить критерии корректности работы системы • Определить критерии достаточности набора ситуаций для оценки нужных характеристик (критерии полноты) • Определить структуру и состав тестовых отчетов • Определить структуру набора тестов, удобную для его использования и дальнейшего развития • … 5/69
  • 6. Задачи разработки тестов II • … • Собственно, сделать тесты с учетом принятых решений – Придумать и реализовать набор ситуаций, удовлетворяющий критериям полноты – В каждой ситуации описать соответствующую процедуру проверки корректности поведения системы – Обеспечить построение нужных отчетов – Организовать тесты в заданную структуру 6/69
  • 7. Компонентные технологии Компоненты • атомарные элементы сборки системы • программные модули – обладают четко определенным интерфейсом и взаимодействуют только через него • заменяемы без перекомпиляции и пересборки – имеют бинарное представление • работают в рамках некоторой инфраструктуры – компонентной среды 7/69
  • 8. «Обычные» инструменты тестирования • Часто используют специфические языки и нотации • С трудом расширяемы – Обычно интерфейс для расширений очень узок или отсутствует – Поддерживается фиксированный набор техник и пополнить его невозможно или очень трудно • С трудом включаются в «неподготовленный» процесс разработки – Работают изолированно или только с теми инструментами, для которых разработчики предусмотрели некоторую интеграцию 8/69
  • 10. • Компонентная организация делает тестовый набор удобнее – при эксплуатации (выбор и выполнение нужного подмножества тестов) – при развитии (модификация тестов, независимая или в связи с развитием тестируемой системы) • Она также делает более простой интеграцию средств тестирования с другими инструментами Компоненты и разработка тестов 10/69
  • 11. Модульное тестирование • Модульное тестирование (Unit Testing) – проверка работы некоторого куска кода системы в изоляции от всего остального • Unit – минимальный компилируемый кусок кода – Процедура/функция – класс – компонент • Критерии полноты – покрытие структуры кода (инструкций, ветвей, …) 11/69
  • 12. Первые инструменты xUnit • SUnit [Kent Beck, 1994] – автоматизация выполнения модульных тестов на Smalltalk – http://sunit.sourceforge.net/ • JUnit [Kent Beck, Erich Gamma, 1998] – то же, для Java – http://junit.org/ – Test Driven Development 12/69
  • 13. Основные решения xUnit • Структура тестового варианта – Инициализация, установка (setup) – Выполнение (exercise) – Проверка (verify) – Финализация, снос (teardown) • Иерархия тестов – Тестовые варианты – методы с именами test*** – Тестовые классы (включают методы, наследуют TestCase) – Тестовые наборы (включают другие наборы и классы) • Библиотека методов assert*** для оценки корректности • Общие установка и снос в виде методов setUp() и tearDown() 13/69
  • 14. Пример тестируемого класса public class Account { public Account(double initBalance) { ... } public void activate() { ... } public void inactivate() { ... } public double getBalance() { ... } public int deposit(double sum) { ... } public int withdraw(double sum) { ... } public final static int SUCCESS = 0; public final static int INACTIVE_ACCOUNT = 1; public final static int INVALID_OPERATION = 2; } 14/69
  • 15. Пример теста в JUnit import junit.framework.*; public class AccountDepositTest extends TestCase { Account account; public void setUp() { account = new Account(0.0); account.activate(); } public void testSuccessfulDeposit() { double value = 1568.9; int result = account.deposit(value); assertEquals(result, Account.SUCCESS); assertEquals(value, account.getBalance()); } public void testInactiveAccountDeposit() { account.inactivate(); int result = account.deposit(1.0); assertEquals(result, Account.INACTIVE_ACCOUNT); assertEquals(0.0, account.getBalance()); } } 15/69 Тестовый класс Object under Test Общая установка Установка Тестовые методы Проверки
  • 16. Пример тестового набора в JUnit import junit.framework.*; public class AllTests extends TestSuite { public static Test suite() { TestSuite suite = new TestSuite("Account Tests"); suite.addTestSuite (AccountDepositTest.class); suite.addTestSuite (InactiveAccountTest.class); suite.addTest (AnotherSuite.suite()); return suite; } } 16/69 Тестовый набор Название набора Тестовые классы Вложенный набор
  • 18. Алгоритм выполнения тестов Элементы набора сложить в список tests Для каждого элемента из tests Если это набор Добавить его элементы в конец tests Если это тестовый класс Выделить тестовые методы (имена начинаются на test) Для каждого выделенного метода Создать новый объект данного тестового класса Выполнить для этого объекта setUp() Выполнить для этого объекта данный метод Если выпало исключение, занести его в ошибки Выполнить tearDown() 18/69
  • 20. Методы assert fail ( String message ) assertTrue ( String message, boolean expression ) assertNotNulll( String message, Object object ) assertEquals ( String message, Object expected, Object actual ) assertSame ( String message, Object expected, Object actual ) 20/69
  • 21. Достоинства и проблемы • Очень простой инструмент – Легко расширяется дополнительными компонентами – Легко встраивается в другие инструменты и их цепочки • Простая и удобная организация тестов – Легко пополнять тестовый набор – Достаточно легко выделить нужное подмножество • Однако в больших наборах – Много тестов могут отличаться лишь незначительно – Для одного метода в разных ситуациях многие проверки могут дублироваться – Изменения в SUT (интерфейс и функции) влекут многообразные изменения в тестах («хрупкие» тесты) 21/69
  • 22. Развитие инструментов xUnit • Несколько сотен инструментов – AUnit, Check, FUnit, NUnit, PyUnit, Test::Unit, … • Большой набор образцов • Модули для отдельных задач – Для специфических областей • dbUnit ( http://www.dbunit.org ) • httpUnit ( http://www.httpunit.org ) – Наглядная и обобщенная запись проверок – Организация заглушек • Новые возможности сред – TestNG (  JUnit 4.x ) • Расширения для тестирования на основе моделей 22/69
  • 23. Проверки на «естественном языке» Behavior Driven Development [Dan North, 2003] • Шаблон представления требований – Given <Некоторое состояние> … – When <Некоторое событие> … – Then <Что должно произойти и каково итоговое состояние> … • Инструменты – JBehave, NSpecify, RSpec, … • Библиотеки «наглядного» описания требований specify { robot.moveForward() }.Must.Not.Throw(); Specify.That( max(x, y) ). Must.Be.Not.LessThan(x).And.Must.Be.Not.LessThan(y). And.Must.Either.Equal(x).Or.Equal(y); 23/69
  • 24. • Заглушки (stubs, test doubles) заменяют компоненты, от которых зависит SUT • Классификация в сообществе xUnit – Dummy Object – несущественное значение параметра вызываемого метода SUT – Остальные – объекты, к которым SUT обращается • Fake Object – простейшая замена реального объекта • Test Stub – использует возвращаемые результаты для управления тестом как неявные тестовые данные – Test Spy – еще и записывает обращения SUT для проверки в конце теста – Mock Object – еще и проверяет обращения SUT при их возникновении Тестовые заглушки 24/69
  • 25. Использование Mocks & Spies • Среды – EasyMock, NMock, Mockito, pMock, CMock, … • Создание List mockedList = mock(List.class); или @Mock List mockedList; • Определение возвращаемых результатов when( mockedList.get(0) ).thenReturn( "first" ); when( mockedList.get(1) ).thenThrow( new RuntimeException() ); when( mockedList.get( anyInt() )).thenReturn( "element" ); • Проверка сделанных вызовов inOrder.verify( mockedList ).add( "one" ); K inOrder.verify( mockedList ).get( anyInt() ); verify( mockedList, atLeastOnce() ).add( "three times" ); verify( mockedList, times(2) ).add( "twice" ); verify( mockedList, never() ).add( "never" ); 25/69
  • 26. Инструмент TestNG [Cedric Beust, 2004] • Поддержка больших конфигурируемых тестовых наборов • http://www.testng.org 26/69
  • 27. Основные решения TestNG I • Использование аннотаций Java 5 – Для выделения тестовых методов и методов установки/сноса – Для некоторых проверок • Ожидаемые исключения ( @Test(expectedExceptions="…") ) • Таймауты ( @Test(timeout="…") ) • Расширенная иерархия тестов – Тестовые методы (помечаются @Test ) – Тестовые классы ( помечаются @Test ) – Тесты ( определяются конфигурацией ) – Тестовые наборы ( определяются конфигурацией ) 27/69
  • 28. Основные решения TestNG II • Конфигурирование тестов – Описание выполняемых тестов в командной строке или в XML – Группы и шаблоны выбора тестовых методов – Методы общей установки/сноса для всех элементов иерархии и групп – Зависимости между методами и группами – Настройка выполнения тестов • Пропуск метода/теста • Многократное выполнение метода • Параллельное выполнение методов или тестов • Определение тестовых данных – Для отдельных методов • Тестовые методы имеют параметры • Задание наборов значений в аннотациях и конфигурации • Провайдеры данных – Фабрики тестовых объектов 28/69
  • 29. Пример теста в TestNG @Test public class AccountTest { Account account; @BeforeClass(groups = {"active", "inactive"}) public void makeDefaultAccount() { account = new Account(0.0); } @Test(groups = "inactive") @Parameters("normalSum") public void depositInactive(double value) { int result = account.deposit( value ); Assert.assertEquals( result , Account.INACTIVE_ACCOUNT ); Assert.assertEquals( account.getBalance(), 0.0 ); } @Test(groups = "active", dependsOnGroups = "inactive", alwaysRun = true) public void activateAccount() { account.activate(); Assert.assertTrue( account.isActive() ); } @Test(groups = "active", dependsOnMethods = "activateAccount") @Parameters("normalSum") public void successfulDeposit(double value) { double oldBalance = account.getBalance(); int result = account.deposit(value); Assert.assertEquals(result , Account.SUCCESS); Assert.assertEquals(account.getBalance(), oldBalance + value); } } 29/69
  • 30. Пример конфигурационного файла <!DOCTYPE suite SYSTEM "http://testng.org/testng-1.0.dtd" > <suite name="All" verbose="2" parallel="false"> <parameter name="normalSum" value="15.67" /> <test name="All"> <classes> <class name="tests.AccountTest" /> </classes> </test> <test name="Active account"> <groups><run> <include name = "active"/> </run> </groups> <classes> <class name="tests.AccountTest" /> </classes> </test> <test name="Inactive account"> <groups><run> <include name = "inactive"/> </run> </groups> <classes> <class name="tests.AccountTest" /> <methods> <exclude name=".successful*.*" /> </methods> </classes> </test> </suite> 30/69
  • 31. Результаты работы TestNG • Отчет о результатах – Выполненные успешно тесты – Выполненные с ошибками тесты – Пропущенные тесты (которые не удалось выполнить) • Конфигурация набора, состоящего из выполненных с ошибками и пропущенных тестов 31/69
  • 32. Тестирование на основе моделей • ModelJUnit [M. Utting, 2004] – Waikato University – http://czt.sourceforge.net/modeljunit/ • NModel [J. Jacky, M. Veanes, C. Campbell, 2007] – University of Washington – Microsoft Research – http://nmodel.codeplex.com/ 32/69
  • 33. Основные идеи • Тест строится как набор путей по конечному автомату, моделирующему поведение SUT • Тестовый класс интерпретируется как описание расширенного автомата (EFSM) – Тестовые методы – возможные воздействия – Текущее состояние вычисляется специальным методом или представлено некоторыми полями – Действия могут иметь охранные условия (guardians), тоже представленные как методы 33/69 0 1 2 3 m1() m2() m2() m1() m1() m1() m2() [x != 0] [x > 0]
  • 34. Пример модели теста в NModel public class AccountTest { public Accout target = new Account(0.0); int balance = 0; bool active = false; [Action] void activate() { target.Activate(); active = true; } bool DepositEnabled() { return active; } [Action] void Deposit() { int sum = 5; target.Deposit(sum); balance += sum; } } 34/69
  • 35. Основные идеи NModel I • Пространство имен – автоматная модель – Состояние – набор значений статических полей классов модели и набор достижимых объектов • Правила отождествления состояний – Действия – методы, помеченные атрибутом [Action] • Много действий может соответствовать одному методу • Имеют охранные условия (с именем ***Enabled), может быть несколько • Тесты – Предварительное построение (offline) • Строится полная модель – все состояния и переходы • Тесты – набор покрывающих ее путей – Динамическое построение (online) • Настраиваемые стратегии, в т.ч. нацеленные на покрытие – Ограничения пространства состояний – Тестовые данные • Действия могут иметь параметры • Провайдеры данных определяются атрибутом [Domain] – Адаптеры (steppers) 35/69
  • 36. Основные идеи NModel II • Анализ моделей – Инварианты • Достижение нарушающего инвариант состояния – ошибка модели – Условия стабильности состояния • Недостижимость стабильного состояния – нарушение живучести • Композиция моделей – Компоненты – классы, помеченные [Feature] – Одноименные действия выполняются одновременно – Действия без партнера выполняются в любой момент – Использование • Модульность моделей • Проверка свойств моделей • Ограничение моделей и тестов • Выделение целей тестирования 36/69
  • 37. Пример модели – сервер namespace ClientServer { [Feature] public partial class Server { public static Socket serverSocket = Socket.None; public static Phase phase = Phase.Send; public static bool ServerSocketEnabled() { return (serverSocket == Socket.None); } [Action] public static void ServerSocket() { serverSocket = Socket.Created; } public static bool ServerBindEnabled() { return (serverSocket == Socket.Created); } [Action] public static void ServerBind() { serverSocket = Socket.Bound; } public static bool ServerListenEnabled() { return (serverSocket == Socket.Bound); } [Action] public static void ServerListen() { serverSocket = Socket.Listening; } public static bool ServerAcceptEnabled() { return (serverSocket == Socket.Listening); } [Action] public static void ServerAccept() { serverSocket = Socket.Connected; } public static bool ServerReceiveEnabled() { return (serverSocket == Socket.Connected && phase == Phase.ServerReceive); } [Action] public static void ServerReceive() { phase = Phase.Send; } } 37/69
  • 38. Пример модели – клиент [Feature] public partial class Client { public static Socket clientSocket = Socket.None; public static double clientBuffer = double.MaxValue; public static bool ClientSocketEnabled() { return (clientSocket == Socket.None); } [Action] public static void ClientSocket() { clientSocket = Socket.Created; } public static bool ClientConnectEnabled() { return (clientSocket == Socket.Created); } [Action] public static void ClientConnect() { clientSocket = Socket.Connecting; } public static bool ClientSendEnabled() { return (clientSocket == Socket.Connected); } [Action] public static void ClientSend() { phase = Phase.ServerReceive; } public static bool ClientReceiveEnabled() { return (clientSocket == Socket.Connected); } [Action] public static double ClientReceive(double datum) { clientBuffer = datum; return datum; } public static bool ClientCloseEnabled() { return (clientSocket == Socket.Created || clientSocket == Socket.Connected); } [Action] public static void ClientClose() { clientSocket = Socket.Closed; } } 38/69
  • 39. Пример – сервер для композиции [Feature] public partial class Server { public static bool ClientConnectEnabled() { return (serverSocket == Socket.Listening); } public static bool ClientSendEnabled() { return (phase == Phase.Send); } [Action] public static void ClientSend() { phase = Phase.ServerReceive; } public static bool ClientReceiveEnabled() { return (phase == Phase.ClientReceive); } [Action] public static void ClientReceive() { phase = Phase.Send; } } [Feature] class Values2 { readonly static Set<double> Values = new Set<double>(99.9, 100.0); [Action] static void ClientReceive([Domain("Values")] double datum) {} } 39/69
  • 40. Пример – клиент для композиции [Feature] public partial class Client { public static bool ServerAcceptEnabled() { return (clientSocket == Socket.Connecting); } [Action] public static void ServerAccept() { clientSocket = Socket.Connected; } } } 40/69
  • 44. Другие полезные элементы • Программные контракты – CodeContracts [2009] http://research.microsoft.com/en-us/projects/contracts/ • Использование существующих модулей – httpUnit, dbUnit, etc. – Заглушки (mocks and spies) – Генераторы тестовых данных • Оценка покрытия модели 44/69
  • 45. Пример CodeContracts [ContractClassFor(typeof(Account))] public class AccountContract { [Pure] double Balance { get; } int Deposit(double sum) { Contract.Requires ( Double.MaxValue – sum >= Balance ); Contract.Ensures ( Balance – sum == Contract.OldValue<double>(Balance) ); } } 45/69
  • 46. Возможности интеграции Можно ли объединять различные техники описания (EFSM, контракты, …) при разработке тестов не тратя на это больших усилий? • Идеи – Использование аннотаций и библиотек, а не новых/расширенных языков – Внедрение зависимостей – Аспектная конфигурация 46/69
  • 47. Внедрение зависимостей 47/69 Framework C1 C2 C3 Централизованная интеграция Framework C1 C2 C3 Интеграция на основе внедрения зависимостей C1, C2, C3
  • 48. Аспекты: основные понятия • Вставка (advice) – код, который нужно вставить в определенных местах для реализации некоторой дополнительной функции • Точка внедрения (join point) – место и время вставки дополнительного кода • Сечение (pointcut) – предикат, описывающий множество точек внедрения для реализации определенной функции • Аспект (aspect) – комбинация вставки и сечения, реализующая некоторую дополнительную функцию 48/69
  • 49. Аспектная привязка контрактов • Метод с контрактом – Метод C.M() – Предусловие метода preM() – Постусловие метода postM() • Сечение – любой вызов метода M() в объектах класса C 49/69 obj.M(); if(!preM()) throw ...; obj.M(); if(!postM()) throw ...;
  • 50. Архитектура среды тестирования 50/69 Среда внедрения зависимостей Описание аспектов Обход и развертка EFSM Измерение покрытия Coverage models Среда привязки аспектов Конфигурация Test Models SUT Contracts Модели тестов Контракты Общая вставка проверки контрактов Adapters Внешние модули Модели полноты Адаптеры
  • 51. Реализация • Базовый язык – Java – Интроспекция (reflection), аннотации – Множество инструментов – Множество вспомогательных библиотек для поддержки тестирования • Среда привязки аспектов и внедрения зависимостей – Spring framework – http://www.springsource.org 51/69
  • 52. Пример Account • Одна операция transfer(int sum) – sum > 0 : deposit – sum < 0 : withdraw • Возможен кредит (maxCredit ограничивает его величину) • Все переводы контролируются при помощи внешнего объекта, который может разрешить или запретить перевод • Параметры и результаты всех вызовов transfer() трассируются для аудита Конфигурация теста • EFSM с состоянием (текущий баланс, переводы разрешены/запрещены) • Тестовые методы – transfer – Включение/выключение разрешений на переводы с помощью заглушки • Контракт для основной функции метода transfer • Заглушка, следящая за трассировкой, и контракт для трассировки • Модель полноты – метод, выделяющий различные ситуации Заглушки строятся при помощи Mockito [http://code.google.com/p/mockito/] 52/69
  • 53. Диаграмма классов примера 53/69 Account AccountImpl AuditLog Permitter SUT AccountTest Проверка переводов Трассировка $Permitter Сгенерирована Mockito Управляющая заглушка EFSM-модель теста AccountSpy$AuditLog Сгенерирована Mockito Наблюдающая заглушка Контракт трассировки AccountContract AccountCoverage Контракт основной функции Модель полноты
  • 54. Контракты с состоянием • Оба контракта используют модельное состояние (значения баланса и границы кредита) • Для его синхронизации с SUT нужны специальные действия public void transferUpdate(int sum) { if(balance + sum > maxCredit && checkedObject.getPermitter() .isPermittedTransfer(checkedObject, sum)) balance += sum; } 54/69
  • 55. Контракт основной функции public boolean transferPost(int sum) { // Validity check result boolean permission = checkedObject.getPermitter() .isPermittedTransfer(checkedObject, sum); if(Contract.oldBooleanValue(balance + sum > maxCredit) && permission) // The transfer is correct and possible return Contract.assertEquals(Contract.intResult(), sum , "Result should be equal to the argument") && Contract.assertEquals(balance, Contract.oldIntValue(balance) + sum , "Balance should be increased by the argument") && Contract.assertEquals(maxCredit, Contract.oldIntValue(maxCredit) , "Max credit should not change"); else // The transfer is impossible return Contract.assertEquals(Contract.intResult(), 0 , "Result should be 0") && Contract.assertEquals(balance, Contract.oldIntValue(balance) , "Balance should not change") && Contract.assertEqualsInt(maxCredit, Contract.oldIntValue(maxCredit) , "Max credit should not change"); } 55/69
  • 56. Контракт трассировки public void transferLogSpy(int sum) { // Validity check result boolean permission = checkedObject.getPermitter() .isPermittedTransfer(checkedObject, sum); // Whether the transfer possible at all boolean possible = (balance + sum > maxCredit) && permission; // Calls to spy are verified in order-independent way if(possible) { Mockito.verify(logSpy).logKind("SUCCESS"); Mockito.verify(logSpy).logNewBalance(balance); } else if(!permission) Mockito.verify(logSpy).logKind("BANNED"); else Mockito.verify(logSpy).logKind("IMPROPER"); Mockito.verify(logSpy).logOldBalance(oldBalance); Mockito.verify(logSpy).logSum(sum); } 56/69
  • 57. Модель полноты public void transferCoverage(int sum) { // Validity check result boolean permission = checkedObject.getPermitter() .isPermittedTransfer(checkedObject, sum); if(balance + sum > maxCredit) Coverage.addDescriptor("Possible transfer"); else Coverage.addDescriptor("Too big sum"); if(permission) Coverage.addDescriptor("Permitted"); else Coverage.addDescriptor("Not permitted"); if(balance == 0) Coverage.addDescriptor("Zero balance"); else if(balance > 0) Coverage.addDescriptor("Positive balance"); else Coverage.addDescriptor("Negative balance"); if(sum == 0) Coverage.addDescriptor("Zero sum"); else if(sum > 0) Coverage.addDescriptor("Positive sum"); else Coverage.addDescriptor("Negative sum"); } 57/69
  • 58. Тест : состояние и управл. заглушка @Test public class AccountTest { Account account; @Mock Permitter permitterStub; boolean permission = true; // Init stubs and configure permitterStub to return true on call to isPermittedTransfer() public AccountTest() { MockitoAnnotations.initMocks(this); Mockito.when(permitterStub.isPermittedTransfer(Mockito.<Account>any(), Mockito.anyInt())) .thenReturn(permission); } public void setAccount(Account account) { this.account = account; account.setPermitter(permitterStub); } // Current permission and balance are two components of the test state @State public boolean getPermission() { return permission; } @State public int getBalance() { return account.getBalance(); } ... } 58/69
  • 59. Тест : действия @Test public class AccountTest { ... @Test(dependsOnMethods="testWithdraw") @DataProvider(name = "sumArray") @Guard(name = "bound") public void testDeposit(int x) { account.transfer(x); } @Test(dependsOnMethods="switchPermission") @DataProvider(name = "sumArray") public void testWithdraw(int x) { account.transfer(-x); } // Switch permission and configure permitterStub to its value true on call to isPermittedTransfer() @Test public void switchPermission() { permission = !permission; Mockito.when(permitterStub.isPermittedTransfer(Mockito.<Account>any(), Mockito.anyInt())) .thenReturn(permission); } // Guardian for deposits to bound the possible balance values public boolean bound() { return getBalance() < 5 || !permission; } // Source of test data for both transfer test methods public int[] sumArray = new int[]{0, 1, 2, 3, 4}; } 59/69
  • 60. 60/69
  • 61. Еще пример • Реализация DOM API на Java – Xerces for Java [http://xerces.apache.org] • Манипуляции дочерними узлами – appendChild(Node n) – removeChild(Node n) 61/69
  • 62. 62
  • 64. Общие книги по тестированию 64/69 • B. Beizer. Software Testing Techniques. Thomson Computer Press, 1990 • R. Binder. Testing Object-Oriented Systems: Models, Patterns, and Tools. Addison-Wesley, 2000
  • 65. Модульное тестирование (и больше) • J.B.Rainsberger. JUnit Recipes. Practical Methods for Programmer Testing. Manning, 2005 • C. Beust, H. Suleiman. Next Generation Java Testing. TestNG and Advanced Concepts. Addison-Wesley, 2007 65/69
  • 66. Тестирование на основе моделей 66/69 • M. Utting, B. Legeard. Practical Model-Based Testing. A Tools Approach. Morgan Kaufmann, 2006 • J. Jacky, M. Veanes, C. Campbell, W. Schulte. Model Based Analysis and Testing with C#. Cambridge University Press, 2007
  • 67. Теория тестир-я на основе моделей • M. Broy, B. Jonsson, J.-P. Katoen, M. Leucker, A. Pretschner, editors. Model Based Testing of Reactive Systems. Advanced Lectures. LNCS 3472, Springer, 2005 67/69
  • 68. Книги на русском языке • Г. Майерс. Искусство тестирования программ. Финансы и статистика, 1982 • Д. Месарош. Шаблоны тестирования xUnit. Рефакторинг кода тестов. Вильямс, 2009 • Мой курс http://mbt-course.narod.ru 68/69
  • 69. Спасибо за внимание! 69/69 Виктор Кулямин kuliamin@ispras.ru www.ispras.ru/~kuliamin