Дифференцирующая способность (ДС) - способность тестового задания дифференцировать (различать) сильных (способных) от слабых . Рассмотрим несколько методов вычисления дифференцирующей способности.

Метод 1 - вычисление коэффициента дискриминации.

А. В этом методе вычисляется коэффициент дискриминации по формуле :

где x - среднее арифметическое значение всех индивидуальных оценок по тесту, - среднее арифметическое значение оценок по тесту у тех испытуемых, которые правильно решили задачу, - среднеквадратическое отклонение индивидуальных оценок по тесту для выборки, n - число испытуемых, правильно решивших задачу, - общее число испытуемых.

В. Коэффициент дискриминации задачи может принимать значение от -1 до +1. Высокий и значимый положительный коэффициент является показателем того, что задача хорошо разделяет испытуемых с высокими и низкими оценками по тесту. Высокий, значимый отрицательный коэффициент свидетельствует о непригодности задачи для теста. Если значение коэффициента близко к 0, то задачи должны рассматриваться как некорректно сформулированные .

2-й метод - вычисление дискриминативности с применением метода крайних групп.

А. В этом методе вычисляется дифференцирующая способность (дискриминативности) с применением метода крайних групп, то есть при расчете учитываются результаты учащихся, наиболее и наименее успешно справившихся со всем тестом. Как правило, берут от 10 до 30% лучших и худших по результатам выполнения всего теста. Индекс дискриминации задания вычисляется как разность долей испытуемых из высокопродуктивной и низкопродуктивной групп, правильно решивших ее .

где - количество учащихся в группе лучших, верно выполнивших данное задание, - количество учащихся в группе худших, верно выполнивших данное задание, - общее количество испытуемых в группе лучших, - общее количество испытуемых в группе худших.

В. В этом методе, также как и в предыдущем, индекс дискриминации может изменяться в пределах от +1 (когда с заданием справились все учащиеся лучшей группы и ни один ученик из худшей группы) до -1 (когда складывается обратная ситуация - в лучшей группе никто не справился, а в худшей справились все). Задания с отрицательным значением индекса дискриминации или со значением, близким к нулю, не могут быть признаны удовлетворительными, и в них следует искать существенные ошибки. Показатель индекса дискриминации, больший 0,3, следует признать удовлетворительным .

3-й метод - сравнение средних достижений испытуемых, показавших наиболее высокие и наиболее низкие результаты.

А. Дифференцирующая способность вычисляется по формуле:

где и - средние достижения групп с наиболее высокими и наиболее низкими результатами соответственно (группа испытуемых делится на две равные части) .

4-й метод - проведение тестирования дважды в одной и той же группе в течение некоторого периода времени .

А. В этом методе дифференцирующая способность вычисляется по формуле:

где и - число правильных ответов по тесту, данных во время первого и второго тестирования соответственно, N - число испытуемых .

5-й метод - сравнение результатов выполнения одного и того же теста в разных группах.

А. И в последнем методе дифференцирующая способность вычисляется по формуле :

где и - число правильных ответов по тесту, данных в первой и второй группах, и - число испытуемых в каждой из групп.

В. Интерпретация результатов в последних трех методах следующая: дифференцирующая способность теста считается удовлетворительной, если показатель .

Вывод: можно заметить, что формулы нахождения дискриминативности 2-м и 3-м методами практически не отличаются. Разница заключается лишь в том, что в первом случае мы используем метод крайних групп. В 4-м и 5-м методах особенностью является ситуация тестирования (проведение тестирования дважды в одной группе и сравнение результатов в разных группах).

Мера трудности задания дает информацию о степени задействования того параметра изучаемого свойства, которое оно призвано измерять. Иногда говорят, что мера трудности определяет соответствие задания целевой группе теста. В целом, можно сказать, что данный критерий позволяет судить и об этом.

Трудное задание или легкое, определяют путем подсчета доли неправильных ответов к каждому из них. Однако сегодня применяется и не совсем классический способ определения трудности задания -- умозрительно, на основе предполагаемого числа и характера тех элементов, которые участвуют в выполнении задания (и входят в параметр измеряемого свойства). Допустим, в тесте на объем памяти присутствует задание, связанное с произвольным запоминанием, в котором могут участвовать речь (проговаривание списка цифр вслух или "про себя"), мышление (построение ассоциативных связей) и т.п. В этом случае задание на запоминание числового ряда с отвлеканием испытуемого может повысить трудность его выполнения.

Дифференцирующая способность.

Дифференцирующая способность задания -- насколько оно может отличить сильного испытуемого от слабого по измеряемому свойству. Если по одному из заданий у всех испытуемых имеется одинаковое значение -- это задание нецелесообразно включать в тест. Очень сложно не сделать ошибку и не принять дифференцирующую способность задания за его трудность / легкость. Дело в том, что в тестах, измеряющих качество выполняемой деятельности, знаний и т.п., тестах достижений, ряд одинаковых ответов на задание будет означать два варианта: правильно / неправильно. Соответственно, по этому ряду можно сделать неверный вывод о трудности (в случае всех неправильных ответов) или легкости (в случае всех правильных ответов) задания.

Необходимо заметить, что данным критерием часто пренебрегают составители современных тестов. Это приносит большие неудобства и испытуемым, которым приходится отвечать на лишние вопросы, и психологам, которые вынуждены обрабатывать лишнюю информацию.

Тестология - междисциплинарная наука о создании качественных и научно обоснованных измерительных диагностических методик. В психологии содержание тестологии во многом совпадает с содержанием дифференциальной психометрики. Но принципы и методы тестологии выходят за рамки психологии. Они широко применяются в других отраслях науки и практики - в педагогике, медицине, технике, менеджменте (профессиональный отбор). В каждой из этих отраслей методы тестологии имеют общие черты, связанные с обеспечением таких свойств тестовых методик, как валидность, надежность, эффективность и т. п. Но есть и определенная специфика, связанная со спецификой предмета тестирования (профессиональные и общеобразовательные знания, комплекс медицинских симптомов и т.п.) и условий сбора эмпирической информации. Так как метод тестов не исчерпывает собой все многообразие методов современной психодиагностики, неправильно отождествлять тестологию с психодиагностикой.

Современная тестология представляет собой вполне зрелую прикладную науку, которая ставит перед исследователями широкий спектр теоретических проблем, предлагает многочисленные математические подходы, модели и методы. Широкому распространению, развитию и совершенствованию тестов способствовал целый ряд преимуществ, которые дает этот метод. Тесты позволяют дать оценку испытуемому в соответствии с поставленной целью исследования; являются относительно оперативным способом оценки большого числа неизвестных лиц; способствуют объективности оценок, не зависящих от субъективных установок лица, проводившего исследование. Обеспечивают сопоставимость информации, полученной разными исследователями на разных испытуемых

Анализ и оценка тестовых заданий начинается после апробации теста на целевой группе. Полученные данные сводятся в таблицу с матричной структурой, в которой задания начинают сортироваться по следующим критериям.

Мера трудности задания

Мера трудности задания дает информацию о степени задействования того параметра изучаемого свойства, которое оно призвано измерять. Иногда говорят, что мера трудности определяет соответствие задания целевой группе теста. В целом, можно сказать, что данный критерий позволяет судить и об этом.

Трудное задание или легкое, определяют путем подсчета доли неправильных ответов к каждому из них. Однако сегодня применяется и не совсем классический способ определения трудности задания - умозрительно, на основе предполагаемого числа и характера тех элементов, которые участвуют в выполнении задания (и входят в параметр измеряемого свойства). Допустим, в тесте на объем памяти присутствует задание, связанное с произвольным запоминанием, в котором могут участвовать речь (проговаривание списка цифр вслух или "про себя"), мышление (построение ассоциативных связей) и т.п. В этом случае задание на запоминание числового ряда с отвлеканием испытуемого может повысить трудность его выполнения.

Дифференцирующая способность

Дифференцирующая способность задания - насколько оно может отличить сильного испытуемого от слабого по измеряемому свойству. Если по одному из заданий у всех испытуемых имеется одинаковое значение - это задание нецелесообразно включать в тест. Очень сложно не сделать ошибку и не принять дифференцирующую способность задания за его трудность / легкость. Дело в том, что в тестах, измеряющих качество выполняемой деятельности, знаний и т.п., тестах достижений, ряд одинаковых ответов на задание будет означать два варианта: правильно / неправильно. Соответственно, по этому ряду можно сделать неверный вывод о трудности (в случае всех неправильных ответов) или легкости (в случае всех правильных ответов) задания.

Необходимо заметить, что данным критерием часто пренебрегают составители современных тестов. Это приносит большие неудобства и испытуемым, которым приходится отвечать на лишние вопросы, и психологам, которые вынуждены обрабатывать лишнюю информацию.

Дифференцирующая способность эмпирически определяется через вариацию данных.

Вариация и дисперсия

Вариация - буквально, степень разнообразия данных, полученных при выполнении задания. Она отражает дифференцирующую способность. Если дифференцирующая способность высокая, мы говорим о вариативных данных, и наоборот. При невариативных данных задание удаляют из теста. Определяется вариация путем вычисления дисперсии. Дисперсия вычисляет сумму квадратных отклонений значений баллов от среднего арифметического балла. Проще говоря, рассчитывается среднее арифметическое по выборке, и все полученные значения баллов начинают с ним сравниваться. Таким образом, мы получаем информацию о вариации тестового задания. Общепринятой мерой вариации тестовых баллов задания является стандартное отклонение, которое определяется путем вычисления квадратного корня из дисперсии.

Иногда вариацией называют наблюдаемую переменную величину. Дело в том, что то свойство, на измерение которого направлен тест, принимается за латентную (ненаблюдаемую) переменную. А с помощью теста определяется наблюдаемая переменная, которая выявляет лишь приближенные значения ненаблюдаемых истинных баллов испытуемого.

Первичный анализ результатов тестирования

Итак, тест стандартизован, апробирован, одобрен экспертной комиссией. Теперь с помощью него можно получать необходимую информацию о психологическом свойстве или способности человека. Для этого после проведения тестирования проводят первичный анализ результатов. Обычно о нем говорят в случае группового тестирования.

Полученные данные сначала необходимо свести к среднему значению. Оно более наглядно показывает групповой результат. Однако среднее значение мало информативно в отношении характеристики распределения значений баллов, частоты встречаемости каждого значения. Мода (Мо) - показатель наиболее часто встречающегося значения балла. Мод может быть несколько - наибольшее количество раз могли встретиться несколько значений. Далее выборку делят пополам, а значения баллов пограничного испытуемого принимаются за медиану (Ме).

График результатов теста обычно принимает форму колокола ("колокол Гаусса"), отвечая закону о нормальном распределении, где крайние значения показывают редко встречающиеся баллы, а при приближении к середине кривой частота встречаемости баллов увеличивается. Моды, медиана и среднее арифметическое значение также откладываются на графике. В некоторых случаях они могут совпадать - тогда распределение данных называют симметричным. Чем больше расстояние между модой, медианой и средним значением, тем больше результаты теста отклоняются от нормального распределения.

Преимущества компьютерных программ тестирования

Вышеописанная процедура обработки тестовых результатов при большом количестве испытуемых отнимает много времени и сил. Компьютерные программы тестирования позволяют за считанные секунды увидеть вышеназванные характеристики выборки, для большей наглядности представленные на графиках и в таблицах. Это экономит время, деньги и силы психолога, который, сразу получив результаты первичного анализа, может приступать к разработке рекомендаций или проверке научных гипотез.

Трудность заданий характеризуется индексом, который соответствует доле лиц, правильно решивших задание (Bortz & Döring, 2005). Ранее этот показатель носил название Индекса популярности. Цель индекса трудности заключается в различении заданий, обладающих высокой трудностью с более лёгкими. Непригодными признаются задания, на которые все испытуемые дают правильный ответ, либо задания ответ на которое не был найден никем. Индекс трудности обязательно должен располагаться между этими крайними случаями. В тестах, уровень трудности должен охватывать весь возможный диапазон измеряемой тестом характеристики.

Трудность заданий теста с двухступенчатым ответом (например, верно / неверно) рассчитывается следующим образом:

Nr = количество испытуемых, давших правильный ответ, N = количество испытуемых, p = Трудность задания (только для заданий с двухступенчатым ответом!) Это обеспечивает решение для простейшего случая. Если испытуемые не решили задание или есть подозрение, что некоторые задания были выполнены «наугад», то приходится полагаться на другие альтернативные решения. (vgl. Fisseni, 1997, 41-42).

Расчёт трудности заданий с многоступенчатыми (альтернативными) ответами: Случай, когда р не определено. Возможные решения этой проблемы: Произвести дихотомию значений множества (например, 0 и 1), в этом случае рассчитывается трудность задания с двухступенчатым ответом. Расчет среднего значения и дисперсии (среднее значение эквивалентна р, однако, разброс также должен учитываться).

Индекс для заданий с многоуровневыми ответами:

Упрощённая формула:

Для более точного расчета разные авторы предлагают различные способы (vgl. Fisseni, 2004, 43-45). Различие трудности двух заданий можно проверить с помощью многопрофильной таблицы. Эти формулы возможно применять только для тестового уровня, то есть тогда, когда не требуется проведение испытания и / или когда испытуемые смогли справиться со всеми задачами.

Дифференцирующая способность задания .

Показатели дифференцирующей способности заданий

Коэффициент дискриминативности,

Точечно-бисериальный коэффициент

корреляции,

Бисериальный коэффициент корреляции,

Фи-коэффициент корреляции.

Важным показателем качества тестового задания является дифференцирующая способность, который определяет насколько хорошо данное задание различает "лучших" и "слабых" испытуемых.

Понятие дифференцирующей способности строится на фундаментальном предположении, что экзаменующиеся, которые показывают высокий уровень подготовки по данному предмету, как предполагается, более вероятно правильно ответят на любое задание о том предмете, чем те, которые обладают низким уровнем подготовки.

Наоборот, задания, на которые или все экзаменующиеся ответили правильно или все ответили неверно, не обладают дифференцирующей способностью, т.е. не различают сильных и слабых испытуемых.

Задания, которые не обладают дифференцирующей способностью, не дают никакой информации о различиях между индивидуумами. Существуют несколько статистических процедур для количественной оценки дискриминативности задания. Эти показатели чрезвычайно полезны в анализе качества заданий, потому что указывают авторам на конкретные задания, нуждающиеся в усовершенствовании.

Коэффициент дискриминативности

В классической тестовой теории для оценки качества тестовых заданий широко применяется коэффициент дискриминативности - Dj. Этот коэффициент рассчитывается по результатам тестирования путем выделения двух "контрастных" групп испытуемых. В большинстве случаев это 27% "слабых" и 27% "лучших" студентов из всей выборки.

Коэффициент находится по формуле Dj = Рu - Рl , где Рu и Рl - это доли студентов в лучшей и слабой группе, ответивших на данное (j-тое) задание правильно.

Значение коэффициента Dj может изменяться от -1 до +1.

Если значение Dj близко к -+1, то данное задание обладает высокой различающей способностью, то есть "лучшая" группа студентов из выборки отвечают на него гораздо чаще, чем "слабая" группа.

Интерпретация коэффициент различающей способности Dj согласно классической тестовой теории представлена в таблице

Точечно бисериальный коэффициент корреляции .

Точечно - бисериальный коэффициент корреляции - статистический показатель, который может использоваться для анализа дифференцирующей способности заданий.

Данный показатель оценивает степень статистической связи между двумя переменными: профилем ответа на конкретное задание и результирующим тестовым баллом.

Для j-го задания точечно-бисериальный коэффициент корреляции вычисляется по формуле:

Здесь x 1 – среднее значение по Х объектов со значением «единица» по Y;

x 0 – среднее значение по Х объектов со значением «ноль» по Y;

s х – среднее квадратическое отклонение всех значений по Х;

n 1 – число объектов «единица» по Y, n 0 - число объектов «ноль» по Y;

n = n 1 + n 0 – объем выборки.

Согласно тестовой теории значение точечно-бисериального коэффи- циент корреляции rpbis равное или большее 0,3 является приемлемым пока- зателем его качества.

С помощью этого статистического показателя автор задания может оценить его дифференцирующую способность. Вообще говоря, задания с более высоким значением данного показателя лучше различают подготов- ленных и не подготовленных испытуемых. На практике, задания с отрица- тельным показателем точечно - бисериального коэффициента корреляции или удаляются из банка заданий, или полностью пересматриваются.

1. Батарея тестов дифференциальных способностей (DAT)
комплексная батарея из восьми тестов, предназначенная для использования в образовательном и профессиональном консультировании учащихся старших классов средней школы.

Американская психологическая ассоциация
Год создания: 1947, пересмотрена в 1963 и 1973 гг
Назначение: прогноз успешности обучения в высшей школе и профессиональная консультация.
Суммарный показатель субтестов "Словесное мышление" и "Числовые способности" рассматривается как индекс способностей к обучению, он коррелирует на уровне 0.70 -0.80 со сложным критерием учебных достижений.
Возрастной диапазон: учащиеся 7-12 классов средней школы США
Время тестирования: 5 часов
тест DAT относится к тестам предельных возможностей. Надежность теста очень велика (0.90). Взаимные корреляции субтестов близки к 0.5. Результаты сопоставления данных теста с оценками школьной успеваемости показали, что корреляции достаточно велики.

Описание субтестов DAT:

1) словесное мышление. Используются двойные аналогии. От испытуемого требуется заполнить пропуски слов в предложении, выбрав нужную пару слов из списка.
2) числовые способности. Испытуемому предлагают простые уравнения. Он должен выбрать подходящий ответ.
3) абстрактное мышление. Серии фигур расположены в определенной последовательности. Испытуемый должен продолжить серию, выбрав соответствующую фигуру из 5 предложенных.
4) пространственные отношения. Предъявляются развертки геометрических тел. Испытуемый должен выбрать фигуру, соответствующую развертке.
5) техническое мышление. Даны картинки, описывающие определенную физическую ситуацию. Нужно ответить на вопрос, поняв физический принцип действия механизма.
6) скорость и точность восприятия. Предъявляется серия буквенных пар, одна из которых выделена. Испытуемый должен найти эту комбинацию на бланке ответов.
7) грамотность. Испытуемому предъявляется список слов, он должен проверить правильность их написания.
8) использование языка. Дается предложение, которое содержит грамматические или синтаксические ошибки. Испытуемый должен их найти.

Девятый показатель — мера способности к обучению (или академической способности), является производным, получаемым путем объединения показателей по тестам «словесное мышление» и «Числовые способности». В качестве дополнения в батарею также входит Опросник планирования карьеры

Существующие формы этого теста (S и Т) были стандартизованы на национальной выборке из 60 000 учащихся и имеют нормативные данные по классам и полу.

Представленные в руководстве данные по валидности свидетельствуют о том, что показатели Д. т. с. прогнозируют успеваемость по различным предметам в средней школе и дифференцируют уч-ся в отношении их будущей профессиональной деятельности. Вместе с тем, однако, имеется мало свидетельств в поддержку дифференциальной валидности паттернов показателей по различным тестам этой батареи.

2. Батарея тестов общих способностей (GATB)
Назначение: диагностика структуры интеллекта, а также перцептивных и сненсомоторных способностей с целью профессиональной ориентации и расстановки кадров в армии и в государственных утверждениях.
Разработан Службой занятости США для использования в области профессионального отбора и профориентации.
Год создания : 1940, позднейшая версия 1956 года
Возрастной диапазон: работающие, поступающие на службу и обучающиеся различным видам работы
Время тестирования: 2.5 часа
Стандартные нормы были получены на выборке 4000 рабочих и служащих США. Надежность теста весьма велика (r=0.90). Внешняя валидность теста характеризуется высокой положительной корреляцией с успешностью профессиональной деятельности. Для разных групп она колеблется от 0.40 до 0.84. Для большинства профессий этот показатель равен 0.6.

Разработка GATB базировалась на факторном анализе предварительного набора из 50 тестов, в ходе которого были выделены 9 основных факторов, диагностируемые GATB:

G — общая способность к обучению, восприятию указаний, рассуждению и оценке. Балл получается на основе сложения показателей 3 тестов: вербального, числового и теста на восприятие трехмерного пространства. (тесты III, IV, VI);
V — вербальные способности. Измеряются тестом на выделение из группы слов, которые имеют сходное или противоположное значение. (тест IV)
N — числовые способности. Тестируются двумя тестами: арифметические задачи (50 задач) и арифметические упражнения (50 простых заданий с одним действием). (тесты II, IV)
S — пространственные способности. Тестируются заданиями на восприятие форм: испытуемому дается чертеж с разверткой объемной фигуры, он должен отобрать изображение, соответствующее развретке. (тест III)
Р — восприятие формы. Измеряется двумя тестами. В первом тесте предлагается два набора фигур на двух частях листа. Фигуры одинаковы, отличаются лишь расположением и разворотом. Нужно найти идентичные фигуры. Во втором тесте требуется установить, какое из четырех изображений соответствует образцу. (тесты V, VII)
Q — мысленное восприятие слов (скорость восприятия клерка). Испытуемый должен выявить идентичность написания слов в парах (150 пар) (тест I)
К— двигательная координация. Испытуемый должен по образцу как можно быстрее нарисовать линии в квадратиках. (тест VIII)
F — пальцевая моторика. Измеряется двумя тестами "психомоторной ловкости". В первом тесте испытуемый должен, действуя обеими руками, вынимать стержни из отверстий в верхней части доски и вставляет их в отверстия нижней части. Тест повторяется трижды. Во втором тесте испытуемый одной рукой вынимает из отверстий каждый из 48 стержней, поворачивает его и вставляет другим концом в то же отверстие. Тест повторяется трижды. (тесты XI, XII);
М — ручная моторика. Измеряется двумя тестами на пальцевую подвижность. Даются доски со 100 отверстиями (по 50 в верхней и нижней частях). В верхней части доски в отверстия вставлены металлические заклепки. На доске закреплен стержень с набором шайб. В первом тесте испытуемый должен взять заклепку, надеть шайбу и вставить их в нижнюю часть доски. Во втором тесте он должен вернуть заклепки и шайбы в исходное положение. (тест IX, X).

GATB включает 12 тестов, направленных на анализ различных комплексных способностей, актуализируемых в широком круге видов профессиональной деятельности. Восемь субтестов являются тестами бланковыми, четыре требуют для проведения специальных приспособлений. Все субтесты являются тестами скорости. Состав тестов GATB следующий.

I тест. Сопоставление и выявление сходств и различий в парах слов по буквенному составу (150 пар).
II тест. Арифметические упражнения (50 простых задач с одним арифметическим действием).
III тест. Восприятие форм.
IV тест. Словарный.
V тест. Сравнение изображений.
VI тест. Арифметические задачи
VII тест. Сравнение геометрических фигур.
VIII тест. Воспроизведение линий рисунка по образцу.
IX тест. Психомоторная ловкость.
X тест. Психомоторная ловкость.
XI тест. Подвижность пальцев.
XII тест. Подвижность пальцев.

Процедура обследования занимает около 2,5 ч.