Введение
Возрастающая сложность различных систем приводит к необходимости предоставлять информацию от них в удобной и понятной для пользователя или оператора форме. Ограничения традиционных зрительных интерфейсов были выявлены в авиации, медицине, вождении; и в качестве альтернативы были предложены интерфейсы в других модальностях — в частности, в слуховой (Носуленко, 2020; Baldwin, 2012).
Под слуховыми человеко-машинными интерфейсами понимают такие системы, которые обеспечивают взаимную коммуникацию между компьютеризированной системой и пользователем и осуществляют ее за счет синтеза речи и неречевых звуков (Peres et al., 2008). С областью слуховых интерфейсов в значительной мере пересекается сонификация, которая определяется как «трансформация отношений в данных в воспринимаемые отношения в акустическом сигнале для облегчения коммуникации или интерпретации» (Kramer et al., 1999, цит. по Walker, 2023, p. 728).
В широком смысле слуховые интерфейсы включают:
- человеческую и синтезированную речь, в том числе спирконы (spercons) — сжатые во времени речевые сообщения;
- невербальные оповещения и предупреждения, которые могут быть реализованы за счет слуховых иконок и ирконов (earcons) — конкретные и абстрактные звуки, привязывающиеся к определенным событиям;
- постоянные звуки, изменяющиеся по мере изменений в данных (Peres et al., 2008; Walker, 2023).
Систематические обзоры в области слуховых интерфейсов и сонификации указывают на большой разброс результатов, вызванный разными подходами и областями применения устройств, для которых разрабатываются такие интерфейсы. Однако в среднем деятельность в условиях слуховых интерфейсов может выполняться эффективно. Так, слуховые интерфейсы и сонификация двигательной активности успешно используются в реабилитации пациентов после инсульта, где они приводят к значимым улучшениям контроля над сложными движениями (Guerra et al., 2020). А в области управления сложными устройствами было показано, что слуховые интерфейсы в среднем связаны с более точной ориентировкой в пространстве (например, локализация целей, следование за траекторией, детекция отклонений от траектории) и более быстрыми реакциями, по сравнению с условиями без интерфейса, и, как правило, так же или более эффективны, чем визуальные интерфейсы (Разваляева, 2024б).
Однако в данной области продолжают оставаться неразрешенными некоторые проблемы. Во-первых, большая часть слуховых интерфейсов относительно слабо обоснована теоретически. Так, к самым используемым типам слуховых интерфейсов можно отнести параметрические и пространственные интерфейсы (Parseihian et al., 2016); и хотя постулируется превосходство вторых над первыми в экологически-валидных ситуациях (например, связанных с локализацией звука), интерфейсы, созданные с помощью этих подходов, крайне редко сравниваются между собой (Разваляева, 2024б). Более того, неясно, какую информацию более эффективно передавать с помощью двух этих способов и есть ли связь типа информации или задачи, стоящей перед пользователем, и типа интерфейса. Также в исследованиях слуховых интерфейсов, как правило, не измеряются индивидуальные особенности испытуемых, которые могут приводить к разбросу в восприятии звуков и выполнении соответствующих заданий (Разваляева, 2024б).
Таким образом, данное исследование было направлено на создание искусственной задачи с двумя подзадачами — пространственной и непространственной, и двумя слуховыми интерфейсами — пространственным и параметрическим (использующим непространственные свойства звука). В качестве индивидуальных характеристик, которые могли быть связаны с успешностью работы со слуховым интерфейсом, были взяты предпочтение модальности восприятия и яркость образов-представлений в разных модальностях. Исследования показали связь первой характеристики с эффективностью обучения (Бандурка, 2004). Образная же сфера и, в частности, ее яркость может быть связана с различными когнитивными функциями и успешностью решения задач в целом (Andrade, 2014).
Цель исследования — проверить, как использование слуховых интерфейсов разного типа влияет на точность и скорость выполнения задачи с их помощью.
Гипотезы:
- Тип слухового интерфейса (пространственный или непространственный) вносит вклад в эффективность выполнения задачи (в правильность ответов и их скорость).
- Более быстрые и точные ответы даются в условии, когда тип слухового интерфейса конгруэнтен типу информации, для которой он создается.
- Предпочтение слуховой модальности и яркость образной сферы связаны с показателями эффективности выполнения задачи в условии слухового интерфейса.
Материалы и методы
Выборка включала 52 человека (39 женщин, средний возраст — 23,41 ± 8,05 года; 13 мужчин, средний возраст — 35,08 ± 17,68 года). Это были студенты московских вузов и работающие взрослые (преподаватели и научные работники). В выборку включались лица без заболеваний органов слуха. Большая часть респондентов были правшами (n = 44) и не имели музыкального образования (n = 33; 16 человек сообщили, что закончили музыкальную школу, а 3 человека занимались самообразованием в области музыки).
Методики
Опросники. Для измерения характеристик, связанных со способностью воспринимать информацию и формировать образы в разных модальностях, использовался опросник на полимодальность восприятия (Бандурка, 2004) и Плимутский опросник сенсорных образов (Andrade et al., 2014; Разваляева, 2024а).
Опросник на полимодальность восприятия представляет собой традиционный опросник самоотчета, в котором респонденты отмечают степень своего согласия с 70 утверждениями по 4-балльной шкале. Опросник измеряет предпочитаемую модальность восприятия и имеет 8 шкал: кинестетическую (α Кронбаха в данном исследовании — 0,72); гаптическую (α = 0,62), висцеральную (α = 0,77), вкусовую (α = 0,64), обонятельную (α = 0,63), слуховую (α = 0,68), зрительную (α = 0,64), «мощность» восприятия (α = 0,70).
В Плимутском опроснике респонденту дается задача представлять себе предметы или ситуации в разных модальностях (7 модальностей, 33 пункта в русскоязычной адаптации) и измерять их яркость по 11-балльной шкале. Шкалы опросника: зрение (α = 0,82), слух (α = 0,84), обоняние (α = 0,83), вкус (α = 0,78), прикосновение (α = 0,86), телесные ощущения (α = 0,80), эмоции (α = 0,78), общая яркость образов (α = 0,95).
Экспериментальная задача. Экспериментальная компьютеризированная задача была написана на языке Python 3.10 (с помощью пакета Psychopy). Задача включала 4 блока, объединенных общей темой управления «космической станцией», с разными комбинациями типа слухового интерфейса и типа задания:
- Блок A: пространственное задание, пространственный слуховой интерфейс (конгруэнтное условие);
- Блок B: непространственное задание, пространственный слуховой интерфейс (неконгруэнтное условие);
- Блок C: пространственное задание, непространственный слуховой интерфейс (неконгруэнтное условие);
- Блок D: непространственное задание, непространственный слуховой интерфейс (конгруэнтное условие).
Давалась следующая общая инструкция:
«В этом исследовании Вы будете управлять космической станцией с помощью информации, получаемой в звуковой форме.
У Вас будет 2 задания:
1) активировать ракету, чтобы сбить астероид, движущийся к станции;
2) активировать аккумулятор или вентилятор, если получена соответствующая инструкция.
В каждом блоке будет только одно из этих заданий, но способ, которым Вы будете получать информацию, будет меняться.
В начале каждого нового блока Вы будете получать 5 демонстрационных заданий с визуальными подсказками. Потом — 25 заданий только со звуковыми подсказками».
Таким образом, в блоках с пространственной задачей было задание «сбить астероид», а в блоках с непространственной — «активировать аккумулятор или вентилятор», что отражалось в характере графического интерфейса, с помощью которого давался ответ, и содержании тренировки в начале блока (где демонстрировалось, что происходит, и показывался правильный ответ, см. рис).
Рис. Графический интерфейс экспериментальной задачи: 1) во время тренировки в пространственном условии; 2) во время тренировки в непространственном условии; 3) во время экспериментальных проб
Fig. Graphical interface for the experimental task: 1) spatial task during training sequence; 2) non-spatial task during training sequence; 3) experimental trials
В блоках с пространственной задачей ответ осуществлялся с помощью 5 стрелок, указывающих разное направление «астероида» (слева-направо: 0°, 45°, 90°, 135°, 180°). Чтобы нивелировать ориентировку на пространственное положение кнопок, в блоках с непространственной задачей давалось только 3 кнопки с разными значениями. Кнопкам с предметными значениями («включение аккумулятора» и «включение вентилятора») соответствовал только 1 звук, третья кнопка означала, что не нужно ничего делать, и ей соответствовали 3 остальных звука. Это было сделано для уравнивания количества звуков для разных условий задачи — таким образом, в каждом блоке всегда было 5 звуков.
Звуки генерировались с помощью программы Audacity 3.7.1. Для пространственного условия генерировался розовый шум, с 5 разными настройками панорамирования (громкостью в левом/правом наушнике) – 100% в левом канале и 0% в правом, 75% и 25%, 50% и 50%, 25% и 75%, 0% и 100% соответственно. Для непространственного условия использовались сгенерированные треугольные волны с 5 разными частотами: 110, 220, 440, 880 и 1760 Гц. Все звуки генерировались с амплитудой 1, продолжительность 30 сек. Выбор типа звуков обусловлен следующими результатами исследований:
- Систематический обзор 60 проектов сонификации показал, что стереопанорамирование чаще всего используется для передачи информации о положении объекта; частота тона была на втором месте, а диапазон тонов — на третьем (Dubus, Brezin, 2013).
- Способность к локализации звука в пространстве обусловлена спектральным составом этого звука, что постулируется в дуплексной теории локализации звуков Дж. Стретта (Разваляева, Носуленко, 2023). Поэтому для пространственной локализации рекомендуется использовать звуки с широким спектром частот, например белый и розовый шум (Bălan et al., 2017). Чтобы пространственное и непространственное условие не отличались по спектру слишком сильно, были сгенерированы волны треугольной формы — т. е. волны с бесконечным числом нечетных гармоник, снижающихся по громкости. В отличие от синусоидальной волны, треугольная содержит весь спектр частот.
Процедура исследования. Перед проведением исследования участникам предъявлялось информированное согласие. После они заполняли демографическую анкету и опросники. Опросники предъявлялись через браузер и были запрограммированы с помощью библиотеки JsPsych ver. 7 (de Leeuw et al., 2022).
Экспериментальная задача была запрограммирована на языке Python 3.10 и предъявлялась с помощью PsychoPy 2024.2.4 для Windows (Pierce, Hirst, MacAskill, 2022). Звуки проигрывались через внешнюю звуковую карту Focusrite Scarlett Solo 2nd gen. и наушники Scarlett Studio HP60 MkII.
В начале эксперимента участники подстраивали громкость стимулов так, чтобы она воспринималась одинаково для всех звуков, использующихся в экспериментальной задаче. Затем предъявлялась общая инструкция, после которой следовали 4 блока. Каждый блок включал инструкцию, объясняющую специфику задачи, демонстрацию соответствия звуков элементам визуального интерфейса и 25 проб. Каждый звук во время блока предъявлялся по 5 раз в случайном порядке. Звук ограничивался 30 секундами, во время его проигрывания нужно было нажать левой кнопкой мыши на соответствующую кнопку на визуальном интерфейсе. Между пробами был 1-секундный интервал.
Исследование проводилось по интраиндивидуальному дизайну; экспериментальные условия предъявлялись по схеме сбалансированного латинского квадрата. Одна из 4 серий, согласно которой устанавливался порядок предъявления блоков, приписывалась в начале эксперимента в зависимости от порядкового номера респондента. Респонденты также получали задачу сравнить 2 блока по ряду показателей (Разваляева, 2025).
Анализ данных проводился в среде R 4.4.2 (R Core Team, 2024), с применением функций из пакетов rjson (Couture-Beil, 2024), lme4 (Bates et al., 2015), effectsize (Ben-Shachar, Lüdecke, Makowski, 2020), psych (Revelle, 2024). Для анализа соответствия распределения нормальному применялся критерий Колмогорова-Смирнова. С учетом того, что сумма ответов и время реакции в разных условиях не были нормально распределены, вместо дисперсионного анализа использовались непараметрические критерии — Краскела-Уоллиса для независимых выборок и Фридмана для повторных измерений — и модели смешанных эффектов (с линейной и логистической регрессией). Для всех типов анализа применялась поправка Бенджамини-Хохберга на множественную проверку гипотез; уровни значимости приведены уже с учетом этой поправки.
Результаты
Точность выполнения задачи и время реакции: групповые различия. Общая точность ответов (сумма правильных ответов) в экспериментальной задаче и среднее время реакции представлены в табл. 1 (для выборки в целом) и 2 (для групп, выполнявших разные экспериментальные серии). Значимых различий для 4 блоков в общей выборке получено не было.
Таблица 1 / Table 1
Описательные статистики и результаты групповых сравнений точности и времени ответов в разных блоках экспериментальной задачи
Descriptive statistics and results of group comparisons for task accuracy and reaction times in different blocks of the experimental task
|
Группа / Group |
Min |
Max |
M |
SD |
Med |
Критерий Фридмана / Friedman test |
|
Правильные ответы (сумма) / Correct answers (sum) |
||||||
|
Вся задача (100 ответов) / All task (100 answers) |
43 |
96 |
74,23 |
16,58 |
79,5 |
– |
|
Блок A (25) / Block A (25) |
3 |
25 |
18,56 |
5,97 |
20 |
χ2 = 4,86, df = 3, p = 0,18 |
|
Блок B (25) / Block B (25) |
4 |
25 |
17,90 |
7,27 |
21,5 |
|
|
Блок C (25) / Block C (25) |
2 |
25 |
18,62 |
4,71 |
20 |
|
|
Блок D (25) / Block D (25) |
4 |
25 |
19,15 |
6,02 |
22 |
|
|
Время реакции (среднее) / Reaction time (mean) |
||||||
|
Вся задача / All task |
1,11 |
3,09 |
1,95 |
0,54 |
1,93 |
– |
|
Блок A / Block A |
0,97 |
4,37 |
1,98 |
0,76 |
1,91 |
χ2 = 4,59, df = 3, p = 0,20 |
|
Блок B / Block B |
0,68 |
4,84 |
2,01 |
0,88 |
1,88 |
|
|
Блок C / Block C |
1,02 |
4,54 |
2,03 |
0,75 |
1,82 |
|
|
Блок D / Block D |
0,86 |
4,27 |
1,79 |
0,78 |
1,50 |
|
Примечание: Min — минимум, Max — максимум, M — среднее значение, Med — медиана, SD — стандартное отклонение, df — степени свободы.
Note: Min — minimum, Max — maximum, M — mean, Med — median, SD — standard deviation, df — degrees of freedom.
Таблица 2 / Table 2
Описательные статистики и результаты сравнений точности и времени ответов у разных групп респондентов
Descriptive statistics and comparisons of accuracy and reaction times between different experimental series
|
Группа / Group |
Серия / Series |
Min |
Max |
M |
SD |
Med |
Критерий Краскелла-Уоллиса / Kruskall-Wallis test |
|
Правильные ответы (сумма) / Correct answers (sum) |
|||||||
|
Вся задача / All task |
1 |
43 |
94 |
78,31 |
16,02 |
83,00 |
χ2 = 11,17, df = 3, p = 0,01 Значимые различия / Significant differences: 1 & 4 (p = 0,02), 2 & 3 (p = 0,007), 3 & 4 (p = 0,001) |
|
2 |
44 |
94 |
69,23 |
16,33 |
71,00 |
||
|
3 |
54 |
96 |
84,23 |
12,48 |
88,00 |
||
|
4 |
43 |
90 |
65,15 |
15,72 |
60,00 |
||
|
Блок A / Block A |
1 |
6 |
24 |
17,62 |
6,24 |
20,00 |
χ2 = 3,17, df = 3, p = 0,37 |
|
2 |
4 |
25 |
17,92 |
7,20 |
20,00 |
||
|
3 |
12 |
25 |
21,08 |
3,90 |
22,00 |
||
|
4 |
3 |
25 |
17,62 |
5,99 |
19,00 |
||
|
Блок B / Block B |
1 |
7 |
25 |
19,62 |
7,03 |
23,00 |
χ2 = 16,31, df = 3, p < 0,001 Значимые различия / Significant differences: 1 & 2 (p = 0,001), 2 & 3 (p < 0,001), 2 & 4 (p = 0,008) |
|
2 |
4 |
22 |
11,46 |
6,05 |
10,00 |
||
|
3 |
18 |
25 |
22,85 |
2,38 |
23,00 |
||
|
4 |
6 |
25 |
17,69 |
7,63 |
22,00 |
||
|
Блок C / Block C |
1 |
9 |
25 |
19,69 |
4,48 |
21,00 |
χ2 = 5,08, df = 3, p = 0,17 |
|
2 |
14 |
23 |
20,00 |
3,14 |
21,00 |
||
|
3 |
2 |
25 |
18,00 |
6,12 |
19,00 |
||
|
4 |
7 |
23 |
16,77 |
4,40 |
18,00 |
||
|
Блок D / Block D |
1 |
12 |
25 |
21,38 |
4,57 |
23,00 |
χ2 = 18.314, df = 3, p < 0,001 Значимые различия / Significant differences: 1 & 4 (p < 0,001), 2 & 4 (p = 0,003), 3 & 4 (p < 0,001) |
|
2 |
4 |
25 |
19,85 |
6,00 |
22,00 |
||
|
3 |
13 |
25 |
22,31 |
3,71 |
24,00 |
||
|
4 |
6 |
23 |
13,08 |
5,16 |
12,00 |
||
|
Время реакции / Reaction time |
|||||||
|
Вся задача / All task |
1 |
1,20 |
2,94 |
1,93 |
0,55 |
1,85 |
χ2 = 1,13, df = 3, p = 0,77 |
|
2 |
1,11 |
2,75 |
2,06 |
0,48 |
2,06 |
||
|
3 |
1,14 |
2,90 |
1,91 |
0,65 |
1,67 |
||
|
4 |
1,23 |
3,09 |
1,91 |
0,52 |
1,76 |
||
|
Блок A / Block A |
1 |
0,97 |
4,37 |
2,29 |
0,94 |
2,20 |
χ2 = 2,13, df = 3, p = 0,55 |
|
2 |
0,98 |
3,73 |
1,99 |
0,79 |
1,85 |
||
|
3 |
1,13 |
3,15 |
1,89 |
0,64 |
2,02 |
||
|
4 |
1,04 |
3,25 |
1,77 |
0,61 |
1,71 |
||
|
Блок B / Block B |
1 |
1,07 |
3,90 |
1,94 |
0,79 |
1,88 |
χ2 = 10,23, df = 3, p = 0,02 Значимые различия / Significant differences: 1 & 2 (p = 0,02), 2 & 3 (p = 0,02), 2 & 4 (p = 0,001) |
|
2 |
1,22 |
4,84 |
2,72 |
1,07 |
2,58 |
||
|
3 |
0,96 |
3,02 |
1,84 |
0,66 |
2,05 |
||
|
4 |
0,68 |
2,69 |
1,54 |
0,50 |
1,40 |
||
|
Блок C / Block C |
1 |
1,13 |
3,53 |
2,00 |
0,73 |
1,66 |
χ2 = 1,93, df = 3, p = 0,59 |
|
2 |
1,02 |
2,63 |
2,01 |
0,52 |
2,13 |
||
|
3 |
1,14 |
4,54 |
2,29 |
1,07 |
1,91 |
||
|
4 |
1,14 |
3,02 |
1,82 |
0,59 |
1,51 |
||
|
Блок D / Block D |
1 |
1,19 |
2,34 |
1,50 |
0,36 |
1,34 |
χ2 = 15,88, df = 3, p = 0,001 Значимые различия / Significant differences: 1 & 4 (p = 0,002), 2 & 4 (p = 0,001), 3 & 4 (p < 0,001) |
|
2 |
1,14 |
2,35 |
1,53 |
0,40 |
1,42 |
||
|
3 |
0,86 |
3,71 |
1,63 |
0,89 |
1,22 |
||
|
4 |
1,48 |
4,27 |
2,49 |
0,90 |
2,08 |
||
Примечание: Min — минимум, Max — максимум, M — среднее значение, Med — медиана, SD — стандартное отклонение.
Note: Min — minimum, Max — maximum, M — mean, Med — median, SD — standard deviation, df — degrees of freedom.
Связь точности выполнения задачи в разных условиях с модальностями восприятия и яркостью образной сферы. Корреляционный анализ выявил значимые связи между яркостью слуховых образов и суммарной точностью ответов в непространственном звуковом условии (r = 0,30, p = 0,03) и в условии D (r = 0,34, p = 0,01); между яркостью эмоциональных образов и точностью ответов в условии D (r = -0,30, p = 0,03); между предпочтением зрительной информации и скоростью ответов в пространственной задаче (r = 0,30, p = 0,03). Однако после применения поправки на множественную проверку гипотез все эти связи стали незначимыми.
Вклад типа слухового интерфейса и типа задания в точность и время ответа в пробе. Для определения вклада типа слухового интерфейса и типа задания в точность и время ответа в каждой пробе были построены модели смешанных эффектов, учитывающие фиксированные и случайные эффекты. В качестве фиксированных эффектов в обе модели вводились:
- тип слухового интерфейса, тип задания и взаимодействие между ними;
- порядковый номер блока в эксперименте и пробы в блоке (для контроля эффектов последовательности, на которые указал анализ различий между разными экспериментальными сериями);
- дополнительные переменные: коэффициент громкости звука и яркость слуховых образов.
В качестве случайного эффекта указывался идентификационный номер респондента. Из модели времени реакции были исключены данные, представлявшие выбросы из распределения (время реакции больше 3 секунд).
Результаты проверки моделей представлены в табл. 3. Тип звука и номер блока вносили значимый вклад в оба показателя. Тип задания, номер пробы и громкость звука — только во время реакции, а взаимодействие типа звука и задания оказалось значимым предиктором только точности ответа.
Таким образом, ответ давался более точно в блоках, следующих за первым (b = 0,37), и при использовании «конгруэнтной» стратегии сонификации, когда пространственные звуки сочетались с пространственным заданием (b = 0,36). Пространственная сонификация в непространственном задании ухудшала точность ответа (b = -0,32).
В «неконгруэнтных» пробах (пространственный звук и непространственное задание и наоборот) ответ давался медленнее (b = 0,14 для пространственного условия, b = 0,19 для непространственного). Взаимодействие условий здесь было незначимо и близко к нулю, т. е. сочетание пространственной сонификации и задания не отличалось значимо от непространственной сонификации и задания. При этом отчет давался быстрее в более поздних пробах в блоке (b = -0,12), в более поздних блоках в эксперименте (b = -0,14) и при большей громкости звука (b = -0,07).
Таблица 3 / Table 3
Результаты моделей смешанных эффектов для точности ответа и времени реакции в пробах
Mixed effects models for accuracy and time reaction in experiment trials
|
Фиксированные эффекты / Fixed effects |
b |
95% CI |
SE |
z / t |
p |
|
Логистическая модель — точность ответа / Logistic regression model for accuracy |
|||||
|
Точка пересечения с y (intercept) / Intercept |
1,45 |
[ 1,16, 1,75] |
0,15 |
9,67 |
<0,001 |
|
Тип звука (пространственный) / Sound interface (spatial) |
-0,32 |
[-0,52, -0,13] |
0,10 |
-3,24 |
0,003 |
|
Тип задания (пространственное) / Task (spatial) |
-0,16 |
[-0,36, 0,03] |
0,10 |
-1,66 |
0,129 |
|
Звук × Задание (пространственные) / Sound interface × Task (spatial) |
0,36 |
[ 0,08, 0,63] |
0,14 |
2,56 |
0,020 |
|
Номер пробы / Trial number |
0,00 |
[-0,06, 0,07] |
0,03 |
0,12 |
0,907 |
|
Номер блока / Block number |
0,37 |
[ 0,30, 0,44] |
0,04 |
10,60 |
< 0,001 |
|
Яркость звуковых образов / Vividness of sound imagery |
0,23 |
[-0,03, 0,50] |
0,14 |
1,72 |
0,129 |
|
Громкость звука / Volume |
-0,01 |
[-0,14, 0,12] |
0,07 |
-0,14 |
0,907 |
|
Линейная модель — время реакции (стандартизированное) / Linear regression model for standardized reaction time |
|||||
|
Точка пересечения с y (intercept) / Intercept |
-0,12 |
[-0,23, 0,00] |
0,06 |
-1,91 |
0,075 |
|
Тип звука (пространственный) / Sound interface (spatial) |
0,14 |
[ 0,06, 0,21] |
0,04 |
3,47 |
0,002 |
|
Тип задания (пространственное) / Task (spatial) |
0,19 |
[ 0,11, 0,26] |
0,04 |
4,91 |
<0,001 |
|
Звук × Задание (пространственные) Sound interface × Task (spatial) |
-0,04 |
[-0,14, 0,07] |
0,05 |
-0,65 |
0,510 |
|
Номер пробы / Trial number |
-0,12 |
[-0,15, -0,10] |
0,01 |
-8,91 |
<0,001 |
|
Номер блока / Block number |
-0,14 |
[-0,16, -0,11] |
0,01 |
-9,95 |
<0,001 |
|
Яркость звуковых образов / Vividness of sound imagery |
-0,04 |
[-0,15, 0,07] |
0,06 |
-0,664 |
0,510 |
|
Громкость звука / Volume |
-0,07 |
[-0,12, -0,02] |
0,03 |
-2,83 |
0,008 |
Примечание: b — стандартизированные регрессионные коэффициенты, 95% CI — доверительный интервал, SE — стандартная ошибка; для логистической модели приводятся значения z, для линейной — значения t.
Note: b — standardized regression coefficients, 95% CI — confidence interval, SE — standard error; z statistics are displayed for the logistic model, and t statistics for the linear model.
Вклад конкретных звуков в точность и время ответа в пробе. Для более подробного анализа причин затруднений в блоках разного типа мы рассмотрели вклад типа звука в показатель правильных ответов. Были построены две модели — отдельно для каждого типа слухового интерфейса (табл. 4). В них использовались те же случайные и фиксированные эффекты, что и в предыдущих моделях, но переменная «тип сонификации» заменялась на «тип звука».
Для пространственных звуков было показано, что в непространственном задании все шумы, кроме того, который подавался на левое ухо (в условном положении 0°), снижали вероятность правильного ответа. В пространственном задании вероятность правильного ответа снижалась для шума, подающегося на левое ухо (точка пересечения с шкалой ординат — 2,29; значимый эффект типа задания — b = -0,71; т. е., эффект для шума в позиции 0° — 1,58), по сравнению с непространственным заданием, но не менялась для шума, подающегося в позиции 135°, и повышалась для остальных шумов (подающегося в позиции 180°, 90 и 45°). Таким образом, в непространственном задании лучше всего распознавался звук, связанный с кнопкой «запуска аккумулятора», а в пространственном — звуки, связанные с крайними стрелками влево, вправо и прямо.
Для непространственных звуков в непространственной задаче вероятность правильного ответа для тона 440 Гц не отличалась значимо от тона 110 Гц. В пространственной задаче она не изменялась для тона 110 и 220 Гц (нет значимого эффекта у переменной «тип задания» и у взаимодействия типа задания и тона 220), повышалась для тона 1760 Гц и снижалась для остальных тонов — 440 и 880 Гц. Так же, как и в случае с пространственными звуками, в непространственном задании лучше всего связывалась с соответствующим звуком (самый низкий, 220 Гц) кнопка «запуска аккумулятора», а в пространственном лучше всего различались звуки, соответствующие стрелкам влево и вправо.
Эффект последовательности блоков был значимым в обеих моделях. В модели с непространственными звуками был также значим эффект яркости слуховых образов, вносившей положительный вклад в вероятность правильного ответа.
Таблица 4 / Table 4
Результаты смешанных моделей для вклада конкретных звуков в точность ответа
Mixed effects models for the input of specific sounds in response accuracy
|
Фиксированные эффекты / Fixed effects |
b |
95% CI |
SE |
z |
p |
|
Логистическая модель — точность ответа (пространственные звуки) / Logistic regression model for accuracy (spatial sounds) |
|||||
|
Точка пересечения с y (intercept) / Intercept |
2,29 |
[ 1,76, 2,81] |
0,27 |
8,54 |
<0,001 |
|
Тип задания (пространственное) / Task (spatial) |
-0,71 |
[-1,21, -0,21] |
0,25 |
-2,79 |
0,007 |
|
Шум 45° / Noise 45° |
-1,62 |
[-2,10, -1,14] |
0,25 |
-6,60 |
<0,001 |
|
Шум 90° / Noise 90° |
-1,05 |
[-1,54, -0,56] |
0,25 |
-4,23 |
<0,001 |
|
Шум 135° / Noise 135° |
-0,84 |
[-1,33, -0,35] |
0,25 |
-3,35 |
0,002 |
|
Шум 180° / Noise 180° |
-1,28 |
[-1,76, -0,79] |
0,25 |
-5,17 |
<0,001 |
|
Номер пробы / Trial number |
-0,05 |
[-0,15, 0,06] |
0,05 |
-0,87 |
0,446 |
|
Номер блока / Block number |
0,39 |
[ 0,25, 0,52] |
0,07 |
5,62 |
<0,001 |
|
Яркость звуковых образов / Vividness of sound imagery |
0,06 |
[-0,31, 0,43] |
0,19 |
0,32 |
0,746 |
|
Громкость звука / Volume |
0,21 |
[-0,16, 0,59] |
0,19 |
1,12 |
0,337 |
|
Пространственное задание × Шум 45° / Spatial task × Noise 45° |
1,08 |
[ 0,43, 1,73] |
0,33 |
3,24 |
0,002 |
|
Пространственное задание × Шум 90° / Spatial task × Noise 90° |
1,11 |
[ 0,44, 1,78] |
0,34 |
3,24 |
0,002 |
|
Пространственное задание × Шум 135° / Spatial task × Noise 135° |
0,23 |
[-0,43, 0,90] |
0,34 |
0,69 |
0,526 |
|
Пространственное задание × Шум 180° / Spatial task × Noise 180° |
1,83 |
[ 1,14, 2,52] |
0,35 |
5,21 |
<0,001 |
|
Логистическая модель — точность ответа (непространственные звуки) / Logistic regression model for accuracy (non-spatial sounds) |
|||||
|
Точка пересечения с y (intercept) / Intercept |
2,10 |
[ 1,64, 2,56] |
0,24 |
8,87 |
<0,001 |
|
Тип задания (пространственное) / Task (spatial) |
0,42 |
[-0,12, 0,96] |
0,28 |
1,52 |
0,165 |
|
Тон 220 Гц / Tone 220 Hz |
-1,36 |
[-1,83, -0,89] |
0,24 |
-5,67 |
<0,001 |
|
Тон 440 Гц / Tone 440 Hz |
-0,17 |
[-0,70, 0,35] |
0,27 |
-0,65 |
0,517 |
|
Тон 880 Гц / Tone 880 Hz |
-0,63 |
[-1,16, -0,11] |
0,27 |
-2,35 |
0,033 |
|
Тон 1760 Гц / Tone 1760 Hz |
-0,73 |
[-1,26, -0,21] |
0,27 |
-2,73 |
0,013 |
|
Номер пробы / Trial number |
0,05 |
[-0,05, 0,16] |
0,05 |
1,06 |
0,312 |
|
Номер блока / Block number |
0,29 |
[ 0,15, 0,42] |
0,07 |
4,21 |
<0,001 |
|
Яркость звуковых образов / Vividness of sound imagery |
0,39 |
[ 0,11, 0,66] |
0,14 |
2,79 |
0,013 |
|
Громкость звука / Volume |
-0,21 |
[-0,43, 0,01] |
0,11 |
-1,89 |
0,083 |
|
Пространственное задание × Тон 220 Гц / Spatial task × Tone 220 Hz |
-0,46 |
[-1,13, 0,21] |
0,34 |
-1,35 |
0,206 |
|
Пространственное задание × Тон 440 Гц / Spatial task × Tone 440 Hz |
-1,91 |
[-2,61, -1,20] |
0,36 |
-5,33 |
<0,001 |
|
Пространственное задание × Тон 880 Гц / Spatial task × Tone 880 Hz |
-0,97 |
[-1,66, -0,27] |
0,35 |
-2,74 |
0,013 |
|
Пространственное задание × Тон 1760 Гц / Spatial task × Tone 1760 Hz |
0,88 |
[ 0,11, 1,65] |
0,39 |
2,23 |
0,040 |
Примечание: b — стандартизированные регрессионные коэффициенты, 95% CI — доверительный интервал, SE — стандартная ошибка.
Note: b — standardized regression coefficients, 95% CI — confidence interval, SE — standard error.
Обсуждение результатов
Тип слухового интерфейса и точность решения задачи. Хотя при сравнении сумм правильных ответов в блоках и среднего времени реакции значимых различий не было выявлено, на уровне отдельных проб был обнаружен вклад типа слухового интерфейса и его взаимодействия с типом задания в вероятность правильного ответа. При этом была показана большая вероятность правильного ответа в конгруэнтных условиях, когда пространственная задача сопровождается звуками с пространственной информацией (с разным балансом в левом и правом наушнике), а непространственная — звуками без пространственной информации (разной частоты).
Этот результат согласуется с исследованиями, где пространственная информация передавалась с помощью пространственных звуков. Так, Д. Блэк с соавторами передавали информацию о положении объекта (медицинской иглы) по оси x с помощью панорамирования, а по оси y — с помощью динамической частоты тона, и обнаружили, что точность ввода иглы в муляж не отличается от использования визуального интерфейса (Black et al., 2017). В другом исследовании (в области управления автомобилем) предупреждения о стороне, с которой едет другой автомобиль, подавались на соответствующее ухо; задание выполнялось более эффективно в условии слухового интерфейса (Houtenbos et al., 2017).
Эффекты последовательности. В экспериментальной задаче выявлялось несколько эффектов, связанных с последовательностью: внутри блоков по мере прохождения задания возрастала скорость реакции, а между блоками — и скорость, и вероятность правильного ответа. Этот эффект согласуется с предыдущими исследованиями эффекта научения при использовании слухового интерфейса для профессионально-специфичных целей, где было показано, что ассистенты с меньшим профессиональным опытом более медленно обучались выполнять задачу со слуховым интерфейсом по сравнению с визуальным (Matinfar et al., 2023).
Также непространственный тип задачи (с непространственным расположением кнопок на графическом интерфейсе) вызывал значимо большие затруднения, если этот блок шел первым в эксперименте. Учитывая, что пространственное положение кнопок в этом блоке намеренно не соответствовало «шкале», по которой выстраивались звуки (слева-направо для шумов, «снизу-вверх» для тонов), оно могло вызывать большие затруднения в понимании. Возможно, этот эффект можно будет нивелировать более длительной тренировкой с обратной связью в будущих исследованиях.
Вклад звука в точность ответов в разных типах задачи. Звуки, использующиеся в задании, по-разному связывались с различными элементами интерфейса в зависимости от условия задания — пространственного или непространственного. Так, в непространственном задании было больше ошибок для кнопок «вентилятора» и «пропуска» вне зависимости от используемых звуков; шум в левом ухе и самый низкий тон одинаково хорошо связывались с кнопкой «запуска аккумулятора» (тоже самой левой). Таким образом, можно предположить, что часть ошибок в непространственной задаче была связана с попыткой участников исследования применить стратегию ориентировки на пространственное положение кнопок и их соотнесение со звуковыми шкалами.
В пространственной задаче лучше всего различались «крайние» звуки на шкале, связанные со стрелками влево и вправо. Звуки, связанные с позицией 45° и 135°, вне зависимости от используемого типа слухового интерфейса, различались хуже. Однако звук, соответствующий стрелке «прямо», распознавался по-разному, и лучше распознавался именно в случае пространственного интерфейса.
Связи с индивидуальными особенностями восприятия звука. Хотя связи между яркостью слуховых образов и показателями эффективности выполнения задания не были значимыми после поправки на множественную проверку гипотез, этот показатель вносил значимый вклад в точность ответов в непространственном задании. Можно предположить, что для лучшего запоминания тонов участникам исследования нужно было мысленно их представлять. Предыдущие исследования, в которых участникам давалось задание представить себе единичный тон или последовательность тонов и их мысленный образ сравнивался с эталонным звуком, показывают, что яркость образов может как помогать, так и мешать правильному воспроизведению высоты тона (Gelding, Thompson, Johnson, 2015; Hubbard, 2010). Интересно, что со звуками шума яркость слуховых образов связана не была, что может указывать на то, что их сложнее запомнить и представить себе.
Ограничения исследования и дальнейшие направления. Основное ограничение исследования заключается в том, что в нем была представлена ситуация, не являющаяся экологически валидной или связанной с конкретной предметной областью (т.е. задание не имитировало в достаточной степени близости существующие сложные системы — например, автомобиль или самолет). Также не контролировалось, был ли у респондентов абсолютный слух, что могло бы позволить им лучше различать и запоминать звуки в непространственном интерфейсе. Не измерялись когнитивные способности респондентов, связанные со слуховым восприятием (например, слуховая рабочая память).
Однако в исследовании были получены новые результаты, сравнивающие разные типы интерфейсов (пространственный и параметрический). Несмотря на большую распространенность этих типов интерфейсов, особенно в случае параметрической сонификации с помощью изменяющейся частоты звука, их сравнение еще не проводилось. Было показано, что, при высокой средней точности ответов для всех типов задач, в вероятность конкретного правильного ответа вносило вклад соотношение между типом слухового интерфейса и той информацией, для которой он строился; преимущество было у конгруэнтных задач. Также были получены новые результаты, показывающие, что индивидуальная вариативность в обработке слуховой информации может вносить вклад в поведение пользователей слуховых интерфейсов.
В дальнейшем предполагается провести исследование с использованием других типов звуков и контролем когнитивных способностей респондентов и их способности к различению разных характеристик звука. Большая экологическая валидность может быть достигнута за счет создания звуков с определенным предметным содержанием (в отличие от непредметных синтезированных звуков, с которыми большинство людей имеет мало опыта работы) и их пространственной обработки для задействования способности к локализации звука в пространстве (Носуленко, 2020). Перспективным направлением является создание экологически валидных интерфейсов и их тестирование в условиях, более приближенных к реальной деятельности, в том числе в разных профессиональных группах.
Выводы
- Характеристики слухового интерфейса и типа задачи вносят значимый вклад в эффективность выполнения задачи: взаимодействие типа слухового интерфейса и типа задачи вносит вклад в точность ответа, тип слухового интерфейса и тип задания вносят независимый вклад во время реакции.
- В задании наблюдаются эффекты последовательности: по мере выполнения задания улучшается точность ответов и время реакции.
- Яркость слуховых образов вносит вклад в эффективность выполнения задания в условии непространственного слухового интерфейса.