Термин Маска применяется в применении к

Термин "Маска" применяется в применении к логическим операциям AND и OR (чаще AND).

AND - логическое "И".
1 AND 1 = 1
1 AND 0 = 0
0 AND 1 = 0
0 AND 0 = 0

OR - логическое "ИЛИ"

1 OR 1 = 1
1 OR 0 = 1
0 OR 1 = 1
0 OR 0 = 0

Маской называется второй операнд в логической операции, выбранный таким образом, чтобы изменить или отделить один или несколько бит в первом операнде.
Пример 1:
имеем байт 10101010, нужно выделить 2 младших бита. AND-Маска - 00000011.
Ибо 10101010 AND 00000011 = 00000010
Пример 2:
имеем байт 10101010, нужно установить младший бит. OR-маска - 00000001.
Ибо 10101010 OR 00000001 = 10101011.

Насчет прерываний - ну, тут не совсем прямая связь. Смысл в том, что маскируемое прерывание может быть программно запрещено. Термин "маскируемое" произошел от того, что для запрещения на соотв. регистр контроллера прерываний (а в нем состояние битов соответствует разрешению/запрещению прерываний, по биту на прерывание) накладывается маска для изменения соотв. бита для запрещения/разрешения определенного прерывания.

Немаскируемое прерывание не управляется программно. Т.е. его генерацию нельзя запретить.

Нормально? Понятно?