[Пишет профессиональный программист графики, так что не обессудьте]
Если ты занимаешься графикой - то аналитическую геометрию, тригонометрию, матрицы и различные интегральные преобразование (DLT, DFT, FFT) знать надо как свои пять пальцев, потому что это надо абсолютно всегда.
О FFT (быстром преобразовании Фурье) оно нужно для любых операции дискретизации (кодирование mp3, jpeg, вейвлеты etc.) только вот существует огромное количество библиотек в которых это уже реализовано, так что лучше брать уже готовые. Автор этих строк писал импортер .psd со слоями и альфой. Это были худшие две недели в моей жизни