Это диофантово уравнение. Обычно решается подбооом.