Если есть на чём (либо nvidia карта либо RAM побольше, запускал на 16) - попробуй https://github.com/janhq/jan + модель вроде Noromaid (это вроде под RP оптимизирована) и другие.
Вроде вменяемая и достаточно простая штука. Если на проце гонять - ставить допом не нужно ничего, если на nvidia - cuda 12 по ссылкам в доках
- У нас есть меха дома
Вроде вменяемая и достаточно простая штука. Если на проце гонять - ставить допом не нужно ничего, если на nvidia - cuda 12 по ссылкам в доках