Представлена новая модель GPT-4o для ChatGPT / OpenAI :: новости :: гиф анимация (гифки - ПРИКОЛЬНЫЕ gif анимашки)

Я к тому, что запустить-то нейросеть на телефоне возможно и можно, но кто будет согласен ждать ответа несколько минут?

цпу больше заточен на целочисленные операции.

гпу - на дроби, огромное колличество дробных чисел для всяких синусов, косинусов, нормалей...

в ИИ система весов оперирует дробными числами, огромным их колличеством.

1) цпу arm уже изначально с сокращённым набором инструкций и заточены именно на скорость и производительность.
ARM не смогут в «такую арифметику»? Скажите это требовательным мобильным играм или бенчмаркам.

Искать разницу между Ampere и RiSC? Она существует, не это ещё не говорит о невыполнимости «арифметических» задач на других архитектурах.
Проприетарнось - да. Проиводительнось - да.

изначально ARM задумывалась как усовершенствование архитектуры RISC, то для ранних чипов были характерны некоторые общие черты:

⦁ фиксированный размер команд;
⦁ большое число регистров общего назначения;
⦁ специализированные команды для операций с памятью — чтения или записи.

В философии RISC (англ. Reduced Instruction Set Computer — «компьютер с сокращенным набором команд») инженеры решили устранить главный недостаток CISC. Команды сделали фиксированной длины, но при этом увеличили число регистров, чтобы иметь большее пространство для работы с данными и реже обращаться к памяти.Со временем разработчики ARM вносили все больше изменений и модификаций, отклоняясь от классической концепции RISC. Например, из 31 регистра программисту доступно всего 16, также в некоторых случаях одна команда в ARM может выполнять не только обработку данных но и сдвиг. Это позволяет частично уменьшить сложность кода, но за счёт увеличения сложности команд. Еще одна важная особенность ARM — это развитый набор видов адресации, который изначально не задумывался в концепции RiSC архитектуры.

2) гпу в таких устройствах тоже есть (правда без vram, но это поправимо. хотя бы, расширением виртуальной временной памяти на носитель с постоянной)

3) «графика это куча операций с числами, плавающей точкой, перелопачивание больших объёмов данных, расчёт 3-хмерных изображений, это операции с матрицами, не "простые" операции, очень сложные, много в единицу времени. цпу это процессор общего назначения, спектр задач шире»

> «производительность ниже».
Позвольте усомнитьсяЕсли они считают немного по другому, это ещё не значит, что они гораздо менее производительные, если напихать в них столько же ядер и они быстрее решат задачу, хотя бы, за счёт расширенного набора инструкций.

Удивительно, что изначально процессоры Ampere были выполнены на ARM-архитектуре:
«если задача хорошо параллелится, то ARM-процессор сильно выбивается вперёд по разным критериям, за счёт большего количества физических ядер. Поэтому в ряде критериев — ARM лидирует очень уверенно. Однако все приемущества проявляются именно в многопоточном режиме.»
http://old.reactor.cc/post/2699529

Возможно весь секрет заключается ещё и в алгоритмах и последовательности обучения нейросетей?
Исходники опенсорсных выложены, но не у всех получается их правильно обучать, то "пальцóв не менее шести", то симметрия гулять ушла "в дурку нахуй!", то пропорции сказали "досвидос", ну это только визауальные, а не "текстовые" ИИ…