3 мин. чтения
12/29/2023 11:10:01 AM

Apple Flash: наши умные устройства скоро станут умнее

Article Preview Image Кредит: Pixabay/CC0 Общественный домен

Удерживая глубокие, естественные обмены на академические или личные запросы;Запуск наших жизненно важных знаков через глобальную базу данных, чтобы проверить неизбежные проблемы со здоровьем;Упаковка массовых баз данных для обеспечения комплексного перевода в реальном времени среди двух или более сторон, говорящих на разных языках;и общение с программным обеспечением GPS, предоставляя подробную информацию о лучших гамбургерах, фильмах, отелях или местах для наблюдения за людьми вдоль вашего маршрута.

Используя соблазнительную силу крупных языковых моделей и обработки естественного языка, мы стали свидетелями огромного прогресса в связи между нами и технологиями, на которые мы все больше полагаемся в нашей повседневной жизни.

Но когда дело дошло до ИИ и наших портативных устройств.Исследователи в Apple говорят, что они готовы что -то с этим сделать.

Проблема в памяти.Большому языковому моделям нужно много.С моделями, требующими хранения потенциально сотен миллиардов параметров, обычно используемые смартфоны, такие как Apple iPhone 15, с скудным 8 ГБ памяти, будут далеко не хватать задачи.

В статье, загруженной на сервер, предварительно печатный Arxiv 12 декабря, Apple объявила, что разработала метод, в котором используются передачи данных между флэш-памятью и DRAM, который позволит интеллектуальному устройству запускать мощную систему ИИ.

Исследователи говорят, что их процесс может запускать программы ИИ вдвое больше, чем размер емкости DRAM устройства и ускорить операции процессора до 500%.По словам они, процессы графических процессоров могут быть ускорены до 25 раз.

«Наш метод включает в себя построение модели затрат на вывод, которая гармонизирует с поведением флэш -памяти, направляя нас к оптимизации в двух критических областях: уменьшение объема данных, передаваемых из данных Flash и чтения в более крупных, более смежных кусках», - сказали исследователи в своихБумага под названием «LLM во вспышке: эффективный вывод модели большой языка с ограниченной памятью».

Два метода, которые они использовали, были:

Два процесса, говорят исследователи, «в совокупности способствуют значительному снижению нагрузки данных и повышению эффективности использования памяти».

Они добавили: «Этот прорыв особенно важен для развертывания расширенных LLM в средах с ограниченными ресурсами, тем самым расширяя их применимость и доступность».

В другом недавнем прорыве Apple объявила, что разработала программу под названием Hugs, которая может создавать анимированные аватары всего за несколько секунд видео, снятого из одного объектива.Текущие программы создания аватара требуют нескольких просмотров камеры.Отчет «Объятия: человеческие гауссовые шпаты» был загружен в Arxiv 29 ноября.

Их программа может создать реалистичные танцевальные аватары всего за 30 минут, что гораздо короче, чем два дня, необходимые для нынешних популярных подходов, сообщает Apple.

Больше информации: Keivan Alizadeh et al.Doi: 10.48550/arxiv.2312.11514

Получи бесплатную еженедельную рассылку со ссылками на репозитории и лонгриды самых интересных историй о стартапах 🚀, AI технологиях 👩‍💻 и программировании 💻!
Присоединяйся к тысячам читателей для получения одного еженедельного письма

Подписывайся на нас:

Нашли ошибку в тексте? Напишите нам.

Добавляй ЛРНЧ в свою ленту Google Новостей.
Читайте далее 📖

Apple внедряет ИИ с множеством предстоящих функций iPhone и интеграцию ChatGPT

6/12/2024 · 3 мин. чтения

Apple внедряет ИИ с множеством предстоящих функций iPhone и интеграцию ChatGPT

Чатбот 'Я из будущего' дает пользователям представление о жизни в старости

6/6/2024 · 3 мин. чтения

Чатбот 'Я из будущего' дает пользователям представление о жизни в старости