Apple резервирует 4 ГБ места для размещения моделей искусственного интеллекта на iPhone • The Register

Для встроенной в устройство модели искусственного интеллекта Apple под названием Apple Intelligence потребуется 4 ГБ памяти устройства. На данный момент это примерно размер HD-фильма.

iBiz объявила о своих требованиях к памяти в своей записке «Введение в Apple Intelligence на iPhone». Опубликовано В преддверии публичного релиза iOS 18.1 в следующем месяце. Именно здесь в игру вступает интеллект Apple. Он был официально открыт Доступно на iOS (18.1) и macOS (Sequoia 15.1).

Также существуют требования к оборудованию: iPhone 16, iPhone 16 Plus, iPhone 16 Pro, iPhone 16 Pro Max, iPhone 15 Pro или iPhone 15 Pro Max. Те, у кого есть модели iPad и Mac с Apple Silicon M1 и более поздних версий, также получат доступ к сервису искусственного интеллекта Apple.

Серии iPhone 15 Pro и iPhone 16 имеют минимальный объем памяти 128 ГБ.

Те, кто тестировал бета-версии программного обеспечения Apple Сообщается, что Размеры моделей колеблются: некоторые из них имеют размер более 5 ГБ, а другие — примерно вдвое меньше.

Apple ожидает, что необходимое пространство для хранения со временем увеличится. «Требования к объему памяти для моделей Apple Intelligence, встроенных в устройства, будут увеличиваться по мере появления новых функций», — предупреждает компания в сноске.

Но Apple Intelligence не будет доступна с выпуском iOS 18.1. Скорее всего, он будет предлагаться в виде бета-версии, и пользователям придется встать в список ожидания на несколько часов перед активацией. После активации услуги будут загружены различные необходимые модели нейронных сетей. Apple не сообщила, можно ли удалить загруженные шаблоны после их установки, хотя пользователи, предположительно, будут иметь возможность деактивировать службу.

Модель Apple Foundation (AFM) — это генеративная модель, содержащая примерно 3 миллиарда параметров, предназначенная для эффективной работы на мобильных устройствах и дополненная большой серверной языковой моделью в инфраструктуре облачных вычислений Apple. Существует также форма распространения для добавления графики в Сообщениях и форма разметки в Xcode.

Apple квантует AFM на устройстве до 4 бит или меньше, чтобы сохранить его размер — некоторые слои менее значительны, поэтому вы получаете только около 2 бит квантования. «В среднем AFM на устройстве можно сжать всего до 3,5 бит на вес (bpw) без значительной потери качества», — объясняют эксперты Apple в бумага «Мы решили использовать в производстве скорость 3,7 бит/мин, потому что она действительно соответствует требованиям к памяти».

В целом модель параметров 3B занимает около 6 ГБ памяти при 16-битном квантовании, около 3 ГБ при 8-битном и около 1,5 ГБ при 4-битном квантовании.

Чтобы сделать AFM более гибким, Apple использует «трансформеры», которые компания описывает как «небольшие наборы весов модели, накладываемые поверх общей базовой модели». Его система искусственного интеллекта загружает и выгружает эти веса во время работы, чтобы обеспечить определенные возможности, такие как подведение итогов, рецензирование, ответы по электронной почте и т. д. По словам исследователей Apple, каждому адаптеру требуется около 10 МБ.

Первоначально возможности Apple Intelligence будут ограничены:

• Инструменты для письма
• Чистые изображения
• Создайте фильм из воспоминаний в фотографиях
• Поиск на естественном языке по изображениям
• Сводка уведомлений
• Минимизируйте перерывы и сосредоточьтесь
• Интеллектуальное проникновение и подавление шума в фокусе
• Приоритетные почтовые сообщения
• Умный ответ в почте и сообщениях
• Резюме в почте и письмах
• Улучшения Siri, включая осведомленность о продуктах, более гибкую обработку заказов, новый внешний вид, более естественный голос, возможность печатать с помощью Siri и многое другое.

Реакции на бета-версии программного обеспечения включают такие выражения, как «разочарование«и»Мех«Но более широкая доступность и расширенные возможности могут создать несколько более привлекательных вариантов использования».®