Apple выпустила небольшие ИИ-модели, работающие локально на устройствах

Компания Эппл активно участвует в гонке за мощными и при этом небольшими языковыми моделями искусственного интеллекта. Новые версии OpenELM от компании из Купертино, имеющие открытый код, будут использованы на мобильных телефонах.

Языковая модель OpenELM производится в 8-ми разновидностях, в которых есть от 270 млн до 3 млрд параметров. Например, нейросеть GPT-3 имеет 175 млрд параметров.

Есть заранее обученный ИИ для стандартных заданий, а также модель, которая настроена на требования для ИИ-ассистентов и чат-ботов. Представители компании из Купертино сообщают, что применяемая «тактика масштабирования по слоям» делает нейронную сеть точнее и эффективнее. Совершенно очевидно, что новой разработке потребуется меньше токенов для обучения, чтобы достичь такой же продуктивности.

Исходный код системы, обучающие тексты и весовые показатели OpenELM от Apple находятся в открытом доступе. Это дает возможность разработчикам находить ошибки и оптимизировать существующую модель. На данный момент в айфонах еще нет ИИ. Но, как утверждают инсайдеры, в новой операционной системе iOS 18 для iPhone уже, возможно, будет применен искусственный интеллект на основе модели OpenELM.