Apple и NVIDIA объединили усилия для улучшения своих ИИ-моделей, добиваясь увеличения скорости обработки запросов в 2,7 раза благодаря технологии ReDrafter
Этот алгоритм будет адаптирован как под чипы Apple Silicon, так и под GPU NVIDIA, что значительно сократит время отклика на запросы. Исходный код ReDrafter также будет открыт для разработчиков, желающих оптимизировать свои языковые модели.
- Комментарии
Загрузка комментариев...
