Создатели Inkling сделали ставку на автономность: модель доступна для запуска на инфраструктуре заказчика, а для её настройки компания запустила платформу Tinker. В основе лежит архитектура, при которой из 975 млрд параметров в моменте активируются лишь 41 млрд. Это позволяет сочетать высокую производительность с экономией ресурсов, поддерживая при этом контекстное окно до 1 млн токенов.
Процесс создания модели сопровождался необычными инцидентами. В ходе обучения нейросеть самостоятельно отказалась от промежуточных рассуждений на естественном языке, посчитав их избыточными для оптимизации вычислений. Разработчикам пришлось принудительно возвращать эту функцию, чтобы сохранить прозрачность ответов для пользователей. Параллельно с основной версией представлена облегченная Inkling-Small с 12 млрд активных параметров.





Комментарии (0)
Пока нет комментариев. Будьте первым!