Центр искусственного интеллекта Т-Банка открыл доступ к своей русскоязычной языковой модели T-lite размером 8 миллиардов параметров.
Разработчики уверяют, что T-lite после дообучения под конкретные задачи может выдавать ответы, «сопоставимые по качеству» с моделями на 20 миллиардов параметров. В тесте MERA T-lite обошла чат-боты llama3-8b-instruct и ChatGPT 3.5.
С помощью T-lite компании смогут создавать LLM-приложения для собственного использования без передачи данных третьим лицам. Например, ассистентов поддержки, которые могут автоматически обрабатывать запросы клиентов и предоставлять мгновенные ответы.
Также отмечается, что T-lite создана с использованием всего 3% вычислительных ресурсов, которые обычно требуются для сопоставимых моделей. Модель уже доступна для скачивания.