Технології

Xiaomi представила відкриту фундаментальну модель для роботи з табличними даними Xiaomi-TabLDM

5 вер•ProstoMob

Огляд можливостей Xiaomi-TabLDMКомпанія Xiaomi випустила нову фундаментальну модель з відкритим кодом під назвою Xiaomi-TabLDM, призначену для роботи зі структурованими табличними даними. Розробка дозволяє виконувати завдання класифікації та регресії без необхідності додаткового навчання або спеціального налаштування під конкретні набори даних. Таку інформацію оприлюднив портал XiaomiTime.

Технічні особливості архітектуриМодель була попередньо навчена виключно на синтетичних даних, створених за допомогою структурних причинно-наслідкових моделей (SCM). В архітектурі використано кілька інноваційних рішень:

  • Двопотокове групування ознак для глибшого аналізу взаємозв’язків.
  • Легкі механізми уваги (attention residuals).
  • Розріджена суміш експертів (sparse mixture-of-experts) для масштабування без значного збільшення обчислювальних витрат.
Під час використання застосовується техніка масштабування під час висновку (Test-Time Scaling), що дозволяє підвищити точність прогнозів шляхом збільшення обчислювальних ресурсів без зміни ваг моделі.

Ефективність та результати тестування

Xiaomi-TabLDM демонструє високі показники у публічних бенчмарках, займаючи провідні позиції в рейтингах OpenML-CTR23, TALENT, TabArena та BCCO. У порівнянні з моделлю TabFM, новинка від Xiaomi скорочує час навчання на 82%, а час висновку — на 68%, зберігаючи високий рейтинг Elo.

Практичні тести в промислових сценаріях підтвердили перевагу моделі над традиційними алгоритмами, такими як XGBoost. Зокрема, у завданнях прогнозування властивостей матеріалів точність зросла на 130%, а кількість помилкових результатів скоротилася на 90%. Модель вже сумісна з бібліотекою scikit-learn і доступна для встановлення через пакетний менеджер pip.

Галерея

Читайте також:

Запис Xiaomi представила відкриту фундаментальну модель для роботи з табличними даними Xiaomi-TabLDM спершу з'явиться на ProstoMob.

прогноз, рейтинг, Ручки

Читайте ще