ITU-T Recommendations

Под контролем машинного обучения (МО)/искусственного интеллекта (ИИ) понимается непрерывное отслеживание и наблюдение в реальном времени за работой систем МО/ИИ в производственных условиях. Контроль МО/ИИ предполагает оценку производительности модели МО/ИИ для определения результативности ее работы. В случае некоторого ухудшения производительности модели МО/ИИ для ее восстановления следует принять соответствующие меры технического обслуживания. Обучение моделей МО/ИИ осуществляется на основе исторических данных и предположений об операционной среде. Однако окружающая среда динамична. Эта динамика может привести к ухудшению производительности модели – снижению точности прогнозирования или качества решений с течением времени, – вызванному такими явлениями, как дрейф данных и дрейф концепций. Поэтому необходимо следить за средой и состоянием функционирования модели МО/ИИ, с тем чтобы определять, нуждается ли модель в обновлении. Для преодоления различных проблем, которые приводят к ухудшению рабочих характеристик, следует определить и контролировать набор параметров и событий. Поэтому выбор надлежащих стратегий контроля, основанных на конкретном сценарии использования, характеристиках данных и бизнес-требованиях, является критически важным шагом в обеспечении долгосрочной надежности и эффективности систем МО/ИИ. В Рекомендации МСЭ-T Q.4081 содержатся руководящие указания и справочный документ по методам и показателям контроля МО/ИИ.