23 августа 2026
обновлено: 7 сентября 2026
1 мин
Метрика производительности ИИ-инференса
Показатель, измеряющий количество операций в секунду (триллионы) при выполнении целочисленных вычислений с низкой разрядностью. Используется преимущественно для оценки быстродействия нейросетевых ускорителей в задачах инференса (вывод), где критична скорость обработки векторов и матриц при работе с моделью. Стандартный бенчмарк — производительность на операциях INT8. Чем выше TOPS, тем больше запросов в секунду способна обработать система генеративного ИИ или компьютерного зрения.
