Проблемы AT&T с ИИ
Компания AT&T оказалась в непростой ситуации — каждый день им приходилось обрабатывать около 8 миллиардов токенов искусственного интеллекта. Эта колоссальная нагрузка заставила их пересмотреть, как именно они управляют своим ИИ.
Новая стратегия для оптимизации
Энди Маркус, главный по данным в AT&T, и его команда поняли, что отправлять такой объём информации через крупные модели анализа — это не только неэффективно, но и накладно. В ответ они разработали новый подход, который дал отличные результаты. Благодаря переработке процессов управления ИИ, AT&T сумела снизить свои операционные расходы аж на 90%. Этот случай наглядно показывает, как важно правильно подходить к масштабированию ИИ-решений для больших компаний.
