y(tj,a)=y*(tj), 0<tj<T, 0<j<N.
Этим обосновывается выбор подхода, опирающегося на минимизацию невязки между левыми и правыми частями уравнений, что является задачей многокритериальной оптимизации. Свертка многих критериев в виде нормы векторной функции невязки Р(а) с компонентами y(tj,a)-y*(tj) приводит к задаче оптимизации параметров нелинейной автоматической системы как нелинейной задаче о наименьших квадратах:
Найти оптимальную оценку a* = (a1*,...,an*) вектора параметров а, доставляющую минимум критерию оптимальности
Ф(а)=(y(t0,a)-y*(t0))^2+... + (y(tj,a)-y*(tj))^2+.+ (y(tN,a)-y*(tN)^2. (1)
В общем случае невозможно минимизировать функцию (1) аналитическими методами; ее минимизация относится к задачам нелинейного программирования, для решения которых разработано большое число разнообразных численных методов, носящих итерационный характер.
В соответствующей литературе нелинейная задача о наименьших квадратах, по существу, допускает трактовку как неявная задача о наименьших квадратах, а потому специальные методы ее решения (Гаусса-Ньютона, Левенберга - Марквардта и др.) более эффективны как неявные методы идентификации, чем другие методы оптимизации, не учитывающие специфику задач о наименьших квадратах.
В то же время, используя не численные, а те или иные аналитические методы предварительного решения уравнений системы, при которых получаемые решения в явном виде включают оптимизируемые параметры, имеется возможность и непосредственно использовать процедуры нелинейного метода наименьших квадратов для оптимального синтеза нелинейных автоматических систем.
Простейшая итерационная процедура нелинейного, как явного, так и неявного метода наименьших квадратов базируется на алгоритме Гаусса-Ньютона пересчета текущей точки ас в следующую точку а+ , основанного, в свою очередь, на замене векторной функции невязки Р(а) в окрестности текущей точки ас итерационного процесса ее аффинной моделью
Ас (а) = Р(ас ) + J(ac )(а-ас ), (2)
где J(а) - матрица Якоби функции Р(а).
Шаг итерационной процедуры алгоритма Гаусса-Ньютона записывается в виде
а+ = ас - (JT (ас ) J(ac )) ^ (-I) JT (ас ) Р(ас ), (3)
где JT(а) - транспонированная матрица Якоби.
Итерационный процесс останавливается, когда |gradФ(а)|<e, где e - заданная малая положительная величина.
Метод Гаусса-Ньютона обычно совмещают с линейным поиском вдоль направления, задаваемого вектором
(JT (ас ) J((ас ))^(-I) JT (ас ) Р(ас ),
что существенно улучшает его сходимость. Поиск заключается в нахождении для каждого шага
а+ (L)= ас - L (JT (ас) J(ac))^(-1) JT (ас) Р(ас)
значения L такого, что Ф(а+ (L))< Ф(ас); выбирается первое удачное L согласно этому условию из набора {1, 0.5, 0.25, 0.125,.}. Метод в описанной модификации известен как демпфированный метод Гаусса-Ньютона. При решении практических задач применение демпфирования обязательно.
Компоненты матрицы J(а) содержат только первые производные решения уравнений модели по параметрам а, которые могут быть вычислены по известным методикам. Эта особенность делает метод Гаусса-Ньютона реально применимым к довольно сложным задачам, вычислять вторые производные от решения которых практически невозможно из-за больших затрат машинного времени, поэтому замена чистого метода Ньютона на более простой, адекватный именно нелинейной задаче о наименьших квадратах, метод Гаусса-Ньютона дает возможность эффективно решать практические задачи.
Работа выполнена по плану Министерства образования и науки Российской Федерации.