Модуль 3

Опукла, умовна та прикладна оптимізація

Третій модуль охоплює опуклість, обмеження, Лагранж і KKT, квадратичне програмування, оцінювання параметрів, регуляризацію та багатокритеріальний вибір із фінальним аудитом.

8лекційних занять

8лабораторних

100питань із поясненнями

8змістових блоків

Що ви опануєте

працювати з рівностями, нерівностями, Лагранжем і KKT;

оцінювати параметри, стабілізувати нестійкі моделі та робити багатокритеріальний вибір з фінальним аудитом.

Як проходити модуль

Рухайтеся за блоками зверху вниз. Спочатку прочитайте лекцію або кілька пов’язаних лекцій, потім пройдіть усі збережені тести відповідних тематичних частин. Після цього виконайте лабораторну, яка закріплює саме щойно вивчену теорію.

Почати модуль

Детальний маршрут

Блок 1. Опуклість і гарантії оптимізації

Після блоку. Ви маєте вміти пояснити геометричний зміст опуклості та перевірити квадратичну модель за Гессіаном і власними значеннями.

Л20Опуклі множини та опуклі функції; Практична перевірка опуклості: матриця Гессе і додатна визначеністьЛекція. Тут вводяться опуклі множини та опуклі функції, які дають сильні гарантії для оптимізації. Ви навчитеся розуміти геометричний зміст опуклості та пояснювати, чому локальний мінімум в опуклій задачі є глобальним. Лекція. Лекція дає практичний спосіб перевіряти опуклість гладкої функції через матрицю Гессе. Ви навчитеся розрізняти додатно визначену, напіввизначену й невизначену кривизну та пов’язувати це з формою цільової функції. ЛР15Чи можна довіряти опуклості моделіЛабораторна. Ви перевірите три квадратичні моделі з різною кривизною. За матрицями Гессе та власними значеннями потрібно визначити, яка модель строго опукла, яка має плоский напрям, а яка взагалі не є опуклою.

Блок 2. Допустимість та активні обмеження

Після блоку. Після блоку ви маєте вміти обчислювати запас обмеження, класифікувати обмеження як активне, неактивне або порушене та коректно застосовувати числовий tolerance.

Л21Оптимізація з обмеженнями: допустимість і активні обмеженняЛекція. Ви переходите до нелінійної оптимізації з обмеженнями. Лекція пояснює допустимі точки, запас обмеження, активні межі та роль tolerance, щоб коректно класифікувати точки біля границі допустимої області. ЛР16Які обмеження реально стримують планЛабораторна. Ви проаналізуєте кілька планів відносно системи обмежень. Потрібно обчислити запаси, розрізнити допустимі, активні та порушені обмеження й правильно використати числовий tolerance біля межі.

Блок 3. Оптимум за рівнянням-обмеженням

Після блоку. Ви маєте вміти скласти функцію Лагранжа, отримати систему стаціонарності та інтерпретувати множник як чутливість оптимального значення до ресурсу.

Л22Множники Лагранжа для рівностейЛекція. Лекція показує, як шукати оптимум за рівнянням-обмеженням через множник Лагранжа. Ви навчитеся будувати функцію Лагранжа, читати умову стаціонарності та розуміти геометричне узгодження градієнтів у точці розв’язку. ЛР17Як розподілити обмежений ресурс між чотирма каналамиЛабораторна. Ви розподілите обмежений ресурс між чотирма каналами так, щоб сумарні втрати були мінімальними. Потрібно скласти систему Лагранжа, знайти розв’язок і пояснити, що означає множник для зміни загального ресурсу.

Блок 4. Нерівності та умови KKT

Після блоку. Після блоку ви маєте вміти перевірити пряму допустимість, знаки множників, стаціонарність і комплементарність та скласти чисельний KKT-сертифікат.

Л23Умови KKT для задач з нерівностямиЛекція. Тут рівності розширюються до нерівностей через умови KKT. Ви розберете пряму допустимість, знаки множників, стаціонарність і комплементарність та навчитеся збирати з них чисельний сертифікат кандидата на оптимум. ЛР18Перевірка оптимуму за умовами KKTЛабораторна. Ви отримаєте кандидата на оптимум задачі з нерівностями та незалежно перевірите його за KKT. У звіті мають бути пряма допустимість, множники, стаціонарність і комплементарність з явними числовими нев’язками.

Блок 5. Квадратичне програмування

Після блоку. Ви маєте вміти записати квадратичну ціль і лінійні обмеження, отримати розв’язок у CVXPY та незалежно перевірити його через обмеження, dual values і KKT-нев’язки.

Л24Квадратичне програмування і CVXPYЛекція. Лекція вводить квадратичне програмування та показує, як задавати такі моделі у CVXPY. Ви навчитеся читати квадратичну ціль, формувати обмеження, отримувати dual values і незалежно перевіряти результат після solver-а. ЛР19Квадратичний план заряджання акумуляторного паркуЛабораторна. Ви побудуєте квадратичну модель заряджання чотирьох акумуляторних модулів у CVXPY. Після solver-а потрібно перевірити межі, баланс потужності, dual values та сформувати незалежний KKT-аудит розв’язку.

Блок 6. Оцінювання параметрів за надлишковими даними

Після блоку. Після блоку ви маєте вміти побудувати дизайн-матрицю для методу найменших квадратів, оцінити параметри й перевірити якість через залишки.

Л25Метод найменших квадратів як оптимізаційна модельЛекція. Метод найменших квадратів розглядається як оптимізаційна модель для оцінювання параметрів за надлишковими даними. Ви навчитеся будувати матрицю ознак, знаходити параметри та аналізувати вектор і норму залишків. ЛР20Калібрування датчика за багатьма вимірюваннямиЛабораторна. Ви оціните три параметри промислового датчика за дванадцятьма вимірюваннями. Потрібно самостійно побудувати матрицю ознак, знайти оцінку методом найменших квадратів та перевірити якість моделі через залишки й їхню норму.

Блок 7. Стабільність оцінювання та Ridge

Після блоку. Ви маєте вміти розпізнати нестійкість через майже залежні ознаки, застосувати Ridge-регуляризацію та кількісно порівняти точність і стабільність оцінок.

Л26Регуляризація та стабілізація оцінюванняЛекція. Лекція пояснює, чому майже залежні ознаки роблять оцінки нестійкими. Ви побачите, як Ridge-регуляризація додає штраф до моделі, зменшує чутливість коефіцієнтів і створює контрольований компроміс між точністю та стабільністю. ЛР21Як стабілізувати модель Ridge-регуляризацієюЛабораторна. Ви побачите нестійкість методу найменших квадратів на майже залежних ознаках і перевірите, як її змінює Ridge. Потрібно порівняти коефіцієнти до і після малої зміни даних, вибрати $\lambda$ та кількісно оцінити стабілізацію.

Блок 8. Кілька критеріїв і фінальний аудит

Після блоку. Після завершення модуля ви маєте вміти знаходити Парето-недоміновані рішення, обирати компроміс прозорим правилом і проводити повний чисельний аудит перед використанням результату.

Л27Багатокритеріальна оптимізація та Парето-компроміси; Чисельна надійність та аудит оптимізаційного розв’язкуЛекція. Тут одна ціль замінюється кількома критеріями, які можуть конфліктувати. Ви навчитеся знаходити доміновані рішення, будувати множину Парето та обґрунтовано вибирати компроміс через ваги або інший прозорий критерій. Завершальна лекція збирає чисельний аудит оптимізаційного розв’язку в єдину процедуру. Ви навчитеся перевіряти статус, допуски, нев’язки, обмеження, цільову функцію та відтворюваність результату перед практичним використанням. ЛР22Як обрати між кількома добрими рішеннямиЛабораторна. Ви проаналізуєте набір альтернатив за трьома критеріями й відкинете доміновані рішення. Потім потрібно вибрати компроміс двома способами, порівняти результати та завершити роботу чисельним аудитом обраної альтернативи.

Практика в браузері

Для лабораторних використовується JupyterLite. Відкрийте notebook потрібної лабораторної, задайте свій STUDENT_X, виконайте роботу та запустіть точну самоперевірку.

Відкрити JupyterLite