Linear optimization docs, Lecture notes of Convex Optimization

Download Linear optimization docs and more Lecture notes Convex Optimization in PDF only on Docsity!

Bài toán tối ưu

Hoàng Nam Dũng

Khoa Toán - Cơ - Tin học, Đại học Khoa học Tự nhiên, Đại học Quốc gia Hà Nội

Nội dung

1. Bài toán tối ưu và phân loại
2. Cực trị địa phương và toàn cục
3. Các ví dụ

1

Bài toán tối ưu và phân loại

Bài toán tối ưu

Bài toán tối ưu hóa (optimization problem) là bài toán ở đó ta phải cực tiểu hay cực đại hóa một hàm số trên một tập cho trước. I (^) Hàm số cực tiểu hay cực đại hóa gọi là hàm mục tiêu (objective function). I (^) Tập hợp cho trước gọi là miền chấp nhận được (feasible region).

3

Bài toán tối ưu

min x f (x) s.t. x ∈ X.

Definition Bài toán được gọi là I (^) không có nghiệm chấp nhận được (infeasible) nếu X = ∅. Ngược lại nó được gọi là có nghiệm chấp nhận được (feasible). I (^) không bị chặn (unbounded) nếu nó có nghiệm chấp nhận được và ta luôn tìm được nghiệm chấp nhận được có giá trị hàm mục tiêu nhỏ hơn một giá trị hữu hạn cho trước bất kì. x ∈ X được gọi là một nghiệm chấp nhận được (feasible solution). x∗^ ∈ X được gọi là một nghiệm tối ưu (optimal solution) nếu f (x∗) ≤ f (x), ∀x ∈ X. (^5)

Bài toán tối ưu không ràng buộc (unconstrained)

x^ min∈Rn^ f^ (x)

6

Bài toán tối ưu phi tuyến (nonlinear)

min x f (x) s.t. gi (x) ≤ 0 , i = 1 , 2 ,... , k hj (x) = 0 , j = 1 , 2 ,... , l.

8

Bài toán tối ưu lồi (convex)

Dạng tổng quát: min x∈X f (x) với f : X → R lồi và X là một tập lồi.

9

Bài toán tối ưu nguyên (integer program)

min x cT^ x s.t. Ax ≥ b xi ∈ Z.

10

Cực trị địa phương và toàn cục

Cực trị địa phương và toàn cục

x ∈ [ 0. 1 , 1 ]

12

Cực trị của bài toán tối ưu lồi

Theorem Cho một bài toán tối ưu lồi, nếu tồn tại cực tiểu địa phương thì nó cũng là cực tiểu toàn cục. Tập hợp của các cực tiểu (toàn cục) là một tập lồi.

13

Cực trị của bài toán tối ưu lồi

Theorem Cho một bài toán tối ưu lồi, nếu tồn tại cực tiểu địa phương thì nó cũng là cực tiểu toàn cục. Tập hợp của các cực tiểu (toàn cục) là một tập lồi.

Chứng minh. Cho x¯ là một cực tiểu địa phương, ta có ∃R > 0 : f (¯x) ≤ f (x), ∀x ∈ X ∩ B(¯x, R). Giả sử tồn tại y ∈ X sao cho f (y ) < f (¯x). Do tính lồi của X ta có λx¯ + ( 1 − λ)y ∈ X , ∀λ ∈ [ 0 , 1 ]. Do tính lồi của f ta có f (λ¯x + ( 1 − λ)y ) ≤ λf (¯x) + ( 1 − λ)f (y ) < f (¯x), Điều đó ngược với tính cực tiểu địa phương của x¯ khi λ → 1. 13

Các ví dụ