Tải bản đầy đủ

Các quy tắc tính toán dưới vi phân của hàm lồi

BỘ GIÁO DỤC VÀ ĐÀO TẠO
TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI 2

KHOA TOÁN

Trịnh Thị Thanh Hiếu

CÁC QUY TẮC TÍNH TOÁN DƯỚI VI PHÂN CỦA HÀM LỒI

KHÓA LUẬN TỐT NGHIỆP ĐẠI HỌC

Hà Nội – Năm 2018


BỘ GIÁO DỤC VÀ ĐÀO TẠO
TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI 2

KHOA TOÁN

Trịnh Thị Thanh Hiếu


CÁC QUY TẮC TÍNH TOÁN DƯỚI VI PHÂN CỦA HÀM LỒI

Chuyên ngành: Toán giải tích

KHÓA LUẬN TỐT NGHIỆP ĐẠI HỌC

NGƯỜI HƯỚNG DẪN KHÓA LUẬN :
TS. NGUYỄN VĂN TUYÊN

Hà Nội – Năm 2018


LỜI CẢM ƠN

Em xin được gửi lời cảm ơn tới các thầy cô giáo trường Đại học Sư
phạm Hà Nội 2, các thầy cô giáo khoa Toán đã giúp đỡ em trong quá
trình học tập tại trường và tạo điều kiện cho em hoàn thành đề tài khóa
luận tốt nghiệp.
Đặc biệt em xin bày tỏ lòng biết ơn sâu sắc tới thầy Nguyễn Văn
Tuyên đã tận tình giúp đỡ em trong suốt quá trình học tập, nghiên cứu
và hoàn thành khóa luận này.
Trong quá trình nghiên cứu, không tránh khỏi những thiếu sót và
hạn chế. Kính mong nhận được sự đóng góp ý kiến của các thầy giáo,
cô giáo và toàn thể bạn đọc để đề tài được hoàn thiện hơn.
Em xin chân thành cảm ơn!

Hà Nội, ngày 07 tháng 05 năm 2018
Sinh viên

Trịnh Thị Thanh Hiếu


LỜI CAM ĐOAN

Em xin cam đoan dưới sự hướng dẫn của thầy giáo Nguyễn Văn
Tuyên khóa luận của em được hoàn thành không trùng với bất kì đề
tài nào khác.
Trong khi thực hiện đề tài em đã sử dụng và tham khảo các thành
tựu của các nhà khoa học với lòng biết ơn trân trọng.

Hà Nội, ngày 07 tháng 05 năm 2018
Sinh viên

Trịnh Thị Thanh Hiếu

ii


Mục lục

Lời mở đầu

1

1

2

Hàm lồi
1.1

Các khái niệm cơ bản . . . . . . . . . . . . . . . . . . . .

2

1.2

Hàm lồi trơn . . . . . . . . . . . . . . . . . . . . . . . . .

10

1.3

Đạo hàm theo hướng . . . . . . . . . . . . . . . . . . . .

13

2 Tính toán dưới vi phân

16

2.1

Dưới-gradient và dưới vi phân . . . . . . . . . . . . . . .

16

2.2

Các quy tắc tính toán dưới vi phân . . . . . . . . . . . .

30

2.3

Dưới vi phân của hàm max

35

. . . . . . . . . . . . . . . .

Kết luận

40

Tài liệu tham khảo

41

i


Khóa luận tốt nghiệp Đại học

Trịnh Thị Thanh Hiếu

Lời mở đầu
Giải tích lồi là một bộ môn quan trọng trong giải tích phi tuyến hiện
đại. Giải tích lồi nghiên cứu những khía cạnh giải tích của tập lồi và
hàm lồi. Dưới vi phân, một mở rộng cho đạo hàm khi hàm không khả
vi, là một khái niệm cơ bản của giải tích lồi. Việc khảo sát các quy tắc
tính toán của dưới vi phân của các hàm lồi có vai trò quan trọng trong
lý thuyết tối ưu và các bài toán liên quan.
Với mong muốn được tìm hiểu sâu hơn về hàm lồi và phép tính dưới
vi phân của hàm lồi, tôi đã chọn nghiên cứu đề tài: “Các quy tắc tính
toán dưới vi phân của hàm lồi”.
Mục đích của khóa luận là trình bày một cách có hệ thống, các kiến
thức cơ bản và quan trọng nhất về hàm lồi và các quy tắc tính toán dưới
vi phân của hàm lồi.
Các kết quả chính trong khóa luận được trình bày dựa trên cuốn
chuyên khảo [3, Chapter 2].
Khóa luận gồm hai chương:
Chương 1 trình bày một số kiến thức chuẩn bị. Nội dung chính của
chương này là trình bày một số kiến thức cơ bản của tập lồi và hàm lồi
Chương 2 trình bày về các quy tắc tính toán dưới vi phân. Mục 2.1
nhắc lại một số tính chất cơ bản của dưới-gradient và dưới vi phân. Mục
2.2 trình bày một số quy tắc tính toán dưới vi phân. Mục 2.3 trình bày
về dưới vi phân của hàm max.

1


Chương 1
Hàm lồi
1.1

Các khái niệm cơ bản

Kí hiệu R := R ∪ {±∞} và gọi là tập số thực mở rộng.
Cho f : Rn → R là một hàm số. Miền hữu hiệu và tập trên đồ thị
của f tương ứng được kí hiệu bởi:
domf = {x ∈ Rn : f (x) < +∞} ,
epif = {(x, v) ∈ Rn × R : v ≥ f (x)} .
Định nghĩa 1.1. Một tập X ∈ Rn được gọi là lồi nếu với mọi x1 , x2 ∈ X
và α ∈ [0, 1], ta có (1 − α)x1 + αx2 ∈ X.
Định nghĩa 1.2. Bao lồi của một tập X được kí hiệu là conv X là giao
của tất cả các tập lồi chứa X.
Định nghĩa 1.3. Cho X là một tập lồi đóng trong Rn và x ∈ Rn . Một
điểm thuộc X gần x nhất được gọi là hình chiếu của x lên X và kí hiệu
là ΠX (x).
Theo [3, Theorem 2.10], ta có hình chiếu của một điểm lên một tập


Khóa luận tốt nghiệp Đại học

Trịnh Thị Thanh Hiếu

lồi đóng luôn tồn tại và duy nhất.
Định nghĩa 1.4. Một tập K ⊂ Rn được gọi là một nón nếu αx ∈ K
với mọi α > 0 và x ∈ K.
Bổ đề 1.1. Giả sử X là một tập lồi. Khi đó tập
cone(X) = {γx : x ∈ X, γ ≥ 0}
là một nón lồi.
Định nghĩa 1.5. Cho K là một nón. Tập hợp
K ◦ := {y ∈ Rn : y, x ≤ 0, ∀x ∈ K}
được gọi là nón cực của K.
Định nghĩa 1.6. Cho X là một tập lồi đóng và x ∈ X. Tập hợp
NX (x) = {v ∈ Rn : ΠX (x + v) = x}
được gọi là nón pháp tuyến của X tại x.
Theo định nghĩa, dễ dàng chứng minh được rằng
NX (x) = [cone(X − x)]◦ .
Định nghĩa 1.7. Một hàm số f được gọi là lồi nếu epif là một tập lồi.

3


Khóa luận tốt nghiệp Đại học

Trịnh Thị Thanh Hiếu

Ví dụ 1.1. Một ví dụ về hàm lồi:




x ln(x) − x nếu x > 0,



f (x) = 0
nếu x = 0,





+∞
nếu x < 0.
Định nghĩa 1.8. Một hàm f được gọi là lõm nếu −f lồi.
Định nghĩa 1.9. Một hàm f được gọi là chính thường nếu f (x) > −∞
với mọi x và f (x) < +∞ với ít nhất một x.
Bổ đề 1.2. Một hàm f là lồi khi và chỉ khi với mọi x1 , x2 và 0 ≤ α ≤ 1
ta có
f (αx1 + (1 − α)x2 ) ≤ αf (x1 ) + (1 − α)f (x2 ).

(1.1)

Chứng minh. Nếu x1 ∈
/ domf hoặc x2 ∈
/ domf , thì bất đẳng thức là tầm
thường. Nếu x1 ∈ domf và x2 ∈ domf . Khi đó các điểm




1



2



x
x
 ∈ epif.
 và 

f (x2 )
f (x1 )
Nếu f lồi thì


1

2



αx + (1 − α)x

 ∈ epif.
1
2
αf (x ) + (1 − α)f (x )
Theo định nghĩa của tập trên đồ thị, ta có (1.1).
Ngược lại, giả sử ta có (1.1), (xi , v i ) ∈ epif , i = 1, 2, và α ∈ [0, 1].

4


Khóa luận tốt nghiệp Đại học

Trịnh Thị Thanh Hiếu

Khi đó, theo (1.1), ta có
f (αx1 + (1 − α)x2 ) ≤ αf (x1 ) + (1 − α)f (x2 )
≤ αv 1 + (1 − α)v 2 .
Do đó, (αx1 + (1 − α)x2 , αv 1 + (1 − α)v 2 ) ∈ epif . Điều đó có nghĩa là
epif là một tập lồi.
Bất đẳng thức (1.1) có thể được sử dụng như một định nghĩa khác
về các hàm lồi chính thường.
Ví dụ 1.2. Hàm
f (x) = x
ở đó

·



♦,

là một chuẩn trong Rn , là một hàm lồi chính thường. Thật

vậy, với mọi x, y ∈ Rn và α ∈ [0, 1], theo bất đẳng thức tam giác, ta có
αx + (1 − α)y



≤ αx



+ (1 − α)y



=α x



+ (1 − α) y

♦.

Ví dụ 1.3. Giả sử Z là một tập lồi đóng trong Rn . Khoảng cách tới Z,
f (x) = min x − z
z∈Z

ở đó

·



♦,

là một chuẩn trong Rn , là một hàm lồi chính thường. Thật

vậy, xét 2 điểm x và y , và α ∈ (0, 1) bất kì. Do Z là tập đóng, nên tồn
tại các điểm v ∈ Z và w ∈ Z sao cho
f (x) = x − v
Trong trường hợp đặc biệt, khi

f (y) = y − w

♦,

·
5



♦.

là một chuẩn Euclide, theo [3,


Khóa luận tốt nghiệp Đại học

Trịnh Thị Thanh Hiếu

Theorem 2.10], v và w là các hình chiếu của x và y lên Z. Vì Z là một
tập lồi, nên tổ hợp lồi của các điểm này αv + (1 − α)w, với α ∈ (0, 1),
cũng là một phần tử của Z. Do đó,
f (αx + (1 − α)y) = min αx + (1 − α)y − z
z∈Z



≤ αx + (1 − α)y − [αv + (1 − α)w]
= α(x − v) + (1 − α)(y − w)



≤α x−v





+ (1 − α) y − w



= αf (x) + (1 − α)f (y).
Trong ví dụ trên, tính lồi của tập Z là cần thiết. Hàm khoảng cách
đến một tập không lồi không phải là một hàm lồi.
Định nghĩa 1.10. Một hàm f được gọi là lồi chặt nếu bất đẳng thức
(1.1) là chặt với mọi x1 = x2 và 0 < α < 1.
Bổ đề 1.3. Nếu f lồi thì domf là một tập lồi.
Chứng minh. Nếu x1 ∈ domf và x2 ∈ domf , thì theo Bổ đề 1.2, ta có
f (αx1 + (1 − α)x2 ) < +∞.
Khi đó αx1 + (1 − α)x2 ∈ domf , nên domf là một tập lồi.
Bổ đề 1.4. Nếu fi , i ∈ I, là một họ các hàm lồi, thì
f (x) = sup fi (x)
i∈I

là một hàm lồi.
6


Khóa luận tốt nghiệp Đại học

Trịnh Thị Thanh Hiếu

Chứng minh. Ta có
epif =

epifi .
i∈I

Theo giả thiết của mệnh đề và theo [3, Lemma 2.2], tập epif lồi. Do đó,
hàm f là lồi.
Ví dụ 1.4. Với một ma trận đối xứng, ta xác định giá trị riêng lớn nhất
của nó là λmax (A). Do đó, trong không gian Sn của các ma trận đối xứng
có kích thước n × n ta xét hàm
f (A) = λmax (A),
Vì λmax (A) = max y, Ay , và mỗi hàm fy (A) = y, Ay tuyến tính, nên
y =1

hàm λmax (·) là hàm lồi.
Bổ đề 1.5. Nếu f là một hàm lồi, thì với mọi x1 , x2 , . . . , xn và α1 ≥
0, α2 ≥ 0, . . . , αm ≥ 0 sao cho α1 + α2 + . . . + αm = 1, ta có
f (α1 x1 + α2 x2 + . . . + αm xm ) ≤ α1 f (x1 ) + α2 f (x2 ) + . . . + αm f (xm ).
Chứng minh. Ta có các điểm


i



x

 , i = 1, 2, . . . , m,
i
f (x )
thuộc epif. Theo tính lồi của tập epif , tổ hợp lồi của các điểm này
α1 f (x1 ) + α2 f (x2 ) + . . . + αm f (xm ), với α1 + α2 + . . . + αm = 1, cũng
thuộc epif . Do đó,
f (α1 x1 + α2 x2 + . . . + αm xm ) ≤ α1 f (x1 ) + α2 f (x2 ) + . . . + αm f (xm ).
7


Khóa luận tốt nghiệp Đại học

Trịnh Thị Thanh Hiếu

Bổ đề 1.6. Nếu các hàm fi , i = 1, 2, . . . , m, là lồi, thì với mọi c1 ≥
0, c2 ≥ 0, . . . , cm ≥ 0 hàm f (x) = c1 f1 (x) + c2 f2 (x) + . . . + cm fm (x) lồi.
Chứng minh. Vì (1.1) đúng với mỗi fi , ta có thể nhân các bất đẳng thức
của chúng với ci và cộng lại ta được kết quả cần chứng minh.
Một hàm f : Rn → R được gọi là nửa liên tục dưới, nếu với mỗi chuỗi
hội tụ của các điểm xk thì ta có
f ( lim xk ) ≤ lim inf f (xk ).
k→∞

k→∞

Bổ đề 1.7. Một hàm f : Rn → R nửa liên tục dưới nếu và chỉ nếu tập
epif là một tập đóng.
Chứng minh. Xét một dãy các điểm (xk , αk ) thuộc epif , và giả sử xk →
x và αk → α, khi k → ∞. Nếu f nửa liên tục dưới, thì
f (x) ≤ lim inf f (xk ) ≤ lim αk = α,
k→∞

k→∞

suy ra (x, α) ∈ epif .
Giả sử tập epif đóng, nhưng f không nửa liên tục dưới. Khi đó tồn
tại một dãy xk ⊂ Rn hội tụ đến một số điểm x ∈ Rn sao cho
f (x) > lim f (xk ),
k→∞

ở đó giới hạn bên phải có thể là −∞. Khi đó, ∃ε > 0 sao cho f (xk ) <
f (x) − ε với mọi k đủ lớn. Do đó
(xk , f (x) − ε) ∈ epif
8


Khóa luận tốt nghiệp Đại học

Trịnh Thị Thanh Hiếu

với mọi k đủ lớn. Vì tập epif đóng nên điểm giới hạn (x, f (x) − ε) là
một phần tử của tập epif. Tức là f (x) − ε ≥ f (x), mâu thuẫn. Do đó f
phải nửa liên tục dưới.
Bổ đề 1.8. Nếu f : Rn → R là hàm lồi, thì với mỗi β ∈ R tập
Mβ = {x : f (x) ≤ β}

(1.2)

là tập lồi. Hơn nữa, nếu f nửa liên tục dưới, thì tập Mβ là tập đóng với
mọi β.
Chứng minh. Nếu x ∈ Mβ và y ∈ Mβ , thì theo Bổ đề 1.2,
f (αx + (1 − α)y) ≤ αf (x) + (1 − α)f (y) ≤ β,
vì vậy αx + (1 − α)y ∈ Mβ .
Nếu f nửa liên tục dưới, tập epif đóng (theo Bổ đề 1.7). Xét tập
trong Rn × R:
Mβ × {β} = epif ∩ {(x, β) : x ∈ Rn }.
Tập trên đóng vì epif đóng. Do đó tập Mβ đóng.
Tập Mβ ở trên được gọi là tập mức dưới của f . Một hàm có các tập
mức dưới lồi thì chưa chắc lồi, chẳng hạn f (x) =

|x|, x ∈ R.

Bổ đề 1.9. Cho X ⊂ Rn là một tập lồi và f : Rn → R là một hàm lồi.
Khi đó tập X các nghiệm của bài toán tối ưu
min f (x)
x∈X

9


Khóa luận tốt nghiệp Đại học

Trịnh Thị Thanh Hiếu

là tập lồi.
Chứng minh. Nếu bài toán tối ưu không có nghiệm, thì tập X rỗng nên
tập X lồi. Cho X = ∅ và x ∈ X, β = f (x). Khi đó
X = X ∩ Mβ
với Mβ được xác định bởi (1.2). Theo [3, Lemma 2.2], tập X là tập
lồi.

1.2

Hàm lồi trơn

Kí hiệu ∇f (x) cho gradient của hàm f tại x,




∂f (x)
 ∂x1 
 ∂f (x) 
 ∂x 
 2 

∇f (x) =  .  .
 .. 


∂f (x)
∂xn

ở đây x1 , x2 , . . . , xn biểu thị tọa độ của vector x.
Định lý 1.1. Giả sử rằng hàm f khả vi liên tục. Khi đó
(i) f lồi nếu và chỉ nếu với mọi x và y
f (y) ≥ f (x) + ∇f (x), y − x ;

(1.3)

(i) f lồi chặt nếu và chỉ nếu với mọi x = y
f (y) > f (x) + ∇f (x), y − x .

10

(1.4)


Khóa luận tốt nghiệp Đại học

Trịnh Thị Thanh Hiếu

Chứng minh. (i)Giả sử f lồi, và tồn tại x, y với ε > 0 sao cho
f (y) ≤ f (x) + ∇f (x), y − x − ε.
Ta xét z = αy + (1 − α)x với 0 < α < 1. Theo Bổ đề 1.2, ta có
f (z) ≤ αf (y) + (1 − α)f (x) ≤ f (x) + α ∇f (x), y − x − αε.
hay
f (z) − f (x) ≤ α ∇f (x), y − x − αε.
Chia cả hai vế cho α ta được
f (z) − f (x)
≤ ∇f (x), y − x − ε.
α

(1.5)

Có z = αy + (1 − α)x nên z = x + αd với d = y − x. Cho α ↓ 0, khi đó
lim
α↓0

f (z) − f (x)
f (x + αd) − f (x)
= lim
= f (x; d) = ∇f (x), d .
α↓0
α
α

Điều này mâu thuẫn với (1.5). Vậy f lồi thì với mọi x và y
f (y) ≥ f (x) + ∇f (x), y − x .
Ngược lại, giả sử với mọi x và y có f (y) ≥ f (x) + ∇f (x), y − x .
Ta đi chứng minh f là hàm lồi. Thật vậy, giả sử y, z là các điểm tùy ý,
y = z, và x = αy + (1 − α)z với α ∈ (0, 1). Khi đó, theo giả thiết ta có
f (y) ≥ f (x) + ∇f (x), y − x ,
f (z) ≥ f (x) + ∇f (x), z − x .
11


Khóa luận tốt nghiệp Đại học

Trịnh Thị Thanh Hiếu

Nhân các bất đẳng thức này lần lượt với α và 1 − α, và cộng lại ta được
αf (y) + (1 − α)f (z) ≥ f (x),
Thay x = αy + (1 − α)z ta được
αf (y) + (1 − α)f (z) ≥ f (αy + (1 − α)z),
Suy ra f là hàm lồi.
(ii) Nếu f lồi chặt, thì f lồi và (1.5) đúng. Ta đi chứng minh bất
đẳng thức (1.5) là chặt, nếu y = x và α ∈ (0, 1). Giả sử f (y) = f (x) +
∇f (x), y − x . Cho z = 21 x + 21 y. Vì f lồi chặt nên f (αx + (1 − α)y) <
αf (x) + (1 − α)f (y). Khi đó, ta có
1
1
1
1
1
f (z) = f ( x + y) < f (x) + f (y) = f (x) + ∇f (x), y − x . (1.6)
2
2
2
2
2
Cho v = βx + (1 − β)z với 0 < β < 1. Tương tự ta được
1
f (v) < βf (x) + (1 − β)f (z) < f (x) + (1 − β) ∇f (x), y − x .
2
Vì v − x = (1 − β)(z − x) = 21 (1 − β)(y − x), bất đẳng thức trên trở
thành
f (v) < f (x) + ∇f (x), v − x ,
mâu thuẫn với (1.5), nên giả sử sai. Vậy f (y) > f (x) + ∇f (x), y − x
với mọi y = x.
Ngược lại, ta chứng minh tương tự (i).
Nếu f : Rn → R lồi và khả vi tại x thì f (y) ≥ f (x) + ∇f (x), y − x
12


Khóa luận tốt nghiệp Đại học

Trịnh Thị Thanh Hiếu

với mọi y ∈ Rn . Nếu f lồi chặt, thì f (y) > f (x) + ∇f (x), y − x với mọi
y ∈ Rn .
Ví dụ 1.5. Xét hàm f : Rn → R được định nghĩa như dạng toàn phương,
f (x) = x, Ax ,
ở đó A là một ma trận đối xứng. Hàm f lồi nếu và chỉ nếu A là ma trận
nửa xác định dương, và f lồi chặt nếu và chỉ nếu A là ma trận xác định
dương. Thật vậy,
∇f (x) = 2Ax,
và với mọi x và y ta có phương trình
f (y) − f (x) − ∇f (x), y − x = y, Ay − x, Ax − 2 Ax, y − x
= y, Ay + x, Ax − 2 Ax, y
= y − x, A(y − x) .
Các biểu thức ở phía bên phải không âm với mọi x, y nếu và chỉ nếu A
nửa xác định dương. Biểu thức này là dương với mọi y = x nếu và chỉ
nếu A xác định dương.

1.3

Đạo hàm theo hướng

Trong rất nhiều các ứng dụng, chúng ta thường gặp các hàm không
trơn. Chẳng hạn, chuẩn Euclide không khả vi tại 0
1/2

n

x2j

x =
j=1

13

.


Khóa luận tốt nghiệp Đại học

Trịnh Thị Thanh Hiếu

Trong thực tế, không chuẩn nào là khả vi tại 0. Một số chuẩn, chẳng
hạn

n

x

1

|xj | hoặc x

=
j=1



= max |xj |
1≤j≤n

không khả vi tại rất nhiều điểm. Các hàm không trơn rất phổ biến trong
các mô hình tối ưu.
Khái niệm gradient của một hàm trơn có thể được tổng quát cho
trường hợp các hàm không trơn, nói riêng cho các hàm lồi không trơn.
Để hiểu cách xây dựng này, trước hết chúng ta nhắc lại một số tính chất
quan trọng của các hàm lồi.
Bổ đề 1.10. Cho f : Rn → R là một hàm lồi. Với mỗi x ∈ int domf
tồn tại δ > 0 và L sao cho
|f (y) − f (x)| ≤ L y − x khi y − x < δ.
Cho f : Rn → R là một hàm lồi và cho x ∈ domf . Khi đó với mỗi
d ∈ Rn đại lượng
f (x; d) = lim
τ ↓0

f (x + τ d) − f (x)
,
τ

(1.7)

được gọi là đạo hàm theo hướng d của f tại x.
Bổ đề 1.11. Với mỗi x ∈ domf và mỗi d ∈ Rn giới hạn trong (1.7) tồn
tại (hữu hạn hoặc vô hạn). Nếu x ∈ int domf , khi đó f (x; d) là hữu hạn
với mọi d.
Chứng minh. Xét thương
Q(τ ) =

f (x + τ d − f (x))
.
τ
14


Khóa luận tốt nghiệp Đại học

Trịnh Thị Thanh Hiếu

Nếu f (x + τ d) = +∞ với mọi τ > 0, thì Q(τ ) = +∞ với mọi τ > 0 và
f (x; d) = +∞. Nếu f (x + τ d) < +∞ với một số τ0 > 0, thì theo tính
lồi của f suy ra f (x + τ d) < +∞ với mọi 0 < τ < τ0 và Q(τ ) được xác
định với các τ này. Cho 0 < τ1 < τ2 < τ0 . Ta có
x + τ1 d = (1 −

τ1
τ1
)x + (x + τ2 d).
τ2
τ2

Theo tính lồi của f ta được
f (x + τ1 d) ≤ (1 −

τ1
τ1
)f (x) + f (x + τ2 d),
τ2
τ2

có thể viết lại như sau
f (x + τ1 d) − f (x) ≤

τ1
[f (x + τ2 d) − f (x)].
τ2

Chia cả hai vế cho τ1 ta thấy các thương là đơn điệu:
Q(τ1 ) ≤ Q(τ2 ) với mọi 0 ≤ τ1 ≤ τ2 .

(1.8)

Do đó giới hạn trong (1.7) tồn tại (hữu hạn hoặc bằng −∞). Theo tính
đơn điệu của Q(·) suy ra
f (x; d) ≤ Q(τ ) với mọi τ > 0
Nếu x ∈ int domf , theo Bổ đề 1.10 suy ra với mọi τ đủ nhỏ
|Q(τ )| =

|f (x + τ d) − f (x)|
≤L d ,
τ

và do đó giới hạn của Q(τ ) với τ ↓ 0 phải hữu hạn.

15

(1.9)


Chương 2
Tính toán dưới vi phân
2.1

Dưới-gradient và dưới vi phân

Định nghĩa 2.1. Cho f : Rn → R là một hàm lồi chính thường và
x ∈ domf . Một vector g ∈ Rn thỏa mãn
f (y) ≥ f (x) + g, y − x với mọi y ∈ Rn

(2.1)

được gọi là một dưới-gradient (subgradient) của f tại x.
Tập của tất cả dưới-gradient của f tại x được gọi là dưới vi phân của
f tại x và được kí hiệu là ∂f (x).
Khái niệm dưới-gradient có một ý nghĩa hình học rõ ràng. Giả sử
g ∈ ∂f (x). Bất đẳng thức (2.1) có nghĩa là trên đồ thị của hàm f luôn
nằm trên đồ thị của hàm affine l(y) = f (x) + g, y − x .
Với mỗi điểm (y, v) ∈ epif , ta có
v ≥ f (y) ≥ f (x) + g, y − x ,

16


Khóa luận tốt nghiệp Đại học

Trịnh Thị Thanh Hiếu

hay
g, y − x + (−1)(v − f (x)) ≤ 0.
Do đó, (g, −1) là một phần tử của nón pháp tuyến Nepif (x, f (x)).
Trong một số điều kiện, điều ngược lại cũng đúng. Nếu một vector
(u, γ) ∈ Nepif (x, f (x)) và γ = 0, thì g = −u/γ là một dưới-gradient của
f tại x. Xét hàm lồi




xln(x) − x nếu x > 0,



f (x) = 0
nếu x = 0,





+∞
nếu x < 0.
Tại điểm (0, 0) tất cả các pháp tuyến của tập trên đồ thị có dạng (u, 0),
trong đó u < 0, và f không có dưới-gradient tại x = 0.
Bổ đề 2.1. Giả sử f : Rn → R là một hàm lồi chính thường và x ∈
domf . Một vector g là một dưới-gradient của f tại x nếu và chỉ nếu
f (x; d) ≥ g, d với mọi d ∈ Rn .

(2.2)

Chứng minh. Giả sử (2.2) đúng. Khi đó với mỗi y, từ (1.9) ta được
f (y) ≥ f (x) + f (x; y − x) ≥ f (x) + g, y − x ,
suy ra g là một dưới-gradient.
Ngược lại, giả sử g ∈ ∂f (x). Khi đó với mỗi d và τ > 0 bất đẳng
thức dưới-gradient (2.1) thỏa mãn
f (x + τ d − f (x))
g, τ d

= g, d .
τ
τ
17


Khóa luận tốt nghiệp Đại học

Trịnh Thị Thanh Hiếu

Qua giới hạn với τ ↓ 0 ta được (2.2).
Định lý 2.1. Cho f : Rn → R là một hàm lồi. Giả sử x ∈ int domf .
Khi đó, ∂f (x) là một tập lồi, đóng, bị chặn và khác rỗng. Hơn nữa, đối
với mỗi hướng d ∈ Rn ta có:
f (x; d) = max g, d .
g∈∂f (x)

Chứng minh. Theo Bổ đề 2.1, ta chỉ cần chứng minh rằng với mỗi d tồn
tại g ∈ ∂f (x) sao cho
f (x; d) = g, d .

(2.3)

Xét hai tập trong Rn+1 :
E = {(y, v) : v > f (y)},

L = {(x + τ d, f (x) + τ f (x; d)) : τ ∈ R}.

f (x + τ d) ≤ f (x) + τ f (x; d) ∀τ ∈ R,
nên các tập này lồi và không
  có điểm chung. Theo định lý tách [3,
u
Theorem 2.15], tồn tại z =   khác không sao cho mỗi điểm (y, v) ∈ E
γ
và mỗi τ ∈ R ta có
u, y + γv ≥ u, x + τ d + γ[f (x) + τ f (x; d)].
Nếu γ < 0, cho v → ∞ thì dẫn đến mâu thuẫn. Vì vậy γ ≥ 0.
18

(2.4)


Khóa luận tốt nghiệp Đại học

Trịnh Thị Thanh Hiếu

Giả sử γ = 0. Vì x là một điểm trong của miền hữu hiệu, chúng ta
có thể chọn y từ hình cầu đủ nhỏ B của x sao cho tồn tại v > f (y). Đặt
τ = 0, từ (2.4) ta có u, y ≥ u, x với mọi y ∈ B, điều này chỉ có thể
xảy ra khi u = 0 và mâu thuẫn với điều kiện z = 0. Do đó γ > 0.
Chia hai vế của (2.4) cho γ, đặt g = −u/γ và cho v ↓ f (y) ta được
f (y) − g, y ≥ f (x) + τ f (x; d) − g, x + τ d
với mọi x ∈ int domf và τ ∈ R. Chuyển vế và đặt nhân tử chung ta
được
τ [f (x; d) − g, d ] ≤ f (y) − f (x) − g, y − x ,
với mọi τ ∈ R. Bất đẳng thức này chỉ xảy ra nếu hệ số τ = 0, nên (2.3)
đúng, do đó g là một dưới-gradient.
Đặt τ = 0 ta suy ra
f (y) ≥ f (x) + g, y − x với mọi x ∈ int domf.

(2.5)

Vì tính lồi nên với mỗi y ∈ domf ta có
f (y) − f (x) ≥ 2[f ((x + y)/2) − f (x)],
và (x + y)/2 ∈ int domf . Áp dụng (2.5) cho f ((x + y)/2) ta thấy (2.1)
đúng với mọi y ∈ domf , và với mọi y ∈ Rn . Do đó g là một dưới-gradient
của f tại x và tập dưới vi phân không rỗng.
Giả sử g 1 ∈ ∂f (x), g 2 ∈ ∂f (x). Do đó với mọi y
f (y) ≥ f (x) + g 1 , y − x ,

19


Khóa luận tốt nghiệp Đại học

Trịnh Thị Thanh Hiếu

f (y) ≥ f (x) + g 2 , y − x .
Nhân các bất đẳng thức trên với α và 1 − α, ở đó α ∈ (0, 1), ta được
αg 1 + (1 − αg 2 ) ∈ ∂f (x). Do đó dưới vi phân là tập lồi.
Nếu g k ∈ ∂f (x) và g k → g, khi đó giới hạn qua bất đẳng thức
f (y) ≥ f (x) + g k , y − x ,
ta kết luận rằng g ∈ ∂f (x). Do đó dưới vi phân là tập đóng.
Cho g ∈ ∂f (x). Theo [3, Lemma 2.36] cho x + τ d đủ gần x ta có
f (x + τ d) − f (x) ≤ τ L d .
Do đó
f (x; d) ≤ L d , với mọi d.
Theo Bổ đề 2.1 ta được
g, d ≤ f (x; d) ≤ L d , với mọi d,
tức là g ≤ L.
Từ chứng minh ta thấy dưới vi phân ∂f (x) lồi và đóng với mọi x tại
đó f (·) có ít nhất một dưới-gradient (là khả dưới vi phân).
Bổ đề 2.2. Nếu một hàm lồi f : Rn → R là khả dưới vi phân tại x, khi
đó với mỗi d
f (x; d) = sup g, d .
g∈∂f (x)

Hơn nữa, nếu f (x; d) < ∞ thì cận trên đúng ở trên đạt được.

20


Tài liệu bạn tìm kiếm đã sẵn sàng tải về

Tải bản đầy đủ ngay

×

×