PowerPoint Presentationhspark/csci5561_F2019/Lec... · 2019-03-27 · 2 12 ii i L y ywwL ¦ J w w...

•

•

•

•

•

•

1x

2x

y1

w

2w

1w

2w

1 1 2 2y x w x w

1 2x x

1x

2x

y

1w

2w

1 1 2 2y x w x w

1 2w w1

x

2x

y

1 2x x

1w

2w

1 1 2 2y x w x w

1 1 2 20x w x w

1 2w w1

x

2x

y

1 2x x

1 1 2 2y x w x w

1 1 2 20x w x w

1 2w w

1w

2w

1x

2x

y

1 2x x

1 1 2 2y x w x w

1 1

1 1 2 20x w x w

1 2w w

2 2

1 1 2 20x w x w

1w

2w

1x

2x

y

1 1

1 1 2 21x w x w

1 2w w

2 2

1 1 2 21x w x w

11y

1w

2w

1x

2x

y

2 2

1 1 2 2

1 2 1 1 2 2 1 1 2 21 1L w w x w x w x w x w

1 1

1 1 2 21x w x w

1 2w w

2 2

1 1 2 21x w x w

11y

1 21 2

minimize w w

L w w

1w

2w

1x

2x

y

T x I W x p

2

minimizep

x

p I W x p T x

2

2

2

x x

x

II W x p p T x I x p T x

p

I WI x p T x

x p

p

II W x p p I W x p p

p

p

W x p

I x

1 2 3

4 5 6

p u p v puW x p

p u p v pv

I I W Wp p I p

p x p p

1 6

1 6

u u

p pW

p v v

p p

f

x

x

f

x

x

f

x

x

fx

x

f x f x x

f

x

x

fx

x

f x f x x

minimize x

f x

fx x

x

2 2

1 1 2 2

1 2 1 1 2 2 1 1 2 21 1L w w x w x w x w x w

1w

2w

1x

2x

y

minimize x

f x

fx x

x

2 2

1 1 2 2

1 2 1 1 2 2 1 1 2 21 1L w w x w x w x w x w

1 1 2 2

1 2

L L

w w w ww w

1w

2w

1x

2x

y

minimize x

f x

fx x

x

2 2

1 1 1 2 2 2

1 2 1 1 2 2 1 1 2 2L w w x w x w y x w x w y

1 1 2 2

1 2

L L

w w w ww w

1w

2w

1x

2x

y

minimize x

f x

fx x

x

1 1 2 2y x w x w

2

1 2L w w y y

1 1

1

L yy y

w w

y y x

1 1 2 2

1 2

L L

w w w ww w

1w

2w

1x

2x

y

2 2

1 1 1 2 2 2

1 2 1 1 2 2 1 1 2 2L w w x w x w y x w x w y

1 1 2 2

1 2

L L

w w w ww w

1w

2w

1x

2x

y

2 2

1 1 1 2 2 2

1 2 1 1 2 2 1 1 2 2L w w x w x w y x w x w y

1 1 2 2y x w x w

2

1 2L w w y y

1 1

1

L yy y

w w

y y x

1 1 1 2 2 2

1 1 1 1

1 1 1 2 2 2

2 2 2 2

w w y y x y y x

w w y y x y y x

1w

2w

1x

2x

y1 1 2 2

y x w x w

2

1 2L w w y y

2 2

1 1 1 2 2 2

1 2 1 1 2 2 1 1 2 2L w w x w x w y x w x w y

1 1

1

L yy y

w w

y y x

2

1 2 1 1 2 2

i i i

i

L w w x w x w y

1 2w w

1 1 2 2

1 2

L L

w w w ww w

1w

2w

1x

2x

y

2

1 2 1 1 2 2

i i i

i

L w w x w x w y

1 2w w1

w

2w

1x

2x

y

1 1 1

2 2 2

i i i

i

i i i

i

w w y y xn

w w y y xn

1x

2x

y

1w

2w

y f a

1 1 2 2a x w x w

0 0

1 0

xx

x

0 0

1 0

xx

x

1 1 2 2

1 2

L L

w w w ww w

x ax

1

1 xx

e

0 0

1 0

xx

x

x x

x ax

1

1 xx

e

0 0

1 0

xx

x

0x x

x x

1 xx e

1x

2x

y

1w

2w

f a

1 1 2 2a x w x w

1x

2x

y

1w

2w

2

1 2 1 1 2 2

i i i

i

L w w f x w x w y

1 1 2 2

1 2

L L

w w w ww w

f a

1 1 2 2a x w x w

1x

2x

y

1w

2w

2

1 2 1 1 2 2

i i i

i

L w w f x w x w y

1 1 2 2

1 2

L L

w w w ww w

1

L L f a

w f a w

f ay y

a w

y y f f x

1

1 xx

e

f a

1 1 2 2a x w x w

1f f fx

1x

2x

y

1w

2w

2

1 2 1 1 2 2

i i i

i

L w w f x w x w y

1 1 2 2

1 2

L L

w w w ww w

1

L L f a

w f a w

f ay y

a w

y y f f x

1

1 xx

e

f a

1 1 2 2a x w x w

1f f fx

1x

2x

y

1w

2w

2

1 2 1 1 2 2

i i i

i

L w w f x w x w y

1 1 2 2

1 2

L L

w w w ww w

1

L L f a

w f a w

f ay y

a w

y y f f x

1 1 2 2a x w x w

fa

f a

1

1 xx

e

1f f fx

1x

2x

y

1w

2w

1 1 2 21a x w x w b

fa1 2

w w

b

1b

f a

1x

2x

y

1w

2w

1 1 2 21a x w x w b

fa

1b

2

1 2 1 1 2 2

i i i

i

L w w f x w x w y

1 1 2 2

1 2

L L

w w w ww w

1

L L f a

w f a b

f ay y

a b

y y f f

1

1 xf x

e

1f x f x f xx

f a

1x

2x

y

1w

2w

1 1 2 21a x w x w b

fa

1b

2

1 2 1 1 2 2

i i i

i

L w w f x w x w y

1 1 2 2

1 2

L L

w w w ww w

1

L L f a

w f a b

f ay y

a b

y y f f

1

1 xf x

e

1f x f x f xx

f a

1x

2x

y

w

fa

1

2

1 2 1 1 2 2

i i i

i

L w w f x w x w y

1 1 2 2

1 2

L L

w w w ww w

1

L L f a

w f a b

f ay y

a b

y y f f

1

1 xf x

e

1f x f x f xx

f w x

1x

2x

y

w

fa

1

f w x

1x

2x

y

w

fa

1

f w x

L L f a

f a

w w

f a

1 1 2 21a x w x w b

1x

2x

y

1w

2w

fa

1

bnx

nw

1x

nx

1x

nx

1 2w w1

x

2x

y

1w

2w

fa

1b

f w x

1 2w w1

x

2x

y

1w

1

1a

1f

1 1f w x

1 2w w1

x

2x

y

1f

1a

1 2f

2a

2w

1 1f w x

2 2f w x

1 2w w1

x

2x

y

1f

1a

1 2f

2a

3f

3a

3w

1 1f w x

2 2f w x

1

3 3

2

ff

f

w

1x

2x

y

1f

1a

1 2f

2a

3f

3a

3w

1 1f w x

2 2f w x

1

3 3

2

ff

f

w

1x

2x

y

1f

1a

1 2f

2a

3f

3a

3w

1 1f w x

2 2f w x

1

3 3

2

ff

f

w

1x

2x

y

1

2f

2a

2w

1f

1a

1w

2 2 1f w w x

1x

2x

y

1

2f

2a

2w

1f

1a

1w

2 2 1f w w x

1x

2x

y

1w

2w

2

1 2 1 1 2 2

i i i

i

L w w f x w x w y

1 1 2 2

1 2

L L

w w w ww w

1

L L f a

w f a w

f ay y

a w

y y f f x

1

1 xx

e

f a

1 1 2 2a x w x w

1f f fx

2

1 2

i i

i

L y y w w

L

w ww

2 2

2 2 2 2

f aL L

f a

w w

1x

2x

y

1

2f

2a

2w

2 2 1f w w x

1f

1a

1w

2

1 2

i i

i

L y y w w

L

w ww

2 2

2 2 2 2

f aL L

f a

w w

1x

2x

y

1

2f

2a

2w

2 2 1f w w x

1f

1a

1w

2 2 1 1

1 2 2 1 1 1

f a f aL L

f a f a

w w

2

1 2

i i

i

L y y w w

L

w ww

2 2

2 2 2 2

f aL L

f a

w w

1x

2x

y

1

2f

2a

2w

2 2 1f w w x

1f

1a

1w

2 2 1 1

1 2 2 1 1 1

f a f aL L

f a f a

w w

2

1 2

i i

i

L y y w w

L

w ww

1x

2x

y

1

2f

2a

2w

2 2 1f w w x

1f

1a

1w

2 2

2 2 2 2

f aL L

f a

w w

2 2 1a f w

2 2f a

1 1f a

1 1a x w

2

1 2

i i

i

L y y w w

L

w ww

1x

2x

y

1

2f

2a

2w

2 2 1f w w x

1f

1a

1w

2 2

2 2 2 2

f aL L

f a

w w

2 2 1a f w

2 2f a

1 1f a

1 1a x w

2

1 2

i i

i

L y y w w

L

w ww

1x

2x

y

1

2f

2a

2w

2 2 1f w w x

1f

1a

1w

2 2 1 1

1 2 2 1 1 1

f a f aL L

f a f a

w w

2 2 1a f w

2 2f a

1 1f a

1 1a x w

2

1 2

i i

i

L y y w w

L

w ww

1x

2x

y

1

2f

2a

2w

2 2 1f w w x

1f

1a

1w

2 2 1 1

1 2 2 1 1 1

f a f aL L

f a f a

w w

2 2 1a f w

2 2f a

1 1f a

1 1a x w

1x

nx

1x

nx

1x

2x

y

1

2f

2a

2w

2 2 1f w w x

1f

1a

1w

2 2 1f w w x

2

1 2

i i

i

L y y w w

2 2 1 1

1 2 2 1 1 1

f a f aL L

f a f a

w w

2 2

2 2 2 2

f aL L

f a

w w

1 1

1

L

w ww

2 2

2

L

w ww

1 1

1

2 2

2

L

L

w ww

w ww

1x

2x

y

1

2f

2a

2w

1f

1a

1w

11 1

12 2

1

1

n

i

i

n

i

i

LL

n

LL

n

w w

w w

n

1 1

1

2 2

2

L

L

w ww

w ww

1x

2x

y

1

2f

2a

2w

1f

1a

1w 11 1

12 2

1

1

n

i

i

n

i

i

LL

n

LL

n

w w

w w

n

1 1

2 2

i

i

LL

LL

w w

w w

1 1

2 2

i

i

i

i

LL

LL

w w

w w

n

1x

2x

y

1

2f

2a

2w

2 2 1f w w x

1f

1a

1w

2 2 1f w w x

2

1 2

i i

i

L y y w w

2 2 1 1

1 2 2 1 1 1

f a f aL L

f a f a

w w

2 2

2 2 2 2

f aL L

f a

w w

1 1

1

L

w ww

2 2

2

L

w ww

1x

2x

y

1

2f

2a

2w

2 2 1f w w x

1f

1a

1w

2 2 1f w w x

2

1 2

i i

i

L y y w w

2 2 1 1

1 2 2 1 1 1

f a f aL L

f a f a

w w

2 2

2 2 2 2

f aL L

f a

w w

1 1

1

L

w ww

2 2

2

L

w ww

1x

2x

y

1

2f

2a

2w

2 2 1f w w x

1f

1a

1w

2 2 1f w w x

2

1 2

i i

i

L y y w w

2 2 1 1

1 2 2 1 1 1

f a f aL L

f a f a

w w

2 2

2 2 2 2

f aL L

f a

w w

1 1

1

L

w ww

2 2

2

L

w ww

w1x

1y

1a

196x

1

10a

10y

1 100 0 0 0 0 0 0 1 0 0y y

w1x

1y

1a

196x

1

10a

10y

w1x

1y

1a

196x

1

10a

10y

w1x

1y

196x

1

10y

1a

10a

1f

Soft-m

ax

10f

i

i

a

i a

i

ef

e

a f

w1x

1y

196x

1

10y

1a

10a

1f

Soft-m

ax

10f

i

i

a

i a

i

ef

e

a f

1i ii

i jj

f f i jf

f f i ja

w1x

1y

196x

1

10y

1a

10a

1f

Soft-m

ax

10f

w1x

1y

196x

1

10y

1a

10a

1f

Soft-m

ax

10f

1w

1x

196x

1

1y

1a

10y10

a

1a

1f

ma

mf

2w

1f

Soft-m

ax

10f