[ko]Presentation for KT, Samsung, HFR, Solution BoX

Content Networking Trends
- OTT, Global CDN and Operator

2012.09.20

손장우 대표이사
넷매니아즈 / ㈜엔앰씨컨설팅그룹
www.netmanias.com/www.nmcgroups.com
son@netmanias.com
02-3444-5747 / 010 -3460-5747

The Trends - Unlimited Competition

Content
1. 통신 사업자 네트워크와 비디오 서비스
2. OTT 출현과 성공
2.1 YouTube
2.2 Netflix
2.3 BBC
2.4 국내 현황 (Pooq, P2P CDN)
3. 통신 사업자의 고민
4. 통신 사업자의 대응
4.1 Wholesale On-Net CDN
4.2 Operator Walled-Garden Multi-Screen Service
4.3 Transparent Caching
4.4 Mobile Video Optimization

1. 통신 사업자 네트워크와 비디오 서비스

통신 사업자 망 구조

Walled-Garden IPTV CDN
컨텐츠 전달 구조
. 비디오 서비스 (Live TV, VoD, Time-Shift TV, nPVR, Relay TV) 제공자: 통신사업자
. 비디오 컨텐츠 구매 (TV 프로그램, 영화), 가공(트랜스코딩, DRM, 등), 이용자 포탈: 통신 사업자
. 전달망: 통신사업자 Walled-Garden IPTV CDN & 통신사업자 IP 네트워크 (IP QoS)
. 전달 기술: RTSP/RTP/UDP/MPEG2-TS/MPEG2,H.264
. 단말: 통신사업자가 공급한 IP STB
. 비디오 서비스 이용자: 통신사업자 가입자

통신 사업자 Triple Play Service

KT IPTV 비디오 전달 구조

2. OTT 출현과 성공

OTT Internet Video Service (Youtube, Netflix)
컨텐츠 전달 구조 (Youtube)
. 컨텐츠: UCC, Premium Content
. 전달망
Google 자체 Global CDN
통신사업자 IP 네트워크 (무상)
. 전달 기술: HTTP Progressive Download (PDL)
. 단말: Any Internet Device

컨텐츠 전달 구조 (Netflix)
. 컨텐츠: OTT가 CP로부터 구매
. 전달망
Pure-Play CDN 서비스(Akamai, Level3)
통신사업자 IP 네트워크 (무상)
. 전달 기술: HTTP Adaptive Streaming (HSS)
. 단말: Any Internet Device

Internet Video Trends - Global

Internet Video Trends - Korea
1. 국내 통신사업자 A 3G 모바일 Case
3G 멀티미디어 트래픽 현황 (2012년 Q1)
3G 멀티미디어 서비스 이용 현황

Internet Video Trends - Korea
2. 국내 MSO 상용망 테스트 결과 (2011년 11-12월)

2.1 YouTube (over Google CDN)

2.1 YouTube (Operator IP Network before YouTube)

2.1 YouTube (Operator IP Network after YouTube)

2.2 Netflix over Akamai CDN

Netflix Eco-System

2.3 BBC over Akamai CDN
BBC 본 방송 후 PC에서 지난 7일간의 방송콘텐츠를 다운로드나 스트리밍 방식을 통해 시청할 수 있는 주문형 무료 동영상 서비스 (무료)
2011년 1년간 총 19억 4천만건 이용

2.4 Pooq 

Pooq

Pooq - 아쉬운 점

2.5 P2P CDN (아프리카 Live, MBC Live)

비디오 전달 비교
Walled-Garden IPTV Service
실시간 스트리밍 (RTSP)
Source Encoding Rate: 2Mbps
스트리밍 율 = 인코딩율 = 2Mbps(QoS)
재생율: 2Mbps

OTT Internet Video Service
HTTP Progressive Download
Source Encoding Rate: 2Mbps
다운로드 속도 = 가용 대역폭
재생율: 2Mbps
HTTP Adaptive Streaming
Source Encoding Rate: 2/1/0.5Mbps
가용 대역폭(단말과 웹 서버간)
Requested & Delivered Video Bitrate
(가변적: 가용대역폭에 맞춤)

비디오 전달 비교
Walled-Garden IPTV Service
Delivery Protocol
실시간 스트리밍 (RTSP)
Transport Protocol
- UDP
IP Network QoS
- 반드시 제공되어야 함.
단말 스토리지
- 필요 없음 (휘발성)
Trick Play
- FF, RWD, Pause, Play
시청 중 Pause
- 스트리밍 정지
Unwatched Video로 인한 대역폭 낭비
- 없음
CDN Streamer
- RTSP Streaming Engine
단말별 비디오 품질
- 동일
망 혼잡 상황 적응
- 필요 없음 (IP QoS)
오리진내 파일 수
- 통상 2개 파일 (SD급, HD급)

OTT Internet Video Service
Delivery Protocol
HTTP Progressive Download
Transport Protocol
- TCP
IP Network QoS
- 없어도 됨 (재생속도보다 빨리 다운로드해옴)
단말 스토리지
- 필요함
Trick Play
- Jump
시청 중 Pause
- 지속적으로 다운로드
Unwatched Video로 인한 대역폭 낭비
- 있음
CDN Streamer
- HTTP 웹서버
단말별 비디오 품질
- 네트워크 상황에 따라 단말별로 다름(로딩)
망 혼잡 상황 적응
- 서로 다른 해상도를 갖는 복수 파일 중 이용자가 수동 선택
오리진내 파일 수
- Profile 별 (3~4개) 파일

HTTP Progressive Download
Transport Protocol
- TCP
IP Network QoS
- 없어도 됨 (비디오 품질을 망 상황에 적응시킴)
단말 스토리지
- 필요 없음 (휘발성)
Trick Play
- Jump
시청 중 Pause
- 다운로드 정지
Unwatched Video로 인한 대역폭 낭비
- 없음
CDN Streamer
- HTTP 웹서버
단말별 비디오 품질
- 네트워크 상황에 따라 단말별로 다름(질저하)
망 혼잡 상황 적응
- 단말이 자동 적응 (Bitrate Switching)
오리진내 파일 수
- Profile 별 (3~8개) 파일 

3. 통신사업자의 고민
OTT 인터넷 비디오 서비스의 이용 수 및 트래픽
미국의 경우 전체 인터넷 트래픽 (Downstream, Fixed Access)의 32%가 Netflix, 11%가 Youtube 두 회사만 합쳐도 전체의 43% !!!
2011년 전세계 모바일 인터넷 트래픽의 39%가 비디오 스트리밍 2011년 전세계 모바일 인터넷 트래픽의 22%가 Youtube 

위협 

4. 통신사업자의 대응
4.1 Wholesale On-Net CDN
4.2 Operator Walled-Garden Multi-Screen Service
4.3 Transparent Caching
4.4 Mobile Video Optimization

4.1 Wholesale On-Net CDN 

통신사업자의 OTT 유치 전략 . 기존 Global CDN 사업자의 서비스의 한계 

북미 통신 사업자별 Netflix Performance (Source: Netflix, 2011)
각 별 Netflix 품 (Netflix 이용 Adaptive Streaming시 어느 도 볼 수 있나?)
Netflix가 Adaptive Bit Rate Streaming을 쓰기 때문에 각 통신 사업자의 트래픽 부하와 Last-Mile 회선 BW 등에 따라 Netflix 트래픽의 Bit-Rate이 달라 짐. Charter 망의 가입자들의 Netflix 성능이 가장 좋음
(즉, Adaptive Bit-Rate의 평균치가 가정 높음. 따라서 화질이 가장 좋음)을 볼 수 있다.

Netflix야! Akamai CDN 서비스 받고 우리 On-Net CDN 서비스 받으면
Netflix 넌 너 이용자에게 8Mpbs의 고품질 서비스를 할수 있게 된다.
그러니 넌 고화질 서비스를 네 가입자에게 돈을 더 받고 나한테 테 On-Net CDN 이용료를 내라 !

대표적인 통신사업자 On-Net Wholesale CDN 사례-BT, Verizon 

Wholesale On-Net CDN Case Study: BT and BBC (Before)
BBC: Akamai의 CDN 서비스 이용
- BBC 이용자: Poor QoE (BT망에서 BE 처리, No IP QoS)
- BT: Backbone Cost 

Wholesale On-Net CDN Case Study: BT and BBC (After)
BT는 인터넷 비디오 트래픽으로 인한 백본의 과부하를 막고 B2B 수익원 창출을 위해 BT Wholesale CDN을 구축함. 

BT Wholesale CDN - Request Routing 

Cache Fill Operation (Progressive Download) 

Cache Fill Operation: HTTP Adaptive Streaming (SSS) - 첫 번째 이용자

Cache Fill Operation: HTTP Adaptive Streaming (SSS) - 첫 번째 이용자

Cache Fill Operation: HTTP Adaptive Streaming (SSS) - 두 번째 이용자

Cache Fill Operation: HTTP Adaptive Streaming (SSS) - 두 번째 이용자

Problem of Wholesale CDN

Solution: CDNi 

4.2 Walled-Garden Multi-screen Service (TVE: TV Everywhere)
컨텐츠 전달 구조 | 비즈니스 모델
. 인터넷 비디오 서비스 제공자: 통신사업자
. 비디오 컨텐츠 구매, 가공(트랜스코딩, 패키징, 등), 이용자 포탈: 통신사업자
. 전달망: 통신사업자 On-Net 인터넷 비디오 CDN & 통신사업자 IP 네트워크 (IP QoS)
. 전달 기술: HTTP PDL, HTTP Adaptive Streaming, RTSP/RTMP
. 단말: Any Internet Device
목적
.가입자 이탈 방지 (Cord-Cutting /Shaving)
.추가 수익원 (B2C) 

Comcast Streampix (2012년 2월 21일 출시)
컨텐츠 전달 구조 | 비즈니스 모델
.인터넷 비디오 서비스 제공자: Comcast
.비디오 컨텐츠 구매, 가공(트랜스코딩, 패키징, 등), 이용자 포탈: Comcast
.전달망: Comcast On-Net 인터넷 비디오 CDN & Comcast IP 네트워크 (IP QoS???)
.전달 기술: HTTP Adaptive Streaming (HSS)
.단말: PC, iPad, iPhone (2012/02/23)
.일정 요금이상의 패키징 상품 (예, Xfinity Triple Play, Xifinity Double-Play) 가입자: 무료
.일정 요금이하의 상품 가입자: 월 $4.99
.타통신사업자 가입자는 가입 못함
.Internet-Only 가입자는 가입 못함
.반드시 Comcast TV 가입자이어야 함. 

제국의 역습: 자가 가입자의 Cord-Cutting/Shaving을 막고, 오히려 Netflix 죽이자가 목적임

4.3 Transparent Caching
YouTube의 막대한 Traffic 어떻게 대처할 것인가? 

국내 LG U+와 SKB의 경우 - Google Global Cache 도입 (2012년 2월) 

Transparent Caching for Unknown OTT (PeerApp 류)
컨텐츠 전달 및 비즈니스 구도
.인터넷 비디오 서비스 제공자: OTT (Unknown OTT, Youtube)
.비디오 컨텐츠 획득, 가공(트랜스코딩, 패키징, 등), 이용자 포탈: OTT
.전달망: 통신사업자 On-Net TIC & 통신사업자 IP 네트워크 (No IP QoS)
.캐싱 대상: HTTP PDL 파일, HTTP Adaptive Streaming 파일
.단말: Any Internet Device
.통신사업자는 OTT와 계약관계 (CDN or Content)없음
목적
Wholesale CDN으로 처리할 수 없는 Unknown OTT 트래픽을 통신사업자망내에 캐싱함으로써
.Transit 비용 절감
.백본 증설 비용 절감
.이용자 QoE 개선 (Faster Download) 

Transparent Caching: User Content Request
2. Inspect/Classified (PBR/DPI)
- Content Request: Redirect to Caching Server (Widecast)
- Others (VoIP, E-mail FTP, etc.): Bypass 

Transparent Caching: Content Delivered and Cached 

Transparent Caching: Subsequent User Content Request Transparent

Proxy Caching 장점: 단말과 OTT는 모른다 (망내 도입이 용이)
Transparent Proxy Cache는 단말에 특정 내용을 Configuration (forward Proxy)할 필요가 없고, OTT 오리진 서버도 단말이 보낸 Content Request를 그대로 (Source IP 주소나 Content Request 내용에 변경이 없는) 수신한다.

따라서 단말이나 오리진 서버는 TC 서버의 존재를 모르고 단말과 오리진서버간에 직접통신을 하는 줄 안다: 어떻게 ? => Redirection(PBR/DPI), IP Spoofing (TIC)
캐싱이 되어 있는데 왜 Content Request OTT 오리진으로 보내야 되나?
.Content Validity (Freshness) Check
.OTT Business Logic
- 컨텐츠 이용 권한 : 체크 AAA(유료 OTT: Netflix)
- 통계 (Unique Subscriber, Content Popularity, 이용자 별 취향(무료 OTT: Youtube) 

비디오 시청중 임의의 시점으로 이동 

4.4 Mobile Video Optimization for Unknown OTT

Mobile Video Optimization for Unknown OTT
컨텐츠 전달 및 비즈니스 구도
. 인터넷 비디오 서비스 제공자: OTT (Unknown OTT, Youtube)
. 비디오 컨텐츠 획득, 가공(트랜스코딩, 패키징, 등), 이용자 포탈: OTT
. 전달망: 통신사업자 On-Net MVO & 통신사업자 IP 네트워크 (No IP QoS)
. 최적화 대상: HTTP PDL 파일, HTTP Adaptive Streaming 파일, RTMP
. 단말: 3G/4G Mobile Device
목적
통신사업자망내 Mobile Video Optimization 장비를 도입하여 Wholesale CDN으로 처리할 수 없는 Unknown OTT 트래픽을 통신사업자망내에서 최적화시켜 단말로 전달해줌로써
. Transit/백본 증설 비용 절감
. 백홀/무선 액세스 비용 절감
. QoE 개선 (로딩없앰) 

Video Pacing
HTTP PDL의 문제 (unwatched video downloads: 대역폭 낭비, 과금 이슈)
- 인터넷 비디오 평균 재생 시간 (Youtube 등): 5분
- 50% 이상의 이용자가 첫 60초 이내 시청 중단
- 최악의 경우 인터넷 비디오의 80%가 이용자가 보지 않는 데 단말로 다운로드 됨 (Unnecessary/Unwatched)

. 통신사업자: 의미 없는 대역폭 소모
(타 사용자의 품질 저하)
. 이용자: 요금제에 따라 피해 발생 가능
. OTT: 나하고 무슨 상관 ??? 

Test Case 1.02: YouTube VoD
YouTube VoD Traffic Pattern 실측 결과
Device
- iPhone
Access
- 3G
Test Case
- 1.02
OTT
- YouTube
Service Type
- VoD
Content
- 320x240
Delivery Protocol
- PDL
인코딩율
- 232 Kbps
다운로드중 최고속도
- 3.7 Mbps
다운로드중 평균속도
- 2.5 Mbps
File Size
- 6.1MB
재생시간
- 211초
다운로드완료시간
- 20초
Capture Filename
- iPhone_Youtube_webLow.pcap

분석
.인코딩율이 232Kbps이고 재생시간이 211초인 파일을 평균 2.5Mbps의 속도로 20초만에 다운로드 완료함
.트래픽 측면에서 보면 232Kbps가 아닌 평균 2.5Mbps의 트래픽이 KT 3G망에 인가된 것임. 

Cisco Mobile Video Optimization for Unknown OTT: MVG at ASR 5000 (GGSN/PGW)
Pacing (Just-In-Time Delivery, Throttling, Rate Paced Download)
. HTTP PDL의 단점인 대역폭 낭비를 방지하는 것이 목적임 (Reduce unwatched video downloads)
. 컨텐츠 자체는 모두 그대로(Lossless Video Optimization)
. 전달 비트 패턴만 변경함 (인코딩 비트율을 자동 검출하여 이 비트율로 Packet Rate을 쉐이핑함) 

Pacing Process 

Throttling Rate Calculation 

Online Transrating/Transcoding
모바일 단말(백홀/무선구간의 낮은 대역폭)에서 웹브라우져로 브로드밴드 비디오 사이트 접속

무선망 환경:
- 유선 액세스망에 비해 액세스 대역폭(Pipe 자체)이 작음
- Air 구간에서의 High RTT (수십ms) => Low E2E Throughput
- Air Packet Loss (빈번한 종단간 재전송)=> Low E2E Throughput

OTT 사이트 대부분이 PC 환경 고려하여 인코딩함
(예) - Resolution: 480p
- File Size: 100MB
- Encoding Rate: 1Mbps 

Test Case 1.07: YouTube VoD
YouTubeVoD Traffic Pattern 실측 결과
Device
- iPad
Access
- 3G
Test Case
- 1.07
OTT
- YouTube
Service Type
- VoD
Content
- 720p (1280x720)
Delivery Protocol
- PDL
인코딩율
- 3.15 Mbps
다운로드중 최고속도
- 4.0 Mbps
다운로드중 평균속도
- 2.73 Mbps
File Size
- 83 MB
재생시간
- 211초
다운로드완료시간
- 265초
Capture Filename
- ipad_Youtube_web720p.pcap

분석
.인코딩율이 3.15Mbps이고 재생시간이 211초인 파일을 평균 2.73Mbps의 속도로 265초만에 다운로드 완료함
.즉 재생 완료시간내에 파일이 다운로드되지 않음
.3G 액세스망의 다운로드 속도가 인코딩율 (3.15Mbps)보다 낮아 지속적으로 로딩이 발생함 (못 봄) 

Mobile Video Optimizer 도입 (Cisco ASR 5000/MVG Card, Bytemobile Unison)
실시간 Transrating/Transcoding
. 실시간으로 Transrating(Frame Rate을 줄여) 또는 Transcoding(해상도, Frame Rate, 코덱 등)하여 파일사이즈와 전달 대역폭을 감소시킴
. 컨텐츠에 수정을 가하여 품질을 떨어트림 (Lossy Video Optimization) 

Dynamic BW Shaping
Dynamic Online Transrating/Transcoding
. 실시간으로 Transrating(Frame Rate을 줄여) 또는 Transcoding(해상도, Frame Rate, 코덱 등)하여 파일사이즈와 전달 대역폭을 감소시킴
. 컨텐츠에 수정을 가하여 품질을 떨어트림 (Lossy Video Optimization)
. 패킷 레벨의 Shaping이 아니라 Encoding Rate 레벨의 Shaping임 

Transrating/Transcoding 율의 결정

Operator On-Net Video Optimization: Comparison (1)
Video Pacing
전달 프로토콜
- HTTP PDL
지원 포맷
- FLV, MP4, MOV, 3GP
목적
- HTTP PDL의 단점인 대역폭 낭비를 방지하는 것이 목적임 (Reduce unwatched video downloads)

Online Transrating/Transcoding
전달 프로토콜
- HTTP PDL
지원 포맷
- FLV
목적
- 단말 타입에 따라 실시간으로 Transrating/Transcoding하여 파일사이즈와 전달 대역폭을 감소시킴

Dynamic BW Shaping
전달 프로토콜
- HTTP PDL
지원 포맷
- FLV
목적
- 단말과 MVG간 가용한 네트워크 BW에 맞춰 Transrating/Transcoding의 비디오 비트율 동적으로 변경시켜 로딩을 방지함 (QoE)

Operator On-Net Video Optimization: Comparison (2)
Video Pacing
동영상 재가공
.없음
.컨텐츠 자체는 모두 그대로(Lossless Video Optimization)
Shaping
Packet Rate (전달 패턴)
Shaping Rate
Encoding Rate = Content Length /Total Duration

Online Transrating/Transcoding
동영상 재가공
.TransratingC/ TranscodingB
.컨텐츠에 수정을 가하여 품질을 떨어트림 (Lossy Video Optimization)
Shaping
C: Encoding Rate
B: Resolution, Codec, Frame Rate, Bit Rate
Shaping Rate
Device Type (3G, 4G, Phone, Pad)

Dynamic BW Shaping
동영상 재가공
.TransratingC/ TranscodingB
.컨텐츠에 수정을 가하여 품질을 떨어트림 (Lossy Video Optimization)
Shaping
C: Encoding Rate
B: Resolution, Codec, Frame Rate, Bit Rate
Shaping Rate
TCP Link Monitoring
Estimate Link BW = Acked TCP Payload / RTT 

망 적응성
HTTP Adaptive Streaming
Video Delivery Protocol
- HTTP
Player
- Silverlight: SSS, ismv/ism
Flash Player: HDS, f4f/f4m
- iOS (Quicktime): HLS, ts/m3u8
Bit-Rate 변경 결정
- 단말
Bit-Rate 계산
- Fragment Req.나가고 Fragment들어올 때까지의 RTT
Fairness
- greedy protocol

Dynamic BW Shaping
Video Delivery Protocol
- HTTP PDL
Player
- Flash Player: FLV, F4V, MP4, MOVE, 3GP
- Sliverlight: ASF(WMV), MP4, MOV, 3GP
- Quicktime: MP4, MOV, 3GP
- NexPlayer: MP4, 3GP, WMV,
Bit-Rate 변경 결정
- 네트워크 (Video Optimizing Server)
Bit-Rate 계산
- TCP Link Monitoring (TCP Proxy): TCP Data 보내고 Ack
Fairness 

통신 사업자의 비디오 전달 기술 - 옵션간 비교
- WG IPTV CDN
비디오 서비스 제공자
- 통신사업자
비디오 서비스 제공자 예시
- KT, Verizon, AT&T, TI
오리진 서버, 포탈
- 통신사업자
주 전달 프로토콜
- RTSP
단말
- IP STB
전달 인프라 (투자 비용)
- 통신사업자 On-Net WG IPTV CDN
핵심 기술
.Network-aware Request Routing
Transit (Save Money)
- n/a
백본 증설 (Save Money)
- O
백홀 증설 (Save Money)
- X
무선액세스(Save Money)
- n/a
수익 (Make Money)
- B2C (건당 과금)
이용자 QoE 개선
- O
References
- Almost All Telco

Wholesale CDN
비디오 서비스 제공자
- OTT (CA, CP, UCC)
비디오 서비스 제공자 예시
- CA: Netflix, Hulu
- CP: HBOGO, Starz, BBC, MBC
- UCC: Youtube
오리진 서버, 포탈
- OTT
주 전달 프로토콜
- HTTP PDL, HTTP AS
단말
- Any Internet Device
전달 인프라 (투자 비용)
- 통신사업자 On-Net WS 인터넷 비디오 CDN
핵심 기술
.On-Net CDN과 OTT간 연동 (Reverse Proxy, OTT 포탈 Delivery URL)
.Network-aware Request Routing
Transit (Save Money)
- O
백본 증설 (Save Money)
- O
백홀 증설 (Save Money)
- X
무선액세스(Save Money)
- X
수익 (Make Money)
- B2B (WS CDN 판매료)
이용자 QoE 개선
- O
References
- HBO/Starz-Verizon BBC-BT

WG Multi-Screen CDN
비디오 서비스 제공자
- 통신사업자
비디오 서비스 제공자 예시
- KT, TWC, Verizon, Comcast, BT, TI
오리진 서버, 포탈
- 통신사업자
주 전달 프로토콜
- HTTP PDL, HTTP AS
단말
- Any Internet Device
전달 인프라 (투자 비용)
- 통신사업자 On-Net WG 인터넷 비디오 CDN
핵심 기술
.트랜스코딩
.Session-Shift 기술
.QoE 극대화 방안: HTTP AS, Dynamic BW Shaping, QoS
.단말 타입 식별, 모바일 비디오 최적화 기술
.Network-aware Request Routing
Transit (Save Money)
- n/a
백본 증설 (Save Money)
- O
백홀 증설 (Save Money)
- X
무선액세스(Save Money)
- X
수익 (Make Money)
- B2C (건당 과금)
이용자 QoE 개선
- O
References
- KT, TWC, Verizon, Comcast, BT, TI

Transparent Caching
비디오 서비스 제공자
- OTT
비디오 서비스 제공자 예시
- Youtube
오리진 서버, 포탈
- OTT
주 전달 프로토콜
- HTTP PDL
단말
- Any Internet Device
전달 인프라 (투자 비용)
- 통신사업자 On-Net TIC
핵심 기술
.Content Identification
.Transparent Proxy
.Content Validity/Freshness Check
Transit (Save Money)
- O
백본 증설 (Save Money)
- O
백홀 증설 (Save Money)
- X
무선액세스(Save Money)
- X
수익 (Make Money)
- X
이용자 QoE 개선
- O
References
- Level3, 티브로드, Frontier 등

Mobile Video Optimization
비디오 서비스 제공자
- OTT
비디오 서비스 제공자 예시
- Youtube
오리진 서버, 포탈
- OTT
주 전달 프로토콜
- HTTP PDL
단말
- Any Internet Device
전달 인프라 (투자 비용)
- 통신사업자 On-Net MVO
핵심 기술
.DPI/Content Identification TCP Proxy
.Video Pacing
.Dynamic BW Shaping (Online Transcoding/Transrating per Device)
.Smart Caching
Transit (Save Money)
- O
백본 증설 (Save Money)
- O
백홀 증설 (Save Money)
- O
무선액세스(Save Money)
- O
수익 (Make Money)
- X
이용자 QoE 개선
- O
References
- Verizon Wireless, …등

The Trends - Unlimited Competition

Q&A


[en]Presentation for KT, Samsung, HFR, Solution BoX

Content Networking Trends
- OTT, Global CDN and Operator

2012.09.20

CEO, Jangwoo Son
NETMANIAS / NMC Consulting Group
www.netmanias.com/www.nmcgroups.com
son@netmanias.com
+82-2-3444-5747 / +82-10-3460-5747

The Trends - Unlimited Competition

Content
1. ISP Network and Video Services
2. The Emergence and Success of OTT
2.1 YouTube
2.2 Netflix
2.3 BBC
2.4 Korea OTT (Pooq, P2P CDN)
3. The Challenge of ISP
4. The Several Approaches of ISP
4.1 Wholesale On-Net CDN
4.2 Operator Walled-Garden Multi-Screen Service
4.3 Transparent Caching
4.4 Mobile Video Optimization

1. ISP Network and Video Services

ISP Network Architecture

Walled-Garden IPTV CDN
Content Delivery Architecture
• Video Service (Live TV, VoD, Time-Shift TV, nPVR, Relay TV) Provider: ISP
• Video Content Purchasing (TV Program, Movie), Packaging (Transcoding, DRM, etc), Service Portal: ISP
• Delivery Network: ISP’s Walled-Garden IPTV CDN & IP Network (IP QoS enabled)
• Delivery Technology: RTSP/RTP/UDP/MPEG2-TS/MPEG2,H.264
• Device: IP STB (provided by ISP)
• User: ISP Subscriber

ISP Triple Play Service

KT IPTV Video Delivery Architecture

2. The Emergence and Success of OTT

OTT Internet Video Service (Youtube, Netflix)
Content Delivery Architecture (YouTube)
• Content: UCC, Premium Content
• Delivery Network
- Google’s Global CDN
- ISP’s IP Network (Free Riding)
• Delivery Technology: HTTP Progressive Download (PDL)
• Device: Any Internet Device

Content Delivery Architecture (Netflix)
• Content: Purchasing from CP
• Delivery Network
- Pure-Play CDN Service (Akamai, Level3)
- ISP’s IP Network (Free Riding)
• Delivery Technology: HTTP Adaptive Streaming (HSS)
• Device: Any Internet Device

Internet Video Trends - Global

Internet Video Trends - Korea
1. Korea ISP A: 3G Mobile Case
Status of 3G Video Traffic (2012 Q1)
Status of 3G Video Service

Internet Video Trends - Korea
2. Korea MSO Commercial Network Test Result (Nov. ~ Dec. 2011)

2.1 YouTube (over Google CDN)

2.1 YouTube (Operator IP Network before YouTube)

2.1 YouTube (Operator IP Network after YouTube)

2.2 Netflix over Akamai CDN

Netflix Eco-System

2.3 BBC over Akamai CDN
As free VoD service, user an watch the broadcast contents of the last 7 days from PC through downloading or streaming
Watched 1.94 billion times in 2011

2.4 Pooq (Korea)

Pooq

Pooq – Regrettable Point

2.5 P2P CDN (AfreecaTV Live, MBC Live)

Video Delivery Protocol Comparison
Walled-Garden IPTV Service
Real Time Streaming Protocol (RTSP)
Source Encoding Rate: 2Mbps
Streaming Rate = Encoding Rate = 2Mbps (QoS enabled)
Playback Rate = 2Mbps

OTT Internet Video Service
HTTP Progressive Download
Source Encoding Rate: 2Mbps
Download Speed = Available Bandwidth
Playback Rate = 2Mbps
HTTP Adaptive Streaming
Source Encoding Rate: 2/1/0.5Mbps
Download Speed = Available Bandwidth
Requested & Delivered Video Bitrate
(Variable depending on available bandwidth)

Video Delivery Protocol Comparison
Walled-Garden IPTV Service
Delivery Protocol
Real Time Streaming Protocol (RTSP)
Transport Protocol
- UDP
IP Network QoS
- Required
Device Storage
- Not Required (Volatile)
Trick Play
- FF, RWD, Pause, Play
시청 중 Pause
- Streaming Stopped
Waste of Bandwidth due to Unwatched Video
- No
CDN Streamer
- RTSP Streaming Engine
Video Quality per Device Type
- Same
Adaptive Control of Network Congestion
- Not Required(due to IP QoS)
# of Contents in Streamer
- 2 files (SD & HD)

OTT Internet Video Service
Delivery Protocol
HTTP Progressive Download
Transport Protocol
- TCP
IP Network QoS
- Not Required (Downloading content Faster than playback time)
Device Storage
- Required
Trick Play
- Jump
Pause during Playback
- Download Continuously
Waste of Bandwidth due to Unwatched Video
- Yes
CDN Streamer
- HTTP Web Server
Video Quality per Device Type
- Different loading time depending on network condition & device type
Adaptive Control of Network Congestion
- User selects manually among multiple files with different resolutions
# of Contents in Streamer
- 3 ~4 files (Files per Resolution)

HTTP Progressive Download
Transport Protocol
- TCP
IP Network QoS
- Not Required (Adaptive change of video quality depending on network condition)
Device Storage
- Not Required (Volatile)
Trick Play
- Jump
Pause during Playback
- Download Stopped
Waste of Bandwidth due to Unwatched Video
- No
CDN Streamer
- HTTP Web Server
Video Quality per Device Type
- Different video resolution depending on network condition
Adaptive Control of Network Congestion
- By Device (Bitrate Switching)
# of Contents in Streamer
- 3 ~ 8 files (Files per Profile)

3. The Challenge of ISP
Increase of OTT Internet Video
In U.S., Netflix creates 32% of all download traffic and YouTube is 11% (fixed access). Only two OTTs comprise 43% of all consumer Internet traffic
In 2011, Video Streaming comprises 39% of all mobile Internet traffic. In 2011, YouTube creates 22% of all mobile Internet traffic

Threat 

4. The Several Approaches of ISP
4.1 Wholesale On-Net CDN
4.2 Operator Walled-Garden Multi-Screen Service
4.3 Transparent Caching
4.4 Mobile Video Optimization

4.1 Wholesale On-Net CDN 

ISP Strategy for OTT: Limitation of Global CDN Operator

Netflix Performance in North America (Source: Netflix, 2011)
Netflix Video Quality (The video quality level for Netflix subscriber)
Because Netflix uses Adaptive Bit Rate streaming, bit rate of Netflix video traffic is changed by traffic loads and last-mile bandwidth of ISP. Netflix performance of Charter Network is best (In order words, average bit rate is the highest which means the quality of video is the best)

Netflix! If you use On-Net CDN Service instead of Akamai…
ISP On-Net CDN can provide 8Mbps high quality video service to Netflix subscribers
So, Netflix can make more money from subscribers by high quality video service, and Netflix pays On-Net CDN fee to ISP

Best Cases of ISP On-Net Wholesale CDN – BT, Verizon

Wholesale On-Net CDN Case Study: BT and BBC (Before)
BBC uses Akamai CDN Service
 BBC Subscriber: Poor QoE (Best Effort Quality in BT Network, No IP QoS)
 BT: Backbone Cost

Wholesale On-Net CDN Case Study: BT and BBC (After)
BT builds Wholesale CDN for
 Preventing backbone overhead caused by
Internet video traffic
 Creating B2B revenue

BT Wholesale CDN - Request Routing 

Cache Fill Operation (Progressive Download) 

Cache Fill Operation: HTTP Adaptive Streaming (SSS) - First User

Cache Fill Operation: HTTP Adaptive Streaming (SSS) - First User

Cache Fill Operation: HTTP Adaptive Streaming (SSS) - Second User

Cache Fill Operation: HTTP Adaptive Streaming (SSS) - Second User

Problem of Wholesale CDN

Solution: CDNi 

4.2 Walled-Garden Multi-screen Service (TVE: TV Everywhere)
Content Delivery Architecture
• Internet Video Service Provider: ISP
• Content Acquisition/Processing(Transcoding, Packaging, etc), Portal: ISP
• Delivery Network: ISP On-Net CDN & IP Transport Network with QoS enabled
• Delivery Protocol: HTTP PDL, HTTP Adaptive Streaming, RTSP/RTMP
• Device: Any Internet Device
Purpose
• Prevention of Revenue Loss (Cord- Cutting/Shaving)
•Additional Revenue (B2C) 

Comcast Streampix (Released February 21, 2012)
Content Delivery Architecture
• Internet Video Service Provider: Comcast
• Content Acquisition/Processing(Transcoding, Packaging, etc), Portal: Comcast
• Delivery Network: Comcast On-Net CDN & Comcast IP Transport Network
• Delivery Protocol: HTTP Adaptive Streaming (HSS)
• Device: PC, iPad, iPhone (2012/02/23)
• Only Comcast TV subscriber can use it
• Free for Xfinitiy Triple Play, Xfinity Doule Play subscriber
• Xfinity TV subsriber can upgrade to Xfinity Streampix for just $4.99 more a month

The Empire Strikes Back: Killing of Netflix as well as Preventing of Cord-Cutting/Shaving

4.3 Transparent Caching
How to handle massive YouTube traffic?

Korea ISP: LG U+ & SKB - Google Global Cache Deployment (Feb. 2012)

Transparent Caching for Unknown OTT (PeerApp)
Content Delivery Architecture
• Internet Video Service Provider: OTT (Unknown OTT, YouTube)
• Content Acquisition/Processing(Transcoding, Packaging, etc), Portal: OTT
• Delivery Network: ISP On-Net TIC & ISP IP Network (No IP QoS)
• Caching Target: HTTP PDL File, HTTP Adaptive Streaming File
• Device: Any Internet Device
• No Contractual Relationship (CDN or Content) between OTT and ISP
Purpose
Unknown OTT traffic that can not be handled by Wholesale CDN be cached by TIC in ISP Network
• Saving Transit Cost
• Saving Backbone Cost
• Improving User QoE (Faster Download)

Transparent Caching: User Content Request
2. Inspect/Classified (PBR/DPI)
- Content Request: Redirect to Caching Server (Widecast)
- Others (VoIP, E-mail FTP, etc.): Bypass 

Transparent Caching: Content Delivered and Cached 

Transparent Caching: Subsequent User Content Request 

Advantage of Transparent Proxy Caching: Device and OTT Origin don’t know existence of TIC (Easy Deployment in ISP)
•Device: It’s not required to configure (e.g., forward proxy setting) to Device for TIC operation (zero configuration)
•OTT Origin Server: TIC does not change Content Request message (IP/TCP/HTTP header) from the User to OTT Origin Server
•So, Device and Origin Server are unaware of existence of TIC, and they think communication is progressed directly each other
How? Redirection (PBR/DPI) by IP Transport Network, IP Spoofing by TIC

Cached in TIC, but why Content Request should be sent to OTT Origin Server?
• Content Validity (Freshness) Check
• OTT Business Logic
- Protection of the Pay-OTT content (e.g., Netflix)
- Statistics (Unique Subscriber, Content Popularity, User Preference)

Jump to a Specific Time in a Video

4.4 Mobile Video Optimization for Unknown OTT

Mobile Video Optimization for Unknown OTT
Content Delivery Architecture
• Internet Video Service Provider: OTT (Unknown OTT, YouTube)
• Content Acquisition/Processing(Transcoding, Packaging, etc), Portal: OTT
• Delivery Network: ISP On-Net TIC & ISP IP Network (No IP QoS)
• Optimization Target: HTTP PDL File, HTTP Adaptive Streaming File, RTMP
• Device: 3G/4G Mobile Device
Purpose
Unknown OTT traffic that can not be handled by Wholesale CDN be optimized by Mobile Video Optimization in ISP Network
• Saving Transit/Backbone Cost
• Improving User QoE (No Loading Time)

Video Pacing
Problem of HTTP PDL (Unwatched video downloads: Waste of Bandwidth, Billing Issue)
•Average playback time of Internet video (YouTube, etc): 5 minutes
•More than 50% of users stop watching video within the first 60 seconds
•In the worst case, 80% of video contents are already downloaded to device although user does not watch (Unnecessary/Unwatched)

• ISP: Meaningless Bandwidth Consumption (Poor QoE in other users)
• User: Billing Issues (depending on service plan)
• OTT: What does it matter???

Test Case 1.02: YouTube VoD
Test Result: YouTube VoD Traffic Pattern
Device
- iPhone
Access
- 3G
Test Case
- 1.02
OTT
- YouTube
Service Type
- VoD
Content
- 320x240
Delivery Protocol
- PDL
Encoding Rate
- 232 Kbps
Peak Bandwidth
- 3.7 Mbps
Average Bandwidth
- 2.5 Mbps
File Size
- 6.1MB
Playback Time
- 211s
Download Duration
- 20s
Capture Filename
- iPhone_Youtube_webLow.pcap

Analysis
• Encoding Rate = 232Kbps << Average Download Bandwidth = 2.5Mbps
• Playback Time = 211s >> Download Finish Time = 20s

Cisco Mobile Video Optimization for Unknown OTT: MVG at ASR 5000 (GGSN/PGW)
Pacing (Just-In-Time Delivery, Throttling, Rate Paced Download)
• The purpose is to prevent the wasted bandwidth by HTTP PDL (Reduce unwatched video downloads)
• No transcoding/No transrating (Lossless video optimization)
• Only change the delivery bit pattern (Detecting of the encoding bit rate of video automatically, and shaping the packet rate)

Pacing Process 

Throttling Rate Calculation 

Online Transrating/Transcoding
Access Broadband Video Sites from Mobile Device

Mobile Network Environments:
- Low Bandwidth (Small Pipe) comparing to Wired Access Network
- High RTT (several milliseconds) in Air a Low E2E Throughput
- Air Packet Loss (Retransmission) a Low E2E Throughput

The Most OTT Video is encoded considering Wired Access Network
(ex) - Resolution: 480p
- File Size: 100MB
- Encoding Rate: 1Mbps

Test Case 1.07: YouTube VoD
Test Result: YouTube VoD Traffic Pattern
Device
- iPad
Access
- 3G
Test Case
- 1.07
OTT
- YouTube
Service Type
- VoD
Content
- 720p (1280x720)
Delivery Protocol
- PDL
Encoding Rate
- 3.15 Mbps
Peak Bandwidth
- 4.0 Mbps
Average Bandwidth
- 2.73 Mbps
File Size
- 83 MB
Playback Time
- 211s
Download Duration
- 265s
Capture Filename
- ipad_Youtube_web720p.pcap

Analysis
•Encoding Rate = 3.15Mbps >> Average Download Bandwidth = 2.73Mbps
•Playback Time = 211s << Download Finish Time = 265s
YouTube content encoded at 3.15Mbps is delivered to the KT 3G network with 2.73Mbps in average a Loading (Waiting) !!!!

Mobile Video Optimizer (Cisco ASR 5000/MVG Card, Bytemobile Unison)
Real-Time Transrating/Transcoding
• Reduce File Size and Transfer Rate by Real-Time Transrating (Reducing Frame Rate) or Real-Time Transcoding (Reducing Resolution, Frame Rate, Codec, etc)
• Lossy Video Optimization

Dynamic BW Shaping
Dynamic Online Transrating/Transcoding
• Reduce File Size and Transfer Rate by Real-Time Transrating or Real-Time Transcoding
• Lossy Video Optimization
• It’s not the packet level shaping, but the encoding level shaping

Transrating/Transcoding Rate Decision

Operator On-Net Video Optimization: Comparison (1)
Video Pacing
Delivery Protocol
- HTTP PDL
Video Format
- FLV, MP4, MOV, 3GP
Purpose
- Preventing the Wasted Bandwidth of HTTP PDL (Reduce unwatched video downloads)

Online Transrating/Transcoding
Delivery Protocol
- HTTP PDL
Video Format
- FLV
Purpose
- Preventing Loading (Waiting) by reducing file size and transfer rate

Dynamic BW Shaping
Delivery Protocol
- HTTP PDL
Video Format
- FLV
Purpose
- Preventing Loading (Waiting) by changing the Video bitrate dynamically based on user network environment (Improvement of QoE)

Operator On-Net Video Optimization: Comparison (2)
Video Pacing
Content Modification
 None
 Lossless Video Optimization
Shaping
Packet Rate (Delivery Pattern)
Shaping Rate
Encoding Rate = Content Length /Total Duration

Online Transrating/Transcoding
Content Modification
 TransratingC/ TranscodingB
 Lossy Video Optimization
Shaping
C: Encoding Rate
B: Resolution, Codec, Frame Rate, Bit Rate
Shaping Rate
Device Type (3G, 4G, Phone, Pad)

Dynamic BW Shaping
Content Modification
 TransratingC/ TranscodingB
 Lossy Video Optimization
Shaping
C: Encoding Rate
B: Resolution, Codec, Frame Rate, Bit Rate
Shaping Rate
TCP Link Monitoring
Estimate Link BW = Acked TCP Payload / RTT 

Network Adaptiablity
HTTP Adaptive Streaming
Video Delivery Protocol
- HTTP
Player
- Silverlight: SSS, ismv/ism
Flash Player: HDS, f4f/f4m
- iOS (Quicktime): HLS, ts/m3u8
Bit-Rate Change Decision
- By Device
Bit-Rate Calculation
- RTT between Fragment Request and Fragment Data
Fairness
- greedy protocol

Dynamic BW Shaping
Video Delivery Protocol
- HTTP PDL
Player
- Flash Player: FLV, F4V, MP4, MOVE, 3GP
- Sliverlight: ASF(WMV), MP4, MOV, 3GP
- Quicktime: MP4, MOV, 3GP
- NexPlayer: MP4, 3GP, WMV,
Bit-Rate Change Decision
- By Network (Video Optimizing Server)
Bit-Rate Calculation
- TCP Link Monitoring (TCP Proxy): RTT between TCP Data and TCP ACK
Fairness 

ISP Video Delivery Technology Comparison
- WG IPTV CDN
Video Service Provider
- ISP
Example of Video Service Provider
- KT, Verizon, AT&T, TI
Origin Server, Portal
- ISP
Main Delivery Protocols
- RTSP
Device
- IP STB
Delivery Infrastructure (Cost)
- ISP On-Net WG IPTV CDN
Core Technology
.Network-aware Request Routing
Transit (Save Money)
- n/a
Backbone Cost (Save Money)
- O
Backhaul Cost (Save Money)
- X
3G/4G Access Cost (Save Money)
- n/a
Revenue (Make Money)
- B2C (Billing per Event)
User QoE Improvement
- O
References
- Almost All Telco

Wholesale CDN
Video Service Provider
- OTT (CA, CP, UCC)
Example of Video Service Provider
- CA: Netflix, Hulu
- CP: HBOGO, Starz, BBC, MBC
- UCC: Youtube
Origin Server, Portal
- OTT
Main Delivery Protocols
- HTTP PDL, HTTP AS
Device
- Any Internet Device
Delivery Infrastructure (Cost)
- ISP On-Net WS Internet Video CDN
Core Technology
•Interworking between On-Net CDN and OTT (Reverse Proxy, OTT Portal Delivery URL)
•Network-aware Request Routing
Transit (Save Money)
- O
Backbone Cost (Save Money)
- O
Backhaul Cost (Save Money)
- X
3G/4G Access Cost (Save Money)
- X
Revenue (Make Money)
- B2B (WS CDN Usage Fee)
User QoE Improvement
- O
References
- HBO/Starz-Verizon BBC-BT

WG Multi-Screen CDN
Video Service Provider
- ISP
Example of Video Service Provider
- KT, TWC, Verizon, Comcast, BT, TI
Origin Server, Portal
- ISP
Main Delivery Protocols
- HTTP PDL, HTTP AS
Device
- Any Internet Device
Delivery Infrastructure (Cost)
- ISP On-Net WG Internet Video CDN
Core Technology
•Transcoding
•Session-Shift
•QoE Improvement: HTTP AS, Dynamic BW Shaping, QoS
•Device Type Detection
•Mobile Video Optimization
•Network-aware Request Routing
Transit (Save Money)
- n/a
Backbone Cost (Save Money)
- O
Backhaul Cost (Save Money)
- X
3G/4G Access Cost (Save Money)
- X
Revenue (Make Money)
- B2C (Billing per Event)
User QoE Improvement
- O
References
- KT, TWC, Verizon, Comcast, BT, TI

Transparent Caching
Video Service Provider
- OTT
Example of Video Service Provider
- Youtube
Origin Server, Portal
- OTT
Main Delivery Protocols
- HTTP PDL
Device
- Any Internet Device
Delivery Infrastructure (Cost)
- ISP On-Net TIC
Core Technology
.Content Identification
.Transparent Proxy
.Content Validity/Freshness Check
Transit (Save Money)
- O
Backbone Cost (Save Money)
- O
Backhaul Cost (Save Money)
- X
3G/4G Access Cost (Save Money)
- X
Revenue (Make Money)
- X
User QoE Improvement
- O
References
- Level3, Tbroad, Frontier

Mobile Video Optimization
Video Service Provider
- OTT
Example of Video Service Provider
- Youtube
Origin Server, Portal
- OTT
Main Delivery Protocols
- HTTP PDL
Device
- Any Internet Device
Delivery Infrastructure (Cost)
- ISP On-Net MVO
Core Technology
.DPI/Content Identification TCP Proxy
.Video Pacing
.Dynamic BW Shaping (Online Transcoding/Transrating per Device)
.Smart Caching
Transit (Save Money)
- O
Backbone Cost (Save Money)
- O
Backhaul Cost (Save Money)
- O
3G/4G Access Cost (Save Money)
- O
Revenue (Make Money)
- X
User QoE Improvement
- O
References
- erizon Wireless

The Trends - Unlimited Competition

Q&A