SlideShare ist ein Scribd-Unternehmen logo
1 von 16
Downloaden Sie, um offline zu lesen
이주호
School of Computer Science and Information Engineering,
The Catholic University of Korea
E-mail: jooho414@gmail.com
1
Introduction
Problem Statement
• 최근 몇 년 동안 에너지 부족현상 증가
➔ 청정 재생 에너지 원인 풍력에너지 주목
(출처 : International Renewable Energy Agency)
2
Introduction
에너지 재생 트렌드
(출처 : International Renewable Energy Agency)
Offshore wind : 육상 풍력
Onshore wind : 해상 풍력
풍력 에너지 생산량 증가 매년 증가
3
Introduction
연간 재생 에너지 분야의 지출 계획
(출처 : International Renewable Energy Agency)
➔ 태양 에너지 다음으로 가장 큰 투자를 받고 있는 에너지원
4
Introduction
(출처 : International Renewable Energy Agency)
국가별 새로 의뢰된 육상 풍력 프로젝트의 가중 평균 LCOE
• LCOE (균등화발전원가) : 발전소가 1kWh의 전기를 생산하기 위한 비용
모든 국가에서 풍력 발전에 대한 비용 감소 중
➔ 풍력에 대한 개발 진행 중
5
Introduction
(출처 : International Renewable Energy Agency)
Problem Statement
• 최근 몇 년 동안 에너지 부족현상 증가
➔ 청정 재생 에너지 원인 풍력에너지 주목
• 따라서 풍력 발전의 문제인 불안정한 풍력 에너지의 수급을 해결하기 위한 정확한 풍속과 풍향의 예측이 필요함
6
Introduction
Spatio-temporal wind speed forecasting using graph networks and novel Transformer architectures, Applied Energy 2022
Problem Statement
그래프로 공간적 정보를 주지만 한계가 존재함
7
Introduction
Problem Statement
• 노드끼리의 연결성은 표현은 가능하지만 노드 사이의 구체적인 정보는 연결 만으로는 표현 불가능
(출처 : Adaptive Spatio-temporal Graph Neural Network for traffic forecasting, Knowledge-Based Systems)
그래프로 표현
연결 만으로는 노드 간의 정보를 제공하기에는 한계 존재
8
Introduction
Problem Statement
• 최근 몇 년 동안 에너지 부족현상 증가
➔ 청정 재생 에너지 원인 풍력에너지 주목
• 불안정한 풍력 에너지의 수급을 해결하기 위한 정확한 풍속과 풍향의 예측이 필요함
• 높은 정확도를 위해서 구체적인 공간 정보를 그래프에 반영해야 함
9
Introduction
Contributions
• 본 연구는 시계열적 특징을 가지는 다양한 기상 변수와 관측소 간 지형정보를 반영할 수 있는 그래프 신경망 제안함
1. 지형 및 지리적 환경에 대한 이해를 더욱 강화할 수 있음
2. 지형정보를 통해 지역 특징을 보다 더 고려할 수 있음
3. 지형정보를 통해 관측소 배치에 대한 정보를 반영할 수 있음
➔ 관측소가 지형적으로 위치가 비슷한 경우 서로 상호작용이 강해지므로, 관측소 네트워크를 최적화 하는데 유용함
10
Methodology
Model Architecture
11
Methodology
Feature Extraction for Multi-Modal Graph
𝑣0,𝑡
= 𝐹𝐹𝑁 𝑙
𝑥ℎ
||𝑥𝑚𝑡
𝑒0
= 𝐶𝑁𝑁 𝑥𝑙𝑎𝑛𝑑
𝑥ℎ
: 𝑛𝑜𝑑𝑒 𝑒𝑚𝑏𝑒𝑑𝑑𝑖𝑛𝑔
𝑥𝑙𝑎𝑛𝑑
: 𝑙𝑎𝑛𝑑 𝑓𝑒𝑎𝑡𝑢𝑟𝑒
𝑥𝑚𝑡: 𝑚𝑒𝑡𝑒𝑜𝑟𝑜𝑙𝑜𝑔𝑖𝑐𝑎𝑙 𝑣𝑎𝑟𝑖𝑎𝑏𝑙𝑒 (𝑡 𝑠𝑡𝑒𝑝)
𝐺𝑡
= 𝑉𝑡
, 𝐸
𝑉𝑡 = 𝑣0
0,𝑡
, 𝑣1
0,𝑡
, 𝑣2
0,𝑡
, … , 𝑣𝑁𝑣
0,𝑡
𝐸 = {𝑒0,1
0
, 𝑒0,2
0
, 𝑒0,3
0
, … }
12
Methodology
Graph Attention Network (GAT)
𝑣𝑖
𝑙,𝑡
= 𝛼𝑖,𝑖𝑊𝑙
𝑣𝑖
𝑙−1,𝑡
+ ෍
𝑗∈𝒩(𝑖)
𝛼𝑖,𝑗𝑊𝑙
𝑣𝑗
𝑙−1,𝑡
𝛼𝑖,𝑗 =
exp(𝐿𝑒𝑎𝑘𝑦𝑅𝑒𝐿𝑈 𝒂T[𝑊𝑙𝑣𝑖
𝑙−1,𝑡
||𝑊𝑙𝑣𝑗
𝑙−1,𝑡
||𝑊
𝑒
𝑙𝑒𝑖,𝑗
𝑙−1
] )
σ𝑘∈𝒩 𝑖 ∪{𝑖} exp(𝐿𝑒𝑎𝑘𝑦𝑅𝑒𝐿𝑈 𝒂T 𝑊𝑙𝑣𝑖
𝑙−1,𝑡
||𝑊𝑙𝑣𝑘
𝑙−1,𝑡
||𝑊
𝑒
𝑙
𝑒𝑖,𝑘
𝑙−1
)
(출처 : Graph Attention Networks, ICLR 2018)
<GAT Aggregation>
13
Methodology
Recurrent Neural Network (RNN)
𝑣𝑖
𝑙,𝑡−𝑛
𝑣𝑖
𝑙,𝑡− 𝑛−1
𝑣𝑖
𝑙,𝑡
𝑣𝑖
𝑙,𝑡+1
𝑣𝑖
𝑙,𝑡+𝑚
14
Experiment Plan
Baselines
• ST-GCN (Sptial-temporal GNN) 등과 같은 SOTA (State-Of-The-Art) 모델들과 비교할 계획
Performance Evaluation
• MAE (Mean Absolute Error)
• RMSE (Root Mean Square Error)
• MAPE (Mean Absolute Percentage Error)
• SMAPE (Symmetric Mean Absolute Percentage Error)
• R2 (Coefficient of determination)
Sensitivity Experiment
• 지형 정보 포함 유무에 대한 분석
• 해상도에 대한 영향 분석 (5km ~ 90m)
• 관측소 간 거리에 대한 분석 (20km ~ 40km, 5km 간
격)
15
Conclusion
• 본 연구는 풍속과 풍향의 정확한 예측을 위해 지형 정보를 반영한 다중모달 시공간적 그래프신경망 제안함
• 지형 고도 자료와 지면 피복 자료의 반영이 기존 SOTA 모델들 대비 예측 향상도를 평가할 예정
• 추후 민감도 실험을 수행하여 제안한 모델의 성능을 상세히 분석하고 평가할 예정

Weitere ähnliche Inhalte

Mehr von Network Science Lab, The Catholic University of Korea

Mehr von Network Science Lab, The Catholic University of Korea (20)

230724_Thuy_Labseminar.pptx
230724_Thuy_Labseminar.pptx230724_Thuy_Labseminar.pptx
230724_Thuy_Labseminar.pptx
 
230724-JH-Lab Seminar.pptx
230724-JH-Lab Seminar.pptx230724-JH-Lab Seminar.pptx
230724-JH-Lab Seminar.pptx
 
5강 - 멀티모달 및 모듈화.pptx
5강 - 멀티모달 및 모듈화.pptx5강 - 멀티모달 및 모듈화.pptx
5강 - 멀티모달 및 모듈화.pptx
 
3강 - CNN 및 이미지 모델.pptx
3강 - CNN 및 이미지 모델.pptx3강 - CNN 및 이미지 모델.pptx
3강 - CNN 및 이미지 모델.pptx
 
4강 - RNN 및 시계열 모델.pptx
4강 - RNN 및 시계열 모델.pptx4강 - RNN 및 시계열 모델.pptx
4강 - RNN 및 시계열 모델.pptx
 
2강 - 실험 흐름과 멀티모달 개요.pptx
2강 - 실험 흐름과 멀티모달 개요.pptx2강 - 실험 흐름과 멀티모달 개요.pptx
2강 - 실험 흐름과 멀티모달 개요.pptx
 
1강 - pytorch와 tensor.pptx
1강 - pytorch와 tensor.pptx1강 - pytorch와 tensor.pptx
1강 - pytorch와 tensor.pptx
 
Technical Report on "Lecture Quality Prediction using Graph Neural Networks"
Technical Report on "Lecture Quality Prediction using Graph Neural Networks"Technical Report on "Lecture Quality Prediction using Graph Neural Networks"
Technical Report on "Lecture Quality Prediction using Graph Neural Networks"
 
Presentation for "Lecture Quality Prediction using Graph Neural Networks"
Presentation for "Lecture Quality Prediction using Graph Neural Networks"Presentation for "Lecture Quality Prediction using Graph Neural Networks"
Presentation for "Lecture Quality Prediction using Graph Neural Networks"
 
NS-CUK Seminar: J.H.Lee, Review on "Graph Neural Networks with convolutional ...
NS-CUK Seminar: J.H.Lee, Review on "Graph Neural Networks with convolutional ...NS-CUK Seminar: J.H.Lee, Review on "Graph Neural Networks with convolutional ...
NS-CUK Seminar: J.H.Lee, Review on "Graph Neural Networks with convolutional ...
 
NS-CUK Seminar: V.T.Hoang, Review on "Are More Layers Beneficial to Graph Tra...
NS-CUK Seminar: V.T.Hoang, Review on "Are More Layers Beneficial to Graph Tra...NS-CUK Seminar: V.T.Hoang, Review on "Are More Layers Beneficial to Graph Tra...
NS-CUK Seminar: V.T.Hoang, Review on "Are More Layers Beneficial to Graph Tra...
 
NS-CUK Seminar: S.T.Nguyen Review on "Accurate learning of graph representati...
NS-CUK Seminar: S.T.Nguyen Review on "Accurate learning of graph representati...NS-CUK Seminar: S.T.Nguyen Review on "Accurate learning of graph representati...
NS-CUK Seminar: S.T.Nguyen Review on "Accurate learning of graph representati...
 
Ho-Beom Kim: Detection of Influential Unethical Expressions through Construct...
Ho-Beom Kim: Detection of Influential Unethical Expressions through Construct...Ho-Beom Kim: Detection of Influential Unethical Expressions through Construct...
Ho-Beom Kim: Detection of Influential Unethical Expressions through Construct...
 
NS-CUK Seminar: J.H.Lee, Review on "Hyperbolic graph convolutional neural net...
NS-CUK Seminar: J.H.Lee, Review on "Hyperbolic graph convolutional neural net...NS-CUK Seminar: J.H.Lee, Review on "Hyperbolic graph convolutional neural net...
NS-CUK Seminar: J.H.Lee, Review on "Hyperbolic graph convolutional neural net...
 
Sang_Graphormer.pdf
Sang_Graphormer.pdfSang_Graphormer.pdf
Sang_Graphormer.pdf
 
NS-CUK Seminar: S.T.Nguyen, Review on "Do Transformers Really Perform Bad for...
NS-CUK Seminar: S.T.Nguyen, Review on "Do Transformers Really Perform Bad for...NS-CUK Seminar: S.T.Nguyen, Review on "Do Transformers Really Perform Bad for...
NS-CUK Seminar: S.T.Nguyen, Review on "Do Transformers Really Perform Bad for...
 
NS-CUK Seminar: S.T.Nguyen, Review on "DeeperGCN: All You Need to Train Deepe...
NS-CUK Seminar: S.T.Nguyen, Review on "DeeperGCN: All You Need to Train Deepe...NS-CUK Seminar: S.T.Nguyen, Review on "DeeperGCN: All You Need to Train Deepe...
NS-CUK Seminar: S.T.Nguyen, Review on "DeeperGCN: All You Need to Train Deepe...
 
NS-CUK Seminar: V.T.Hoang, Review on "Everything is Connected: Graph Neural N...
NS-CUK Seminar: V.T.Hoang, Review on "Everything is Connected: Graph Neural N...NS-CUK Seminar: V.T.Hoang, Review on "Everything is Connected: Graph Neural N...
NS-CUK Seminar: V.T.Hoang, Review on "Everything is Connected: Graph Neural N...
 
AI-CUK Joint Journal Club: V.T.Hoang, Review on "Global self-attention as a r...
AI-CUK Joint Journal Club: V.T.Hoang, Review on "Global self-attention as a r...AI-CUK Joint Journal Club: V.T.Hoang, Review on "Global self-attention as a r...
AI-CUK Joint Journal Club: V.T.Hoang, Review on "Global self-attention as a r...
 
NS-CUK Seminar: S.T.Nguyen, Review on "On Generalized Degree Fairness in Grap...
NS-CUK Seminar: S.T.Nguyen, Review on "On Generalized Degree Fairness in Grap...NS-CUK Seminar: S.T.Nguyen, Review on "On Generalized Degree Fairness in Grap...
NS-CUK Seminar: S.T.Nguyen, Review on "On Generalized Degree Fairness in Grap...
 

Joo-Ho Lee: Topographic-aware wind forecasting system using multi-modal spatio-temporal graph neural network

  • 1. 이주호 School of Computer Science and Information Engineering, The Catholic University of Korea E-mail: jooho414@gmail.com
  • 2. 1 Introduction Problem Statement • 최근 몇 년 동안 에너지 부족현상 증가 ➔ 청정 재생 에너지 원인 풍력에너지 주목 (출처 : International Renewable Energy Agency)
  • 3. 2 Introduction 에너지 재생 트렌드 (출처 : International Renewable Energy Agency) Offshore wind : 육상 풍력 Onshore wind : 해상 풍력 풍력 에너지 생산량 증가 매년 증가
  • 4. 3 Introduction 연간 재생 에너지 분야의 지출 계획 (출처 : International Renewable Energy Agency) ➔ 태양 에너지 다음으로 가장 큰 투자를 받고 있는 에너지원
  • 5. 4 Introduction (출처 : International Renewable Energy Agency) 국가별 새로 의뢰된 육상 풍력 프로젝트의 가중 평균 LCOE • LCOE (균등화발전원가) : 발전소가 1kWh의 전기를 생산하기 위한 비용 모든 국가에서 풍력 발전에 대한 비용 감소 중 ➔ 풍력에 대한 개발 진행 중
  • 6. 5 Introduction (출처 : International Renewable Energy Agency) Problem Statement • 최근 몇 년 동안 에너지 부족현상 증가 ➔ 청정 재생 에너지 원인 풍력에너지 주목 • 따라서 풍력 발전의 문제인 불안정한 풍력 에너지의 수급을 해결하기 위한 정확한 풍속과 풍향의 예측이 필요함
  • 7. 6 Introduction Spatio-temporal wind speed forecasting using graph networks and novel Transformer architectures, Applied Energy 2022 Problem Statement 그래프로 공간적 정보를 주지만 한계가 존재함
  • 8. 7 Introduction Problem Statement • 노드끼리의 연결성은 표현은 가능하지만 노드 사이의 구체적인 정보는 연결 만으로는 표현 불가능 (출처 : Adaptive Spatio-temporal Graph Neural Network for traffic forecasting, Knowledge-Based Systems) 그래프로 표현 연결 만으로는 노드 간의 정보를 제공하기에는 한계 존재
  • 9. 8 Introduction Problem Statement • 최근 몇 년 동안 에너지 부족현상 증가 ➔ 청정 재생 에너지 원인 풍력에너지 주목 • 불안정한 풍력 에너지의 수급을 해결하기 위한 정확한 풍속과 풍향의 예측이 필요함 • 높은 정확도를 위해서 구체적인 공간 정보를 그래프에 반영해야 함
  • 10. 9 Introduction Contributions • 본 연구는 시계열적 특징을 가지는 다양한 기상 변수와 관측소 간 지형정보를 반영할 수 있는 그래프 신경망 제안함 1. 지형 및 지리적 환경에 대한 이해를 더욱 강화할 수 있음 2. 지형정보를 통해 지역 특징을 보다 더 고려할 수 있음 3. 지형정보를 통해 관측소 배치에 대한 정보를 반영할 수 있음 ➔ 관측소가 지형적으로 위치가 비슷한 경우 서로 상호작용이 강해지므로, 관측소 네트워크를 최적화 하는데 유용함
  • 12. 11 Methodology Feature Extraction for Multi-Modal Graph 𝑣0,𝑡 = 𝐹𝐹𝑁 𝑙 𝑥ℎ ||𝑥𝑚𝑡 𝑒0 = 𝐶𝑁𝑁 𝑥𝑙𝑎𝑛𝑑 𝑥ℎ : 𝑛𝑜𝑑𝑒 𝑒𝑚𝑏𝑒𝑑𝑑𝑖𝑛𝑔 𝑥𝑙𝑎𝑛𝑑 : 𝑙𝑎𝑛𝑑 𝑓𝑒𝑎𝑡𝑢𝑟𝑒 𝑥𝑚𝑡: 𝑚𝑒𝑡𝑒𝑜𝑟𝑜𝑙𝑜𝑔𝑖𝑐𝑎𝑙 𝑣𝑎𝑟𝑖𝑎𝑏𝑙𝑒 (𝑡 𝑠𝑡𝑒𝑝) 𝐺𝑡 = 𝑉𝑡 , 𝐸 𝑉𝑡 = 𝑣0 0,𝑡 , 𝑣1 0,𝑡 , 𝑣2 0,𝑡 , … , 𝑣𝑁𝑣 0,𝑡 𝐸 = {𝑒0,1 0 , 𝑒0,2 0 , 𝑒0,3 0 , … }
  • 13. 12 Methodology Graph Attention Network (GAT) 𝑣𝑖 𝑙,𝑡 = 𝛼𝑖,𝑖𝑊𝑙 𝑣𝑖 𝑙−1,𝑡 + ෍ 𝑗∈𝒩(𝑖) 𝛼𝑖,𝑗𝑊𝑙 𝑣𝑗 𝑙−1,𝑡 𝛼𝑖,𝑗 = exp(𝐿𝑒𝑎𝑘𝑦𝑅𝑒𝐿𝑈 𝒂T[𝑊𝑙𝑣𝑖 𝑙−1,𝑡 ||𝑊𝑙𝑣𝑗 𝑙−1,𝑡 ||𝑊 𝑒 𝑙𝑒𝑖,𝑗 𝑙−1 ] ) σ𝑘∈𝒩 𝑖 ∪{𝑖} exp(𝐿𝑒𝑎𝑘𝑦𝑅𝑒𝐿𝑈 𝒂T 𝑊𝑙𝑣𝑖 𝑙−1,𝑡 ||𝑊𝑙𝑣𝑘 𝑙−1,𝑡 ||𝑊 𝑒 𝑙 𝑒𝑖,𝑘 𝑙−1 ) (출처 : Graph Attention Networks, ICLR 2018) <GAT Aggregation>
  • 14. 13 Methodology Recurrent Neural Network (RNN) 𝑣𝑖 𝑙,𝑡−𝑛 𝑣𝑖 𝑙,𝑡− 𝑛−1 𝑣𝑖 𝑙,𝑡 𝑣𝑖 𝑙,𝑡+1 𝑣𝑖 𝑙,𝑡+𝑚
  • 15. 14 Experiment Plan Baselines • ST-GCN (Sptial-temporal GNN) 등과 같은 SOTA (State-Of-The-Art) 모델들과 비교할 계획 Performance Evaluation • MAE (Mean Absolute Error) • RMSE (Root Mean Square Error) • MAPE (Mean Absolute Percentage Error) • SMAPE (Symmetric Mean Absolute Percentage Error) • R2 (Coefficient of determination) Sensitivity Experiment • 지형 정보 포함 유무에 대한 분석 • 해상도에 대한 영향 분석 (5km ~ 90m) • 관측소 간 거리에 대한 분석 (20km ~ 40km, 5km 간 격)
  • 16. 15 Conclusion • 본 연구는 풍속과 풍향의 정확한 예측을 위해 지형 정보를 반영한 다중모달 시공간적 그래프신경망 제안함 • 지형 고도 자료와 지면 피복 자료의 반영이 기존 SOTA 모델들 대비 예측 향상도를 평가할 예정 • 추후 민감도 실험을 수행하여 제안한 모델의 성능을 상세히 분석하고 평가할 예정