[Paper] Heterogeneous Graph Attention Network

“Neural Network for Graphs: A Contextual Constructive Approach”이란 논문에 대한 리뷰입니다.

원문은 링크에서 확인할 수 있습니다.

특징

Node level과 semantic level attention 모두 사용한다.

• Node level은 node와 meta-path based neighbors로 정해져 node에 weight를 주게 된다.
• Semantic level은 specific task에 맞춰서 meta-path에게 weight를 주게 된다.

전반적인 schema

Type 별로 embedding 생성

Node level attention을 진행하고

softmax로 normalization

node level attention과 neighbor의 embedding으로 node의 embedding 생성

이걸 nonlinear activation을 거치고 다시 softmax하여 normalization

즉 앞서 node level embedding과 semantic level embedding을 다시 합치기

loss는 cross entropy로 진행하고 semi 환경에 대한 l index이다.