SlideShare ist ein Scribd-Unternehmen logo
1 von 28
自然特徴点を利用した
    MR-PreViz用
位置合わせ手法の研究




      リアリティメディア研究室
            樋下 航
MR-PreViz




    PreVisualization + Mixed Reality
幾何学的整合性と位置合わせ


CGの木




  位置合わせ失敗   位置合わせ成功
歴史 MR-PreViz用位置合わせ
 H17         2
       屋内外 自由度
       ロータリーエンコーダ


 H18     6
       屋内 自由度
       ロータリーエンコーダと超音波式センサの併用


 H21     6
       屋外 自由度
       自然特徴点ランドマークデータベース
ランドマークデータベース
を用いたカメラトラッキング




                        ランドマーク




Structure-from-Motion
映画撮影の特性を活かした
効率的なデータベース構築


        A




            立方体マーカ



       本番撮影時と同じようなカメラパス
マーカを映し続けるという   制約
初期フレーム




                    最終フレーム
マーカの配置は大変!


            A
    A               A


A                       A
        A       A
2phase 提案手法
   準備段階       MR-PreViz撮影




          A
          F
          F


                     ランドマーク
                     データベース


   ランドマーク     カメラトラッキング
 データベースの構築
オフライン
ランドマークデータベース構築
目標
 マーカを常に映す必要の
     ない構築手法へ


     短時間という制約の中で
1                2




    マーカの配置            動画像の取得
3                4




ランドマークデータベース構築       マーカの取り払い


             4step ワークフロー
ポイント
自然特徴点の3次元位置推定
                         自然特徴点



  1th frame              tth frame         nth frame




カメラ位置
                        
        F  A T [t ] X RA 1


 ステレオ視                        Structure-from-Motion
動画像の一例




   より多彩なカメラワークが可能に
実験


           立命館大学 朱雀キャンパスの駐車場

撮影カメラ   Sony DSR-PD170
入力画像    720×480 pixel (プログレッシブ,15fps)
処理用PC   Core2 Extreme 2.8GHz,4.0GB RAM
ランドマークデータベース構築実験


                     • ランドマーク数:
                       940点
                     • 再投影誤差の平均:
                       0.81 pixel
                     • 3次元位置推定処理時間
                        – 250フレームの動画像
                        – 合計約187秒

3次元位置が推定済みの特徴点
検出された特徴点(3次元位置は未知)
登録されたランドマーク


          ランドマーク




         推定されたカメラパス
データベース構築の結果例
オンライン
カメラトラッキング
目標
• リアルタイム処理
• トラッキング破綻からの復帰
カメラ位置姿勢推定
             ランドマーク


              World
    特徴点

Camera


               変換行列   M4×4


          対応づけをいかに行うか
ポイント
SIFT特徴量を用いた対応付け                      入力画像例

                                        スケール変化
         ランドマーク
         データベース
                                         回転変化


                  SIFT        SIFT
                         照合
                  特徴量         特徴量

データベース
構築時の画像
                                         照明変化




                         高速性と安定性の両立
処理時間

 全体

 対応付け
                           r' d '
 SIFT          SIFTscale 
 記述                         d
               r’: DB構築時のSIFT記述領域
               d’: DB構築時のカメラ間距離
               d: トラッキング時のカメラ間距離
高速化前    高速化後



高速化         SIFTの記述領域をカメラと
        ランドマークの3次元距離から決定
安定化   破綻フレームの前後でランドマークを
         SIFT特徴量により対応付ける
トラッキング実験

• 処理時間:
  18.05 [ms / frame]

• 推定誤差
  – 平均位置推定誤差:
    19.3 [mm]
  – 光軸向きの平均推定誤差:       1フレームあたりの処理時間の内訳
    0.18 [degree]        各処理       処理時間 [ms]
                       ランドマークの選択      0.21
                        特徴点検出        15.60
                         対応付け         1.68
                       カメラ位置姿勢推定      0.56
                          合計         18.05
トラッキング実験 破綻からの復帰

               60
 対応付けに成功したランドマーク



               50

               40
       [個数]




               30

               20

               10

                   0
                       0   30   60   90   120   150   180   210   240   270   300
                                          経過時間 [フレーム]



ランドマークがない方向へ                                                データベース構築時の
瞬間的にカメラを向けた際の破綻                                             カメラパスから離れた際の破綻
トラッキングの様子
まとめ
  ・マーカを常に映さなくてよいランドマーク
   データベース構築手法
  ・実時間かつ安定したカメラトラッキング手法
  撮影対象とカメラの移動範囲が事前に特定
  できる場合,他のMRシステムにも適用可能


今後の課題
  ・自然特徴点を拾えない対象への対処

Weitere ähnliche Inhalte

Was ist angesagt?

Was ist angesagt? (18)

CNN-SLAMざっくり
CNN-SLAMざっくりCNN-SLAMざっくり
CNN-SLAMざっくり
 
SLAM勉強会(3) LSD-SLAM
SLAM勉強会(3) LSD-SLAMSLAM勉強会(3) LSD-SLAM
SLAM勉強会(3) LSD-SLAM
 
SSII2019TS: 実践カメラキャリブレーション ~カメラを用いた実世界計測の基礎と応用~
SSII2019TS: 実践カメラキャリブレーション ~カメラを用いた実世界計測の基礎と応用~SSII2019TS: 実践カメラキャリブレーション ~カメラを用いた実世界計測の基礎と応用~
SSII2019TS: 実践カメラキャリブレーション ~カメラを用いた実世界計測の基礎と応用~
 
SLAM勉強会(PTAM)
SLAM勉強会(PTAM)SLAM勉強会(PTAM)
SLAM勉強会(PTAM)
 
Camera calibration
Camera calibrationCamera calibration
Camera calibration
 
SSII2021 [OS3-02] BIM/CIMにおいて安価に点群を取得する目的とその利活用
SSII2021 [OS3-02] BIM/CIMにおいて安価に点群を取得する目的とその利活用SSII2021 [OS3-02] BIM/CIMにおいて安価に点群を取得する目的とその利活用
SSII2021 [OS3-02] BIM/CIMにおいて安価に点群を取得する目的とその利活用
 
Visual SLAM: Why Bundle Adjust?の解説(第4回3D勉強会@関東)
Visual SLAM: Why Bundle Adjust?の解説(第4回3D勉強会@関東)Visual SLAM: Why Bundle Adjust?の解説(第4回3D勉強会@関東)
Visual SLAM: Why Bundle Adjust?の解説(第4回3D勉強会@関東)
 
SSII2019TS: 実践カメラキャリブレーション ~カメラを用いた実世界計測の基礎と応用~
SSII2019TS: 実践カメラキャリブレーション ~カメラを用いた実世界計測の基礎と応用~SSII2019TS: 実践カメラキャリブレーション ~カメラを用いた実世界計測の基礎と応用~
SSII2019TS: 実践カメラキャリブレーション ~カメラを用いた実世界計測の基礎と応用~
 
Cvim saisentan-cvpr-hyper depth
Cvim saisentan-cvpr-hyper depthCvim saisentan-cvpr-hyper depth
Cvim saisentan-cvpr-hyper depth
 
三次元点群処理ライブラリPCLと 統合ロボットシステム研究での 利用例の紹介
三次元点群処理ライブラリPCLと 統合ロボットシステム研究での 利用例の紹介三次元点群処理ライブラリPCLと 統合ロボットシステム研究での 利用例の紹介
三次元点群処理ライブラリPCLと 統合ロボットシステム研究での 利用例の紹介
 
ROS の活用による屋外の歩行者空間に適応した自律移動ロボットの開発
ROS の活用による屋外の歩行者空間に適応した自律移動ロボットの開発ROS の活用による屋外の歩行者空間に適応した自律移動ロボットの開発
ROS の活用による屋外の歩行者空間に適応した自律移動ロボットの開発
 
論文読み会2018 (CodeSLAM)
論文読み会2018 (CodeSLAM)論文読み会2018 (CodeSLAM)
論文読み会2018 (CodeSLAM)
 
CVPR2019 読み会「Understanding the Limitations of CNN-based Absolute Camera Pose ...
CVPR2019 読み会「Understanding the Limitations of CNN-based Absolute Camera Pose ...CVPR2019 読み会「Understanding the Limitations of CNN-based Absolute Camera Pose ...
CVPR2019 読み会「Understanding the Limitations of CNN-based Absolute Camera Pose ...
 
CVPR2019読み会 "A Theory of Fermat Paths for Non-Line-of-Sight Shape Reconstruc...
CVPR2019読み会 "A Theory of Fermat Paths  for Non-Line-of-Sight Shape Reconstruc...CVPR2019読み会 "A Theory of Fermat Paths  for Non-Line-of-Sight Shape Reconstruc...
CVPR2019読み会 "A Theory of Fermat Paths for Non-Line-of-Sight Shape Reconstruc...
 
cvsaisentan20141004 kanezaki
cvsaisentan20141004 kanezakicvsaisentan20141004 kanezaki
cvsaisentan20141004 kanezaki
 
第41回関東CV勉強会 CNN-SLAM
第41回関東CV勉強会 CNN-SLAM第41回関東CV勉強会 CNN-SLAM
第41回関東CV勉強会 CNN-SLAM
 
Scan Registration for Autonomous Mining Vehicles Using 3D-NDT
Scan Registration for Autonomous Mining Vehicles Using 3D-NDTScan Registration for Autonomous Mining Vehicles Using 3D-NDT
Scan Registration for Autonomous Mining Vehicles Using 3D-NDT
 
論文読み会(DeMoN;CVPR2017)
論文読み会(DeMoN;CVPR2017)論文読み会(DeMoN;CVPR2017)
論文読み会(DeMoN;CVPR2017)
 

Ähnlich wie Master Thesis

データマイニング勉強会3
データマイニング勉強会3データマイニング勉強会3
データマイニング勉強会3
Yohei Sato
 
SSII2014 チュートリアル資料
SSII2014 チュートリアル資料SSII2014 チュートリアル資料
SSII2014 チュートリアル資料
Masayuki Tanaka
 
Light weightbinocular sigasia2012_face
Light weightbinocular sigasia2012_faceLight weightbinocular sigasia2012_face
Light weightbinocular sigasia2012_face
ishii yasunori
 
監視映像システムのための複数センサを活用したイベントドリブン型適応レート制御の性能評価
監視映像システムのための複数センサを活用したイベントドリブン型適応レート制御の性能評価監視映像システムのための複数センサを活用したイベントドリブン型適応レート制御の性能評価
監視映像システムのための複数センサを活用したイベントドリブン型適応レート制御の性能評価
Keigo Ogawa
 
OpenCVをAndroidで動かしてみた
OpenCVをAndroidで動かしてみたOpenCVをAndroidで動かしてみた
OpenCVをAndroidで動かしてみた
徹 上野山
 

Ähnlich wie Master Thesis (20)

MIRU2018 tutorial
MIRU2018 tutorialMIRU2018 tutorial
MIRU2018 tutorial
 
ADVENTUREの他のモジュール・関連プロジェクトの紹介
ADVENTUREの他のモジュール・関連プロジェクトの紹介ADVENTUREの他のモジュール・関連プロジェクトの紹介
ADVENTUREの他のモジュール・関連プロジェクトの紹介
 
Structured Light 技術俯瞰
Structured Light 技術俯瞰Structured Light 技術俯瞰
Structured Light 技術俯瞰
 
VMレプリケーション なら 「オンプレ」「クラウド」自由自在 【Zerto(ゼルト)】とは?
VMレプリケーション なら 「オンプレ」「クラウド」自由自在 【Zerto(ゼルト)】とは?VMレプリケーション なら 「オンプレ」「クラウド」自由自在 【Zerto(ゼルト)】とは?
VMレプリケーション なら 「オンプレ」「クラウド」自由自在 【Zerto(ゼルト)】とは?
 
データマイニング勉強会3
データマイニング勉強会3データマイニング勉強会3
データマイニング勉強会3
 
Contest 02 presentation (RT-Middleware Contest of SI2017)
Contest 02 presentation (RT-Middleware Contest of SI2017) Contest 02 presentation (RT-Middleware Contest of SI2017)
Contest 02 presentation (RT-Middleware Contest of SI2017)
 
SSII2020 [O3-01] Extreme 3D センシング
SSII2020 [O3-01]  Extreme 3D センシングSSII2020 [O3-01]  Extreme 3D センシング
SSII2020 [O3-01] Extreme 3D センシング
 
SSII2014 チュートリアル資料
SSII2014 チュートリアル資料SSII2014 チュートリアル資料
SSII2014 チュートリアル資料
 
Light weightbinocular sigasia2012_face
Light weightbinocular sigasia2012_faceLight weightbinocular sigasia2012_face
Light weightbinocular sigasia2012_face
 
監視映像システムのための複数センサを活用したイベントドリブン型適応レート制御の性能評価
監視映像システムのための複数センサを活用したイベントドリブン型適応レート制御の性能評価監視映像システムのための複数センサを活用したイベントドリブン型適応レート制御の性能評価
監視映像システムのための複数センサを活用したイベントドリブン型適応レート制御の性能評価
 
PIRF-NAV2
PIRF-NAV2PIRF-NAV2
PIRF-NAV2
 
(文献紹介)深層学習による動被写体ロバストなカメラの動き推定
(文献紹介)深層学習による動被写体ロバストなカメラの動き推定(文献紹介)深層学習による動被写体ロバストなカメラの動き推定
(文献紹介)深層学習による動被写体ロバストなカメラの動き推定
 
Hiroshima Motion Control Network 12, September, 2015
Hiroshima Motion Control Network   12, September, 2015Hiroshima Motion Control Network   12, September, 2015
Hiroshima Motion Control Network 12, September, 2015
 
画像認識で物を見分ける
画像認識で物を見分ける画像認識で物を見分ける
画像認識で物を見分ける
 
200730material fujita
200730material fujita200730material fujita
200730material fujita
 
OpenCVをAndroidで動かしてみた
OpenCVをAndroidで動かしてみたOpenCVをAndroidで動かしてみた
OpenCVをAndroidで動かしてみた
 
StreamGraph
StreamGraphStreamGraph
StreamGraph
 
アドテク×Scala×パフォーマンスチューニング
アドテク×Scala×パフォーマンスチューニングアドテク×Scala×パフォーマンスチューニング
アドテク×Scala×パフォーマンスチューニング
 
Kidoguchi
KidoguchiKidoguchi
Kidoguchi
 
Rancher meetupdeepdive#01 LT
Rancher meetupdeepdive#01 LTRancher meetupdeepdive#01 LT
Rancher meetupdeepdive#01 LT
 

Master Thesis