PostgreSQL9.3新機能紹介

Copyright © 2013 NTT DATA Corporation
2013年7月6日
NTTデータ藤井雅雄
PostgreSQL9.3新機能紹介
オープンソースカンファレンス 2013 Okinawa

2Copyright © 2013 NTT DATA Corporation
今日お話ししたいこと
 PostgreSQLのこれまでと現在の話
 PostgreSQLのこれから … 9.3の話
開発に役立つ新機能
運用に役立つ新機能
ちょっぴり注意！非互換性について
 まとめ

Copyright © 2013 NTT DATA Corporation 3
PostgreSQLのこれまでと現在の話

PostgreSQLの歩み
PostgreSQL最新版は9.2.4(2013/4/4 リリース)
2005-2009
2010-
8系
9系
VACUUMとの戦い
運用性・性能アップ
レプリケーションの導入
更なる拡張
基礎固め
7系 2000-2005
9.3
開発中

PostgreSQLの歩み～9系を振り返る
2011
2012
2013
9.0
9.1
9.2
同期レプリケーション
UNLOGGED TABLE
SQL/MED
スケーラビリティ向上
カスケードレプリケーション
インデックスオンリースキャン
2010
非同期レプリケーション
ホットスタンバイ
SQL構文強化
8系
-2009
9.3
開発中
PostgreSQL最新版は9.2.4(2013/4/4 リリース)

CPUスケーラビリティの向上
参照時の軽量ロックが改良され、参照処理性能が大幅にアップ！
メニーコアの環境で更なるパフォーマンスの発揮が期待されます
論理コア64以上では、
9.1の実に3倍以上の
スループットを実現！
どんとこい！
メニーコア
PgCon 2012
Robert Haas 発表資料 (2012/5/18) より

シングルマスタ
マルチスタンバイマルチスタンバイ
複製複製
更新SQL
参照SQL
参照SQL
参照SQL
シングルマスタ－マルチスタンバイのレプリケーション
同期/非同期やカスケードレプリケーションなどが利用可能
スタンバイで参照SQLを実行して負荷分散
スタンバイからのバックアップを取得可能!
バック
アップ
低負荷なスタンバイ
から取得!

PostgreSQLのこれから…9.3の話

PostgreSQL9.3のFAQ
Q1. 特徴は？
A1. “Ease of Use” by Robert Treat
開発者・運用者向けの新機能が充実！
Q2. いつ出るの？
A2. 9月ごろのリリースが予想されています！
7/6現在β2がリリース中

開発に役立つ新機能！

マテリアライズドビュー(マテビュー)
ID NAME
1 沖縄
2 新潟
…
ID NAME
1 沖縄
2 新潟
…
ID NAME
マテビュー
(普通の)ビューテーブル
SELECT *
FROM ビュー
SELECT *
FROM マテビュー
SELECT *
FROM テーブル
クエリの結果をビューにキャッシュできる！
 複雑で時間のかかるクエリのビューに対するアクセスが高速に
 頻発するビューへのアクセスに効果
マテビュー作成時
にキャッシュ！

ID NAME
1 沖縄
2 新潟
3 岐阜
…
ID NAME
マテビュー
(普通の)ビュー
SELECT *
FROM ビュー
SELECT *
FROM マテビュー
SELECT *
FROM テーブル
クエリの結果をビューにキャッシュできる！
 複雑で時間のかかるクエリのビューに対するアクセスが高速に
 頻発するビューへのアクセスに効果
ID NAME
1 沖縄
2 新潟
3 岐阜
…
テーブル
REFRESH
元テーブルの更新は
REFRESHコマンドで
マテビューに反映

高度な機能はまだ9.3では利用できないことに注意
自動・定期リフレッシュ機能がない
 元テーブルの更新ごとに自動的にリフレッシュ、定期的にリフレッシュ
する機能がない
 トリガやcronで代替
高速リフレッシュ機能がない
 元テーブルの更新差分だけをリフレッシュできない
 リフレッシュ時に、マテビューに排他ロックが必要
元テーブルが頻繁に更新される場合や最新の結果が必要な
場合は、マテビューの利用を慎重に要検討

更新可能ビュー
ID NAME
1 沖縄
2 新潟
…
ID NAME
1 沖縄
2 新潟
…
ID NAME
マテビュー
(普通の)ビューテーブル
INSERT
UPDATE
DELETE
ビューを更新できる！更新は自動的に元テーブルに反映
 商用DBのシノニムの代替に
 単純でないクエリのビューは更新できないことに注意
INSERT
UPDATE
DELETE
INSERT
UPDATE
DELETE

JSON型の進化
JSONファイル
{
"id":1,
"name":"鈴木",
"address":"東京",
"birth_day":"1970-01-01“
}
CREATE TABLE tbl (
data json);
key value
JSON形式のデータを格納するデータ型
 バージョン9.2から利用可能
 バージョン9.2では、行や配列をJSON形式に変換する関数だけサポート

JSON型の進化
JSON型の演算子や関数が充実！
 利用可能な演算子の数が 0個(9.2) → 4個(9.3) に増加
JSON形式のデータ内から一部を取得するのが楽に！
 利用可能な関数の数が 2個(9.2) → 12個(9.3) に増加
JSON形式のデータをKEYとVALUEの行形式に変換！
JSON形式のデータからKEYだけを取得！

FDW(Foreign Data Wrapper)
ID NAME
1 沖縄
2 新潟
…
ID NAME
1 沖縄
2 新潟
…外部テーブル
テーブル
外部のデータをPostgreSQLのテーブルとして扱う機能
1,沖縄
2,新潟
…
CSVファイル
PostgreSQL
MySQL
read()
SELECT
SELECT
mysql_fdw
file_fdw

データベースファイル
mysql_fdw file_fdw (contrib)
oracle_fdw json_fdw
NoSQL その他
mongo_fdw twitter_fdw
redis_fdw s3_fdw
~9.2

データベースファイル
mysql_fdw file_fdw (contrib)
oracle_fdw json_fdw
postgres_fdw (contrib)
NoSQL その他
mongo_fdw twitter_fdw
redis_fdw s3_fdw
9.3

postgres_fdw
ID NAME
1 沖縄
2 新潟
…
ID NAME
1 沖縄
2 新潟
テーブル
リモートのPostgreSQLのテーブルを、ローカルのPostgreSQLの
テーブルとして扱える！
1,沖縄
2,新潟
…
CSVファイル
PostgreSQL
PostgreSQL
read()
SELECT
SELECT
postgres_fdw
file_fdw

書込可能FDW
ID NAME
1 沖縄
2 新潟
…
ID NAME
1 沖縄
2 新潟
テーブル
外部テーブルを更新できる！更新は自動的に外部のデータに
反映
1,沖縄
2,新潟
…
CSVファイル
PostgreSQL
PostgreSQL
read()
write()
SELECT
INSERT
UPDATE
DELETE
SELECT
INSERT
UPDATE
DELETE postgres_fdw
file_fdw

運用に役立つ新機能！

高速フェイルオーバ
故障
検知
共有ﾃﾞｨｽｸ
切替
リカバリ
チェック
ポイント
共有ﾃﾞｨｽｸ
故障
検知
ﾘｶ
ﾊﾞﾘ
チェック
ポイント
故障
検知
ﾘｶ
ﾊﾞﾘ 9.3
~9.2
フェイルオーバ時間を大幅に短縮！
 実行に長時間かかるチェックポイントをスキップ

故障検知をすぐに
新しいタイムアウトパラメータ wal_receiver_timeout で
スタンバイはすぐにマスタ故障を検知！
(*) replication_timeout は wal_sender_timeout に改名
スタンバイ故障の検知
• tcp_keepalives_idle
• tcp_keepalives_interval
• tcp_keepalives_count
• replication_timeout
マスタ故障の検知
• keepalives_idle
• keepalives_interval
• keepalives_count
マスタ故障
故障スタン
バイ
9.2

故障検知をすぐに
新しいタイムアウトパラメータ wal_receiver_timeout で
スタンバイはすぐにマスタ故障を検知！
(*) replication_timeout は wal_sender_timeout に改名
スタンバイ故障の検知
• tcp_keepalives_idle
• tcp_keepalives_interval
• tcp_keepalives_count
• replication_timeout
• wal_sender_timeout マスタ故障の検知
• keepalives_idle
• keepalives_interval
• keepalives_count
• wal_receiver_timeout
マスタ故障
故障スタン
バイ
9.3

カスケードレプリケーションの運用性向上
マスタスタン
バイ
スタン
バイ
バック
アップ
アーカ
イブ
カスケードレプリケーションのフェイルオーバ時にバックアップや共
有アーカイブが不要に！
停止マスタスタン
バイ
バイ
バイ
通常時
マスタ昇格直後
フェイルオーバ後
再開準備中
マスタ故障により
スタンバイがマスタに昇格
レプリケーション再開9.2
面倒！大変！イケテナイ！

マスタスタン
バイ
スタン
バイ
バイ
バイ
通常時
楽チン！時間もかからない！
レプリケーション再開
9.3

ファイルシステム
DB CLOG WAL
ストレージやファイル
システムで破損検知
レイアウトが壊れて
いないかで破損検知
CRC 特別な機構で破損検知
DB
共有バッファ
~9.2
データページチェックサム
データページにチェックサムを付けて、ページの破損をすぐに検知！
 早急な破損検知が非常に重要
破損がクエリ結果の誤りやクラッシュを招く
破損がバックアップやスタンバイに伝搬して、永遠に復旧できない事態も
 initdb -k (or --data-checksums)
 性能への影響が大きいことに注意

ファイルシステム
DB CLOG WAL
CRC
DB
共有バッファ
チェック
サム
チェック
サム
チェックサムの
付与・更新
ストレージやファイル
システムで破損検知
レイアウトが壊れて
いないかで破損検知
特別な機構で破損検知
9.3
チェックサムの
妥当性確認
データページチェックサム
データページにチェックサムを付けて、ページの破損をすぐに検知！
 早急な破損検知が非常に重要
破損がクエリ結果の誤りやクラッシュを招く
破損がバックアップやスタンバイに伝搬して、永遠に復旧できない事態も
 initdb -k (or --data-checksums)
 性能への影響が大きいことに注意

イベントトリガ
DDLにトリガを仕掛けられる！
 9.2以前では、トリガを仕掛けられるのはINSERT/UPDATE/DELETE/TRUNCATEのみ
 9.3以降では、CREATE/ALTER/DROPのDDLにトリガを定義可能。トリガ発動条件は、
ddl_command_start: DDL開始時
ddl_command_end : DDL終了時
sql_drop : DROPやALTER TABLE実行時。対象オブジェクトを指定可能
クレバーなDBA
空き領域
(小)
DDL開始時に
空き領域を確認する
イベントトリガ
十分な空き領域がないのにDDLを実行して、
ディスクフルになるのは勘弁してほしい・・・
そうだ！！
DDL開始時にイベントトリガを仕掛けよう！オペレータ
ALTER TABLEしよう♪

パラレルpg_dump
テーブル1
テーブル2
テーブル3
ワーカー
バック
アップ
ワーカー1
ワーカー2
テーブル1
テーブル2
テーブル3
pg_dump pg_restore –j 2
~9.2
pg_dumpのパラレル実行で、バックアップ時間を大幅に短縮！
 メニーコアでテーブル数が多いときに力を発揮
 トランザクション的に整合性のあるバックアップを取得できる
 スタンバイでは実行できない
 パラレル数+1の接続を使うことに注意

パラレルpg_dump
テーブル1
テーブル2
テーブル3
ワーカー1
ワーカー2
ワーカー3
マネージャ
バック
アップ
ワーカー1
ワーカー2
テーブル1
テーブル2
テーブル3
pg_dump –j 3 pg_restore –j 2
9.3
pg_dumpのパラレル実行で、バックアップ時間を大幅に短縮！
 メニーコアでテーブル数が多いときに力を発揮
 トランザクション的に整合性のあるバックアップを取得できる
 スタンバイでは実行できない
 パラレル数+1の接続を使うことに注意

pg_isready
DBサーバ
postmasterプロセス
が存在するか？
pg_ctl status
リモート
SQLの実行が
成功するか？
"SELECT 1"
PostgreSQLの稼働状況をお手軽に確認できるクライアントツール
$ pg_isready -h <ホスト名> -p <ポート番号>
$ echo $?
0 : 正常応答 2 : 応答なし
1 : 接続拒否 3 : パラメータ不正
~9.2

pg_isready
DBサーバ
pg_ctl status
リモート
SQLの実行が
成功するか？
"SELECT 1"
pg_isready
PostgreSQLの稼働状況をお手軽に確認できるクライアントツール
$ pg_isready -h <ホスト名> -p <ポート番号>
$ echo $?
PostgreSQLに
接続できるか？
9.3
0 : 正常応答 2 : 応答なし
1 : 接続拒否 3 : パラメータ不正

pg_isready
 確認方法により、稼働状況の見え方が異なるため注意
pg_ctl status SQL実行 pg_isready
稼働状況の確認方
法
SQLの実行が成功す
るか？
PostgreSQLに接続
できるか？
正常稼働中稼働稼働稼働
停止後停止停止停止
起動中(リカバリ中) 稼働停止停止(拒否)
停止中稼働停止停止(拒否)
接続権限なし(*1) 稼働停止稼働
同時接続数フル稼働停止稼働
(*1) pg_hba.confで接続が許可されていない場合など

psql ¥watch
psqlでSQLの繰り返し実行が可能に！
$ watch -n 5 'psql -c "SELECT count(*) FROM pg_stat_activity"'
$ while true; do
psql -c "SELECT count(*) FROM pg_stat_activity"
sleep 5
done
PostgreSQLへの接続数を5秒間隔で確認したい！
~9.2

psql ¥watch
psqlでSQLの繰り返し実行が可能に！
$ watch -n 5 'psql -c "SELECT count(*) FROM pg_stat_activity"'
$ while true; do
psql -c "SELECT count(*) FROM pg_stat_activity"
sleep 5
done
$ psql
=# SELECT count(*) FROM pg_stat_activity;
=# ¥watch 5
PostgreSQLへの接続数を5秒間隔で確認したい！
直前に実行したSQLを繰り返し実行
9.3

ちょっぴり注意！非互換について
…………
0000000100000000000000FD
0000000100000000000000FE
000000010000000100000000
000000010000000100000001
…………
…………
0000000100000000000000FD
0000000100000000000000FE
0000000100000000000000FF
000000010000000100000000
000000010000000100000001
…………
WALファイル名/アーカイブファイル名の末尾に注意
 運用スクリプトなどで、WALファイル名やアーカイブファイル名をもとにファイ
ル取得や削除を制御している場合は、影響がないか確認しましょう！
~9.2 9.3

まとめ
Q1. PostgreSQL9.3の特徴は？
A1. “Ease of Use” by Robert Treat
開発者・運用者向けの新機能が充実！
Q2. PostgreSQL9.3はいつ出るの？
A2. 9月ごろのリリースが予想されています！

ご清聴ありがとうございました！！

Copyright © 2013 NTT DATA Corporation 4Copyright © 2013 NTT DATA Corporation 4
付録

被参照
ID NAME
1 東京
2 大阪
3 沖縄
参照
ID NAME
1 東京
2 大阪
被参照
ID NAME
1 東京
2 京都
3 沖縄
参照
ID NAME
1 東京
2 (NULL)
~9.2 UPDATE 被参照
SET NAME=‘京都’
WHERE ID=2
被参照で更新した列のみが
SET NULL/DEFAULTの対象
IDとNAME列で
外部キー制約
外部キーのON UPDATE SET NULL/DEFAULTの挙動が変化
 9.2以前では、更新列のみがSET NULL/DEFAULTの対象
 9.3以降では、外部参照している列全体がSET NULL/DEFAULTの対象

外部キーのON UPDATE SET NULL/DEFAULTの挙動が変化
 9.2以前では、更新列のみがSET NULL/DEFAULTの対象
 9.3以降では、外部参照している列全体がSET NULL/DEFAULTの対象
被参照
ID NAME
1 東京
2 大阪
3 沖縄
参照
ID NAME
1 東京
2 大阪
被参照
ID NAME
1 東京
2 京都
3 沖縄
参照
ID NAME
1 東京
(NULL) (NULL)
UPDATE 被参照
SET NAME=‘京都’
WHERE ID=2
IDとNAME列で
外部キー制約
外部参照している列全体が
SET NULL/DEFAULTの対象
9.3

マスタスタン
バイ
スタン
バイ
バック
アップ
アーカ
イブ
バイ
バイ
バイ
通常時
再開準備中
レプリケーション再開9.2
面倒！大変！イケテナイ！
TLI=1 TLI=1 TLI=1
TLI=2 TLI=1
TLI=2 TLI=2

9.4でもアツい機能がゾクゾクと！

パラレルクエリ
 パラレルpg_dumpなど、今パラレル化がアツい！
 現状
1クエリは1プロセス(1コア)でしか処理できないため、CPU数を増やしても
1クエリの性能は上がらない
 目標
パラレルクエリ(1クエリを複数プロセスでパラレルに処理して、性能向上さ
せる機能)のサポート
 開発の方向性
パラレルクエリを実装するのは非常に難しいため、まずはパラレルソートや
インデックス作成のパラレル化から徐々に取り組む

8 16 32 64
スループット
PostgreSQL9.2
PostgreSQL9.1
CPUコア数(論理)
更新性能のスケールアップ
更新時のトランザクションログ生成時のロックが改良され、更新処理
性能が大幅にアップ！
9.3の実に3倍以上
のスループットを実
現！
メニーコア
高速ディスク
任せろ！
6432168
v9.4
v9.3
※イメージ図

レプリケー
ション
レプリケーションの運用性向上
マスタスタン
バイ
停止マスタ
マスタスタン
バイ
レプリケー
ション
停止マスタ
バック
アップ
両系稼働
マスタ単独稼働
両系稼働
バックアップ転送
フェイルバック時にバックアップが不要に！
フェイルオーバ
旧マスタの再組込み
(フェイルバック)9.3
面倒！大変！時間かかりすぎ！

レプリケー
ション
レプリケーションの運用性向上
マスタスタン
バイ
マスタスタン
バイ
レプリケー
ション
両系稼働両系稼働
フェイルバック時にバックアップが不要に！
フェイルオーバ
旧マスタの再組込み
(フェイルバック)
停止マスタ
マスタ単独稼働
9.4
楽チン！時間もかからない！

紹介しきれなかった9.3新機能

64bit API Large-Object
ラージオブジェクトの最大サイズが
2GB -> 4TBへ！
商用DBMSからの移行障壁が少しは下がる・・？
9.3 !
ラージオブジェクト
～ 4TB
9.2 ..
余裕！つらい！

lock_timeout
 ロック待機時間に応じてクエリをキャンセルできるようにな
りました。
従来はstatement_timeoutでカバーしていました
• この方法では、ロック待機時間 + 実際の処理時間を考慮するため、厳
密にはロック待機時間のキャンセルではありませんでした。
指定方法はパラメータ値の設定
SQL個別の指定時は、直前にSET文を指定すること！
SELECT * FROM tbl WHERE c1=xxx FOR
UPDATE WAIT 10;
-- Previously “SET statement_timeout = 10000;”
SET lock_timeout = 10000;
SELECT * FROM tbl WHERE c1=xxx FOR UPDATE ;
Oracle
PostgreSQL

lock_timeout こぼれ話
 実は、PostgreSQLの内部的なtimeout frameworkが大きく改善されており、
ユーザ定義のTimeout処理を設けやすくなっています。コア開発時には要チェッ
クです！
 http://git.postgresql.org/gitweb/?p=postgresql.git;a=commitdiff;h=f34c68f0
9671c4566854c7e20e9253d4f335c0b0
 src/include/utils/timeout.h をよく見ておきましょう!
 イベント(DEADLOCK_TIMEOUT、 STANDBY_TIMEOUTなど)ごとにTimeoutIDが定め
られました。
 ユーザ独自定義用に使えるIDもあります。(USER_TIMEOUT)
 RegisterTimeout(TimeoutId id, timeout_handler handler)で登録
 後は用意されたAPIとアクセサを使って制御します

LATERAL サポート
 副問い合わせやFROM句での関数利用が捗ります
 副問い合わせなどでは、副問い合わせ外の条件やテーブルなどは見
えません
 LATERALにより、そのスコープを外に広げることができます。
=# SELECT * FROM lt,
(SELECT * FROM rt WHERE lt.c1 = rt.c1)s WHERE lt.c1 < 100;
ERROR: subquery in FROM cannot refer to other relations of same query level
=# SELECT * FROM lt,
LATERAL (SELECT * FROM rt WHERE lt.c1 = rt.c1)s WHERE lt.c1 < 100;
c1 | c2 | c1 | c2
----+----+----+----
・・・・・
OK！
9.2まで
9.3から

COPY TO STDOUT/FROM STDIN PROGRAM FILTER
 COPYコマンドの出力元/先にPROGRAMを指定できます！
通常、COPYコマンドはファイルからロード、ファイルへアンロード
今回は標準入出力前にプログラムを指定可能に！
ロードデータの圧縮/解凍やクレンジングに一役買います
COPY tbl TO PROGRAM ‘ gzip > /tmp/dump.gz’;
Tblgzipdump.gz
edit_tblmy_dump my_edit
COPY edit_tbl FROM PROGRAM ‘ my_edit /tmp/my_dump’;
処理前処理後
圧縮前圧縮後

付録の付録

JSON型がより使いやすく
JSON型用の演算子、関数が充実！
9.2まではJSONの複雑な関数や演算子がなかった
演算子を使用してデータを取得できるようになりました。
演算子何ができる? 例
-> JSON型の配列に入っている値、オブ
ジェクトを返す。
SELECT '[1,2,3]'::json -> 0;
SELECT '{"a": 1, "b": 2, "c": 3}'::json -> 'b';
->> JSON型の配列に入っている値、オブ
ジェクトをTEXT型として返す。
SELECT ‘[1,2,3]'::json ->> 0;
SELECT '{"a": 1, "b": 2, "c": 3}'::json ->> 'b';
#> パスを使用してJSON型のオブジェクト
を返す。
SELECT '{"a": 1, "b": 2, "c": [1,2,3]}'::json #>
'{c, 0}';
#>> パスを使用してJSON型のオブジェクト
をTEXT型として返す。
SELECT '{"a": 1, "b": 2, "c": [1,2,3]}'::json #>
'{c, 0}';

JSON型がより使いやすく
関数何ができる?
to_json 引数の要素をJSON型として返す
json_array_length JSON配列のもっとも外側にある要素が何番目なのか返す
json_each JSON型のデータをkey(TEXT型)とvalue(JSON型)をペアとして返す
json_each_text JSON型のデータをkey(TEXT型)とvalue(TEXT型)をペアとして返す
json_extract_path pathで指定したJSONオブジェクト(keyとvalue)をJSON型として返す。
json_extract_path_text pathで指定したJSONオブジェクト(keyとvalue)をTEXT型として返す。
json_object_keys JSONオブジェクトのkeyを返す。
json_populate_record JSON型のvalueを任意のデータ型として返す。
json_populate_recordset 複数のJSON型のvalueを任意のデータ型として返す。
json_array_elements JSON配列をJSON型のセットとして返す。
JSON型用の演算子、関数が充実！
9.2まではJSONの複雑な関数や演算子がなかった
演算子を使用してデータを取得できるようになりました。
関数の数も２個(9.2)→１２個(9.3)へ増加！

PostgreSQLの歩み～8系から
2011
2012
2013
9.0
9.1
9.2
同期レプリケーション
UNLOGGED TABLE
SQL/MED
IndexOnlyScan
スケーラビリティ向上
2010
非同期レプリケーション
ホットスタンバイ
SQL構文強化
8.0
Windows対応
PITR 機能
テーブルスペース
2005
9.3
Viewの改良
postgresql_fdw
Fast promote ..etc
開発中
PostgreSQL最新版は9.2.4(2013/4/4 リリース)
8.4
Window関数・再帰クエリ
VACUUM用メモリ自動管理
他DBMS互換性向上
8.3
HOT: 更新性能向上
VACUUM自動化
全文テキスト検索
2008
2009
8.2
pgcrypto
hstore
20078.1
2009
autovacuum
ロール

PostgreSQL9.3新機能紹介

Empfohlen

Empfohlen

Weitere ähnliche Inhalte

Was ist angesagt?

Was ist angesagt? (20)

Andere mochten auch

Andere mochten auch (17)

Ähnlich wie PostgreSQL9.3新機能紹介

Ähnlich wie PostgreSQL9.3新機能紹介 (20)

Mehr von NTT DATA OSS Professional Services

Mehr von NTT DATA OSS Professional Services (20)

PostgreSQL9.3新機能紹介