「スキップリスト」の版間の差分

出典: フリー百科事典『ウィキペディア(Wikipedia)』
削除された内容 追加された内容
m →‎説明: 英語版(15:28, 12 February 2017‎)を元に、追記修正。
→‎Implementation details: 英語版( 22:17, 20 April 2017‎ )を元に追記・修正
84行目: 84行目:
挿入と削除は、[[連結リスト]]の対応する操作と同様の実装になるが、"背の高い"要素は2つ以上の連結リストに対して挿入及び削除する必要がある。
挿入と削除は、[[連結リスト]]の対応する操作と同様の実装になるが、"背の高い"要素は2つ以上の連結リストに対して挿入及び削除する必要がある。


また、昇順にそれぞれのノードを訪れる<!--例えばPrintEntireListToScreen()とか-->ような<math>\mathcal{O}(n)</math>の操作において、裏でスキップリストの構造を最適化することできるi番目のノードの高さをi=m*2^n(mは奇数)とした場合のnに1加えたものにする。しかし、この方法では誰かが何処に高い要素があるかを知ってそれをリストから削除することでアルゴリズムの効率を低下させることができる。
また、全てのノードを昇順に訪れる<!--例えばPrintEntireListToScreen()とか-->ような<math>\mathcal{O}(n)</math>の操作において、裏でスキップリストのレベル構造のランダム性取り除き、探索時間が<math>\mathcal{O}(\log n)</math>である最適な構造に変えてよい(i番目のノードの高さをi=m*2^n(mは奇数)とした場合のnに1加えたものにする。また、i=0 は最大の高さとする。)しかし、この方法では誰かが何処に高い要素があるかを知ってそれをリストから削除することができる。


その代わりに、次のように高さを擬似的にランダムにすることができる。最初に全てのノードの高さを1にする。次にi番目のノードについて、奇数ならば高さを2にするかどうかをランダムに決める。偶数ならば直前のノードの高さが2になっていないときのみ高さを2にする。高くなったノードの数が2以上なら高さを上げてこれを繰り返す。ランダマイズを行わないアルゴリズムと同様、ノードを全て訪れる場合にのみ高さを擬似的にランダマイズすればよい。ランダマイズを行わない方法に対する、擬似的なランダマイズを行う方法の利点は、高さに関する情報を敵意のあるユーザーにあまり知られないということである。検索時間については、ランダマイズを行わないものと同様対数時間であることが保証されている
その代わりに、次のように高さを擬似的にランダマイズすることができる。最初に全てのノードの高さを1にする。次にi番目のノードについて、奇数ならば高さを2にするかどうかをランダムに決める。偶数ならば直前のノードの高さが2になっていないときのみ高さを2にする。高くなったノードの数が2以上なら高さを上げてこれを繰り返す。
ランダム性の削除と同様に、この擬似的なランダマイズはノードを全て訪れる場合にのみ実行する。


擬似的なランダマイズを行う利点は、ランダム性の無い場合と違い、敵意のあるユーザーに高さに関する情報を漏らさないことである。悪意あるユーザが高さに関する情報を知っていると、レベルの高いノードを削除するだけで性能を悪化させことができるため、この性質は望ましい。(これに対し、BetheaとReiterは、悪意あるユーザが性能劣化を起こすために、確率的タイミング方法を使用できると主張している<ref>{{cite conference |first1=Darrell |last1=Bethea |first2=Michael K. |last2=Reiter |title=Data Structures with Unpredictable Timing |url=https://www.cs.unc.edu/~djb/papers/2009-ESORICS.pdf#page=5 |at=pp. 456–471, §4 "Skip Lists" |doi=10.1007/978-3-642-04444-1_28 |conference=ESORICS 2009, 14th European Symposium on Research in Computer Security |location=Saint-Malo, France |date=September 21–23, 2009 |isbn=3-642-04443-3}}</ref>。)
これらの2つの主張を説明しよう。まず、検索が対数時間で終わることを示す。高さが1以上である全てのノードの中でn番目のノードを見つけることを考える。nが偶数であれば、その高さが1より大きい確率は1/2であるが、もしノードの高さが1であるならばn-1番目のノードの高さは1より大きいことが保証される。nが奇数であれば、その高さが1より大きい確率は1/2である。このときn番目のノードの高さが1でかつn-1番目のノードの高さも1であるとすると、n-2番目のノードの高さは1より大きいことが保証される。この解析を高さが2以上のノード、3以上のノード……と繰り返していく。それぞれの解析でnは高さがk以上であるようなノードの中で何番目であるかということを注意しておく。以上から、検索時間はランダマイズされていないスキップリストと比べて最良の場合(探しているノードが考えうる限り最も高さが高いとき)は同じで、最悪でも2倍となる(左に1回ではなく2回動かなければならないため)。<!-- ランダマイズされていない場合は高さが1, 2, 1, 2といった具合に配置されているが、ランダマイズされている場合は2, 1, 1, 2と配置されることがある。 -->
検索時間については、ランダム性の無い場合と同様、対数時間であることが保証されている。


以下の「最適化」を考えてみよう。「次に,各i番目のノードに対して・・・」の部分で、各奇数と偶数のペアに対するコイン投げをするのをやめ、その替わり、コインを1回だけ振って、全てのペアに対して偶数番目のノードの高さを上げるか、あるいは奇数の方の高さを上げるかを決める。これで、コイン投げの回数は、<math> \mathcal{O} ( n \log n ) </math> でなく <math> \mathcal{O} ( \log n ) </math> に削減できる。 しかし残念ながら、この方法では、悪意あるユーザの「全ての偶数番目のノードは高さが1より大きいだろう」という推測が50%の確率で当たってしまう。悪意あるユーザが、ある1つのノードの高さを正しく推測できる確率は非常に低いにも関わらず。
次に、敵意のあるユーザがどの程度の正確さでノードが高さk以上であるという想定ができるかを示す。まず、敵意のあるユーザはある特定のノードが高さ2以上であるかどうかを1/2の確率で当てることができる。もしそのユーザが2つの連続する高さが2以上のノードの位置を知っており、その2つのうち左側のノードが高さが2以上のノードの中で奇数番目であることがわかれば、そのユーザがどのノードが高さが3以上であるかを当てられる確率は1/2になる。したがって、高さが3以上のノードについてそのユーザの想定が正しいかどうかは1/4となる。この解析を帰納的に適用すると、ある特定のノードが高さk以上であるかどうかを当てることができる確率は1/(2^(k-1))である。


<!-- これらの2つの主張を説明しよう。まず、検索が対数時間で終わることを示す。高さが1以上である全てのノードの中でn番目のノードを見つけることを考える。nが偶数であれば、その高さが1より大きい確率は1/2であるが、もしノードの高さが1であるならばn-1番目のノードの高さは1より大きいことが保証される。nが奇数であれば、その高さが1より大きい確率は1/2である。このときn番目のノードの高さが1でかつn-1番目のノードの高さも1であるとすると、n-2番目のノードの高さは1より大きいことが保証される。この解析を高さが2以上のノード、3以上のノード……と繰り返していく。それぞれの解析でnは高さがk以上であるようなノードの中で何番目であるかということを注意しておく。以上から、検索時間はランダマイズされていないスキップリストと比べて最良の場合(探しているノードが考えうる限り最も高さが高いとき)は同じで、最悪でも2倍となる(左に1回ではなく2回動かなければならないため)。-->
スキップリストは上述のバランスとを最近行っている場合でも、伝統的な平衡木と同じ最悪の場合のパフォーマンスを保証しない。なぜなら、確率はとても低いがバランスの悪い構造になる場合が常にあるからである。しかし実際にはよく動作し、ランダム化されたバランスとりの仕組みは平衡二分探索木の決定論的なバランスとりの仕組みより実装が容易であることが示されている。スキップリストは並列計算においても有用で、それは挿入にお全体のリバランスが不要でスキップリストの違う場所おい並列行われるからである。
<!-- ランダマイズされていない場合は高さが1, 2, 1, 2といった具合に配置されているが、ランダマイズされている場合は2, 1, 1, 2と配置されることがある。 -->

<!-- 次に、敵意のあるユーザがどの程度の正確さでノードが高さk以上であるという想定ができるかを示す。まず、敵意のあるユーザはある特定のノードが高さ2以上であるかどうかを1/2の確率で当てることができる。もしそのユーザが2つの連続する高さが2以上のノードの位置を知っており、その2つのうち左側のノードが高さが2以上のノードの中で奇数番目であることがわかれば、そのユーザがどのノードが高さが3以上であるかを当てられる確率は1/2になる。したがって、高さが3以上のノードについてそのユーザの想定が正しいかどうかは1/4となる。この解析を帰納的に適用すると、ある特定のノードが高さk以上であるかどうかを当てることができる確率は1/(2^(k-1))である。-->

スキップリストは、より伝統的な平衡木と同じ最悪のパフォーマンスを保証しない。なぜなら、確率はとても低いがバランスの悪い構造になる場合が常にあるからである。しかし実際にはよく動作し、ランダム化されたバランスとりの仕組みは平衡二分探索木の決定論的なバランスとりの仕組みより実装が容易であることが示されている。スキップリストは並列計算においても有用で、挿入はスキップリストのくつかの部分で並列に実施でき、全体のリバランスが不要である。この並列化は、アドホック無線ネットワークでのリソース探索において特に有用となりうる。なぜなら、ランダム性のあるスキップリストは単一ノード損失対し堅牢することができるからである。


メモリアクセスの局所性の問題やその他の問題のため、スキップリストが実際の性能とメモリ効率において[[B木]]より悪いという証拠が存在する([http://resnet.uoregon.edu/~gurney_j/jmpc/skiplist.html])。
メモリアクセスの局所性の問題やその他の問題のため、スキップリストが実際の性能とメモリ効率において[[B木]]より悪いという証拠が存在する([http://resnet.uoregon.edu/~gurney_j/jmpc/skiplist.html])。

2017年4月21日 (金) 03:30時点における版

スキップリスト
種類 リスト
考案者 William Pugh
発表年 1989年
計算量ビッグ・オー記法
平均 最悪
空間計算量
探索の時間計算量
挿入の時間計算量
削除の時間計算量

スキップリスト: skip list)は、平衡二分探索木と似た用途に使う乱択アルゴリズムデータ構造連結リストを並列に連結させて作る。比較により順序づけ可能な要素を挿入し、スキップリスト内ではソートされた状態で保持される。ソートされた連想配列集合の実装などに使える。挿入と探索と削除は平均O(log n)である。1989年にWilliam Pughが発表した[1][2][3][4]

スキップリストは順序つきの連結リストの前向きの飛び越しのリンクを追加したものである。ノードは幾何分布負の二項分布にてランダムに高さを設定して追加され(高さ1が確率50%、高さ2が25%、高さ3が12.5%など)、リスト上の探索において連結リストの一部を高速に飛ばすことができる。

スキップリストの例。1〜10を追加し、ソートされた状態で保持されている。

説明

スキップリストはリストの階層になっている。最下層は通常のソートされた連結リストである。それより上の層は、それぞれ下のリストに対する「急行列車」のように働き、層i に存在するリストの要素は層i+1 においては固定の確率p(良く使われる p の値は 1/2 と 1/4)で存在する。各要素は平均で 1/(1-p)個のリストに属し、最も背の高い要素、つまり普通スキップリストの先頭の特別扱いされる要素はすべてのリストに属する。スキップリストは 個の連結リストを含む。

目的の要素を探索するには、まず、最上層の連結リストの先頭の要素から(水平方向に)スキャンして、目的の要素と同じかそれより大きい要素を探し出す。もし、探し出した要素が目的の要素と等しいならば、探索は完了。もし、探し出した要素が目的の要素より大きいならば、あるいは、リストの最後の要素に到達してしまった場合は、一つ前の要素に戻ってから一つ下の層の連結リストに(垂直方向に)降り、そのリストに対して同じ操作を繰り返す。各連結リストにおいてリンクを辿る数の期待値は最大でも 1/p となる。これは目的の要素から逆向きに戻って上層のリストにつながる要素に到達するまでの期待値であることから理解できる。従って探索の総コストは で、pを固定すればである。pにさまざまな値を選ぶことで、探索時間とメモリ使用量のトレードオフをとることが可能である。

Implementation details

スキップリストで用いられる要素は1つ以上のポインタを含む可能性があるが、それは、1つ以上のリストに属している可能性があるからである。

挿入と削除は、連結リストの対応する操作と同様の実装になるが、"背の高い"要素は2つ以上の連結リストに対して挿入及び削除する必要がある。

また、全てのノードを昇順に訪れるようなの操作において、裏でスキップリストのレベル構造のランダム性を取り除き、探索時間がである最適な構造に変えてもよい。(i番目のノードの高さをi=m*2^n(mは奇数)とした場合のnに1加えたものにする。また、i=0 は最大の高さとする。)しかし、この方法では誰かが何処に高い要素があるかを知ってそれをリストから削除することができる。

その代わりに、次のように高さを擬似的にランダマイズすることができる。最初に全てのノードの高さを1にする。次に各i番目のノードについて、奇数ならば高さを2にするかどうかをランダムに決める。偶数ならば直前のノードの高さが2になっていないときのみ高さを2にする。高くなったノードの数が2以上なら高さを上げてこれを繰り返す。 ランダム性の削除と同様に、この擬似的なランダマイズはノードを全て訪れる場合にのみ実行する。

擬似的なランダマイズを行う利点は、ランダム性の無い場合と違い、敵意のあるユーザーに高さに関する情報を漏らさないことである。悪意あるユーザが高さに関する情報を知っていると、レベルの高いノードを削除するだけで性能を悪化させことができるため、この性質は望ましい。(これに対し、BetheaとReiterは、悪意あるユーザが性能劣化を起こすために、確率的タイミング方法を使用できると主張している[5]。) 検索時間については、ランダム性の無い場合と同様、対数時間であることが保証されている。

以下の「最適化」を考えてみよう。「次に,各i番目のノードに対して・・・」の部分で、各奇数と偶数のペアに対するコイン投げをするのをやめ、その替わり、コインを1回だけ振って、全てのペアに対して偶数番目のノードの高さを上げるか、あるいは奇数の方の高さを上げるかを決める。これで、コイン投げの回数は、 でなく に削減できる。 しかし残念ながら、この方法では、悪意あるユーザの「全ての偶数番目のノードは高さが1より大きいだろう」という推測が50%の確率で当たってしまう。悪意あるユーザが、ある1つのノードの高さを正しく推測できる確率は非常に低いにも関わらず。


スキップリストは、より伝統的な平衡木と同じ最悪時のパフォーマンスを保証しない。なぜなら、(確率はとても低いが)バランスの悪い構造になる場合が常にあるからである。しかし実際にはよく動作し、ランダム化されたバランスとりの仕組みは平衡二分探索木の決定論的なバランスとりの仕組みより実装が容易であることが示されている。スキップリストは並列計算においても有用で、挿入はスキップリストのいくつかの部分で並列に実施でき、全体のリバランスが不要である。この並列化は、アドホック無線ネットワークでのリソース探索において特に有用となりうる。なぜなら、ランダム性のあるスキップリストは単一ノード損失に対して堅牢にすることができるからである。

メモリアクセスの局所性の問題やその他の問題のため、スキップリストが実際の性能とメモリ効率においてB木より悪いという証拠が存在する([1])。

歴史

スキップリストはWillam Pughによって発明され、下記の参照に示される論文に詳細が記載されている。下記の外部リンクを辿って原著論文を読むこともできる。

著者の言を引用すればこうである。

Skip lists are a probabilistic data structure that seem likely to supplant balanced trees as the implementation method of choice for many applications. Skip list algorithms have the same asymptotic expected time bounds as balanced trees and are simpler, faster and use less space.

しかし、速度と使用メモリの利点についてはその後に議論があるようだ[2]

拡張

1990年に William Pugh は論文 A Skip List Cookbook[4] にて下記の拡張を書いている。

  • 検索指 - 指定した要素から距離 k 以内を O(log k) で検索
  • スキップリストの分割・結合
  • インデックスを指定して要素を取得 - O(log n)
  • キーの比較回数の削減の改良
  • キーの重複の許可
  • ノードの高さの確率分布に他の物を使用

スキップ四分木

スキップリストはリストのため1次元だが、これを2次元やそれ以上に拡張した物をスキップ四分木: skip quadtree)・スキップ八分木: skip octree)という。一番下の階層は連結リストに相当する部分に圧縮四分木[6]を使い、要素にランダムに高さをふり、各高さで圧縮四分木を作る。四分木の同じ分割点に当たる部分は隣の高さの四分木の分割点同士でリンクを張りたどれるようにする。探索・挿入・削除の計算量はスキップリスト同様に平均 O(log n)。圧縮四分木を使った事により空間計算量は平均 O(n)。2005年に David Eppstein らが発表した[7]

なお、kd木でも類似の事が出来る。

スキップグラフ

スキップグラフとは、スキップリストを元に、P2Pネットワーク環境を想定した分散データ構造。スキップリスト上の1つのノードが1つのマシンに対応し、連結を双方向連結リストにする。2003年に James Aspnes らが発表した[8]

実装

Java では Java 6 より標準ライブラリに java.util.concurrent.ConcurrentSkipListSet[9] や ConcurrentSkipListMap[10] が追加になっている。

参照

  1. ^ Pugh, William (August 1989). “Skip lists: a probabilistic alternative to balanced trees”. Proceedings of the Workshop on Algorithms and Data Structures, Ottawa Canada. 
  2. ^ Pugh, William (June 1990). “Skip lists: a probabilistic alternative to balanced trees”. Communications of the ACM 33: 668-676. http://citeseerx.ist.psu.edu/viewdoc/summary?doi=10.1.1.17.9380. 
  3. ^ Pugh, William (1990). “Concurrent Maintenance of Skip Lists”. Univ. of Maryland Institute for Advanced Computer Studies Report No. UMIACS-TR-90-80 (University of Maryland at College Park). http://citeseerx.ist.psu.edu/viewdoc/summary?doi=10.1.1.17.8201. 
  4. ^ a b Pugh, William (1990). “A Skip List Cookbook”. Univ. of Maryland Institute for Advanced Computer Studies Report No. UMIACS-TR-89-72.1 (University of Maryland at College Park). http://citeseerx.ist.psu.edu/viewdoc/summary?doi=10.1.1.17.524. 
  5. ^ Bethea, Darrell; Reiter, Michael K. (21–23 September 2009). Data Structures with Unpredictable Timing (PDF). ESORICS 2009, 14th European Symposium on Research in Computer Security. Saint-Malo, France. pp. 456–471, §4 "Skip Lists". doi:10.1007/978-3-642-04444-1_28. ISBN 3-642-04443-3
  6. ^ J. R. Woodwark (1984). “Compressed Quad Trees”. Computer journal 27 (3): 225-229. http://comjnl.oxfordjournals.org/content/27/3/225.full.pdf. 
  7. ^ David Eppstein; Michael T. Goodrich; Jonathan Z. Sun (2005). “The Skip Quadtree: A Simple Dynamic Data Structure for Multidimensional Data”. SCG '05 Proceedings of the twenty-first annual symposium on Computational geometry: 296-305. doi:10.1145/1064092.1064138. http://arxiv.org/abs/cs/0507049. 
  8. ^ James Aspnes; Gauri Shah (2003). “Skip graphs”. Fourteenth Annual ACM-SIAM Symposium on Discrete Algorithms: 384–393. http://arxiv.org/abs/cs/0306043. 
  9. ^ ConcurrentSkipListSet (Java Platform SE 8 )
  10. ^ ConcurrentSkipListMap (Java Platform SE 8 )