「Help:テンプレートの制限」の版間の差分

削除された内容 追加された内容
15行目: 15行目:
生成されたページ本体のHTMLソース中には、ソースの比較的末尾にHTMLコメントによってカウンターの数値が描き込まれています。そこで、ブラウザのHTMLソースを表示する機能を利用してHTMLソースを確認することで、そのページのカウンターの数値を知る事ができます。
生成されたページ本体のHTMLソース中には、ソースの比較的末尾にHTMLコメントによってカウンターの数値が描き込まれています。そこで、ブラウザのHTMLソースを表示する機能を利用してHTMLソースを確認することで、そのページのカウンターの数値を知る事ができます。


例えば、[[沖縄県]](<small>[http://ja.wikipedia.org/w/index.php?title=沖縄県&oldid=19311305 2008年4月23日 (水) 09:39 (UTC) の版]</small>)のページの生成されたHTMLソースにはつぎのコメントが含まれています。
例えば、[[沖縄県]](<small>[https://ja.wikipedia.org/w/index.php?title=%E6%B2%96%E7%B8%84%E7%9C%8C&oldid=19311305 2008年4月23日 (水) 09:39 (UTC) の版]</small>)のページの生成されたHTMLソースにはつぎのコメントが含まれています。


<source lang="html4strict">
<source lang="html4strict">

2019年5月12日 (日) 18:02時点における版

ウィキペディア日本語版ヘルプページです。


ウィキペディアの使用しているソフトウェアであるMediaWikiには、テンプレート呼び出しやテンプレートの代入展開によってページに読み込まれるデータ量を制限するためのパラメータがいくつかあります。このページでは、なぜ、そしてどのようにこの制限が用いられているかについて解説しています。

概要

MediaWikiでは、ウィキテキスト(ウィキソース)をもとにHTMLページが生成されますが、読み込みデータについては構文解析の一種(再帰下降構文解析)を使用しています。ウィキテキストは「プリプロセッサ」を用いて「ツリー」と呼ばれるデータ構造に変換され、このツリーを用いてHTMLソースが生成されます。

構文解析の過程では、生成されるページの複雑性を把握するためにいくつかのカウンターが使用されます。カウンターは解析開始時点でゼロに設定され、解析中に該当するプロセスがあると数値が計上されていきます。カウンターには上限値が設定されており、上限値を越えるとテンプレートの展開や関数の動作が停止されます。

極端に長いページやテンプレートをたくさん呼び出しているような複雑なページは解析に時間がかかります。このことは利用者にとって不便なだけでなく、処理不可能なほど巨大なデータをMediaWikiに解析させることでDoS攻撃の手段として悪用される可能性もあります。このような攻撃を予防し、ページの読み込みが常識的なスピードで行われることを保証するために、このような制限が設定されています。読み込みデータの制限は、2006年8月より導入されました。2008年2月から新しいプリプロセッサが導入され、制限の方法が変更されました(meta:Migration to the new preprocessor参照)。

制限がおこりやすい事例

読み込み制限は、同じテンプレートを何度も使用している場合によく起こります。例えば、長い表の各行に同じテンプレートを呼び出しているような場合です。テンプレート自体のデータが小さくても、テンプレート呼び出しの際ごとにテンプレートページのソース全体量が計上されますので、思っているよりも簡単に制限値に達することになります。また、当然ながら、呼び出しているテンプレートのサイズが大きければ大きいほど、制限に達するのも早くなります。サイズが大きい理由としてはテンプレート本体が複雑であったり、呼び出し先で必要なデータ以外の多くのデータを含んでいたりすることが考えられます。

制限値に達しているか判別するには

生成されたページ本体のHTMLソース中には、ソースの比較的末尾にHTMLコメントによってカウンターの数値が描き込まれています。そこで、ブラウザのHTMLソースを表示する機能を利用してHTMLソースを確認することで、そのページのカウンターの数値を知る事ができます。

例えば、沖縄県2008年4月23日 (水) 09:39 (UTC) の版)のページの生成されたHTMLソースにはつぎのコメントが含まれています。

<!--
NewPP limit report
Preprocessor node count: 2058/1000000
Post-expand include size: 66434/2048000 bytes
Template argument size: 13611/2048000 bytes
Expensive parser function count: 0/500
-->

/の前の数値が計上された数値、/の後の数値が制限値です。展開後読み込み量 (Post-expand include size) などに関しては、計上された数値(/の前)が制限値(/の後)に近ければ、読み込まれなかったテンプレートがある可能性があります。呼び込まれなかったテンプレートがある場合、この旨を伝えるエラーメッセージがHTMLソース中に表示されます。またいずれかの制限値が上限を越えていると、プレビュー画面でそれぞれに応じた警告が表示されます。

読み込み制限の仕組み

解析の過程で使われる制限には、「プリプロセッサ・ノード数」、「展開後読み込み量」、「テンプレート引数量」、「高負荷条件文関数使用回数」の4種があります。

プリプロセッサ・ノード数

「プリプロセッサ・ノード数」(Preprocessor node count)のカウンターは新プリプロセッサから採用されました。これは、データの量ではなく、ページの複雑性を計測しています。解析によってページが展開される時には、HTMLの構造に対応する「ツリー」と呼ばれるデータ構造を生成しますが、このツリーのノードの数を計るものです。このカウンターが制限値を越えると、解析が中止され、生成HTMLページ中に "Node-count limit exceeded" のエラーメッセージを生成します。ノード数にはテンプレートだけでなく、リンク、セクション見出し、HTML要素などがすべて計上されています。

展開後読み込み量

ソフトウェアはページ内のソースコードに従って構文解析を行い、テンプレートを展開します。この時、テンプレートによって生成されるHTMLソースコードの長さ(「展開後読み込み量」(post-expand include size))が、「展開後カウンター」に計上されます。計上後の数値が「展開後読み込み制限値」内であれば、テンプレートによって生成されたHTMLコードがページ本体のHTMLの中に組み込まれ、「展開後カウンター」の数値が新しい値に設定されます。しかし計上後の数値が「展開後読み込み制限値」を越えていれば、テンプレートはページ内に展開されず内部リンクとして表示されます。生成されたHTMLソース中にエラーメッセージが出力され、自動的にCategory:テンプレート読み込みサイズが制限値を越えているページに追加されます。

テンプレートは再帰的に展開されるため、もし読み込まれているテンプレート自体に他のテンプレートが呼び出されている場合、呼び出されている下位のテンプレートの値も、最終的に呼び出されているページのカウンターの数値に影響します。そのため、下位のテンプレートを呼び出している途中に制限値を超過した場合、テンプレートの展開が途中でとまってしまうこともありえます。

カウンターはテンプレートがページに読み込まれるたびに増加しますので、1ページ内に何度も使用されているテンプレートがあった場合、読み込まれている回数分、カウンターの数値が増加することになります。ただし、引数を指定していないテンプレートでは展開後のテキストのキャッシュを使用します。そのため、 {{foo}} の内容に {{bar}} が含まれている場合、 {{foo}} を複数回呼び出しても、{{bar}}は1回分だけ計上され、その後は{{foo}}をフル展開した分だけが展開後読み込み量に計上されます。一方、 {{foo|引数}}の形で複数回呼び出した場合、たとえ引数が同じであっても、呼び出しの度に {{bar}} の展開量も計上されます。

なお、条件文を用いたテンプレートの実行されない部分は展開されません。例えば、{{#if:yes|{{bar}}|{{foo}} }}というコードがあったとすると、テンプレート {{bar}} は展開され、テンプレート {{foo}} は展開されません。ただし、最終的な出力結果には表れないテンプレートの引数が展開後読み込み量に計上されることがあります。例えば {{#if:{{foo}}|yes|no}} というコードがあったとすると、解析の際に条件文の決定のためにテンプレート {{foo}} の展開が必要なため、 {{foo}} の展開量が展開後カウンターに計上されます。

ちなみに新プリプロセッサの導入前は、テンプレートの展開前のデータ量も計測しており、これがテンプレートの制限でもっとも問題になっていました。

テンプレート引数量

「テンプレート引数量」(template argument size)カウンターは、代入されるテンプレート変数の引数を計上します。

制限値を越えると引数が無視され、ページは自動的にCategory:省略されたテンプレート引数を含むページに追加されます。

高負荷構文解析関数使用回数

「高負荷構文解析関数使用回数」(expensive parser function count)は、条件文中の負荷の高い関数の使用回数を500以下に制限するものです。対象となるのは以下のものです。

  • #ifexist:この関数は、指定されたページが存在するかどうかで出力を切り替えるのに使用されます。使用回数が制限値を超えると、それより後の #ifexist では、ページの存在はすべてないものとして返されます。
  • PAGESINCATEGORY:与えられたカテゴリに含まれるページ数を返します。
  • PAGESIZE:与えられたページのサイズを返します。

カウンタが500を越えているページはCategory:高負荷な構文解析関数の呼び出しが多過ぎるページへ自動的にカテゴライズされます。

制限内でやりくりするには

ページがテンプレートの制限に達した場合、もっとも一般的な解決法は、 同じテンプレートの呼び出しを避けることです。テンプレートAを何度も呼び出す代わりに、Aを引数にとるテンプレートBを呼び出すということが可能な場合があります。

現在のところ、展開後読み込み量のカウンタの仕様により、入れ子のテンプレート呼び出しは特に高負荷となっています。例えばページAがページBを呼び出しており、ページBは単にページCを呼び出している時、ページAの展開後読み込み量にCのサイズが2回分計上されます(bugzilla:13260参照)。これは条件文にも適用されます。すなわち条件文中にテンプレート呼び出しがあると、最終的な呼び出し先ページの展開後読み込み量に2回計上されます。この問題は、テンプレートタグを条件文の外に出すことで改善できる場合があります({{#if:test|{{template1}}|{{template2}} }}{{ {{#if:test|template1|template2}} }}に変える)。

複雑なテンプレートについてはLuaで書きなおすことで改善される可能性があります。

これでも解決しない場合、テンプレート呼び出しではなく、ページ本体に直接記述するデータを増やすことを考えてみてください。その際には特別ページのテンプレートを展開が利用できます。

また、出典数の多い他言語の記事を翻訳した際に「エラー: #time の呼び出しが多すぎます」という警告文が表示されることがあります。これは{{cite web}}などで使用される引数のaccessdateやdateが "September 10, 2017" のようにベタ打ち入力されていると、日本語版ではYYYY-MM-DD形式に自動で変換し、テンプレートの読み込み制限を超過してしまうためです。日付をYYYY-MM-DD形式に変更するか、別の出典用テンプレートを活用することでエラーを回避できます。

参考情報