かんたんな説明
有名な機械学習の論文をオープンアクセスの原稿から組み直した例。番号付きで参照できる数式、囲みに入れた定理と補題、証明、著者–年形式の参考文献を備える。
できあがり
Rafailov、Sharma、Mitchell、Ermon、Manning、Finnの論文Direct Preference Optimization(NeurIPS 2023)をarXivの原稿から抄録し、7×10インチ判で10ページのプレプリントとして組みました。プラム色の帯には表題と、ロジスティック曲線の束を置いています。DPOの勾配が各事例に掛ける重みの形です。その下はゆったりしたSpectralの1段組みで、番号付きの数式が13本、5節の定義・補題・定理は見出しを行頭に置いた囲み、四角で終わる証明の概略と完全な証明、コードで描き直した流れ図、著者–年形式で引いた20件の文献が並びます。本文中の数式・命題・節への参照はすべてリンクで、番号はすべてラベルから決まります。LaTeXと同じ考え方です。
このレシピが答える質問
- 数学的な論文で数式に番号を付け、定理と証明を組み、それらを参照するには?
- 数式(インライン、ディスプレイ、方程式)を組み、PDFでもベクターのまま保つには?
- arXivやPubMed Centralのオープンアクセス論文を、引用・図・ライセンス表記を保ったままPostextで組み直すには?
手短な答え
// \label{eq:x} in a display formula numbers it, on its row of an align; a box opened as
// :::callout{type="lemma" #lem:x} counts as a statement. \eqref{eq:x}, \ref{lem:x} and
// :ref{id="lem:x"} print the number and link to it.
const equationNumbering = { // (1) to (13): one sequence through the paper and its appendix
numberingTemplate: '{n}', resetOn: 'never', format: '({n})' };
// A proof: an italic label with no number, and a □ flush right on its last line, drawn
// from TeX's \square because maths runs (Spectral has no □ of its own).
const proofOf = (label) => ({ endMark: '□',
numbering: { label, counter: false, bold: false, italic: true } });
const statements = [ // a counter per kind, as the paper has it: Definition 1, Lemma 1, Theorem 1
{ id: 'definition', numbering: { label: 'Definition' } },
{ id: 'lemma', numbering: { label: 'Lemma' } }, // counter: 'theorem' would share one sequence
{ id: 'theorem', numbering: { label: 'Theorem' } },
{ id: 'proof', ...proofOf('Proof') },
{ id: 'sketch', ...proofOf('Proof Sketch') },
];
材料
- 機能
- 数式囲み相互参照引用スタイルによる引用参考文献から作る文献一覧番号付き見出し見出しスタイル見出しの属性デザインした章扉柱とノンブルページの役割ごとの柱リソースとしての図と表番号付きキャプションキャプションのスタイル表スタイルセマンティックカラーパレット出典とクレジット図の配置PDFの書き出し
- 併用する機能
- 分割する囲み、分割しない囲み段末そろえ図を配置する参照その場に置く図「図」と「表」を文書の言語で意図してグリッドを外す改ページと改段段落スタイルPDFに埋め込むフォント独自のリソースの種類上付きと下付きタイトル内の改行番号のない章
- 種類
- Spectral, Work Sans, JetBrains Mono (SIL OFL 1.1)
- 素材
- なし:画像はすべてコードで描画
作り方
#1 · 数式と命題にラベルを付け、キーで参照する
コードは上の手短な答えです。postext 1.19からは、LaTeXのカウンターをエンジンが持ちます。ディスプレイ数式の中の\label{eq:dpo}は読む順に番号を付け、alignではラベルのある行ごとに一つ付き、\notagの行には付きません。resetOn: 'never'で番号は(1)から付録の(13)まで続き、この抄録版で振り直した番号と一致します。:::callout{type="lemma" #lem:same-policy}で開いた囲みは「Lemma 2.」で始まります。スタイルにnumbering: { label: 'Lemma' }と専用のカウンターがあるためです。本文では\eqref{eq:dpo}が(7)、\ref{lem:same-policy}が2、:ref{id="lem:same-policy"}がLemma 2を印字し、どれも参照先へのリンクになります。Eq.~\eqref{…}ではLaTeXと同じく改行しない空白が入ります。付録で再掲する補題は***:ref{id="lem:same-preference"} Restated.***で始まり、参照は周りの見出しの太字を受け継ぎます。節番号は手を加える必要がありません。番号は見出しのテンプレートから決まり、{startAt=3}で2節を削った後も論文本来の番号を保ち、crossRefs.sectionで原文どおり頭文字が大文字の「Section 5」になります。
#2 · 環境ごとに囲みを一つ
const box = ({ id, ...numbered }, extra) => ({ id, marginTop: pt(LEAD * 0.6),
marginBottom: pt(LEAD * 0.6), backgroundEnabled: false,
snapToGrid: false, // exact space round a statement, as amsthm's \topsep; one column, no grid
padding: { top: mm(1.8), right: mm(4), bottom: mm(1.8), left: mm(4) },
body: { italic: true, firstLineIndent: pt(0), boldColor: col('ink') }, ...extra, ...numbered });
const stripe = (color) => ({ enabled: true, side: 'left', width: pt(3), color: col(color) });
const proof = { keepTogether: false, // a long proof runs on to the next page
// A proof is upright text with an italic run-in label, set off by space alone.
padding: { top: pt(0), right: pt(0), bottom: pt(0), left: pt(0) },
body: { firstLineIndent: pt(0), italicColor: col('ink') } };
const look = { definition: { stripe: stripe('rule') }, lemma: { stripe: stripe('accent') },
theorem: { backgroundEnabled: true, background: col('tint') }, proof, sketch: proof };
const theoremStyles = [...statements.map((s) => box(s, look[s.id])),
box({ id: 'restated' }, look.lemma)]; // Lemma 1 again in the appendix, with no new number
各環境は囲みスタイルで、使う手立ては一つだけです。定義は灰色の縦罫、補題はプラム色の縦罫、定理は淡いプラム色の地。box()がその見た目を手短な答えの番号設定に重ねます。body.italicでamsthmのplainスタイルのように命題をイタリックにし、行頭見出しはその中でも太字の正体のままです。証明には囲みを付けません。見出しはイタリックで番号がなく(counter: false)、endMark: '□'で最後の行の右端に四角を置きます。数式エンジンが動いているので、四角はTeXの\squareで描かれます。keepTogether: falseで長い証明は次のページへ送れます。snapToGrid: falseで各命題の前後のアキをそろえます。隣の段とそろえる必要のない1段組みでは、ベースライングリッドに丸めたアキより正確なアキのほうが読みやすくなります。
#3 · 論文自身の文献リストから著者–年形式で引く
registerCitationEngine(createCiteprocEngine({ styles: STYLES, locales: LOCALES }));
const citations = { style: 'harvard-cite-them-right', link: true,
bibliography: { fontSize: pt(8.2), lineHeight: pt(10.8), hangingIndent: mm(5),
entrySpacing: pt(1.6), doi: 'link' } };
参考文献は:::references{format=bibtex}ブロックのBibTeXで、論文の.bblから、抄録した本文がなお引いている20件だけを組み直しました。Cite Them Right Harvardは本文では「(Bong and Rinaldo, 2022)」、文献リストでは「Ouyang, L. et al. (2022)」とし、著者が4人以上なら筆頭著者だけを残します。本文に@ziegler2020finetuningと書くと、Ziegler et al. (2020)という叙述形になります。リストは:::bibliographyの位置、つまり7節の後、付録の前に置かれ、論文と同じ並びです。その前の:::pagebreakで、学会論文と同じく付録を新しいページから始めます。こうしないと、A.1の4行の式が収まらず、文献リスト最後のページの下に5行の空きが残ります。
#4 · 表題は帯の上に、出典はページ下端に
const text = (id, content, family, size, color, placement, extra) => ({ kind: 'text', id,
content, fontFamily: family, fontSize: pt(size), color: col(color), align: 'left',
overflow: 'wrap', placement, ...extra });
const at = (to, edge, x, y, width) => ({ anchor: { to, edge }, offset: { x: mm(x), y: mm(y) },
...(width && { size: { width: mm(width), height: 'auto' } }) });
const caps = (size, fontWeight = 600) => ({ fontWeight, letterSpacing: pt(size * 0.18),
textTransform: 'uppercase' });
const BAND = 80; // mm from the trim's top to the foot of the band
const titleBlock = {
enabled: true,
minHeight: mm(BAND + 13 - TOP), // the band, then the byline: the abstract starts under it
slot: { elements: [
{ kind: 'box', id: 'band', style: { backgroundColor: col('accent') },
placement: { anchor: { to: 'bleed', edge: 'top-left' },
size: { width: 'fill', height: mm(BAND + 3) } } }, // + 3 mm of bleed
{ kind: 'image', id: 'curves', resourceId: 'sigmoids', // drawn in code: σ(βu)
placement: at('page', 'top-left', 70, 3, 108) },
text('kicker', '{attr.kicker}', SANS, 7.5, 'mist',
at('page', 'top-left', INNER, 30, 120), caps(7.5)),
text('title', '{titleText}', SERIF, 25, 'paper', at('#kicker', 'below', 0, 3.5, MEASURE),
{ fontWeight: 600, lineHeight: 1.08 }),
text('venue', '{attr.venue}', MONO, 7, 'mist',
at('page', 'top-left', INNER, BAND - 7, 120), { overflow: 'clip' }),
text('authors', '{attr.authors}', SANS, 9.5, 'ink', at('page', 'top-left', INNER, BAND + 6,
MEASURE), { fontWeight: 500, lineHeight: 1.45 }),
text('affiliations', '{attr.affiliations}', SANS, 7.5, 'muted',
at('#authors', 'below', 0, 1.4, MEASURE)),
] },
};
const head = (id, content, parity, edge, x, extra) => text(id, content, SANS, 7.5, 'muted',
at('page', `top-${edge}`, x, 13), { overflow: 'clip', ...caps(7.5, 500), align: edge,
parity, pages: 'body', ...extra });
const folio = { fontWeight: 700, color: col('accent') };
// The running heads are the paper's short forms: checks.contentInConfig allows them (#849).
const RUNNING = ['Rafailov, Sharma, Mitchell, Ermon, Manning & Finn',
'Direct Preference Optimization'];
const header = { elements: [
head('v-folio', '{pageNumber}', 'even', 'left', OUTER, folio),
head('v-title', RUNNING[0], 'even', 'left', OUTER + 9),
head('r-title', RUNNING[1], 'odd', 'right', -(OUTER + 9)),
head('r-folio', '{pageNumber}', 'odd', 'right', -OUTER, folio),
] };
const footer = { elements: [ // the first page: where the text comes from, and its licence
text('source', '{attr.source}', MONO, 6.2, // the H1's attribute, as kicker and venue are
'muted', at('page', 'bottom-left', INNER, -13, MEASURE - 10), { pages: 'opener' }),
text('drop-folio', '{pageNumber}', SANS, 7.5, 'accent', at('page', 'bottom-right', -OUTER, -13),
{ ...folio, align: 'right', pages: 'opener', overflow: 'clip' }),
] };
表題はただ一つのレベル1見出しで、そのpaperスタイルが代わりにデザイン要素の組を描きます。帯はページ上端に裁ち落とし、表題は版面の幅で折り返し、著者と所属は見出しの属性から取ります。¹、²、*は文字として書いています。フッターのpages: 'opener'付きの要素は、出典・ライセンス・加えた変更を1ページ目にだけ印字します。1ページ目だけが切り離されて出回っても、本文の出どころがわかるようにするためです。
#5 · 図をコードで描き直す
const R = (x) => Math.round(x * 100) / 100;
const svg = (w, h, body) => `<svg xmlns="http://www.w3.org/2000/svg" width="${w * PX_PER_MM}" `
+ `height="${h * PX_PER_MM}" viewBox="0 0 ${w} ${h}">${body}</svg>`;
function sigmoids() { // 108 × 24 mm over the kicker: σ(βu) for β from 0.25 to 4
let out = '';
[0.25, 0.4, 0.6, 1, 1.6, 2.5, 4].forEach((beta, i) => {
const pts = Array.from({ length: 105 }, (_, k) => {
const u = (k - 52) / 8; // u from −6.5 to 6.5
return `${k ? 'L' : 'M'}${R(2 + k)} ${R(22 - 20 / (1 + Math.exp(-beta * u)))}`;
}).join('');
out += `<path d="${pts}" fill="none" stroke="${palette.mist}" stroke-width="${R(0.3
+ i * 0.06)}" stroke-opacity="${R(0.25 + i * 0.1)}"/>`;
});
return svg(108, 24, out);
}
function tex(markup, x, y, size, color = 'ink', anchor = 0) { // maths as MathJax paths
const r = renderMath(markup, false, 100);
const k = size / 1000;
return `<g transform="translate(${R(x - anchor * r.viewBox.width * k)} ${R(y)}) scale(${k})" `
+ `fill="${palette[color]}">${r.paths.map((p) => `<path d="${p.d}"/>`).join('')}</g>`;
}
// Each label names its family and weight: loadSvg embeds the Work Sans files they set.
const words = (x, y, s, { size = 2.6, weight = 400, color = 'ink', anchor = 'start' } = {}) =>
`<text x="${R(x)}" y="${R(y)}" font-family="${SANS}" font-weight="${weight}" `
+ `font-size="${size}" fill="${palette[color]}" text-anchor="${anchor}">${s}</text>`;
const rect = (x, y, w, h, stroke, fill = 'paper', r = 1.2) => `<rect x="${x}" y="${y}" `
+ `width="${w}" height="${h}" rx="${r}" fill="${palette[fill]}" stroke="${palette[stroke]}" `
+ 'stroke-width="0.35"/>';
function arrow(points, color) { // a line with a drawn head, never an SVG marker
const [[x1, y1], [x2, y2]] = points.slice(-2);
const a = Math.atan2(y2 - y1, x2 - x1);
const head = [a - 0.45, a + 0.45].map((t) => `${R(x2 - 2 * Math.cos(t))} ${R(y2 - 2
* Math.sin(t))}`);
return `<path d="M${points.map(([x, y]) => `${R(x)} ${R(y)}`).join('L')}" fill="none" `
+ `stroke="${palette[color]}" stroke-width="0.45"/><path d="M${head[0]}L${R(x2)} ${R(y2)}`
+ `L${head[1]}Z" fill="${palette[color]}"/>`;
}
function preferences(x, y, w) { // a prompt and two answers, the preferred one first
const page = (dx) => rect(x + dx, y + 15.5, 6, 7.2, 'rule', 'paper', 0.6)
+ [0, 1, 2].map((l) => `<path d="M${x + dx + 1.2} ${y + 17.6 + l * 1.6}h3.6" `
+ `stroke="${palette.rule}" stroke-width="0.4"/>`).join('');
return rect(x, y, w, 25, 'rule', 'tint')
+ words(x + 2.4, y + 4.6, 'PREFERENCE DATA', { size: 2.1, weight: 600, color: 'muted' })
+ tex('x', x + 2.4, y + 9.8, 3) + words(x + 4.3, y + 9.8, ': “write me a poem about',
{ size: 2.25 }) + words(x + 5.2, y + 13, 'the history of jazz”', { size: 2.25 })
+ page(2.4) + tex('y_w', x + 9.4, y + 20.6, 3) + tex('\\succ', x + 14, y + 20.4, 3, 'accent')
+ page(18.4) + tex('y_l', x + 25.4, y + 20.6, 3);
}
function pipeline() { // 130 × 64 mm: RLHF on the left, DPO on the right
const title = (x, name, sub, color) => words(x, 4, name, { size: 3.2, weight: 600, color })
+ words(x, 8, sub, { size: 2.3, color: 'muted' });
const model = (x, y, w, label, color) => rect(x, y, w, 9, color)
+ words(x + w / 2, y + 5.8, label, { size: 2.6, weight: 600, color, anchor: 'middle' });
const note = (x, y, lines, color, anchor) => lines.map((line, i) => words(x, y + i * 3, line,
{ size: 2.3, color, anchor })).join('');
return svg(MEASURE, 64, title(0, 'RLHF', 'Reinforcement learning from human feedback', 'ochre')
+ preferences(0, 14, 35) // 35 mm: the prompt's first line ends 32.6 mm into the box
+ arrow([[36, 26.5], [48, 26.5]], 'ochre') + note(42, 22.4, ['maximum'], 'ochre', 'middle')
+ note(42, 31.4, ['likelihood'], 'ochre', 'middle')
+ model(49, 22, 25, 'reward model', 'ochre') + model(49, 50, 25, 'LM policy', 'ochre')
+ arrow([[55, 31.5], [55, 49]], 'ochre')
+ note(53.4, 41.6, ['label rewards,', 'reinforcement', 'learning'], 'ochre', 'end')
+ arrow([[68, 49], [68, 31.5]], 'ochre') + note(69.6, 39, ['sample', 'completions'], 'ochre')
+ `<path d="M88 2V62" stroke="${palette.rule}" stroke-width="0.3"/>`
+ title(93, 'DPO', 'Direct preference optimization', 'accent')
+ preferences(93, 14, 37)
+ arrow([[111.5, 39.5], [111.5, 49]], 'accent')
+ note(113.2, 43.4, ['maximum', 'likelihood'], 'accent', 'start')
+ model(99, 50, 25, 'final LM', 'accent'));
}
図1は原図の枠と語句をもとにSVGで描いています。ラベルはfont-familyでWork Sansを指定し、loadSvgがSVGをエンジンのinlineSvgFontsに渡して、ラベルが使うWork Sansの2ファイルを埋め込みます。tex()はy_w ≻ y_lをMathJaxのパスとして書きます。数式と同じ字形です。矢じりはSVGのmarkerではなくパスで描いているので、PDFでも図はベクターのままです。
レシピの全体
// ═══ Postext Cookbook · Nº 138 · Machine-learning paper with theorems and proofs ═══
// https://postext.dev/en/cookbook/ml-paper-theorems-proofs
// Code: MIT · Text: Rafailov et al. 2023, arXiv:2305.18290 (CC BY 4.0), abridged · Art: code
// Fonts: Spectral, Work Sans, JetBrains Mono (SIL OFL 1.1) · Needs postext ≥ 1.65.0
// DPO (NeurIPS 2023) re-set as a preprint: numbered equations with labels and references,
// definition, lemma and theorem boxes, proofs that end in a square, author–year citations.
import {
buildDocumentWithFonts, renderPageToCanvas, registerResourceImage, registerCitationEngine,
defaultResourceTypes, initMathEngine, renderMath, inlineSvgFonts,
} from 'https://esm.sh/postext';
import { renderToPdf, decompressWoff2 } from 'https://esm.sh/postext-pdf';
import { createCiteprocEngine, STYLES, LOCALES } from 'https://esm.sh/postext-citeproc';
const LANG = 'en'; // @lang: the language of the sample document ('en' | 'es')
const RECIPE = 'ml-paper-theorems-proofs';
// ─── 1 · Design ─────────────────────────────────────────────────────────────
const palette = {
ink: '#1d1a22', accent: '#6b2a5f', // text; plum: the band, labels, theorem stripes
ochre: '#a8621c', tint: '#f4edf2', // the RLHF route in Figure 1; the theorem fill
rule: '#cfc3cc', muted: '#675f6b', // hairlines; running heads, notes
mist: '#e3c9dc', paper: '#ffffff', // type and curves on the band; white
};
const col = (id) => ({ hex: palette[id], model: 'hex', paletteId: id });
const colorPalette = Object.entries({ ...palette, 'main-color': palette.accent })
.map(([id, hex]) => ({ id, name: id, value: { hex, model: 'hex' } }));
const [SERIF, SANS, MONO] = ['Spectral', 'Work Sans', 'JetBrains Mono'];
const [BODY, LEAD] = [9.6, 13.4]; // pt: one column of 130 mm, about 74 characters a line
// mm: a 7 × 10 in trim, as technical books and many preprint series print
const [TRIM_W, TRIM_H, TOP, BOTTOM, INNER, OUTER] = [178, 254, 22, 22, 21, 27];
const MEASURE = TRIM_W - INNER - OUTER;
// #region answer: amsthm in Markdown: numbered equations, theorems and proofs
// \label{eq:x} in a display formula numbers it, on its row of an align; a box opened as
// :::callout{type="lemma" #lem:x} counts as a statement. \eqref{eq:x}, \ref{lem:x} and
// :ref{id="lem:x"} print the number and link to it.
const equationNumbering = { // (1) to (13): one sequence through the paper and its appendix
numberingTemplate: '{n}', resetOn: 'never', format: '({n})' };
// A proof: an italic label with no number, and a □ flush right on its last line, drawn
// from TeX's \square because maths runs (Spectral has no □ of its own).
const proofOf = (label) => ({ endMark: '□',
numbering: { label, counter: false, bold: false, italic: true } });
const statements = [ // a counter per kind, as the paper has it: Definition 1, Lemma 1, Theorem 1
{ id: 'definition', numbering: { label: 'Definition' } },
{ id: 'lemma', numbering: { label: 'Lemma' } }, // counter: 'theorem' would share one sequence
{ id: 'theorem', numbering: { label: 'Theorem' } },
{ id: 'proof', ...proofOf('Proof') },
{ id: 'sketch', ...proofOf('Proof Sketch') },
組み立てたscript.jsはそのまま動きます。任意のページのモジュールスクリプトに貼り付けるか、レシピをCodePenで開いてください。 GitHub上のレシピのフォルダー ↗ (新しいタブで開きます)
アレンジ
#NeurIPSのテンプレートのように番号で引く
原論文はnatbibの番号方式です。IEEEなら本文に[1]と印字し、文献リストを引用順に番号付けします。
-const citations = { style: 'harvard-cite-them-right', link: true,
+const citations = { style: 'ieee', link: true,#補題と定理を通し番号にする
すべての命題を一つの系列で数える雑誌もあります(補題1、補題2、定理3)。\newtheorem{lemma}[theorem]と同じく、補題に定理のカウンターを使わせます。
- { id: 'lemma', numbering: { label: 'Lemma' } }, // counter: 'theorem' would share one sequence
+ { id: 'lemma', numbering: { label: 'Lemma', counter: 'theorem' } },よくあるつまずき
つまずき
数式には最初のビルドの前にawait initMathEngine()が必要
数式エンジンが動き出す前にレイアウトした数式は、灰色のプレースホルダーの箱になります。initMathEngineをほかのシンボルと一緒にhttps://esm.sh/postextから読み込み、最初のビルドの前にawaitしてください。数式のある文書をこれなしでビルドすると、コンソールに警告が1つ出ます。postext 1.5からは、MathJaxはinitMathEngineが取得する1つのモジュールとしてパッケージに含まれているので、通常のimportがCDNから使え、?bundleは必要ありません(1.4までは、すべてのシンボルをhttps://esm.sh/postext?bundleから読み込む必要がありました)。読み込むURLは1つだけにしてください。URLが2つあると、エンジンが2つ読み込まれます。 数式 →
endMarkが四角(□ ∎ ■)をTeXで描くのは数式エンジンが動いているときだけです。initMathEngine()のない文書では囲みの本文の書体で組まれ、SpectralにはFontsourceのどのlatinファイルとも同じく□がありません。その場合は書体が持っている記号を選んでください。- 段の均等化は、背の高い数式のせいで短くなったページを、見出しの上にベースライングリッドの行を足して埋めます。
balancing: { maxLinesPerHeading: 1 }なら論文の見出しはほぼ本来のアキを保ち、そうしたページは数行短く終わることがあります。 \underbraceの注記が括弧より広い式(4節の勾配など)はalignedで2行に分けます。版面より広い式は右へはみ出します。
クレジット
- 本文
- Abridged from Rafailov, R., Sharma, A., Mitchell, E., Ermon, S., Manning, C. D. and Finn, C. (2023) “Direct Preference Optimization: Your Language Model is Secretly a Reward Model”, Advances in Neural Information Processing Systems 36 (NeurIPS 2023), arXiv:2305.18290v3. Sections 2 and 5.2, most of 6 and appendices A.2–A.4, A.6 and B–E cut, other paragraphs and sentences shortened; section numbers kept, equations renumbered in the abridged order; citations re-set author–year; Figure 1 redrawn · Rafael Rafailov, Archit Sharma, Eric Mitchell, Stefano Ermon, Christopher D. Manning, Chelsea Finn · CC BY 4.0
- フォント
- Spectral (SIL OFL 1.1) · Work Sans (SIL OFL 1.1) · JetBrains Mono (SIL OFL 1.1)


