大数の法則や中心極限定理の説明はどんな統計学の教科書にも必ず載っていますが、証明まで載せていることは少ないように思います。また、大数の法則は、大数の弱法則と大数の強法則の２つがありますが、強法則の方が証明が面倒みたいで弱法則の証明しか与えられていない教科書が多いようです。
大数の法則の読み方 たいすう？ だいすう？
だいすうと入力しても候補として大数が出てこないのが不思議でしたが、それは読み方がだいすうではなくてたいすうだからでした。確かに、たいすうと入力すると2番目くらいに候補として大数がきます。
大数の法則の読み方は だいすうのほうそく」ではなく「たいすうのほうそく」です。https://manabitimes.jp/math/990
日本語は難しい。。。
大数の法則と言った場合は大数の弱法則か大数の強法則か
2種類あるのならその区別をしない場合にどっちを指すのでしょうか。松本・宮原『数理統計入門』では、大数の法則（確率収束）の説明をしたあとに、さらに強い主張（大数の強法則）も成り立つと結果だけ紹介しているので（46~47ページ）、単に大数の法則と言ったときにこの本の場合は大数の弱法則を指すようです。東京大学教養学部統計学教室編『自然科学の統計学』でも
この事実は大数の弱法則（簡単に大数の法則）とよばれる。（28ページ）
といった書き方をしているので、単に大数の法則と言ったときは大数の弱法則のことなのでしょう。
大数の法則は収束をどのようにとらえるかに応じて、ヤコブ・ベルヌーイによる大数の弱法則 (WLLN: Weak Law of Large Numbers) と、エミール・ボレルやアンドレイ・コルモゴロフによる大数の強法則 (SLLN: Strong Law of Large Numbers) の2つに大別される。単に「大数の法則」と言った場合、どちらを指しているのかは文脈により判断する必要がある。（大数の法則 ウィキペディア）
大数の弱法則の証明
- https://k-san.link/law-of-large-numbers/
大数の大法則の証明
- https://mochimarusuisan.hatenablog.jp/entry/2020/09/02/191351
- https://wiis.info/math/probability/asymptotic-theory/kolmogorovs-strong-law-of-large-numbers/#elementor-toc__heading-anchor-1
- https://meisei.repo.nii.ac.jp/record/2141/files/rikoNo.13a01.pdf
大数の法則と中心極限定理の関係
- https://manabitimes.jp/math/1104 大数の弱法則は中心極限定理から導出することができます。
その他の参考
- https://wiis.info/math/probability/asymptotic-theory/chebyshevs-weak-law-of-large-numbers/#elementor-toc__heading-anchor-1
- アンドレイ・コルモゴロフ（ウィキペディア）「数学の一分野としての確率論は、幾何学や代数学と全く同じように公理を起点として発達させることができるし、またそうであるべきだ」