add auto fetch ssl certs

This commit is contained in:
2021-08-26 12:11:25 +08:00
parent 11ca254bed
commit 509ac048fc
237 changed files with 4968 additions and 7406 deletions

View File

@@ -13,7 +13,7 @@
"articleSection" : "post",
"name" : "[筆記] 用zfs的snapshot 快照功能來做 postgresql 的備份還原 \/ Postgresql Backup Restore Using Zfs Snapshot",
"headline" : "[筆記] 用zfs的snapshot 快照功能來做 postgresql 的備份還原 \/ Postgresql Backup Restore Using Zfs Snapshot",
"description" : "\x3cp\x3e前面測試了用pgbarman \/ pgbackrest 來備份 postgresql\x3c\/p\x3e\n\n\x3cp\x3e這次改從system file level 來下手\x3c\/p\x3e\n\n\x3cp\x3e採用zfs 的快照來備份、還原postgresql 資料庫\x3c\/p\x3e",
"description" : "\x3cp\x3e前面測試了用pgbarman \/ pgbackrest 來備份 postgresql\x3c\/p\x3e\n\x3cp\x3e這次改從system file level 來下手\x3c\/p\x3e\n\x3cp\x3e採用zfs 的快照來備份、還原postgresql 資料庫\x3c\/p\x3e",
"inLanguage" : "en",
"author" : "Eric Chang",
"creator" : "Eric Chang",
@@ -45,9 +45,9 @@
<link rel="stylesheet" href="https://use.fontawesome.com/releases/v5.3.1/css/all.css" integrity="sha384-mzrmE5qonljUremFsqc01SB46JvROS7bZs3IO2EmfFsd15uHvIt+Y8vEf7N7fWAU" crossorigin="anonymous">
<link href="https://h.cowbay.org/css/style.css?v=1626744134" rel="stylesheet" id="theme-stylesheet" type='text/css' media='all'>
<link href="https://h.cowbay.org/css/style.css?v=1629951055" rel="stylesheet" id="theme-stylesheet" type='text/css' media='all'>
<link href="https://h.cowbay.org/css/custom.css?v=1626744134" rel="stylesheet" type='text/css' media='all'>
<link href="https://h.cowbay.org/css/custom.css?v=1629951055" rel="stylesheet" type='text/css' media='all'>
<link rel="shortcut icon" href="https://h.cowbay.org/img/favicon.ico" type="image/x-icon">
<link rel="icon" href="https://h.cowbay.org/img/favicon.ico" type="image/x-icon">
@@ -81,10 +81,6 @@ if (!doNotTrack) {
<ul id="menu-secondary-items" class="menu-secondary-items">
<li class="menu-item menu-item-type-taxonomy menu-item-object-category">
<a href="/categories/"></a>
</li>
<li class="menu-item menu-item-type-taxonomy menu-item-object-category">
<a href="/categories/ansible">ansible</a>
</li>
@@ -309,17 +305,11 @@ if (!doNotTrack) {
<div class="entry-content">
<article>
<p>前面測試了用pgbarman / pgbackrest 來備份 postgresql</p>
<p>這次改從system file level 來下手</p>
<p>採用zfs 的快照來備份、還原postgresql 資料庫</p>
<h3 id="建立測試資料庫-table-snapshot">建立測試資料庫、TABLE、snapshot</h3>
<h3 id="建立測試資料庫tablesnapshot">建立測試資料庫、TABLE、snapshot</h3>
<h4 id="資料庫現況">資料庫現況</h4>
<p>只有系統預設的DB沒有其他多的東西</p>
<pre><code>postgres@hqdc034:~$ psql -c '\l'
List of databases
Name | Owner | Encoding | Collate | Ctype | Access privileges
@@ -333,10 +323,7 @@ if (!doNotTrack) {
postgres@hqdc034:~$ du -sh /zp/database/10/main/
232M /zp/database/10/main/
</code></pre>
<h4 id="建立第一次的快照">建立第一次的快照</h4>
</code></pre><h4 id="建立第一次的快照">建立第一次的快照</h4>
<pre><code>2019-09-06 09:03:46 [changch@hqdc034 ~]$ sudo zfs list -t snapshot
no datasets available
2019-09-06 09:03:53 [changch@hqdc034 ~]$ sudo zfs snapshot zp/database@init_db_no_demo
@@ -344,19 +331,13 @@ no datasets available
NAME USED AVAIL REFER MOUNTPOINT
zp/database@init_db_no_demo 0 - 231M -
2019-09-06 09:04:15 [changch@hqdc034 ~]$
</code></pre>
<h4 id="建立-倒回測試資料庫-demo">建立、倒回測試資料庫 demo</h4>
</code></pre><h4 id="建立倒回測試資料庫-demo">建立、倒回測試資料庫 demo</h4>
<pre><code>postgres@hqdc034:~$ createdb demo
postgres@hqdc034:~$ psql demo &lt; /home/changch/Downloads/demo.sql
SET
SET
略...
</code></pre>
<p>再檢查一次資料庫的狀況,看到 demo DB出現了資料庫目錄也變大了</p>
</code></pre><p>再檢查一次資料庫的狀況,看到 demo DB出現了資料庫目錄也變大了</p>
<pre><code>postgres@hqdc034:~$ psql -c '\l'
List of databases
Name | Owner | Encoding | Collate | Ctype | Access privileges
@@ -372,40 +353,26 @@ SET
postgres@hqdc034:~$ du -sh /zp/database/10/main/
2.1G /zp/database/10/main/
postgres@hqdc034:~$
</code></pre>
<h4 id="建立第二次快照">建立第二次快照</h4>
</code></pre><h4 id="建立第二次快照">建立第二次快照</h4>
<p>這次的快照,將包含剛剛倒回的 demo DB但是不包含等下才要建立的測試 table</p>
<pre><code>2019-09-06 09:16:01 [changch@hqdc034 ~]$ sudo zfs list -t snapshot
NAME USED AVAIL REFER MOUNTPOINT
zp/database@init_db_no_demo 250K - 231M -
zp/database@demo_db_just_restore 0 - 2.08G -
2019-09-06 09:16:04 [changch@hqdc034 ~]$
</code></pre>
<h4 id="建立測試-table">建立測試 table</h4>
</code></pre><h4 id="建立測試-table">建立測試 table</h4>
<pre><code>postgres@hqdc034:~$ psql -c 'create table test ( a int, b varchar(50) );'
CREATE TABLE
postgres@hqdc034:~$
</code></pre>
<h4 id="建立第三次快照">建立第三次快照</h4>
</code></pre><h4 id="建立第三次快照">建立第三次快照</h4>
<p>這次快照,只有建立 test table ,但是裡面沒有資料</p>
<pre><code>2019-09-06 09:18:34 [changch@hqdc034 ~]$ sudo zfs list -t snapshot
NAME USED AVAIL REFER MOUNTPOINT
zp/database@init_db_no_demo 250K - 231M -
zp/database@demo_db_just_restore 138K - 2.08G -
zp/database@demo_db_create_test_table_but_no_data 0 - 2.08G -
2019-09-06 09:18:36 [changch@hqdc034 ~]$
</code></pre>
<h4 id="在test-table-插入100萬筆資料">在test table 插入100萬筆資料</h4>
</code></pre><h4 id="在test-table-插入100萬筆資料">在test table 插入100萬筆資料</h4>
<pre><code>postgres@hqdc034:~$ psql -c 'with aa as ( select * from generate_series (1,1000000) a ) insert into test select aa.a, md5(aa.a::varchar) from aa;'
INSERT 0 1000000
postgres@hqdc034:~$ psql -c 'select count(*) from test;'
@@ -415,12 +382,8 @@ postgres@hqdc034:~$ psql -c 'select count(*) from test;'
(1 row)
postgres@hqdc034:~$
</code></pre>
<h4 id="建立第四次快照">建立第四次快照</h4>
</code></pre><h4 id="建立第四次快照">建立第四次快照</h4>
<p>test table 內有 1000000 筆資料</p>
<pre><code>2019-09-06 09:18:36 [changch@hqdc034 ~]$ sudo zfs snapshot zp/database@demo_db_test_table_with_1M_rows
2019-09-06 09:21:08 [changch@hqdc034 ~]$ sudo zfs list -t snapshot
NAME USED AVAIL REFER MOUNTPOINT
@@ -429,10 +392,7 @@ zp/database@demo_db_just_restore 138K - 2.08G -
zp/database@demo_db_create_test_table_but_no_data 116K - 2.08G -
zp/database@demo_db_test_table_with_1M_rows 0 - 2.15G -
2019-09-06 09:21:09 [changch@hqdc034 ~]$
</code></pre>
<h4 id="再次插入-100萬筆資料">再次插入 100萬筆資料</h4>
</code></pre><h4 id="再次插入-100萬筆資料">再次插入 100萬筆資料</h4>
<pre><code>postgres@hqdc034:~$ time psql -c 'with aa as ( select * from generate_series (1,1000000) a ) insert into test select aa.a, md5(aa.a::varchar) from aa;'
INSERT 0 1000000
@@ -446,12 +406,8 @@ postgres@hqdc034:~$ psql -c 'select count(*) from test;'
(1 row)
postgres@hqdc034:~$
</code></pre>
<h4 id="建立第五次快照">建立第五次快照</h4>
</code></pre><h4 id="建立第五次快照">建立第五次快照</h4>
<p>現在 test table 有 200萬筆資料了</p>
<pre><code>2019-09-06 09:21:09 [changch@hqdc034 ~]$ sudo zfs snapshot zp/database@demo_db_test_table_with_2M_rows
2019-09-06 09:22:29 [changch@hqdc034 ~]$ sudo zfs list -t snapshot
NAME USED AVAIL REFER MOUNTPOINT
@@ -461,10 +417,7 @@ zp/database@demo_db_create_test_table_but_no_data 116K - 2.08G -
zp/database@demo_db_test_table_with_1M_rows 218K - 2.15G -
zp/database@demo_db_test_table_with_2M_rows 0 - 2.23G -
2019-09-06 09:22:30 [changch@hqdc034 ~]$
</code></pre>
<h4 id="玩大點-直接湊滿1000萬筆資料好了">玩大點直接湊滿1000萬筆資料好了</h4>
</code></pre><h4 id="玩大點直接湊滿1000萬筆資料好了">玩大點直接湊滿1000萬筆資料好了</h4>
<pre><code>postgres@hqdc034:~$ time psql -c 'with aa as ( select * from generate_series (1,8000000) a ) insert into test select aa.a, md5(aa.a::varchar) from aa;'
INSERT 0 8000000
@@ -477,12 +430,8 @@ postgres@hqdc034:~$ psql -c 'select count(*) from test;'
10000000
(1 row)
postgres@hqdc034:~$
</code></pre>
<h4 id="建立第六次快照">建立第六次快照</h4>
</code></pre><h4 id="建立第六次快照">建立第六次快照</h4>
<p>10M rows in test table</p>
<pre><code>2019-09-06 09:22:30 [changch@hqdc034 ~]$ sudo zfs snapshot zp/database@demo_db_test_table_with_10M_rows
2019-09-06 09:25:18 [changch@hqdc034 ~]$ sudo zfs list -t snapshot
NAME USED AVAIL REFER MOUNTPOINT
@@ -493,21 +442,13 @@ zp/database@demo_db_test_table_with_1M_rows 218K - 2.15G -
zp/database@demo_db_test_table_with_2M_rows 530K - 2.23G -
zp/database@demo_db_test_table_with_10M_rows 163K - 2.97G -
2019-09-06 09:25:21 [changch@hqdc034 ~]$
</code></pre>
<p>到1000萬筆資料為止現在資料庫大小是這樣</p>
</code></pre><p>到1000萬筆資料為止現在資料庫大小是這樣</p>
<pre><code>postgres@hqdc034:~$ du -sh /zp/database/10/main/
3.0G /zp/database/10/main/
postgres@hqdc034:~$
</code></pre>
<hr />
</code></pre><hr>
<h3 id="還原測試">還原測試</h3>
<p>最後一次做快照的時候demo DB 裡面有一千萬筆資料現在來砍掉500萬筆</p>
<pre><code>postgres@hqdc034:~$ time psql -c 'delete from test where a &gt; 5000000;'
DELETE 3000000
@@ -526,27 +467,18 @@ real 0m0.268s
user 0m0.024s
sys 0m0.004s
postgres@hqdc034:~$
</code></pre>
<p>怪怪的為什麼只有砍掉300萬筆
</code></pre><p>怪怪的為什麼只有砍掉300萬筆
這邊先不管等等正好來驗證restore的狀況</p>
<p>假設剛剛這個刪除是錯誤的動作我要回到1000萬資料的狀態就可以用zfs rollback 來達成</p>
<h4 id="第一次還原">第一次還原</h4>
<p>目標是還原到包含1000萬筆資料的狀態(現在是700萬筆)</p>
<pre><code>2019-09-06 09:25:21 [changch@hqdc034 ~]$ sudo service postgresql stop
* Stopping PostgreSQL 10 database server [ OK ]
2019-09-06 10:14:12 [changch@hqdc034 ~]$ sudo zfs rollback -r zp/database@demo_db_test_table_with_10M_rows
2019-09-06 10:14:28 [changch@hqdc034 ~]$ sudo service postgresql start
* Starting PostgreSQL 10 database server [ OK ]
2019-09-06 10:14:57 [changch@hqdc034 ~]$
</code></pre>
<p>檢查一下</p>
</code></pre><p>檢查一下</p>
<pre><code>postgres@hqdc034:~$ time psql -c 'select count(*) from test;'
count
----------
@@ -558,13 +490,9 @@ real 0m5.019s
user 0m0.040s
sys 0m0.008s
postgres@hqdc034:~$
</code></pre>
<p>沒錯又回到1000萬筆資料的狀態了</p>
</code></pre><p>沒錯又回到1000萬筆資料的狀態了</p>
<p>要注意的是如果回到更之前的狀態在該狀態之後的快照將會被清除除非你先做clone
比如我現在要回到 200萬筆的狀態那1000萬筆資料的快照就會被刪除</p>
<pre><code>2019-09-06 10:17:32 [changch@hqdc034 ~]$ sudo service postgresql stop
* Stopping PostgreSQL 10 database server [ OK ]
2019-09-06 10:18:50 [changch@hqdc034 ~]$ sudo zfs rollback -r zp/database@demo_db_test_table_with_2M_rows
@@ -589,11 +517,8 @@ real 0m0.175s
user 0m0.024s
sys 0m0.008s
postgres@hqdc034:~$
</code></pre>
<p>我剛剛應該先clone的&hellip;.
</code></pre><p>我剛剛應該先clone的&hellip;.
沒關係我們再做一次新增800萬筆資料湊齊1000萬筆然後快照</p>
<pre><code>postgres@hqdc034:~$ time psql -c 'with aa as ( select * from generate_series (1,8000000) a ) insert into test select aa.a, md5(aa.a::varchar) from aa;'
INSERT 0 8000000
@@ -610,10 +535,7 @@ real 0m5.259s
user 0m0.024s
sys 0m0.008s
postgres@hqdc034:~$
</code></pre>
<p>做快照</p>
</code></pre><p>做快照</p>
<pre><code>2019-09-06 10:19:17 [changch@hqdc034 ~]$ sudo zfs snapshot zp/database@demo_db_test_table_with_10M_rows
2019-09-06 10:22:59 [changch@hqdc034 ~]$ sudo zfs list -t snapshot
NAME USED AVAIL REFER MOUNTPOINT
@@ -624,17 +546,11 @@ zp/database@demo_db_test_table_with_1M_rows 218K - 2.15G -
zp/database@demo_db_test_table_with_2M_rows 56.4M - 2.23G -
zp/database@demo_db_test_table_with_10M_rows 0 - 1.81G -
2019-09-06 10:23:02 [changch@hqdc034 ~]$
</code></pre>
<p>接著來測試看看 clone snapshot這是基本的說明</p>
</code></pre><p>接著來測試看看 clone snapshot這是基本的說明</p>
<pre><code>Clones can only be created from a snapshot and a snapshot can not
be deleted until you delete the clone that is based on this snapshot.
To create a clone, use the zfs clone command.
</code></pre>
<p>clone 會做出一份跟clone來源一模一樣的資料在快照模式下資料是唯讀的clone出來後就可以做異動。但是不能刪除clone來源的快照會提示錯誤。</p>
</code></pre><p>clone 會做出一份跟clone來源一模一樣的資料在快照模式下資料是唯讀的clone出來後就可以做異動。但是不能刪除clone來源的快照會提示錯誤。</p>
<pre><code>2019-09-06 10:28:31 [changch@hqdc034 ~]$ sudo zfs clone zp/database@demo_db_test_table_with_10M_rows zp/database/clone_with_10M_rows
2019-09-06 10:29:21 [changch@hqdc034 ~]$ sudo zfs list
NAME USED AVAIL REFER MOUNTPOINT
@@ -642,30 +558,20 @@ zp 3.08G 231G 22K /zp
zp/database 3.08G 231G 1.88G /zp/database
zp/database/clone_with_10M_rows 0 231G 1.81G /zp/database/clone_with_10M_rows
2019-09-06 10:29:26 [changch@hqdc034 ~]$
</code></pre>
<p>可以看到做了clone之後多了一個 zfs dataset
</code></pre><p>可以看到做了clone之後多了一個 zfs dataset
試試看把資料庫路徑直接改到這個新做的dataset 看看能不能啟動資料庫
修改 /etc/postgresql/10/main/postgresql.conf然後重起postgresql</p>
<pre><code>#data_directory = '/var/lib/postgresql/10/main' # use data in another directory
#data_directory = '/zp/database/10/main'
data_directory = '/zp/database/clone_with_10M_rows/10/main'
</code></pre>
<p><strong>啟動有比較久一點</strong> 而且好像沒成功啟動</p>
</code></pre><p><strong>啟動有比較久一點</strong> 而且好像沒成功啟動</p>
<pre><code>2019-09-06 10:32:27 [changch@hqdc034 ~]$ sudo service postgresql restart
* Restarting PostgreSQL 10 database server [ OK ]
2019-09-06 10:33:37 [changch@hqdc034 ~]$
2019-09-06 10:33:37 [changch@hqdc034 ~]$ sudo netstat -antlp |grep 5432
</code></pre>
<p>而且在 syslog &amp; postgresql log 中看不到什麼異常,怪了!
</code></pre><p>而且在 syslog &amp; postgresql log 中看不到什麼異常,怪了!
而且再啟動一次就好了?</p>
<p>再來測試一次看看</p>
<pre><code>2019-09-06 10:37:22 [changch@hqdc034 ~]$ sudo service postgresql stop
* Stopping PostgreSQL 10 database server [ OK ]
2019-09-06 10:38:03 [changch@hqdc034 ~]$ sudo zfs list
@@ -694,11 +600,8 @@ zp/database/clone_with_10M_rows 0 231G 1.81G /zp/database/clone_with_10
tcp 0 0 0.0.0.0:5432 0.0.0.0:* LISTEN -
tcp6 0 0 :::5432 :::* LISTEN -
2019-09-06 10:39:13 [changch@hqdc034 ~]$
</code></pre>
<p>這次就沒問題看來是我第一次下指令的時候不該用sudo netstat -antlp 去檢查?
</code></pre><p>這次就沒問題看來是我第一次下指令的時候不該用sudo netstat -antlp 去檢查?
anyway 回到psql 來看看內容</p>
<pre><code>postgres@hqdc034:~$ time psql -c 'select count(*) from test;'
count
----------
@@ -710,12 +613,8 @@ real 0m4.716s
user 0m0.028s
sys 0m0.004s
postgres@hqdc034:~$
</code></pre>
<p>Good clone 出來的果然是1000萬筆資料時的狀態</p>
<hr />
</code></pre><p>Good clone 出來的果然是1000萬筆資料時的狀態</p>
<hr>
<p>這次測試就先到此為止後面再來測試zfs的 replication and send/recv</p>
</article>
</div>
@@ -997,7 +896,7 @@ title="pinterest icon"></i>
</ul> <div class="design-credit">
<p>&copy; 2018 Göran Svensson</p>
<p>© 2018 Göran Svensson</p>
<p>Nederburg Hugo Theme by <a href="https://appernetic.io">Appernetic</a>.</p>
@@ -1009,7 +908,7 @@ title="pinterest icon"></i>
</div>
<script src="https://h.cowbay.org/js/jquery.min.js"></script>
<script src="https://h.cowbay.org/js/jquerymigrate.js"></script>
<script src="https://h.cowbay.org/js/production.min.js?v=1626744134"></script>
<script src="https://h.cowbay.org/js/production.min.js?v=1629951055"></script>
</body>
</html>