11 月 29 2020

測試 Raspberry Pi 4 可用的 storage devices

數年前我開始玩 Raspberry Pi ，第一款入手的是 Raspberry Pi 2 model B；原先的想法是在家弄個微型 Linux server，運氣好的話還能裝 desktop 版，接上電視當 Thin client。
但這個版本 CPU 速度不快，記憶體不大，MicroSD 的 file I/O 也不算快，我裝起來玩沒幾個月就撤下來了… XD

之後我在看到 Orange Pi 的 benchmarking 文章，感覺內建的 EMMC 速度不錯，就買了一台 Orange Pi Plus 2 來玩。
也是玩沒幾個月，發現 Orange Pi 的生態系不太完整，而且 Orange Pi Plus 2 的 CPU 發熱量頗高，非得搞個風扇才能讓它保持清醒（風扇還要定時更換），便又把它撤下來了…

Raspberry Pi 4 大概是在 2019 年六月面世，而且 Benchmarking the Raspberry Pi 4 這文有一部份對我挺有吸引力…

我想在家弄的 Linux server 已經被我扔進 NAS 的 VM，直到 8GB 記憶體的版本面世，我才又入手。
把它裝起來玩之後，發現 MicroSD 的 file I/O 依舊無法跟 NAS 裡面的 VM guest 相比，便又擱著…
直到最近看到一堆 Raspberry Pi 4 的 USB boot 文，才又有動力把它抓出來測 file I/O ，順便留個紀錄。

在測試前，有件事讓我搞很久…
我用 USB 外接硬碟可以作 USB boot，但用 Intel SSD 760p 配 Asus ROG STRIX ARION、伽利略 M2NVU31（晶片是 JMS583）一直失敗… T_T

我在 Facebook 的台灣樹苺派社群提問，便有人回覆提醒我該注意供電與轉接器的主控晶片。
於是我把裝置接上一個可額外供電的 USB 3.0 hub，NVMe SSD 搭配 JMS583 主控 就成功達成 USB boot 了… XD

隨後又在網路上找了個 RTL9210 主控的轉接器，發現 RTL9210 毋需額外供電，直接接上就可以作 USB boot。

測試的配置圖（開機時僅接上 NVMe SSD）：

Raspberry Pi 4 的一些基本資訊，開機後裝上 & 掛載受測的 storage devices：

fio 的參數都一樣：

-iodepth=128 -ioengine=libaio -bs=4k \
--runtime=300 --size=500M \
--direct=1 --rw=randrw

前面的廢話夠多了，先列 fio 的隨機存取測試結果；由快到慢分別是：

  1. Intel SSD 760p 搭配 NVMe-to-USB3 轉接器（左三，Raspberry Pi 4 開機時僅接上這個作 USB boot）：iops 約 11k，傳輸約 42MB/s
  2. Fujitsu F500 SATA SSD 搭配 SATA-to-USB3 線（左一）：iops 約 10k，傳輸約 40MB/s
  3. SanDisk Extreme Pro MicroSD card（在 Raspberry Pi 4 肚子裡）：iops 約 390，傳輸約 1560KB/s
  4. SanDisk Ultra Go 隨身碟（插在 USB 3.0 hub，tiffany 藍那傢伙）：iops 約 170，傳輸約 680KB/s
  5. Toshiba Canvio Basics 2.5″ USB3 外接硬碟（左二，應該是 SMR HDD）：iops 約 63，傳輸約 250KB/s

有興趣的可以繼續看測試截圖…
More

By • 1 • Tags: , , , , , , , , , , , ,

11 月 15 2020

用 certbot 取用 Let’s Encrypt 的 certificates

我原本使用 dehydrated，前陣子開始改用 certbot。
對我這懶人來說，certbot 有 rpm & dpkg，也都有 yum 跟 apt 的 repositories 可用，這點挺重要… XD

單機（純 hostname）的 certificate 搭配 nginx 用這行指令就可以完成：

certbot certonly --nginx -d {hostname}

取用 wildcard certificate 的話可以先看看 certbot 的 DNS Plugins 文件。
我自己的網域 DNS server 是自己掌管的，搭配的是 certbot-dns-rfc2136 。
編輯完設定檔（eg. /etc/letsencrypt/rfc2136.ini）之後也是一行指令完成：

certbot certonly \
	--dns-rfc2136 \
	--dns-rfc2136-credentials /etc/letsencrypt/rfc2136.ini \
	-d *.{DOMAIN} -d {DOMAIN}

另外，在 Ubuntu 安裝的 certbot 已經使用 systemd 的 timers 觸發定時更新，用下面這行指令可以確認其狀況。

systemctl status certbot.timer

By • 0 • Tags: , , ,

10 月 31 2020

Intel 760p in ASUS ROG STRIX ARION

剛入手 Intel SSD 760p 跟 Asus ROG STRIX ARION ，跑個數據作紀錄…


By • 0 • Tags: , , ,

7 月 31 2020

MySQL 8.0.20 升級後記（踩 & 拆雷記）

續前一篇，這陣子除了表訂工作之外，就是觀察 MySQL 升級後有哪些地雷被引爆，接著開始救傷。

一顆跟 Java/JDBC 有關，錯誤訊息如下圖；原因是 MySQL 8 沒有 query_cache_size 等等的參數，而解決方式是更新 MySQL Connector/J。

另外一顆的成因/故事就比較長了…

MySQL 8 之前的版本，我們習慣把 character_set_server 設為 utf8 ，而 collation_server 設為 utf8_general_ci ；升版前看到這兩個變數預設值都換掉了，就很開心的拿掉… 於是部份（年紀比較大）的 PHP web server 就爆了，錯誤訊息如下圖。

初步研判以為是 PHP 認不得 utf8mb4 ，仔細追查後發現真因是「認不得 utf8mb4_0900_ai_ci」，解決方式是把 collation_server 設為 utf8mb4_general_ci 。

附帶一提， PHP 5.3 的 ext/mysqlnd 沒這問題，僅 5.4 ~ 5.6 受影響，而 PHP 7 之後都支援 UCA Ver.9 的 collations …

By • , , 0 • Tags: , , , , , , ,

5 月 31 2020

MySQL 8.0.20 升級筆記

這陣子在處理 MySQL 5.6 -> 5.7 -> 8.0 升級的事，踩到一些地雷；紀錄一下。

目前新版的 MySQL 5.7 & 8.0 在全新安裝時會隨機產生 root 的密碼，並把密碼寫在 log 裡面。
這行為在自動化佈署時會遇上點麻煩，而避免隨機產生 root 密碼的方式是在 script 作這樣的事：

...
mysqld --initialize-insecure
systemctl start mysqld
echo "ALTER USER 'root'@'localhost' IDENTIFIED WITH 'mysql_native_password' BY '##########';" | mysql
...

（5.7 -> 8.0）升級方面，第一個變化是 mysql_upgrade 不需要執行了；server 在啟動時會檢查，並自行升版。

原本在 5.7 版仍能使用的幾個 Server System Variables 在 8.0 版必須移除：

  • query_cache_type = 0
  • query_cache_size = 0
  • innodb_large_prefix = 1
  • innodb_file_format = Barracuda

expire_logs_days 也應移除，改用 binlog_expire_logs_seconds。
我另外在 8.0 版補上這兩個設定：

  • mysqlx = 0
  • default_authentication_plugin = mysql_native_password

5.7 -> 8.0 的預設語系/字元集有變化：

character_set_servercollation_server
MySQL 5.7latin1latin1_swedish_ci
MySQL 8.0utf8mb4utf8mb4_0900_ai_ci

特別提 8.0.20 是因為使用 Percona XtraBackup 時踩到地雷（Ref. percona-xtrabackup-80 does not work with mysql 8.0.20）；原因是 Redo log 格式被更改了，Changes in MySQL 8.0.20 (2020-04-27, General Availability) 裡面有這段：

InnoDB: Redo log records for modifications to undo tablespaces increased in size in MySQL 8.0 due to a change in undo tablespace ID values, which required additional bytes. The change in redo log record size caused a performance regression in workloads with heavy write I/O. To address this issue, the redo log format was modified to reduce redo log record size for modifications to undo tablespaces. (Bug #29536710)

（有興趣深究的可以看看這個 commit）

Percona XtraBackup – Documentation 裡面也有這段說明：

Due to changes in MySQL 8.0.20 released by Oracle at the end of April 2020, Percona XtraBackup 8.0, up to version 8.0.11, is not compatible with MySQL version 8.0.20 or higher, or Percona products that are based on it: Percona Server for MySQL and Percona XtraDB Cluster.

另外一顆地雷是 Drupal 7 在連線初始化時會設定 SQL mode，但 NO_AUTO_CREATE_USER 在 8.0 被拿掉了；目前先用 這個 comment 裡面夾帶的 patch 作修正。

By • 1 • Tags: , ,

9 月 4 2019

Crucial MX300 on Lenovo X230

剛好拿到一台舊電腦作測試；發現裡面裝了一顆 2.5″ Crucial MX300，就順便作 SSD benchmarking … XD

By • 0 • Tags: , ,

7 月 24 2019

Logstash 筆記

為了分析某些儲存在 MySQL 的 log，敝單位在兩年前（2017）導入 Logstash；當時我們用最新的 5.5.1 版，運作狀況還不錯，所以就沒什麼人理它…
最近冒出問題，救完火後寫個紀錄。

第一個問題是這個：

[WARN ][logstash.inputs.jdbc ] Exception when executing JDBC query {:exception=>#<Sequel::DatabaseError: Java::ComMysqlJdbcExceptionsJdbc4::MySQLDataException: ‘2.147483727E9’ in column ‘1’ is outside valid range for the datatype INTEGER.>}

資料的第一個欄位是 auto-increment 的 ID，看到 ‘2.147483727E9’ 就聯想到是 32 位元正整數溢位問題。
我們先換 MySQL Connector/J （& 改用 OpenJDK）；換完之後，看到的錯誤訊息變成這樣：

[WARN ][logstash.inputs.jdbc ] Exception when executing JDBC query {:exception=>#<Sequel::DatabaseError: Java::JavaSql::SQLDataException: Value ‘2147483727’ is outside of valid range for type java.lang.Integer>}

於是我們就開始升版 Logstash；目前最新的版本是 7.2.0，但 官方的 migration guide 說要先升版到 6.7。
最後我們順利升上 7.2.0，在過程中也發現 6.7.2 已無 32 位元正整數溢位問題。

第二個問題發生在升版後：
DATETIME 欄位存放的 ‘2019-07-23 14:18:59’ 抓成 ‘2019-07-23T19:18:59.000Z’。
沒人能保證系統/伺服器會跨多少時區，為免夜長夢多，我們的解決方式是轉成 UNIX timestamp。
（Year 2038 problem？ 以後再說！ XD ）

By • 0 • Tags: , ,

5 月 30 2019

Toshiba KXG6AZNV512G on Lenovo T590

Toshiba KXG6AZNV512G 是 M.2 2280 規格的 NVMe SSD；官網可以查得 XG6 Series 產品資訊頁。

By • 0 • Tags: , , ,

5 月 26 2019

HTTP 壓縮的 workaround : ProgressEvent & Cache-Control

這幾個月前後經手處理兩個 HTTP 壓縮相關的問題，寫個紀錄…

第一個問題跟 ProgressEvent 有關。
敝單位有個 PWA ( Progressive Web Application )，幾個月前釋出一個新模組，讓 user 可獲取公司內部發佈的公告訊息。考量到訊息內容長度與行動裝置所在網路環境，我們便試著在訊息載入時加上進度條 (Progress Bar)。
實作期間，我們發現只能取得 ProgressEvent.loaded，抓不出 ProgressEvent.total，而且這個現象僅發生在 server response，瀏覽器發出請求/上傳檔案無此狀況。
確認這現象跟 HTTP 壓縮有關後，我們也發現 ProgressEvent.loaded 的值是未壓縮前的大小。
目前我們採用的解法是在讀取內容前先發個 HTTP request 取得內容長度，用該值取代 ProgressEvent.total。

第二個問題被發現時，我們正在調整 Cache-Control 設定；而且這問題只跟 Apache HTTPD 有關。
我們讓 HTTP server 壓縮 .js , .css , .htm 這類固定文字檔，也加上這串 HTTP header ：

Cache-Control: public, max-age=86400, no-cache

但我們發現瀏覽器在 nginx 可正確獲得 304 Not Modified，但遇上 Apache HTTPD 永遠都是 200 OK。
花一堆時間測試/追蹤後發現兇手是 mod_deflate；原因是檔案被壓縮處理後，傳給瀏覽器的 HTTP ETag 後面被加上 “-gzip” 這串後綴。
目前的解法是參考這篇，用下面這段設定處理 .js , .css , .htm 這類固定文字檔的 Cache-Control：

RequestHeader edit "If-None-Match" "^\"(.*)-gzip\"$" "\"$1\""
Header edit "ETag" "^\"(.*[^g][^z][^i][^p])\"$" "\"$1-gzip\""

Apache HTTPD 2.5 版的 mod_deflate 應該會多個 DeflateAlterETag 供作調整；等吧… XD

By • 0 • Tags: , , , ,

4 月 7 2019

Toshiba KBG30ZMT128G on Lenovo L580

Toshiba KBG30ZMT128G 是 M.2 2242 規格的 NVMe SSD。
在 Google 用這個型號查詢，得到的官網零售產品是 RC100；KBG30ZMT 應該是出貨給廠商裝機用的版本。

By • 0 • Tags: , , ,

‹ 1 2 3 4›»