🔌計算の CO2 排出量を、推定でなく実測で出す
AI の計算にどれだけ CO2 が出たかを言うには、電力を測り、系統排出係数を掛ける必要があります。どちらも落とし穴だらけでした。手元で実測した消費電力をもとに、方法論の基礎と、避けるべき単位・避けるべきデータソースを整理します。
sustainabilitycarbonfootprintgpuaws
AI の計算にどれだけ CO2 が出たかを言うには、電力を測り、系統排出係数を掛ける必要があります。どちらも落とし穴だらけでした。手元で実測した消費電力をもとに、方法論の基礎と、避けるべき単位・避けるべきデータソースを整理します。
mdx.jp の A100 40GB x2 サーバで LLM-jp-4-32b-a3b-thinking 公式版を動かし、Transformers の OOM から vLLM サーブへ切り替えた記録
Azureの仮想マシンを用いたNDLOCRのGradioアプリ構築