COVID-19 Open-Data
COVID-19 Open-Data は、最大規模の COVID-19 疫学データベースを構築するとともに、強力で網羅的な共変量データ群を提供することを目指しています。人口統計、経済、疫学、地理、健康、入院状況、モビリティ、政府対応、気象などに関する、オープンかつパブリックソースのライセンス済みデータが含まれています。
詳細は GitHub のこちらにあります。
このデータを ClickHouse に取り込むのは簡単です...
注記
以下のコマンドは、ClickHouse Cloud の Production インスタンス上で実行されたものです。ローカル環境にインストールした ClickHouse でも同様に簡単に実行できます。
- まず、データの内容を確認してみましょう。
DESCRIBE url(
'https://storage.googleapis.com/covid19-open-data/v3/epidemiology.csv',
'CSVWithNames'
);
CSV ファイルには 10 個の列があります：
┌─name─────────────────┬─type─────────────┐
│ date │ Nullable(Date) │
│ location_key │ Nullable(String) │
│ new_confirmed │ Nullable(Int64) │
│ new_deceased │ Nullable(Int64) │
│ new_recovered │ Nullable(Int64) │
│ new_tested │ Nullable(Int64) │
│ cumulative_confirmed │ Nullable(Int64) │
│ cumulative_deceased │ Nullable(Int64) │
│ cumulative_recovered │ Nullable(Int64) │
│ cumulative_tested │ Nullable(Int64) │
└──────────────────────┴──────────────────┘
10行が設定されています。経過時間: 0.745秒
- 次に、いくつかの行を表示してみましょう。
SELECT *
FROM url('https://storage.googleapis.com/covid19-open-data/v3/epidemiology.csv')
LIMIT 100;
ここで注目してほしいのは、url 関数を使うと CSV ファイルからデータを簡単に読み取れる点です。
┌─c1─────────┬─c2───────────┬─c3────────────┬─c4───────────┬─c5────────────┬─c6─────────┬─c7───────────────────┬─c8──────────────────┬─c9───────────────────┬─c10───────────────┐
│ date │ location_key │ new_confirmed │ new_deceased │ new_recovered │ new_tested │ cumulative_confirmed │ cumulative_deceased │ cumulative_recovered │ cumulative_tested │
│ 2020-04-03 │ AD │ 24 │ 1 │ ᴺᵁᴸᴸ │ ᴺᵁᴸᴸ │ 466 │ 17 │ ᴺᵁᴸᴸ │ ᴺᵁᴸᴸ │
│ 2020-04-04 │ AD │ 57 │ 0 │ ᴺᵁᴸᴸ │ ᴺᵁᴸᴸ │ 523 │ 17 │ ᴺᵁᴸᴸ │ ᴺᵁᴸᴸ │
│ 2020-04-05 │ AD │ 17 │ 4 │ ᴺᵁᴸᴸ │ ᴺᵁᴸᴸ │ 540 │ 21 │ ᴺᵁᴸᴸ │ ᴺᵁᴸᴸ │
│ 2020-04-06 │ AD │ 11 │ 1 │ ᴺᵁᴸᴸ │ ᴺᵁᴸᴸ │ 551 │ 22 │ ᴺᵁᴸᴸ │ ᴺᵁᴸᴸ │
│ 2020-04-07 │ AD │ 15 │ 2 │ ᴺᵁᴸᴸ │ ᴺᵁᴸᴸ │ 566 │ 24 │ ᴺᵁᴸᴸ │ ᴺᵁᴸᴸ │
│ 2020-04-08 │ AD │ 23 │ 2 │ ᴺᵁᴸᴸ │ ᴺᵁᴸᴸ │ 589 │ 26 │ ᴺᵁᴸᴸ │ ᴺᵁᴸᴸ │
└────────────┴──────────────┴───────────────┴──────────────┴───────────────┴────────────┴──────────────────────┴─────────────────────┴──────────────────────┴───────────────────┘
- データの構造が把握できたので、テーブルを作成します。
CREATE TABLE covid19 (
date Date,
location_key LowCardinality(String),
new_confirmed Int32,
new_deceased Int32,
new_recovered Int32,
new_tested Int32,
cumulative_confirmed Int32,
cumulative_deceased Int32,
cumulative_recovered Int32,
cumulative_tested Int32
)
ENGINE = MergeTree
ORDER BY (location_key, date);
- 次のコマンドは、
covid19テーブルにデータセット全体を挿入します。
INSERT INTO covid19
SELECT *
FROM
url(
'https://storage.googleapis.com/covid19-open-data/v3/epidemiology.csv',
CSVWithNames,
'date Date,
location_key LowCardinality(String),
new_confirmed Int32,
new_deceased Int32,
new_recovered Int32,
new_tested Int32,
cumulative_confirmed Int32,
cumulative_deceased Int32,
cumulative_recovered Int32,
cumulative_tested Int32'
);
- 処理はかなり速く終わります ― 挿入された行数を確認してみましょう：
SELECT formatReadableQuantity(count())
FROM covid19;
┌─formatReadableQuantity(count())─┐
│ 1253万 │
└─────────────────────────────────┘
- COVID-19 の累計症例数がどれだけ記録されているか確認してみましょう：
SELECT formatReadableQuantity(sum(new_confirmed))
FROM covid19;
┌─formatReadableQuantity(sum(new_confirmed))─┐
│ 13億9000万 │
└────────────────────────────────────────────┘
- データを見ると、日付の値が 0 になっている箇所が多いことに気づくはずです。これは週末であったり、数値が毎日報告されなかった日であったりします。ウィンドウ関数を使って、新規症例数の日次平均を平滑化できます。
SELECT
AVG(new_confirmed) OVER (PARTITION BY location_key ORDER BY date ROWS BETWEEN 2 PRECEDING AND 2 FOLLOWING) AS cases_smoothed,
new_confirmed,
location_key,
date
FROM covid19;
- このクエリは、各ロケーションごとの最新値を取得します。すべての国が毎日データを報告しているわけではないため、
max(date)は使えません。そのため、ROW_NUMBERを使って最後の行を取得します：
WITH latest_deaths_data AS
( SELECT location_key,
date,
new_deceased,
new_confirmed,
ROW_NUMBER() OVER (PARTITION BY location_key ORDER BY date DESC) AS rn
FROM covid19)
SELECT location_key,
date,
new_deceased,
new_confirmed,
rn
FROM latest_deaths_data
WHERE rn=1;
lagInFrameを使用すると、各日の新規症例数のLAGを算出できます。このクエリではUS_DCロケーションでフィルタリングします:
SELECT
new_confirmed - lagInFrame(new_confirmed,1) OVER (PARTITION BY location_key ORDER BY date) AS confirmed_cases_delta,
new_confirmed,
location_key,
date
FROM covid19
WHERE location_key = 'US_DC';
レスポンスは次のとおりです：
┌─confirmed_cases_delta─┬─new_confirmed─┬─location_key─┬───────date─┐
│ 0 │ 0 │ US_DC │ 2020-03-08 │
│ 2 │ 2 │ US_DC │ 2020-03-09 │
│ -2 │ 0 │ US_DC │ 2020-03-10 │
│ 6 │ 6 │ US_DC │ 2020-03-11 │
│ -6 │ 0 │ US_DC │ 2020-03-12 │
│ 0 │ 0 │ US_DC │ 2020-03-13 │
│ 6 │ 6 │ US_DC │ 2020-03-14 │
│ -5 │ 1 │ US_DC │ 2020-03-15 │
│ 4 │ 5 │ US_DC │ 2020-03-16 │
│ 4 │ 9 │ US_DC │ 2020-03-17 │
│ -1 │ 8 │ US_DC │ 2020-03-18 │
│ 24 │ 32 │ US_DC │ 2020-03-19 │
│ -26 │ 6 │ US_DC │ 2020-03-20 │
│ 15 │ 21 │ US_DC │ 2020-03-21 │
│ -3 │ 18 │ US_DC │ 2020-03-22 │
│ 3 │ 21 │ US_DC │ 2020-03-23 │
- このクエリは、日ごとの新規症例数の変化率を計算し、結果セットにシンプルな
increaseまたはdecrease列を含めます。
WITH confirmed_lag AS (
SELECT
*,
lagInFrame(new_confirmed) OVER(
PARTITION BY location_key
ORDER BY date
) AS confirmed_previous_day
FROM covid19
),
confirmed_percent_change AS (
SELECT
*,
COALESCE(ROUND((new_confirmed - confirmed_previous_day) / confirmed_previous_day * 100), 0) AS percent_change
FROM confirmed_lag
)
SELECT
date,
new_confirmed,
percent_change,
CASE
WHEN percent_change > 0 THEN '増加'
WHEN percent_change = 0 THEN '変化なし'
ELSE '減少'
END AS trend
FROM confirmed_percent_change
WHERE location_key = 'US_DC';
結果は次のようになります。
┌───────date─┬─new_confirmed─┬─percent_change─┬─trend─────┐
│ 2020-03-08 │ 0 │ nan │ 減少 │
│ 2020-03-09 │ 2 │ inf │ 増加 │
│ 2020-03-10 │ 0 │ -100 │ 減少 │
│ 2020-03-11 │ 6 │ inf │ 増加 │
│ 2020-03-12 │ 0 │ -100 │ 減少 │
│ 2020-03-13 │ 0 │ nan │ 減少 │
│ 2020-03-14 │ 6 │ inf │ 増加 │
│ 2020-03-15 │ 1 │ -83 │ 減少 │
│ 2020-03-16 │ 5 │ 400 │ 増加 │
│ 2020-03-17 │ 9 │ 80 │ 増加 │
│ 2020-03-18 │ 8 │ -11 │ 減少 │
│ 2020-03-19 │ 32 │ 300 │ 増加 │
│ 2020-03-20 │ 6 │ -81 │ 減少 │
│ 2020-03-21 │ 21 │ 250 │ 増加 │
│ 2020-03-22 │ 18 │ -14 │ 減少 │
│ 2020-03-23 │ 21 │ 17 │ 増加 │
│ 2020-03-24 │ 46 │ 119 │ 増加 │
│ 2020-03-25 │ 48 │ 4 │ 増加 │
│ 2020-03-26 │ 36 │ -25 │ 減少 │
│ 2020-03-27 │ 37 │ 3 │ 増加 │
│ 2020-03-28 │ 38 │ 3 │ 増加 │
│ 2020-03-29 │ 59 │ 55 │ 増加 │
│ 2020-03-30 │ 94 │ 59 │ 増加 │
│ 2020-03-31 │ 91 │ -3 │ 減少 │
│ 2020-04-01 │ 67 │ -26 │ 減少 │
│ 2020-04-02 │ 104 │ 55 │ 増加 │
│ 2020-04-03 │ 145 │ 39 │ 増加 │
注記
GitHub リポジトリで説明されているとおり、このデータセットは 2022 年 9 月 15 日以降更新されていません。
