system.schema_inference_cache

Системная таблица с информацией обо всех кэшированных схемах файлов.

Запросы в ClickHouse Cloud

Данные в этой системной таблице хранятся локально на каждом узле ClickHouse Cloud. Поэтому, чтобы получить полное представление обо всех данных, требуется функция clusterAllReplicas. Дополнительные сведения см. здесь.

​

Описание

Содержит информацию обо всех схемах файлов, хранящихся в кэше.

​

Столбцы

• storage (String) — Имя хранилища: File, URL, S3 или HDFS.
• source (String) — Источник файла.
• format (String) — Название формата.
• additional_format_info (String) — Дополнительная информация, необходимая для определения схемы. Например, специфичные для формата настройки.
• registration_time (DateTime) — Временная метка добавления схемы в кэш.
• schema (Nullable(String)) — Кэшированная схема.
• number_of_rows (Nullable(UInt64)) — Количество строк в файле в указанном формате. Используется для кэширования простого count() для файлов данных, а также количества строк из метаданных при автоматическом определении схемы.
• schema_inference_mode (Nullable(String)) — Режим определения схемы.

​

Пример

Допустим, у нас есть файл data.jsonl со следующим содержимым:

{"id" :  1, "age" :  25, "name" :  "Josh", "hobbies" :  ["football", "cooking", "music"]}
{"id" :  2, "age" :  19, "name" :  "Alan", "hobbies" :  ["tennis", "art"]}
{"id" :  3, "age" :  32, "name" :  "Lana", "hobbies" :  ["fitness", "reading", "shopping"]}
{"id" :  4, "age" :  47, "name" :  "Brayan", "hobbies" :  ["movies", "skydiving"]}

Поместите data.jsonl в каталог user_files_path. Его можно найти в конфигурационных файлах ClickHouse. Значение по умолчанию:

<user_files_path>/var/lib/clickhouse/user_files/</user_files_path>

Откройте clickhouse-client и выполните запрос DESCRIBE:

DESCRIBE file('data.jsonl') SETTINGS input_format_try_infer_integers=0;

┌─name────┬─type────────────────────┬─default_type─┬─default_expression─┬─comment─┬─codec_expression─┬─ttl_expression─┐
│ id      │ Nullable(Float64)       │              │                    │         │                  │                │
│ age     │ Nullable(Float64)       │              │                    │         │                  │                │
│ name    │ Nullable(String)        │              │                    │         │                  │                │
│ hobbies │ Array(Nullable(String)) │              │                    │         │                  │                │
└─────────┴─────────────────────────┴──────────────┴────────────────────┴─────────┴──────────────────┴────────────────┘

Давайте посмотрим на содержимое таблицы system.schema_inference_cache:

SELECT *
FROM system.schema_inference_cache
FORMAT Vertical

Row 1:
──────
storage:                File
source:                 /home/droscigno/user_files/data.jsonl
format:                 JSONEachRow
additional_format_info: schema_inference_hints=, max_rows_to_read_for_schema_inference=25000, schema_inference_make_columns_nullable=true, try_infer_integers=false, try_infer_dates=true, try_infer_datetimes=true, try_infer_numbers_from_strings=true, read_bools_as_numbers=true, try_infer_objects=false
registration_time:      2022-12-29 17:49:52
schema:                 id Nullable(Float64), age Nullable(Float64), name Nullable(String), hobbies Array(Nullable(String))

​

См. также

• Автоматическое определение схемы