Читання CSV-файлів на Python

У цьому підручнику ми навчимося читати файли CSV з різними форматами на Python за допомогою прикладів.

Для csvцього завдання ми будемо використовувати виключно модуль, вбудований у Python. Але спочатку нам доведеться імпортувати модуль як:

 import csv

Ми вже розглянули основи використання csvмодуля для читання та запису у файли CSV. Якщо у вас немає уявлення про використання csvмодуля, перегляньте наш посібник з Python CSV: Читання та запис файлів CSV

Основне використання csv.reader ()

Давайте розглянемо базовий приклад використання csv.reader()для оновлення наявних знань.

Приклад 1: Читання файлів CSV за допомогою csv.reader ()

Припустимо, у нас є файл CSV із такими записами:

 SN, ім'я, внесок 1, Лінус Торвальдс, ядро ​​Linux 2, Тім Бернерс-Лі, Всесвітня павутина 3, Гвідо ван Россум, програмування на Python

Ми можемо прочитати вміст файлу за допомогою такої програми:

 import csv with open('innovators.csv', 'r') as file: reader = csv.reader(file) for row in reader: print(row)

Вихідні дані 

 ('SN', 'Name', 'Contribution') ('1', 'Linus Torvalds', 'Linux Kernel') ('2', 'Tim Berners-Lee', 'World Wide Web') ('3' , 'Гвідо ван Россум', 'Програмування на Python')

Тут ми відкрили файл innovators.csv у режимі читання за допомогою open()функції.

Щоб дізнатись більше про відкриття файлів у Python, відвідайте: Введення / виведення файлів Python

Потім, csv.reader()використовується для зчитування файлу, який повертає readerоб'єкт , що ітерація .

Потім readerоб’єкт повторюється за допомогою forциклу для друку вмісту кожного рядка.

Тепер ми розглянемо файли CSV з різними форматами. Потім ми дізнаємося, як налаштувати csv.reader()функцію для їх читання.

CSV-файли з користувацькими роздільниками

За замовчуванням кома використовується як роздільник у файлі CSV. Однак деякі файли CSV можуть використовувати роздільники, крім коми. Мало хто популярні з них |і .

Припустимо, що файл innovators.csv у Прикладі 1 використовував вкладку як роздільник. Щоб прочитати файл, ми можемо передати додатковий delimiterпараметр csv.reader()функції.

Візьмемо приклад.

Приклад 2: Читання файлу CSV з роздільником табуляції

 import csv with open('innovators.csv', 'r') as file: reader = csv.reader(file, delimiter = ' ') for row in reader: print(row)

Вихідні дані 

 ('SN', 'Name', 'Contribution') ('1', 'Linus Torvalds', 'Linux Kernel') ('2', 'Tim Berners-Lee', 'World Wide Web') ('3' , 'Гвідо ван Россум', 'Програмування на Python')

Як бачимо, необов’язковий параметр delimiter = ' 'допомагає вказати readerоб’єкт, у якому файл CSV, з якого ми читаємо, має вкладки як роздільник.

CSV-файли з початковими пробілами

Деякі файли CSV можуть мати пробіл після роздільника. Коли ми використовуємо функцію за замовчуванням csv.reader()для читання цих файлів CSV, ми також отримаємо пробіли у вихідних даних.

Щоб видалити ці початкові пробіли, нам потрібно передати додатковий параметр, який називається skipinitialspace. Давайте розглянемо приклад:

Приклад 3: Читання файлів CSV із початковими пробілами

Припустимо, у нас є файл CSV із назвою people.csv із таким вмістом:

 SN, Ім'я, Місто 1, Джон, Вашингтон 2, Ерік, Лос-Анджелес 3, Бред, Техас

Ми можемо прочитати файл CSV наступним чином:

 import csv with open('people.csv', 'r') as csvfile: reader = csv.reader(csvfile, skipinitialspace=True) for row in reader: print(row)

Вихідні дані 

 ('SN', 'Name', 'City') ('1', 'John', 'Washington') ('2', 'Eric', 'Los Angeles') ('3', 'Brad', ' Техас ')

Програма подібна до інших прикладів, але має додатковий skipinitialspaceпараметр, якому встановлено значення True.

Це дозволяє readerоб'єкту знати, що записи мають початкові пробіли. В результаті, початкові пробіли, які були присутні після роздільника, видаляються.

CSV-файли з лапками

Деякі файли CSV можуть містити лапки навколо кожного або деяких записів.

Let's take quotes.csv as an example, with the following entries:

 "SN", "Name", "Quotes" 1, Buddha, "What we think we become" 2, Mark Twain, "Never regret anything that made you smile" 3, Oscar Wilde, "Be yourself everyone else is already taken"

Using csv.reader() in minimal mode will result in output with the quotation marks.

In order to remove them, we will have to use another optional parameter called quoting.

Let's look at an example of how to read the above program.

Example 4: Read CSV files with quotes

 import csv with open('person1.csv', 'r') as file: reader = csv.reader(file, quoting=csv.QUOTE_ALL, skipinitialspace=True) for row in reader: print(row)

Output 

 ('SN', 'Name', 'Quotes') ('1', 'Buddha', 'What we think we become') ('2', 'Mark Twain', 'Never regret anything that made you smile') ('3', 'Oscar Wilde', 'Be yourself everyone else is already taken')

As you can see, we have passed csv.QUOTE_ALL to the quoting parameter. It is a constant defined by the csv module.

csv.QUOTE_ALL specifies the reader object that all the values in the CSV file are present inside quotation marks.

There are 3 other predefined constants you can pass to the quoting parameter:

  • csv.QUOTE_MINIMAL - Specifies reader object that CSV file has quotes around those entries which contain special characters such as delimiter, quotechar or any of the characters in lineterminator.
  • csv.QUOTE_NONNUMERIC - Specifies the reader object that the CSV file has quotes around the non-numeric entries.
  • csv.QUOTE_NONE - Specifies the reader object that none of the entries have quotes around them.

Dialects in CSV module

Notice in Example 4 that we have passed multiple parameters (quoting and skipinitialspace) to the csv.reader() function.

This practice is acceptable when dealing with one or two files. But it will make the code more redundant and ugly once we start working with multiple CSV files with similar formats.

As a solution to this, the csv module offers dialect as an optional parameter.

Dialect helps in grouping together many specific formatting patterns like delimiter, skipinitialspace, quoting, escapechar into a single dialect name.

It can then be passed as a parameter to multiple writer or reader instances.

Example 5: Read CSV files using dialect

Suppose we have a CSV file (office.csv) with the following content:

 "ID"| "Name"| "Email" "A878"| "Alfonso K. Hamby"| "[email protected]" "F854"| "Susanne Briard"| "[email protected]" "E833"| "Katja Mauer"| "[email protected]"

The CSV file has initial spaces, quotes around each entry, and uses a | delimiter.

Instead of passing three individual formatting patterns, let's look at how to use dialects to read this file.

 import csv csv.register_dialect('myDialect', delimiter='|', skipinitialspace=True, quoting=csv.QUOTE_ALL) with open('office.csv', 'r') as csvfile: reader = csv.reader(csvfile, dialect='myDialect') for row in reader: print(row)

Output 

 ('ID', 'Name', 'Email') ("A878", 'Alfonso K. Hamby', '[email protected]') ("F854", 'Susanne Briard', '[email protected]') ("E833", 'Katja Mauer', '[email protected]')

From this example, we can see that the csv.register_dialect() function is used to define a custom dialect. It has the following syntax:

 csv.register_dialect(name(, dialect(, **fmtparams)))

The custom dialect requires a name in the form of a string. Other specifications can be done either by passing a sub-class of Dialect class, or by individual formatting patterns as shown in the example.

While creating the reader object, we pass dialect='myDialect' to specify that the reader instance must use that particular dialect.

The advantage of using dialect is that it makes the program more modular. Notice that we can reuse 'myDialect' to open other files without having to re-specify the CSV format.

Read CSV files with csv.DictReader()

The objects of a csv.DictReader() class can be used to read a CSV file as a dictionary.

Example 6: Python csv.DictReader()

Suppose we have a CSV file (people.csv) with the following entries:

Name Age Profession
Jack 23 Doctor
Miller 22 Engineer

Let's see how csv.DictReader() can be used.

 import csv with open("people.csv", 'r') as file: csv_file = csv.DictReader(file) for row in csv_file: print(dict(row))

Output 

 ('Name': 'Jack', ' Age': ' 23', ' Profession': ' Doctor') ('Name': 'Miller', ' Age': ' 22', ' Profession': ' Engineer')

As we can see, the entries of the first row are the dictionary keys. And, the entries in the other rows are the dictionary values.

Here, csv_file is a csv.DictReader() object. The object can be iterated over using a for loop. The csv.DictReader() returned an OrderedDict type for each row. That's why we used dict() to convert each row to a dictionary.

Notice that we have explicitly used the dict() method to create dictionaries inside the for loop.

 print(dict(row))

Note: Starting from Python 3.8, csv.DictReader() returns a dictionary for each row, and we do not need to use dict() explicitly.

The full syntax of the csv.DictReader() class is:

 csv.DictReader(file, fieldnames=None, restkey=None, restval=None, dialect='excel', *args, **kwds)

To learn more about it in detail, visit: Python csv.DictReader() class

Using csv.Sniffer class

The Sniffer class is used to deduce the format of a CSV file.

The Sniffer class offers two methods:

  • sniff(sample, delimiters=None) - This function analyses a given sample of the CSV text and returns a Dialect subclass that contains all the parameters deduced.

An optional delimiters parameter can be passed as a string containing possible valid delimiter characters.

  • has_header(sample) - This function returns True or False based on analyzing whether the sample CSV has the first row as column headers.

Let's look at an example of using these functions:

Example 7: Using csv.Sniffer() to deduce the dialect of CSV files

Suppose we have a CSV file (office.csv) with the following content:

 "ID"| "Name"| "Email" A878| "Alfonso K. Hamby"| "[email protected]" F854| "Susanne Briard"| "[email protected]" E833| "Katja Mauer"| "[email protected]"

Let's look at how we can deduce the format of this file using csv.Sniffer() class:

 import csv with open('office.csv', 'r') as csvfile: sample = csvfile.read(64) has_header = csv.Sniffer().has_header(sample) print(has_header) deduced_dialect = csv.Sniffer().sniff(sample) with open('office.csv', 'r') as csvfile: reader = csv.reader(csvfile, deduced_dialect) for row in reader: print(row)

Output 

 True ('ID', 'Name', 'Email') ('A878', 'Alfonso K. Hamby', '[email protected]') ('F854', 'Susanne Briard', '[email protected]') ('E833', 'Katja Mauer', '[email protected]')

As you can see, we read only 64 characters of office.csv and stored it in the sample variable.

This sample was then passed as a parameter to the Sniffer().has_header() function. It deduced that the first row must have column headers. Thus, it returned True which was then printed out.

Подібним чином зразок також передавався Sniffer().sniff()функції. Він повернув усі виведені параметри як Dialectпідклас, який потім зберігався у змінній deduced_dialect.

Пізніше ми знову відкрили файл CSV і передали deduced_dialectзмінну як параметр csv.reader().

Він правильно розрахував delimiter, quotingі skipinitialspaceпараметри в office.csv файл без нас обумовлюючи їх.

Примітка: Модуль csv також може використовуватися для інших розширень файлів (наприклад: .txt ), якщо їх вміст має належну структуру.

Рекомендуємо прочитати: Запишіть у файли CSV на Python

Цікаві статті...