Вопросы по теме 'hdfs'

hive - как удалить внешнюю таблицу улья вместе с данными
Я использую drop table <table_name> Если я воссоздаю таблицу с той же схемой и именем, я верну старые данные. Следует ли мне удалить каталог таблицы из файловой системы hdfs, чтобы полностью избавиться от данных?
52941 просмотров
schedule 07.05.2024

Попытка загрузить индексированный файл LZO с помощью LzoPigStorage и слоновой птицы
У меня есть файл журнала со сжатием LZO по умолчанию и файл .index, сгенерированный с помощью Hadoop-LZO, но когда я запускаю простой файл Pig для извлечения 100 лучших записей с помощью LzoPigStorage, я получаю следующее исключение: Message:...
475 просмотров
schedule 23.03.2024

Счетчик строк отдельных файлов в каталоге HDFS
Я хочу подсчитать количество строк отдельных файлов (вместе с именами файлов) каталога в HDFS, результат должен быть примерно таким: 4 filename_1.txt 20 filename_2.txt 8 filename_3.txt В настоящее время я использую hadoop fs -cat...
1046 просмотров
schedule 05.04.2024

Cloudera - Запустить службы - NameNode не отформатирован
У меня есть кластер Cloudera на Microsoft Azure. Я закрываю кластер каждые выходные, выполнив следующие действия: 1) Включение службы управления Cloudera из Cloudera Manager 2) Остановить все службы из Cloudera Manager 3) Перейдите в узел...
217 просмотров
schedule 09.03.2024

Hadoop удалить файл, который имеет нулевой байт
Я ищу команду в hadoop 2.x для удаления файлов с нулевыми байтами в hdfs. Может ли кто-нибудь, пожалуйста, дайте мне знать соответствующую команду. Я пытаюсь найти файлы с нулевыми байтами в hdfs и удалить их из каталога.
4839 просмотров
schedule 09.03.2024

как отправлять файлы в hdfs, сохраняя их базовое имя
Кто-то подскажет мне, какое лучшее решение для отправки файлов из разных источников и сохранения их в hdfs на основе их имен. Моя ситуация: у меня есть сервер с большим количеством файлов, и мне нужно отправить их в HDFS. На самом деле я использовал...
207 просмотров
schedule 20.03.2024