169 похожих чатов

Привет. Подскажите, кто разворачивал в банках R-скрипты, использующие большой объем

данных портфеля, каким образом подключались к базам? Напр. из R скрипта через пакеты типа RODBC, или делали выгрузку в csv, потом загрузку в data.table. Может другие варианты?

1 ответов

8 просмотров

работал в связке R+PostgreSQL, R+Clickhouse, выгрузка десятков и сотен миллионов строк занимает время не больше часа, в зависимости от запроса и количества колонок в таблице. естественно, никаких промежуточных csv, сразу в рабочее окружение в R. то есть, сутки ждать, чтобы выгрузить пару гб - это явно неправильно. узких мест может быть много. RODBC вроде не очень быстрый сам по себе, лучше odbc или спец.пакеты типа RPostgreSQL). также проблемы могут быть в запросе и в архитетуре базы данных - если фильтрация не по полям индексов, то это правда может быть медленно. плюс сами настройки бд могут играть. например, если это боевая база, в которую параллельно происходит вставка-удаление-изменение данных, пусть даже в другие таблицы, то это тоже может влиять на производительность. и так далее.

Похожие вопросы

Обсуждают сегодня

Всем привет! Имеется функция: function IsValidChar(ch: UTF8Char): Boolean; var i: Integer; ValidChars: AnsiString; begin ValidChars := 'abcdefghijklmnopqrstuvwxyzABCDE...
Евгений
44
И никого не интересует какие пакеты кто использует. ((% Заходишь на сайт симфони и видишь поддержку Украины - по законам РФ это ж экстремизм. Только никто не отказывается от с...
Am Ambrion
11
лучше скажите, причём тут паскаль?
Alexey Kulakov
36
Чтобы перехватить все нажимания буков на форме, надо хук ставить? Пробовал на форме ОнКейДаун, оно ловит клаву если фокус не на компоненте с вводом текста
Serjone
15
Но, может, есть уже проверенная? Наши требования такие: 1. Сообщения должны приходить из Инста в CRM оду 2. Должна быть возможность подключить несколько экаунтов Инстаграм. Р...
Alexander Sharoiko MSE / Александр Шаройко
7
Народ! Впервые клиенту пришло письмо от РКН, у вас, дескать, есть яндекс метрика, а нигде не написано, что вы ее юзаете. Никто не сталкивался?
Sasha Beep
14
Всем привет! вывожу на общей стр дочерние ресурсыв каждом ресурсе галерея, и первая фотка должна выводиться на общей [!DocLister? &prepare=photo !]
Alekso
12
Я правильно понимаю что нет способов получить список ожидающих заявок на вступление в группу с помощью бота из mtproto?
Шамиль Прилов
7
А можно вопрос? Мне сегодня сказали что у меня функция (которая просто заполняет массив значениями) не правильная void Full(double * arr, int n) { for (int i = 0; i < n; i...
† C E †
7
Добрый вечер. Хочу чтобы у меня в классе поле было функцией, которая возвращает строку. Делаю так: interface ... TGetOutPath = function : String of object; ... protec...
Kirill Filippenok
12
Карта сайта