215 похожих чатов

React — русскоговорящее с... React — русскоговорящее с...
Android Developers Android Developers
Python Python
Vue.js — русскоговорящее ... Vue.js — русскоговорящее ...
supapro.cxx supapro.cxx
DotNetRuChat DotNetRuChat
GNU/Linux Help GNU/Linux Help
Telegram Developers Telegram Developers
Node.js — русскоговорящее... Node.js — русскоговорящее...
DevOps — русскоговорящее ... DevOps — русскоговорящее ...
JavaScript Noobs — сообще... JavaScript Noobs — сообще...
Django [ru] Django [ru]
Go-go! Go-go!
Angular - русскоговорящее... Angular - русскоговорящее...
ntwrk ntwrk
Верстка сайтов HTML/CSS/J... Верстка сайтов HTML/CSS/J...
phpGeeks phpGeeks
Kubernetes — русскоговоря... Kubernetes — русскоговоря...
Битрикс для разработчиков Битрикс для разработчиков
MODX. Русскоязычное сообщ... MODX. Русскоязычное сообщ...
pgsql – PostgreSQL pgsql – PostgreSQL
Laravel Pro Laravel Pro
iOS Developers — русского... iOS Developers — русского...
ClickHouse не тормозит ClickHouse не тормозит
Rust — русскоговорящее со... Rust — русскоговорящее со...
JavaScript — русскоговоря... JavaScript — русскоговоря...
С# С#
pro.cxx pro.cxx
pro.jvm pro.jvm
React Native — русскогово... React Native — русскогово...
Devs Chat Devs Chat
Docker — русскоговорящее ... Docker — русскоговорящее ...
HTML/CSS — русскоговоряще... HTML/CSS — русскоговоряще...
Python beginners Python beginners
🐧 RU.UBUNTU — Официальное... 🐧 RU.UBUNTU — Официальное...
Kotlin Community Kotlin Community
Embedded Group Embedded Group
Чат экстремального погром... Чат экстремального погром...
Qt Qt
aiogram aiogram
symfony symfony
Scala User Group Scala User Group
Haskell Haskell
PHP PHP
TypeScript TypeScript
Клуб Vue.js-разработчиков Клуб Vue.js-разработчиков
Ansible Ansible
Unity Engine: вопрос - от... Unity Engine: вопрос - от...
Xamarin Developers (MAUI,... Xamarin Developers (MAUI,...
F# Chat F# Chat
Svelte [svelt] - All abou... Svelte [svelt] - All abou...
Системное администрирован... Системное администрирован...
Nuxt.js | Vue SSR Nuxt.js | Vue SSR
nginx_ru nginx_ru
Боты на Telegraf Боты на Telegraf
var chat = new Chat(); var chat = new Chat();
Data Science Chat Data Science Chat
Ассемблер Ассемблер
Android Architecture Android Architecture
Laravel для начинающих Laravel для начинающих
Церковь метрик Церковь метрик
Dart & Flutter Dart & Flutter
QA — русскоговорящее сооб... QA — русскоговорящее сооб...
DBA - русскоговорящее соо... DBA - русскоговорящее соо...
Tarantool Tarantool
Unreal Engine Unreal Engine
☁️ AWS_RU ☁️ AWS_RU
pro.elixir pro.elixir
Python Flask Python Flask
Blender_ru: вопрос-ответ. Blender_ru: вопрос-ответ.
PostgreSQL + 1C + Linux PostgreSQL + 1C + Linux
SAP ABAP SAP ABAP
R (язык программирования) R (язык программирования)
MongoDB Russian MongoDB Russian
Yandex Cloud - Официальны... Yandex Cloud - Официальны...
Git Git
learn.java learn.java
DevsHelper DevsHelper
Big Data Science :: AI / ... Big Data Science :: AI / ...
pro.kafka pro.kafka
3ds Max 3ds Max
1C 1C
Delphi & Lazarus Delphi & Lazarus
SwiftBook SwiftBook
Solidity Development Solidity Development
Вокруг да около Zigbee Вокруг да около Zigbee
Android Declarative Android Declarative
Evolution CMS официальное... Evolution CMS официальное...
pro.net (former COM+) pro.net (former COM+)
OpenStreetMap RU OpenStreetMap RU
Visual Studio Code — русс... Visual Studio Code — русс...
freebsd_ru freebsd_ru
Atlassian Community - Rus... Atlassian Community - Rus...
ru_mysql ru_mysql
pro.lua pro.lua
Dart / Flutter Dart / Flutter
GraphQL — русскоговорящее... GraphQL — русскоговорящее...
Чат про Fusion 360 и 3D Чат про Fusion 360 и 3D
OctoberCMS OctoberCMS
pro.Asm pro.Asm
ru_gitlab ru_gitlab
IDE и редакторы — русског... IDE и редакторы — русског...
OpenCartForum - 🇺🇦🇪🇺Чат O... OpenCartForum - 🇺🇦🇪🇺Чат O...
Angular.js (1.x) — русско... Angular.js (1.x) — русско...
Frontend_ru Frontend_ru
Lame C Lame C
Flutter Developers — русс... Flutter Developers — русс...
Godot Engine (Russian) Godot Engine (Russian)
AutoIT RU AutoIT RU
AI / Искусственный Интелл... AI / Искусственный Интелл...
dlang.ru dlang.ru
MySQL MySQL
Yii Framework 2 Yii Framework 2
Laravel Framework Russian... Laravel Framework Russian...
WebPwnChat WebPwnChat
Чат — Верстка Сайтов и Фр... Чат — Верстка Сайтов и Фр...
pro.python pro.python
Java Underground Java Underground
Data Engineers Data Engineers
Natural Language Processi... Natural Language Processi...
javascript_ru javascript_ru
Чат Tableau Чат Tableau
SqlCom.ru - сообщество MS... SqlCom.ru - сообщество MS...
Cinema 4D Cinema 4D
Delphi Community Delphi Community
pro.vim pro.vim
Server Side Swift Develop... Server Side Swift Develop...
Autohotkey_RU ( v1 & v2 ) Autohotkey_RU ( v1 & v2 )
PHP DevConf KZ🇰🇿 PHP DevConf KZ🇰🇿
Modern::Perl Modern::Perl
pro.rb (Ruby/Rails / RU) pro.rb (Ruby/Rails / RU)
RubyRush.ru RubyRush.ru
Evolution CMS Evolution CMS
Oracle RU Oracle RU
ru.nim.talks ru.nim.talks
DevOps DevOps
Odoo talks & fun Odoo talks & fun
Software Design/Architect... Software Design/Architect...
sql_ninja sql_ninja
AndroidDev Pro:: Професси... AndroidDev Pro:: Професси...
WordPress for developers WordPress for developers
dbGeeks dbGeeks
PowerShellRus - о Powersh... PowerShellRus - о Powersh...
Haskell Start Haskell Start
Эльбрусы и с чем их едят Эльбрусы и с чем их едят
Java/Kotlin and more Java/Kotlin and more
pro.buildsystems pro.buildsystems
React: русскоязычное сооб... React: русскоязычное сооб...
Powershell Rus Powershell Rus
ErlangRus ErlangRus
Python для анализа данных Python для анализа данных
Скрипты Гугл, Таблицы, Go... Скрипты Гугл, Таблицы, Go...
opencv_ru opencv_ru
WebGL ru WebGL ru
Compiler Development Compiler Development
firebase_ru — русскоговор... firebase_ru — русскоговор...
Electron.js Electron.js
phpclub.ru phpclub.ru
Webpack — русскоговорящее... Webpack — русскоговорящее...
Yii Framework 3 Yii Framework 3
RU.CRYPTOGRAPHY — Криптог... RU.CRYPTOGRAPHY — Криптог...
pro.osdev - os developmen... pro.osdev - os developmen...
MySQL MySQL
Lame C++ Lame C++
QA juniors QA juniors
GameDev for Web GameDev for Web
RUSCADASEC community: Киб... RUSCADASEC community: Киб...
ru_hashicorp ru_hashicorp
Go Get A Job Go Get A Job
PostgreSQL (English) PostgreSQL (English)
Ember_js Ember_js
Tilda Developers Tilda Developers
RU.Docker — Официальное Р... RU.Docker — Официальное Р...
Emacs — русскоговорящее с... Emacs — русскоговорящее с...
catboost_ru catboost_ru
FreePascal & Lazarus FreePascal & Lazarus
Язык программирования Jul... Язык программирования Jul...
WordPress – русскоговорящ... WordPress – русскоговорящ...
Django Django
Kaggle Kaggle
sentry_ru sentry_ru
ReasonML и OCaml ReasonML и OCaml
Grafana Loki Grafana Loki
VictoriaMetrics_ru VictoriaMetrics_ru
.NET Group .NET Group
WebAssembly — русскоговор... WebAssembly — русскоговор...
Google Cloud Platform_ru Google Cloud Platform_ru
ansible — русскоговорящее... ansible — русскоговорящее...
Сrystal Lang — русскогово... Сrystal Lang — русскогово...
aiohttp aiohttp
Clojure — русскоговорящее... Clojure — русскоговорящее...
heroku_ru heroku_ru
PowerShell Pro PowerShell Pro
macOS Developers — русско... macOS Developers — русско...
systemd systemd
use Perl or die; use Perl or die;
FORTH и родственные ЯП FORTH и родственные ЯП
Natural Language Processi... Natural Language Processi...
ru_jenkins ru_jenkins
DevSecOps - русскоговорящ... DevSecOps - русскоговорящ...
CatBoost CatBoost
CyberBiology CyberBiology
Sequelize - community (en... Sequelize - community (en...
ScyllaDB ScyllaDB
sonarqube_ru sonarqube_ru
Elm Lang сообщество разра... Elm Lang сообщество разра...
SublimeText_RU SublimeText_RU
Netbeans [RU] Netbeans [RU]
NativeScript NativeScript
WordPress CodeRun WordPress CodeRun
ReactiveX - русскоговорящ... ReactiveX - русскоговорящ...
PureScript — русскоговоря... PureScript — русскоговоря...
#Вайти #Вайти
Эликсир и Вунш Эликсир и Вунш
Cassandra Cassandra
Data Science Chat Data Science Chat
Алексей-Крапивницкий

Коллеги, подскажите, если был опыт, какое приемлемое время для поиска

дубликата одномерного массива в двумерном массиве размером скажем 2-3 ГБ (каждая строка двумерного - это сравниваемый массив с заданным)?

#database #programming #russian #software
0

16 ответов

10 просмотров
Oleg-Shapovalov

Звучит как задача для faiss. Сам с ней не работал, цифры не смогу подсказать, но кажется должно быть достаточно быстро

0
09.03.2021
Алексей-Крапивницкий Автор вопроса
Oleg Shapovalov
Звучит как задача для faiss. Сам с ней не работал,...

А хотя бы примерно - достаточно быстро - это сколько? )))

0
09.03.2021
еsperanto-

а он точно есть? или может не быть?

0
09.03.2021
Алексей-Крапивницкий Автор вопроса

А если без? Чисто numpy?

0
09.03.2021
Roman-Ralovets

если сначала создать для каждого одномерного массива хэш, и построить map в котором ключи будут хэшами, а значениями - списки ссылок на одномерным массивы с таким хэшом - то за О(1)

0
09.03.2021
Алексей-Крапивницкий Автор вопроса
Roman Ralovets
если сначала создать для каждого одномерного масси...

Блин, не все так просто. Если дубликатов нет, то надо входной массив записать в проверяемый )))

0
09.03.2021
Dmitry-Kormalev
Алексей Крапивницкий
А хотя бы примерно - достаточно быстро - это сколь...

https://medium.com/gsi-technology/ann-benchmarks-a-data-scientists-journey-to-billion-scale-performance-db191f043a27 Но faiss вообще-то решает немного другую задачу. Кстати, размер строчки фиксирован? Если нет, faiss не подойдёт.

0
09.03.2021
Алексей-Крапивницкий Автор вопроса
Roman Ralovets
это как?

А вот как хочешь)) Поискал дубликаты - не нашел, записал одномерный в двумерный. Я пока через row_stack дописываю. Получил на вход новый - опять ищешь уже в расширенном.

0
09.03.2021
Алексей-Крапивницкий Автор вопроса
Roman Ralovets
а в чем проблема добавить в map новый массив?)

Пока чет не соображу. Одномерный массив генерится случайным образом с заданной размерностью, и подается на вход функции поиска дубликатов, если дубликата нет, то дописывается в массив. Потом новый случайный генерится. И т.д.

0
09.03.2021
Алексей-Крапивницкий Автор вопроса

Я походу неверно сформулировал вопрос. В общем, есть пустой массив. Подаем в функцию одномерный массив, если начальный массив пустой - то записываем в него входной, если нет, то сравниваем с ранее записанными массивами, если есть дубликат - пропускаем, если нету - записываем входной, т.е. по факту формируем двумерный массив. Все это повторяем, пока начальный массив не достигнет некоторого объема - пусть 3 гигабайта. Вот такая операция сколько может допустимо занимать времени? Хотя бы примерно?

0
09.03.2021
Алексей-Крапивницкий Автор вопроса

Да тестовое решаю и хочу понять насколько приемлемые у меня результаты ))

0
09.03.2021
Алексей-Крапивницкий Автор вопроса
Алексей Крапивницкий
Да тестовое решаю и хочу понять насколько приемлем...

В общем, при входном массиве в 5000000 элементов, догоняет наполняемый до 3 ГБ с поиском дублей и дозаписью + записью в файл в конце, с такими показателями: 541750 function calls (540634 primitive calls) in 445.176 seconds Т.е. за 7 с половиной минут. Насколько это норм? Само собой при меньшем входном массиве это еще дольше - пока три гига наберет...

0
09.03.2021

Похожие вопросы

Data Science Chat Data Science Chat / Inkosta
Подписаться

Господа, у меня вопрос. Что вообще такое этот ваш data science и data scientists? А то гуглю, а мне какую-то расплывчатую фигню говорят.

#database #programming #russian #software
15.11.2023
0
44 ответов
Data Science Chat Data Science Chat / Vladimir F
Подписаться
screenshot

Господа датасатанисты , вопрос : есть у меня небольшой датасет (73 сэмпла), и тренерую я на нём что-то типа семантической сегментации. Ежели делаю 8-fold кросс-валидацию ( ко...

#database #programming #russian #software
15.11.2023
0
32 ответов
Data Science Chat Data Science Chat / Walentina
Подписаться

Почему лохотрон? Обучение разве лохотрон?) Тогда можно и самостоятельное обучение назвать глупостью))

#database #programming #russian #software
08.05.2023
0
49 ответов
Data Science Chat Data Science Chat / Дмитрий Неледва
Подписаться

делаю модель для мультиклассовой классификации датасет: 20к строк, признак sentence - предложения с отзывами (о книгах, фильмах и тд), целевой признак label - оценка...

#database #programming #russian #software
22.11.2023
0
22 ответов
Data Science Chat Data Science Chat / mm
Подписаться

всем привет, я пишу торгового бота, мне нужно постоянно обращаться к бирже и смотреть на заполнение ордеров, чтоб при заполнении выставлять стоп ордера, так же мне нужно монит...

#database #programming #russian #software
17.11.2023
0
20 ответов
Data Science Chat Data Science Chat / Kek Navek
Подписаться

Всем привет! Для дипломной работы разрабатываю приложение, читающее текст в играх. Можете дать совет насчёт детектора текста для последующего OCR? Изображения - скриншоты из и...

#database #programming #russian #software
22.10.2023
0
5 ответов
Data Science Chat Data Science Chat / Василий Волшанинов
Подписаться

Доброго времени суток. Как дать нейронке прочитать 60+ книг (этимологических словарей и статей в журналах), а потом ею написать свой этимологический словарь?

#database #programming #russian #software
13.11.2023
0
24 ответов
Data Science Chat Data Science Chat / Vladimir F
Подписаться

Господа, мне тут для одного проектика надо систему сделать для глубокого обучения, на двух RTX4090, вот такую конфигурацию наконфигурировал: Motherboard: Supermicro MBD-M12SW...

#database #programming #russian #software
20.10.2023
0
20 ответов
Data Science Chat Data Science Chat / 🌱 chia investor
Подписаться

Ребята, я новенький в разработке приложений, до этого занимался только data science без какого либо стартап опыта, где нужно не просто в пайтоне что-то печатать, а понимать ка...

#database #programming #russian #software
16.11.2023
0
15 ответов
Data Science Chat Data Science Chat / Roman 🙂
Подписаться

Ребята. Скажите реально. Стоит ли с 0 изучать data science чтобы найти себя в этой нише и достоин ли доход потом? Математика - перфект 😉

#database #programming #russian #software
09.11.2023
0
23 ответов
Смотреть еще
Data Science Chat Data Science Chat
Подписаться
Вопросов 12427
Ответов 25318
Участников 6142
Telegram @datasciencechat

Обсуждают сегодня

30500 за редактор? )
Владимир
47
а через ESC-код ?
Alexey Kulakov
29
Чёт не понял, я ж правильной функцией воспользовался чтобы вывести отладочную информацию? но что-то она не ловится
notme
18
У меня есть функция где происходит это: write_bit(buffer, 1); write_bit(buffer, 0); write_bit(buffer, 1); write_bit(buffer, 1); write_bit(buffer, 1); w...
~
13
Недавно Google Project Zero нашёл багу в SQLite с помощью LLM, о чём достаточно было шумно в определённых интернетах, которые сопровождались рассказами, что скоро всех "ибешни...
Alex Sherbakov
5
Ребят в СИ можно реализовать ООП?
Николай
33
Как передать управляющий символ в открытую через CreateProcess консоль? Собсна, есть процедура: procedure TRedirectThread.WriteData(Data: OEMString); var Written: Cardinal;...
Serjone
6
в JclConsole объявлено так: function CtrlHandler(CtrlType: DWORD): BOOL; stdcall; - где ваше объявление с stdcall? у вас на картинке нет stdcall
Karagy
8
https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_h_common.erl#L174 https://github.com/erlang/otp/blob/OTP-27.1/lib/kernel/src/logger_olp.erl#L76 15 лет назад...
Maksim Lapshin
20
program test; {$mode delphi} procedure proc(v: int32); overload; begin end; procedure proc(v: int64); overload; begin end; var x: uint64; begin proc(x); end. Уж не знаю...
notme
6
Карта сайта