Как можно это ускорить? Суть, есть база грязная, в ней

туча дублей, дубли разные могут содержать дополнительные полезные поля.
Нужно найти эти дубли, выбрать из них самый полезный, остальные удалить. Сделал команду


public function handle()
{
$this->info('Проверяем дубликаты в ...');


// Поиск дубликатов с учетом регистра
$duplicates = DB::table('point')
->select(DB::raw('BINARY(name) as name'), 'addres', DB::raw('COUNT(*) as count'))
->groupBy(DB::raw('BINARY(name)'), 'addres')
->havingRaw('COUNT(*) > 1')
->get();

$progressBar = new ProgressBar($this->output, count($duplicates));
$progressBar->setFormat('%current%/%max% [%bar%] %percent:3s%% %elapsed:6s%/%estimated:-6s% Осталось времени: %remaining:6s% Использование памяти: %memory:6s%');
$progressBar->start();

$deletedCount = 0;

foreach ($duplicates as $duplicate) {
// Получение всех записей-дубликатов
$records = DB::table('point')
->where(DB::raw('BINARY(name)'), $duplicate->name)
->where('addres', $duplicate->addres)
->get();

$minFields = PHP_INT_MAX;
$recordToDelete = null;

foreach ($records as $record) {
// Подсчет количества заполненных полей
$filledFields = count(array_filter((array)$record, function ($value) {
return !is_null($value) && $value !== '';
}));

// Выбор записи с наименьшим количеством заполненных полей
if ($filledFields < $minFields) {
$minFields = $filledFields;
$recordToDelete = $record;
}
}

if ($recordToDelete) {
// Удаление записи без подтверждения
DB::table('point')
->where('id', $recordToDelete->id)
->delete();
$deletedCount++;
}

$progressBar->advance();
}

$progressBar->finish();
$this->line('');
$this->info("Удалено $deletedCount дубликатов.");
}

2 ответов

13 просмотров

Обрами в код, а то паршиво ясно)) На первый взгляд можно запросить все дубликаты сразу сгруппировав уже коллекцию. А запрашивать используя группировку с хэвинг как подзапрос. select * from point where id in (select id from point group by binary(name),addres having count(*) > 1)

Денис-Александрович Автор вопроса
Vladimir 
Обрами в код, а то паршиво ясно)) На первый взгля...

Мне нужно проверить каждый дубль отдельно, так как внутри может быть несколько записей одинаковых

Похожие вопросы

Обсуждают сегодня

Добрый вечер, Пока не совсем понимаю как наладить общение между телеграм ботом и ПО для работы с сим боксом. По самому боту так понял: - Нужен некий баланс, который можно поп...
Magic
6
Всем привет. Ребята, подскажите, пожалуйста. у ботов есть ограничение на отправку сообщений - 30 сообщений в секунду, эти ограничения накладываются на все сообщения? или на со...
Artem Stormageddon
2
Привет!) Кто как юзает переменные в строках?) Чисто ради интереса Вот так: echo "У меня {$bananasAmount} бананов"; Или вот так: echo "У меня ${bananasAmount} бананов";
Виталий
3
разработчик ботов скидывает портфолио, боты которые он уже создал. А вот как узнать что это именно он их создал?
Gosudar
4
а плаксы из-под питона умеют только в комфортных условиях что-то выдавить из себя?)
Lencore
9
Но, может, есть уже проверенная? Наши требования такие: 1. Сообщения должны приходить из Инста в CRM оду 2. Должна быть возможность подключить несколько экаунтов Инстаграм. Р...
Alexander Sharoiko MSE / Александр Шаройко
13
кто-нибудь уже пробовал это?
Lencore
4
Это может быть все-таки не флудвейт? у меня ботфазер принимает изменения и отображает даже что они изменились, на видео видно что он прислал якобы уже измененное описание, н...
OVERLINK
13
❓ Подскажите как сделать в группе телеги функцию (кнопку) пересылки сообщения где есть нарушение правил? Бот к каждому сообщению (по определенным ключам) добавляет снизу кнопк...
Alexander
4
Вопрос: Здравствуйте! У меня возникла проблема с использованием плагина Mall в OctoberCMS. Я использую все файлы и компоненты в их исходном виде, без изменений. Однако на стр...
𐩱𐩪𐩣𐩱𐩲𐩺𐩡
8
Карта сайта