Друзья, такой вопрос. Хочу смэтчить две базы по ФИО и как

Question

Друзья, такой вопрос. Хочу смэтчить две базы по ФИО и как

часто это бывает какие-то ФИО могут быть записаны криво. Не "Иванов Петр Иванович", а "Иванов п.и." или "Петр Иванов Иванович", ну и тп.
Что гуглить и в какую сторону смотреть? Как подступиться?

#programming #r #russian

0

17.02.2021

7 ответов

32 просмотра

M Автор вопроса

Philipp Upravitelev
в первую очередь надо запастись полотенцем для ут...

😅 ахахах видимо остановлюсь на просто мэтчинге в тупую с очищенным от пробелов, пунктуации и капса написанием. Большая часть смэтчилась и видимо такие пляски с бубном не стоят дополнительных пары процентов данных.

0

17.02.2021

M Автор вопроса

Philipp Upravitelev
в первую очередь надо запастись полотенцем для ут...

а всякие text distances и fuzzy joins тоже не стоят свеч в этом случае? https://predictivehacks.com/how-to-apply-text-distances-and-fuzzy-joins/

0

17.02.2021

Дмитрий Володин

M
а всякие text distances и fuzzy joins тоже не стоя...

Если у вас после обычного мэтчинга остаётся процент неопределённых данных, то проще руками, поверьте. Эти штуки ещё и затратные по вычислениям, можно долго просидеть в ожидании чуда на большом датасете, а чуда так и не случится)

0

17.02.2021

Philipp Upravitelev

M
а всякие text distances и fuzzy joins тоже не стоя...

если процент небольшой, то я не уверен, что оно стоит того. плюс расстояния и нечеткий матчинг, боюсь, плозхо будут работать с ситуации Иван Петрович и Иван П - расстояние/разница тут, например, в семь добавленных букв

0

17.02.2021

Stas

В своё время решали подобную задачу ручками, применяя всякие эвристики, типа: — если оканчивается на «-вич»\«-вна» это скорее всего отчество, — то что стоит перед «оглы» это отчество, — перед отчеством как правило пишут имя и т.п.

0

17.02.2021

Pavel Demin

присоединяюсь к вышесказанному, особенно про полотенце… если иванов п.и. - это печально если просто в разном порядке элементы фио, то можно сплитануть строку, отсортировать, соединить и по ней мерджить

0

17.02.2021

Philipp Upravitelev · Accepted Answer

в первую очередь надо запастись полотенцем для утирания слез к сожалению, это не очень хорошо решаемая задача. можно пытаться искать пересечения строковые, например, выделять фамилию и по ней искать множество строк с такой фамилией. но это коллизия, все равно. притом, простыми средствами не разделить фамилию от имени, поэтому при перепутанном порядке фио вообще тоска получается. я бы, наверное, попробовал все привести к виду "иванов п и" - то есть, нижний регистр, по первой букве от имени и отчества, почистить пробелы и пунктуацию

169 похожих чатов

Друзья, такой вопрос. Хочу смэтчить две базы по ФИО и как

7 ответов

Похожие вопросы