обзор программ удаляющиx дубликаты строк

Discussion in 'Skype, IRC, ICQ, Jabber и другие IM' started by Vanterlog, 11 Jul 2009.

  1. harox

    harox New Member

    Joined:
    16 Oct 2011
    Messages:
    23
    Likes Received:
    0
    Reputations:
    0
    http://www.proxy-base.org/f50/programmy_udalyayuschie_dublikaty_strok-646.html

    вот откуда он сплагиатил ; )
     
  2. vlad36

    vlad36 New Member

    Joined:
    24 Jan 2012
    Messages:
    8
    Likes Received:
    0
    Reputations:
    0
    [​IMG] [​IMG]

    Недавно начал учить язык программирования Delphi и вот практиковался, и написал вот такую вот программку))
    DupDel v0.1
    Программа для поиска и удаления дубликатов(повторений) в списке.

    Скачать
     
  3. Vl_Acorn

    Vl_Acorn Banned

    Joined:
    18 Jan 2012
    Messages:
    37
    Likes Received:
    3
    Reputations:
    0
    Будем тестировать,но не плохо для новичка :)
     
  4. Dekey

    Dekey New Member

    Joined:
    2 Dec 2011
    Messages:
    5
    Likes Received:
    0
    Reputations:
    0
    Подскажите прогу для удаления дубликатов вместе с оригиналом.
    DupKill не справляется
     
  5. alkos

    alkos Elder - Старейшина

    Joined:
    28 Mar 2007
    Messages:
    1,148
    Likes Received:
    292
    Reputations:
    271
    bvsDupDelet
     
  6. Gua

    Gua New Member

    Joined:
    20 Jan 2011
    Messages:
    6
    Likes Received:
    0
    Reputations:
    0
    Мне реально помогла очистить от дублей, файл больше 2гб, только Fast Duplicates Remover.

    Остальные проги либо вообще не открывают файл, либо вылетают
     
  7. EMosko

    EMosko New Member

    Joined:
    1 Apr 2010
    Messages:
    0
    Likes Received:
    0
    Reputations:
    0
    подскажите прогу которая будет вычитать одну базу из другой.

    есть проспамленная база, есть новая. надо из новой отнять проспамленную.

    тобеш из:
    1
    2
    3

    отнять :
    2
    3
    4

    получится в итоге должно:
    1


    есть такая прога. 100к отнимает от 100к буквально за пол дня. надо быстрее минут за 20 хотя бы
     
  8. EMosko

    EMosko New Member

    Joined:
    1 Apr 2010
    Messages:
    0
    Likes Received:
    0
    Reputations:
    0

    я не программист. можно линк на готовые решения? спасибо
     
  9. Progon4ik

    Progon4ik Banned

    Joined:
    29 Mar 2012
    Messages:
    0
    Likes Received:
    1
    Reputations:
    0
    РАбочий СОФТ!! +
     
  10. Партнёр

    Joined:
    7 Sep 2010
    Messages:
    224
    Likes Received:
    67
    Reputations:
    1
    Выложите ту прогу, которая из одного списка удаляет второй, пожалуйста
     
  11. alkos

    alkos Elder - Старейшина

    Joined:
    28 Mar 2007
    Messages:
    1,148
    Likes Received:
    292
    Reputations:
    271
    bvsDupDelet

    Копируешь в первый список второй два раза. В настойках удаления дублей выбираешь "Unique". Готово.
     
    Pobeg and Партнёр like this.
  12. kroŧ

    kroŧ Member

    Joined:
    19 May 2010
    Messages:
    129
    Likes Received:
    33
    Reputations:
    8
    TextDup by CyberKrot
    Программа для удаления дубликатов в файлах.
    Особенности программ:
    1) Не создаёт лишних файлов.
    2) Не сортирует.
    3) Позволяет выбрать существующий файл для сохранения, удаляет дубликаты с проверкой всех строк в этом файле.
    4) Отсутствует графический интерфейс позволяющий наблюдать за процессом удаления дубликатов, в конце своей работы выводит сообщение с результатом и предложением открыть новый файл.

    Скачать
     
    #32 kroŧ, 24 Mar 2013
    Last edited: 24 Mar 2013
  13. Freesty1er

    Freesty1er New Member

    Joined:
    18 Mar 2010
    Messages:
    7
    Likes Received:
    0
    Reputations:
    0
    Sublime Text

    Sublime Text
    [​IMG]
    • Edit -> Permute Lines -> Unique
    Работает достаточно быстро с большими файлами (проверял текстовик на 1.5 млн строк).

    Скачать:
    http://ge.tt/5IpzJlg/v/0 (Sublime Text 3 build 3021)
     
  14. sud0

    sud0 Banned

    Joined:
    1 Jan 2013
    Messages:
    263
    Likes Received:
    40
    Reputations:
    20
    софт для работы с текстом!
    функционал в скрине​

    [​IMG]
     
    #34 sud0, 17 May 2013
    Last edited: 17 May 2013
  15. slonce

    slonce Banned

    Joined:
    23 Aug 2011
    Messages:
    63
    Likes Received:
    31
    Reputations:
    5
    Добрый день. Подскажите пожалуйста программу, которая могла бы с текстового файла убрать слова менее 8 символов. 8 и больше оставлять остальные удалить. Текстовые файлы очень большие. Спасибо
    Каждое слово идет в новой строчке
     
    #35 slonce, 28 May 2013
    Last edited: 28 May 2013
  16. Venya

    Venya New Member

    Joined:
    15 Sep 2013
    Messages:
    1
    Likes Received:
    0
    Reputations:
    0
    Парни! Столкнулся с такой проблемой. Есть файл с текстом (TXT) Размером 50gb. Есть ли такой софт который сможет проверить на дубликаты. Каждое слово написано одну строку. Заранее ОГРОМНОЕ СПАСИБО :)
     
  17. Freesty1er

    Freesty1er New Member

    Joined:
    18 Mar 2010
    Messages:
    7
    Likes Received:
    0
    Reputations:
    0
    Замена дублирующих строк на пробелы

    Подскажите, пожалуйста, не знаете ли вы такую программу, которая не удаляла бы дубликаты строк, а заменяла их, скажем на 0 или пробел или просто оставляла строку пустую. Никак не могу решить одну проблему :(
     
  18. madhatter

    madhatter Member

    Joined:
    7 Aug 2013
    Messages:
    562
    Likes Received:
    50
    Reputations:
    54
    Ах, сколько бы восхитительного и первоклассного софта мир не увидел бы, знай люди про grep, sed и регулярки. В частности, практически любой вопрос\софт, упомянутый в топике реализуется одной строкой.
     
  19. Хит

    Хит Banned

    Joined:
    10 Apr 2011
    Messages:
    285
    Likes Received:
    12
    Reputations:
    2
    такое можно сделать в экселе, смотря на сколько большие файлы
     
  20. Хит

    Хит Banned

    Joined:
    10 Apr 2011
    Messages:
    285
    Likes Received:
    12
    Reputations:
    2
    Есть большая вероятность, что программы будут глючить с таким размером, лучше разделить

    возможно ЭТО вам поможет, если нет, можно написать скрипт замены
     
    #40 Хит, 7 Jan 2014
    Last edited: 7 Jan 2014