Давно мечтал о своем сервисе для поиска MD5 по базе Cделал и продолжаю делать только уже не для одного только алгоритма MD5 Сейчас паролей и хеш-функций в базе 500 000 000 (29гб) инсерт в mysql 300 000 000 заняло порядка 2 часов + 1 час на обработку таблиц от дубликатов и прочего мусора Видео без рекламы! и прочей лабуды! http://www.youtube.com/watch?v=GLOcXPnSpm8 1920х1080 Использовал Win8.1x64 , C# , MySQL 5.6.19-winx64 (MyISAM)
Ну это папка я туда складываю множество временной информации Например: Новый текстовый документ(748693476).txt, 1.cs , 543543.jpeg и тд
Все печально... алгоритм дал сбой и сдох на 4,924,412,573 записей Средний размер таблицы получился >1гб - всего 256 таблиц хард не выдержал... и стал жестоко тупить (100% нагрузки) увеличение тайм-аута команд помогло но это не то что нужно... скорость вставки не изменилась, а вот такие команды как: ALER, REPAIR, OPTIMIZE стали очень медленно выполнятся и грузить хард не могу понять почему?? SELECT , SELECT COUNT (*) , ORDER BY, INSERT работают по по прежнему хорошо... Перед тем как удалять дубли использую Code: MySqlCommand LOCK_TABLES_COMMAND = new MySqlCommand("LOCK TABLES `" + TABLE_NAME + "` WRITE;", Settings.mysql_connect); LOCK_TABLES_QUERY_EXECUTE = LOCK_TABLES_COMMAND.ExecuteNonQuery(); Планирую, но для этого нужно будет дополнительно мощностей, которые я скоро приобрету Сегодня перепишу все свои утилиты придумал кое что еще) что обеспечит мне максимальные скоростя при выборке и вставке данных намного больших объемов.. Вообще была идея использовать мою старую ферму из 300 HD7970 , 60 R9 280X но я не умею кодить под GPU если есть тут кодеры которые могут мне в этом помочь буду рад)
Наконец то решил проблему, и добился максимальной производительности "выжал все соки из MariaDB" 50 000 000 - вставка прошла за 21 секунду. к сравнению (300 000 000 - 2 часа) Докупил 10 гибридных VelociRaptor WD1000DHTZ В сумме у меня 10 скоростных HDD Думаю после установки новых HDD скорость значительно возрастет и будет составлять примерно 50 000 000 за 10 - 13 секунд. Полностью поменял структуру бд. В связи с этим на 45% станет больше места. Оптимизировал свой код C# и перешел на GUI.