| Alain_Aubert |
Geschrieben am: Fr 16.01.2004, 22:22
|
|
Ayom Slave Gruppe: Admin Beiträge: 4827 Mitglied seit: 25.09.2003 |
Hallo,
hat jemand von euch Erfahrung damit sehr viele Daten in Mysql zu importieren. Spreche da von etwas mehr als 13 Millionen Datensätze. Nach meiner Hochrechnung sind das 3.3 Gigabyte. Das Script, das ich benutze funktioniert wunderbar, nur bei 4.712.944 Datensätzen hatte er plötzlich keine Lust mehr. Wie stell ich das am besten an, zumal ich im Moment noch lokal operiere, sozusagen als Test, dass sollte am Ende ja noch auf den Webserver. Hab grad versucht die Arbeit mitten im Sourcefile wiederaufzunehmen, mit fseek() hat aber gar nix gemacht. Jede Idee ist mir willkommen... thx Alain |
![]() |
| c-e |
#2 Geschrieben am: Fr 16.01.2004, 23:57 (+01:34)
|
|
AyomRank 5 Gruppe: Experten Entwicklung (Mod) Beiträge: 330 Mitglied seit: 20.10.2003 |
hm....zeitüberschreitung oder woran liegts?
ein wenig ursachenforschung wär nicht schlecht, dann könnte man vielleicht abhilfe schaffen... wie liegen die daten denn vor? |
![]() |
| Alain_Aubert |
#3 Geschrieben am: Sa 17.01.2004, 01:24 (+01:26)
|
|
Ayom Slave Gruppe: Admin Beiträge: 4827 Mitglied seit: 25.09.2003 |
Die Quelle ist gz komprimierter Text. Habs jetzt mit dem Filepointer gelöst, dass er Fortschritt speichert und dann dort weiterfährt, falls er unterbricht. Es gibt eben keine Fehlermeldung, er hört einfach auf. Aber es geht um Stunden das alles in die DB zu kriegen, evtl ists auch der Stromsparmodus vom laptop...? Server ist local.
Aber was ich mich frage, ist wie ichs aufn Server kriege. Das gleiche Script wie lokal ausführen... Serverauslastung zu hoch, einzeln uploaden, dauert ja ewig. 3-4 giga erwarte ich jetzt. |
![]() |
| c-e |
#4 Geschrieben am: Sa 17.01.2004, 01:31 (+00:06)
|
|
AyomRank 5 Gruppe: Experten Entwicklung (Mod) Beiträge: 330 Mitglied seit: 20.10.2003 |
also das heisst es funktioniert jetzt? ok.
hmm....ich würde das ganze dann resourcenschonen programmiert (ein paar 'sleep()' hier und da) auf dem server erst importieren, sonst wird ja die uploadzeit gigantisch...selbst bei 2M/bit+X....oder mit was surfst du so rum? |
![]() |
| Alain_Aubert |
#5 Geschrieben am: Sa 17.01.2004, 04:44 (+03:13)
|
|
Ayom Slave Gruppe: Admin Beiträge: 4827 Mitglied seit: 25.09.2003 |
Es läuft.... und läuft... und läuft...
Aber ich hatte glück, hab ein passenden open source Script gefunden und es angepasst, habe in erwägung gezogen einfach eine Woche lang ein Script im Hintergrund zu haben, das stetig uploaded. Ach ja ADSL ~80/14, also nicht der bombenupload mit 14kb/s. Der geringe personelle Aufwand steht im Vordergrund, dh es ist mir egal, wenn der PC macht, solang ich weniger muss. Ich frag mich einfach, was optimale Kb-Pakete sind, um einem Server zu schicken, nicht überlasten aber trotzdem mögl. gross. |
![]() |
Thema wird von 0 Benutzer(n) gelesen (0 Gäste und 0 anonyme Benutzer)
0 Mitglieder:
Trackback-Url: http://www.ayom.com/track/t/421
![]() |
![]() ![]() ![]() |
| Themen Titel | Autor | Views | Antworten | Letzte Aktion |
| Daten in Datenbank einpflegen | kekskruemel | 145 | 8 | Mo 24.11.2008, 20:04 |
| Lost connection to MySQL | cr4m0 | 123 | 4 | So 23.11.2008, 14:31 |
| MySQL Frage | G.P. | 103 | 2 | Mo 17.11.2008, 15:59 |
| Suche Freelancer: Ajax, XML, PHP, MySQL | omc | 316 | 3 | Mi 12.11.2008, 18:22 |
| Interessantes PDF - Daten & Fakten | Mark_L | 168 | 0 | Do 6.11.2008, 19:59 |
| Einbinden vonn RSS feeds in Typo3 / MYSQL | e-card | 10934 | 5 | Di 4.11.2008, 18:36 |
| MySql Frage - ID Ändern | EuD | 120 | 2 | Di 4.11.2008, 11:09 |
| mysql query vereinfachen | Big Rob | 163 | 5 | Mo 3.11.2008, 22:40 |
| mysql Dump Städte | pl_90 | 159 | 2 | So 26.10.2008, 01:13 |
| MySQL Befehl | G.P. | 172 | 5 | Fr 24.10.2008, 15:58 |
Anzeige - [Hier werben / Mediadaten]











