Anzeige - [Hier werben / Mediadaten]
(?) Tags raten (?) (edit)
 
Reply to this topicStart new topicStart Poll
> Massiv Daten in Mysql einfügen, Grössenordung >1-2giga
Alain_Aubert
Geschrieben am: Fr 16.01.2004, 22:22
Report PostQuote Post

Ayom Slave
Group Icon

Gruppe: Admin
Beiträge: 4827
Mitglied seit: 25.09.2003


Hallo,

hat jemand von euch Erfahrung damit sehr viele Daten in Mysql zu importieren. Spreche da von etwas mehr als 13 Millionen Datensätze. Nach meiner Hochrechnung sind das 3.3 Gigabyte. Das Script, das ich benutze funktioniert wunderbar, nur bei 4.712.944 Datensätzen hatte er plötzlich keine Lust mehr.
Wie stell ich das am besten an, zumal ich im Moment noch lokal operiere, sozusagen als Test, dass sollte am Ende ja noch auf den Webserver.

Hab grad versucht die Arbeit mitten im Sourcefile wiederaufzunehmen, mit fseek() hat aber gar nix gemacht.

Jede Idee ist mir willkommen...

thx
Alain
Top
PMEmail PosterUsers Website
Top
 
 
c-e
#2 Geschrieben am: Fr 16.01.2004, 23:57 (+01:34)
Report PostQuote Post

AyomRank 5
Group Icon

Gruppe: Experten Entwicklung (Mod)
Beiträge: 330
Mitglied seit: 20.10.2003


hm....zeitüberschreitung oder woran liegts?

ein wenig ursachenforschung wär nicht schlecht, dann könnte man vielleicht abhilfe schaffen...

wie liegen die daten denn vor?
Top
PMUsers Website
Top
 
Alain_Aubert
#3 Geschrieben am: Sa 17.01.2004, 01:24 (+01:26)
Report PostQuote Post

Ayom Slave
Group Icon

Gruppe: Admin
Beiträge: 4827
Mitglied seit: 25.09.2003


Die Quelle ist gz komprimierter Text. Habs jetzt mit dem Filepointer gelöst, dass er Fortschritt speichert und dann dort weiterfährt, falls er unterbricht. Es gibt eben keine Fehlermeldung, er hört einfach auf. Aber es geht um Stunden das alles in die DB zu kriegen, evtl ists auch der Stromsparmodus vom laptop...? Server ist local.
Aber was ich mich frage, ist wie ichs aufn Server kriege. Das gleiche Script wie lokal ausführen... Serverauslastung zu hoch, einzeln uploaden, dauert ja ewig. 3-4 giga erwarte ich jetzt.
Top
PMEmail PosterUsers Website
Top
 
c-e
#4 Geschrieben am: Sa 17.01.2004, 01:31 (+00:06)
Report PostQuote Post

AyomRank 5
Group Icon

Gruppe: Experten Entwicklung (Mod)
Beiträge: 330
Mitglied seit: 20.10.2003


also das heisst es funktioniert jetzt? ok.

hmm....ich würde das ganze dann resourcenschonen programmiert (ein paar 'sleep()' hier und da) auf dem server erst importieren, sonst wird ja die uploadzeit gigantisch...selbst bei 2M/bit+X....oder mit was surfst du so rum?
Top
PMUsers Website
Top
 
Alain_Aubert
#5 Geschrieben am: Sa 17.01.2004, 04:44 (+03:13)
Report PostQuote Post

Ayom Slave
Group Icon

Gruppe: Admin
Beiträge: 4827
Mitglied seit: 25.09.2003


Es läuft.... und läuft... und läuft...
Aber ich hatte glück, hab ein passenden open source Script gefunden und es angepasst, habe in erwägung gezogen einfach eine Woche lang ein Script im Hintergrund zu haben, das stetig uploaded. Ach ja ADSL ~80/14, also nicht der bombenupload mit 14kb/s. Der geringe personelle Aufwand steht im Vordergrund, dh es ist mir egal, wenn der PC macht, solang ich weniger muss.
Ich frag mich einfach, was optimale Kb-Pakete sind, um einem Server zu schicken, nicht überlasten aber trotzdem mögl. gross.
Top
PMEmail PosterUsers Website
Top
 
Thema wird von 0 Benutzer(n) gelesen (0 Gäste und 0 anonyme Benutzer)
0 Mitglieder:
Trackback-Url: http://www.ayom.com/track/t/421

Topic Options Reply to this topicStart new topicStart Poll

 


> Ähnliche Themen
Daten in Datenbank einpflegen kekskruemel 145 8 Mo 24.11.2008, 20:04
Lost connection to MySQL cr4m0 123 4 So 23.11.2008, 14:31
MySQL Frage G.P. 103 2 Mo 17.11.2008, 15:59
Suche Freelancer: Ajax, XML, PHP, MySQL omc 316 3 Mi 12.11.2008, 18:22
Interessantes PDF - Daten & Fakten Mark_L 168 0 Do 6.11.2008, 19:59
Einbinden vonn RSS feeds in Typo3 / MYSQL e-card 10934 5 Di 4.11.2008, 18:36
MySql Frage - ID Ändern EuD 120 2 Di 4.11.2008, 11:09
mysql query vereinfachen Big Rob 163 5 Mo 3.11.2008, 22:40
mysql Dump Städte pl_90 159 2 So 26.10.2008, 01:13
MySQL Befehl G.P. 172 5 Fr 24.10.2008, 15:58




Anzeige - [Hier werben / Mediadaten]



Anzeigen


[Hier werben / Mediadaten]